Epic Games представила в Fortnite персонажа Дарта Вейдера с функцией "разговорного ИИ", позволяющей игрокам общаться с культовым злодеем "Звездных войн". Новая функция работает на базе искусственного интеллекта Google Gemini и использует сгенерированные голосовые образцы, основанные на оригинальном исполнении Джеймса Эрла Джонса. Компания заявила, что технология была разработана с разрешения и при сотрудничестве с семьей Джонса.
Обновление вышло в игре вчера через полтора часа в социальных сетях начали распространяться видеоролики, демонстрирующие, как игроки без труда заставляют виртуального Вейдера произносить нецензурные выражения.
Вскоре другие геймеры продемонстрировали, что виртуального Вейдера можно обмануть, заставив произносить оскорбительные и дискриминационные выражения. Несмотря на использование передовой модели искусственного интеллекта Google Gemini 2.0 Flash, система оказалась уязвимой перед простыми уловками, включая вопросы о британском сленге или игры с именами.
Осторожно – внезапный шум "мартышек" в видео!
Epic Games предусмотрела определенные меры безопасности, включая родительский контроль для ограничения взаимодействия с персонажем и возможность пожаловаться на неподобающие высказывания Вейдера. Однако сам факт того, что игроки так быстро нашли способы обойти защиту, наглядно демонстрирует ненадежность генеративного ИИ в пользовательских приложениях.