Компания OpenAI объявила о прекращении возможности генерации видеороликов с изображением Мартина Лютера Кинга в нейросети Sora после получения официального запроса от наследников правозащитника. Данное решение принято в связи с появлением откровенно неуважительного контента, использующего облик знаменитого борца за гражданские права.
Пользователи генеративной системы создавали видео, где цифровое изображение Кинга произносило знаменитую речь "У меня есть мечта", но сопровождало выступление обезьяньими звуками. Другие ролики показывали Кинга в драке с его современником и соратником Малкольмом Х. OpenAI признала подобный контент "неуважительными изображениями" и заблокировала возможность генерации видео с участием активиста "в рамках усиления защитных мер для исторических личностей".
Проблема касается не только Кинга. В сети появились ролики с цифровым изображением президента Джона Кеннеди, который шутит об убийстве Чарли Кирка, видео с Коби Брайантом в вертолете с намеком на авиакатастрофу 2020 года, унесшую жизни баскетболиста, его дочери и семи других человек. Множество роликов показывают Малкольма Х, произносящего грубые шутки и непристойности.
Японское правительство потребовало от OpenAI запретить генерацию видео в Sora 2 с персонажами аниме
Дочь Малкольма, Ильясах Шабазз, выразила возмущение происходящим в интервью Washington Post:
Глубоко неуважительно и болезненно видеть, как образ моего отца используется столь небрежно и бесчувственно, когда он посвятил свою жизнь истине.
Резкую критику высказала и Зельда Уильямс, дочь покойного актера Робина Уильямса, назвав ИИ-"посвящения" своему отцу отвратительными. Она сравнила происходящее с "человеческой многоножкой контента", где из жизней реальных людей делают "омерзительные переработанные сосиски".
В комментарии к публикации Variety дочь Кинга кратко выразила свою позицию:
Согласна касательно моего отца. Пожалуйста, остановитесь.
Подход OpenAI к решению очевидных этических проблем следует знакомому шаблону – сначала запустить технологию без учета авторских прав и базовых норм приличия, а затем рассматривать запросы на исключение по мере поступления жалоб. Компания даже представила странную защиту своих действий через призму свободы слова.
В официальном заявлении OpenAI отметила:
Хотя существуют веские интересы свободы слова в изображении исторических фигур, OpenAI считает, что публичные личности и их семьи должны в конечном итоге контролировать использование своего образа. Уполномоченные представители или владельцы наследства могут запросить неиспользование их образа в роликах Sora.
Эксперт по генеративному ИИ Генри Айдер отметил для BBC, что ситуация "поднимает вопросы о том, кто получает защиту от синтетического воскрешения, а кто нет". Наследники Кинга обоснованно обратились к OpenAI, но многие умершие люди не имеют известных и обеспеченных ресурсами наследников для представления их интересов.
Критики выражаются значительно жестче. Сценарист и продюсер Алекс Хирш ответил на заявление OpenAI о "паузе" касательно Кинга: "Так ваша бизнес-модель заключается в том, чтобы выкапывать трупы знаменитостей и позволять пользователям помыкать их телами до тех пор, пока их семьи не будут умолять вас остановиться?"