Помните старую поговорку "не верь всему, что видишь в интернете"? В нашу эпоху ИИ она актуальна как никогда.
В конце декабря спортивный журналист Denver Broncos Коди Роарк с удивлением узнал, что он умер, оставив после себя пятилетнего ребёнка. Насколько ему было известно, он никогда не был отцом и, более того, был очень даже жив.
Но не это утверждал пост в социальной сети. Там изображение, опубликованное страницей Wild Horse Warriors, содержало сгенерированную ИИ картинку спортивного журналиста, держащего ребёнка, с большой надписью "RIP" поверх неё.
Хотя страница в Facebook с тех пор была удалена, Denver Post сообщает, что там Роарк описывался как "аналитик Denver Broncos", который "посвятил более десяти лет защите команды", прежде чем скончался из-за "душераздирающего инцидента, связанного с домашним насилием".
Конечно, всё это было сделано ИИ, как позже заключил Роарк.
Аккаунт Wild Horse Warriors собрал около 6200 подписчиков за последние несколько месяцев. DP сообщает, что до удаления страницы Facebook она публиковала в среднем четыре полностью выдуманных истории о Denver Broncos каждый день. Многие из них содержали контент, способный повредить репутации людей.
Хотя Роарк, похоже, не пострадал от этого, инцидент следует схожей схеме, возникающей в других ИИ-системах. В декабре, например, AI Overview от Google – та самая краткая сводка, которая теперь появляется в верхней части каждого поиска Google – ложно утверждала, что канадский фолк-музыкант был осуждённым сексуальным преступником.
Это обвинение стоило музыканту как минимум одного выступления и неисчислимого вреда репутации, который сложно восстановить – ещё один признак того, что с ИИ техкорпорации предоставили мощный новый инструмент для всех, кто занимается дезинформацией.