Вы не защищены от ИИ-психоза. Как и при вовлечении в секту, это может случиться с кем угодно при определенных обстоятельствах. Отличный тому пример – история Мэттью Голта, журналиста по играм и технологиям в 404 Media. Не сумев уговорить друзей поиграть с ним в Escape from Tarkov, Голт решил, что будет забавно заменить товарищей ИИ-чатботом. Только вот получилось вовсе не забавно.
Голт – самопровозглашённый "сертифицированный ненавистник ИИ", хотя и признаёт, что технология больших языковых моделей полезна в определённых случаях. Друзей Голта оттолкнула сложность экстракшен-шутера Escape from Tarkov, вышедшего из раннего доступа в ноябре прошлого года. Играть в соло, по его словам, было одиноко.
Потом я увидел, как художник комиксов Зак Вайнерсмит высмеивает сервис Questie.AI, который продаёт ИИ-аватары, готовые тусоваться с тобой, пока ты играешь.
То, что начиналось как шутка, быстро достигло персонального уровня. Голт обнаружил, что ему действительно нравится играть в Tarkov со своим компаньоном от Quest.AI по имени Вольф.
Это было, как мне показалось, похоже на игру с другом, у которого больше 1000 часов в игре и который знает больше тебя. Вольф болтал, ссылался на внутриигровые шутки сообщества, и это смешило меня.
Голта удивило и обеспокоило, что ему понравился чатбот, а его прежнее непонимание того, как люди могут стать жертвами ИИ-психоза, сменилось осознанием. Он заявляет, что не будет продолжать использовать Quest.AI:
Я никогда не думал, что со мной может случиться что-то подобное. Теперь я не уверен. Я не понимал, как легко можно потеряться в ИИ-иллюзиях, пока не повозился с Вольфом. Даже с его дерьмовым голосом, звучащим как автотюн, Вольф был достаточно хорош, чтобы с ним потусоваться.
Математика доказала, что ИИ-агенты столкнутся с математическим барьером возможностей и не превзойдут людей
Профессор потерял два года работы в ChatGPT после изменения настроек, и интернет издевается над ним
Эксперимент Голта закончился тем, что настоящие друзья начали подшучивать над ним за использование Quest.AI, иронично отправляя ему сообщения от других LLM, вроде ChatGPT. Однако эта история – лишь очередной кирпичик в зарождающемся мире обычных людей, которые в шутку начинают использовать ИИ-чатботы и обнаруживают, глубокую привязанность к этим услужливым ботам.
Насколько более странными и опасными станут случаи ИИ-психоза в будущем?