Треть интернет-трафика составляют боты – глава OpenAI видит проблему, но ничего не делает

Согласно данным CloudFlare, почти треть всего интернет-трафика сейчас генерируют боты. Большинство из них пользователи никогда не увидят напрямую – эти программы сканируют веб-страницы, индексируют сайты или выполняют специфические задачи, а всё чаще собирают данные для обучения ИИ-моделей. Однако именно видимые боты заставляют таких людей, как глава OpenAI Сэм Альтман, задаваться вопросом о том, разрушают ли он и его коллеги интернет.

На прошлой неделе Альтман отреагировал на пост, показывающий множество комментариев в сабреддите r/ClaudeCode – сообществе Reddit, построенном вокруг инструмента Claude Code от Anthropic, где хвалили Codex от OpenAI, ИИ-агента для программирования.

У меня был странный опыт чтения этого – я предполагаю, что это всё фейки или боты, хотя в этом случае я знаю, что рост Codex действительно сильный, а тренд здесь реален.

Хотя Альтман предположил, что часть этого может объясняться тем, что люди перенимают особенности и выбор слов чат-ботов, он всё же признал, что общий эффект таков, что ИИ-твиттер/ИИ-реддит ощущается очень фальшивым, чего не было год или два назад. Это следует за его предыдущим наблюдением в начале месяца, когда он заявил:

Я никогда не воспринимал теорию мертвого интернета всерьёз, но кажется, что сейчас действительно много твиттер-аккаунтов, управляемых большими языковыми моделями.

Теория мертвого интернета предполагает, что большая часть онлайн-контента создаётся, с ним взаимодействуют и подают его нам боты. Если верить конспирологическим истокам теории, которая впервые появилась около 2021 года, это попытка контролировать человеческое поведение. Менее радикальная версия связывает феномен с денежными стимулами интернета, где вовлечённость, независимо от качества – может генерировать доходы.

Интересно, что теория появилась до ChatGPT, что говорит о серьёзности проблемы ботов ещё до широкого распространения больших языковых моделей. Уже тогда существовали признаки того, что огромная часть интернет-трафика приходилась на ботов (некоторые оценки превышали 50%, что значительно выше измерений CloudFlare), и возникали опасения относительно "инверсии" – точки, когда системы обнаружения мошенничества принимают поведение ботов за человеческое и наоборот.

Сейчас, когда такие компании, как OpenAI, делают публично доступными агентов, способных перемещаться по сети как люди и выполнять задачи за них, уровень подлинности онлайн-контента может упасть ещё ниже. Альтман, похоже, это видит, но не предлагает решений по этому поводу. Ситуация напоминает случай в начале года, когда Альтман предупредил, что ИИ-инструменты "полностью победили" большинство сервисов аутентификации, на которые люди полагаются для подтверждения личности, и заявил, что в результате мошенничество может сильно вырасти.

Как и в случае с наблюдениями о фейковом поведении в соцсетях, Альтман не проявлял интереса к замедлению деятельности своей компании для предотвращения разрушения цифровых систем, на которые мы полагаемся, несмотря на способность распознавать подводные камни.

Возможно, причина в том, что у Альтмана есть другая компания, которую он хотел бы предложить как решение всех проблем – его странная система верификации личности/криптосхема World, требующая от людей сканирования глазных яблок для подтверждения того, что они люди. Более того, он уже обсуждал потенциальную сделку с Reddit для верификации пользователей.