Большие языковые модели ИИ, такие как DeepSeek, ChatGPT и Google Gemini, стали полезными инструментами не только для обычных людей и компаний, но и злоумышленников. Google решила поделиться своими наблюдениями относительно того, как Gemini пытаются применять для грязных дел, а также рассказать о мерах борьбы с этим.
В большом отчёте Google выделяет два основных типа атак: первые используют ИИ для помощи, например, в генерации кода, который позже может быть применён во вредоносном ПО, а вторые напрямую пытаются заставить ИИ выполнять нежелательные действия, такие как сбор данных учётных записей. Злоумышленников Google также делит на две основные группы. Первые, именуемые Advanced Persistent Threats (APT), обычно представляют собой крупные хакерские группы, финансируемые государствами. Они занимаются кибершпионажем и атаками на компьютерные сети.
Вторые, маркируемые Information Operations (IO), в основном занимаются исследованиями, переводом текстов, созданием контента и поиском способов увеличения охвата в социальных сетях путём обмана или иных манипуляций в социальных сетях. Google выделяет четыре основные страны происхождения злоумышленников обоих типов: Иран, Китай, Россия и Северная Корея. Также в список входят около 20 других стран, перечислять которые Google почему-то не решается, однако лидерами по объёму использования Gemini поисковый гигант называют Иран и Китай.
Google утверждает, что предпринимает все возможные меры, препятствующие злонамеренному использованию Gemini и активно пресекает вредоносную деятельность. В отчёте отмечается, что "вместо разработки хитры индивидуальных промптов, злоумышленники используют более базовые меры, такие как перефразирование запросы или отправка одних и тех же запросов несколько раз. Такие попытки оказываются безуспешными."
© Владимир Ковалёв. Mobiltelefon
По материалам cloud.google.com