Anthropic начала пилотное тестирование Claude для Chrome – ИИ, который может взаимодействовать с веб-страницами, заполнять формы и выполнять действия от имени пользователя. На первом этапе доступ получат 1000 пользователей плана Max.
Разработчики подчеркивают важность безопасности – браузерный ИИ уязвим к атакам типа prompt injection, когда злоумышленники скрывают вредоносные инструкции в веб-сайтах, письмах или документах. Без надлежащих защитных механизмов Claude мог бы удалять файлы, красть данные или совершать финансовые операции без ведома пользователя.
Anthropic внедрила ряд мер безопасности. Claude запрашивает подтверждение у пользователя перед выполнением важных действий, не получает доступ к опасным сайтам, таким как финансовые сервисы, контент для взрослых или пиратские ресурсы. Агент имеет улучшенные системные инструкции и классификаторы для распознавания подозрительных или вредоносных запросов.
Anthropic рекомендует пользоваться только проверенными сайтами и избегать финансовой, медицинской или юридической информации. Записаться в пилотную программу можно на claude.ai/chrome, а затем установить расширение через Chrome Web Store после подтверждения учетной записи.
Напоминаем, что Anthropic разрешила чат-боту Claude завершать разговоры с вредоносным контентом. Также Anthropic предоставит чат-бот Claude всем ветвям власти США за $1 в год.