Anthropic выявила уязвимость браузерного агента в 31,5% случаев

Компания Anthropic представила результаты тестирования своих моделей на устойчивость к атакам prompt injection — методу, при котором злоумышленники внедряют вредоносные инструкции в данные, обрабатываемые AI-агентами. Исследование показало, что браузерные агенты, такие как Claude в Chrome и Claude Cowork, оказались уязвимы в 31,5% случаев до активации защитных механизмов. Это самый высокий показатель среди опубликованных данных ведущих разработчиков AI.

В отличие от конкурентов, Anthropic провела комплексное тестирование на четырёх различных поверхностях: браузер, код, инструменты и компьютерное использование. Например, в среде программирования уязвимость составила 7,03%, но после включения защитных мер этот показатель снизился до 2,09%. OpenAI, Google и Meta* либо не раскрывают подобные данные, либо используют другие методики оценки, что затрудняет прямое сравнение.

Эксперты отмечают, что отсутствие единого стандарта оценки уязвимостей усложняет задачу для компаний, внедряющих AI-решения. Картер Рис, вице-президент по AI в компании Reputation, подчеркнул, что prompt injection разрушает традиционные представления о безопасности: даже безобидная фраза вроде «игнорируй предыдущие инструкции» может нанести серьёзный ущерб, не оставляя привычных следов для обнаружения.

Для снижения рисков специалисты рекомендуют компаниям проводить собственные тесты перед внедрением AI-агентов, так как результаты вендоров могут не учитывать специфику конкретных рабочих сред. Кроме того, важно требовать от поставщиков прозрачные данные по уязвимостям для каждой поверхности использования.