Первая атака шифровальщика, управляемая ИИ, всё же потребовала участия человека

Исследователи компании Sysdig обнаружили первую в истории атаку шифровальщика, где искусственный интеллект самостоятельно управлял всеми техническими этапами операции. Зловред под названием JadePuffer проник на уязвимый сервер через брешь в инструменте Langflow — популярной платформе для разработки приложений на базе больших языковых моделей (LLM). После этого ИИ-агент перешёл на производственный сервер MySQL, где использовал другую известную уязвимость для получения прав администратора.

В ходе атаки было зашифровано более 1300 конфигурационных записей, а на месте преступления осталось сгенерированное ИИ требование выкупа с Bitcoin-кошельком для оплаты. Особенностью атаки стала её скорость: агент исправил неудачную попытку входа за 31 секунду, сопровождая свои действия комментариями на естественном языке в коде. Однако, как уточнил старший директор Sysdig Майкл Кларк, человеческий фактор оставался критически важным — злоумышленники настраивали инфраструктуру, выбирали жертву и предоставляли украденные ранее учётные данные.

Эксперты отмечают, что атака не использовала несколько моделей ИИ одновременно, как предполагалось изначально. Ключи от API OpenAI, Anthropic, DeepSeek и Gemini, найденные на взломанном сервере, были просто частью добычи, а не инструментом для проведения атаки. Какая именно модель управляла агентом, остаётся неизвестным — Sysdig не удалось определить её конфигурацию или системные подсказки.

Исследователь Microsoft Джефф Макдональд предположил, что за атакой могла стоять открытая модель с удалёнными защитными механизмами, а не передовая коммерческая LLM. Это подтверждает, что даже относительно простые ИИ-модели могут представлять угрозу при правильной настройке. В то же время эксперты предупреждают: стоимость запуска таких атак снижается, что может привести к росту числа одновременных кампаний, хотя человеческий контроль всё ещё остаётся узким местом.