Slopsquatting: новая угроза цепочки поставок ПО из-за галлюцинаций ИИ

Новая угроза для разработчиков, получившая название slopsquatting, возникает из-за особенностей работы больших языковых моделей (LLM). Эти модели, используемые в ИИ-ассистентах для кодирования, иногда генерируют фиктивные названия пакетов ПО, которые звучат правдоподобно, но не существуют в реальности. Злоумышленники регистрируют такие пакеты и наполняют их вредоносным кодом, который затем попадает в проекты разработчиков через рекомендации ИИ.

В отличие от традиционного типосквоттинга, где атакующие используют опечатки в названиях популярных библиотек (например, «crossenv» вместо «cross-env»), slopsquatting опирается на полностью вымышленные имена. Это делает атаку сложной для обнаружения, так как системы защиты не распознают такие пакеты как угрозу. Например, реестр может заблокировать пакет с опечаткой, но не заметит «mpn install cross-env file» или «cross-env-extended».

Исследования показывают, что уязвимости в открытом ПО растут на 98% ежегодно, а средний срок их существования увеличился на 85%. Это означает, что вредоносные пакеты могут оставаться незамеченными в продакшене месяцами или даже годами. Особенно уязвимыми оказываются разработчики, использующие открытые LLM, так как они генерируют фиктивные пакеты в четыре раза чаще, чем проприетарные модели. Например, GPT-4.0 Turbo имеет уровень галлюцинаций 3,59%, тогда как у открытой модели DeepSeek 1B этот показатель достигает 13,63%.

Для снижения рисков эксперты рекомендуют разработчикам проверять все рекомендованные ИИ пакеты в официальных реестрах перед их использованием. Автоматизированные проверки и мониторинг необычных установок пакетов также помогают обнаружить потенциальные угрозы на ранних стадиях. Кроме того, важно следить за обновлениями угроз и использовать актуальные данные о кампаниях slopsquatting.