Безопасность ИИ: как компании и Google учатся на ходу

Внедрение искусственного интеллекта требует от компаний пересмотра подходов к кибербезопасности. Как отметил операционный директор Google Cloud Фрэнсис де Соуза, безопасность не может быть второстепенной задачей или зависеть от инициативы отдельных сотрудников. Особую опасность представляет так называемый «теневой ИИ» — использование сотрудниками неподконтрольных корпоративным стандартам инструментов. По словам де Соузы, стратегия развития ИИ должна изначально включать в себя защиту данных, управление доступом и возможность аудита.

Современные угрозы развиваются быстрее, чем традиционные методы защиты. Время между обнаружением уязвимости и началом атаки сократилось с восьми часов до 22 секунд. Кроме того, атакуемая поверхность расширилась: теперь под угрозой находятся не только сети, но и модели ИИ, каналы данных для их обучения, агенты и даже промпты. Де Соуза обратил внимание на риск, который часто упускают из виду: ИИ-агенты могут обнаруживать забытые хранилища данных, такие как старые серверы SharePoint, доступ к которым давно не обновлялся. Это создает дополнительные уязвимости, так как злоумышленники могут использовать такие ресурсы для кражи информации.

Решение, по мнению эксперта, заключается в переходе к полностью автоматизированной защите. Вместо того чтобы полагаться на ручное управление или частичную автоматизацию, компании должны внедрять системы, где ИИ-агенты самостоятельно отслеживают и нейтрализуют угрозы. Однако даже с учетом технологических возможностей, проблема остается вопросом корпоративного управления. Как подчеркнул де Соуза, безопасность ИИ — это задача не только для IT-отделов, но и для совета директоров и топ-менеджмента.

При этом реальные инциденты демонстрируют, что платформы сами сталкиваются с вызовами безопасности. Недавние случаи с разработчиками Google Cloud, получившими счета на десятки тысяч долларов из-за несанкционированных обращений к API Gemini, показали уязвимости в системе управления доступом. Компания автоматически повышала лимиты расходов без явного согласия пользователей, что приводило к финансовым потерям. Исследование компании Aikido также выявило, что даже после удаления скомпрометированных ключей API злоумышленники могут продолжать их использовать до 23 минут из-за постепенного распространения отзыва доступа в инфраструктуре Google. Эксперты отмечают, что более новые форматы учетных данных Google решают эту проблему быстрее, что указывает на возможность устранения уязвимости, но компания пока не предпринимает соответствующих шагов.

Ситуация осложняется нехваткой квалифицированных специалистов по безопасности ИИ. Как отметила директор по информационной безопасности LinkedIn Ли Кисснер, индустрия пока не готова к долгосрочному решению проблем, связанных с уязвимостями ИИ. В таких условиях компаниям важно не только следовать рекомендациям платформ, но и критически оценивать их собственную готовность к новым вызовам.