OpenAI представила режим Lockdown для защиты от атак с инъекцией промптов

OpenAI внедрила режим Lockdown Mode для повышения безопасности корпоративных и личных аккаунтов ChatGPT. Функция нацелена на снижение рисков, связанных с атаками с инъекцией промптов, когда вредоносные команды маскируются под легитимный контент и влияют на работу ИИ-моделей.

В режиме Lockdown отключается ряд функций: просмотр веб-страниц в реальном времени (доступен только кэшированный контент), загрузка и отображение изображений из интернета, а также расширенные инструменты для исследований и режим агента. При этом пользователи по-прежнему смогут генерировать изображения с помощью встроенных моделей.

Разработчики подчеркивают, что Lockdown Mode не обеспечивает абсолютную защиту. Например, вредоносный код может содержаться в кэшированных данных или загруженных файлах, что потенциально повлияет на ответы чат-бота. Однако режим существенно снижает вероятность утечек конфиденциальной информации.

Функция ориентирована на организации и частных пользователей, работающих с чувствительными данными. В настоящее время Lockdown Mode доступен для корпоративных аккаунтов ChatGPT Business и отдельных личных аккаунтов, соответствующих критериям безопасности.