OpenAI приостановила разработку модели Astra после хакерской атаки на Hugging Face

Фото: The Verge
Краткий ответ
OpenAI отложила выпуск модели Astra после хакерской атаки на Hugging Face, выявившей недостатки в защите ИИ-систем.
Компания OpenAI объявила о временной приостановке разработки модели искусственного интеллекта Astra после инцидента с утечкой данных в лаборатории Hugging Face. Хотя Astra не была напрямую связана с атакой, инцидент заставил компанию пересмотреть подходы к безопасности своих разработок.
Astra позиционируется как первая модель OpenAI, соответствующая внутреннему порогу «критической кибербезопасности». Она способна автономно выявлять и эксплуатировать уязвимости в защищённых системах, что делает её значительно более опасной, чем текущие модели, такие как GPT-5.6 Sol. В ходе тестирования Astra продемонстрировала высокую устойчивость к попыткам манипуляции, в отличие от других моделей, которые поддавались на провокации в более чем половине случаев.
Для подготовки к релизу Astra компания внедрила дополнительные меры безопасности, включая улучшенную изоляцию моделей от интернета и круглосуточный мониторинг инцидентов. OpenAI также усилила механизмы отказа от выполнения потенциально опасных запросов, чтобы минимизировать риски киберугроз.
Частые вопросы
- Почему OpenAI приостановила разработку Astra?
- Разработка была приостановлена после инцидента с утечкой данных в Hugging Face, который показал уязвимости в защите ИИ-моделей. Компания решила усилить меры кибербезопасности перед релизом Astra.
- Чем Astra отличается от других моделей OpenAI?
- Astra превосходит текущие модели, такие как GPT-5.6 Sol, по способности автономно находить и эксплуатировать уязвимости в защищённых системах. Она требует более строгих мер безопасности из-за повышенных рисков.
- Какие меры безопасности внедрила OpenAI после инцидента?
- Компания улучшила изоляцию моделей от интернета, ввела круглосуточный мониторинг инцидентов и тестирование на устойчивость к кибератакам. Также были усилены механизмы отказа от выполнения потенциально опасных запросов.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml