V-Help
← Все новости
Искусственный интеллект

OpenAI приостановила разработку модели Astra после хакерской атаки на Hugging Face

OpenAI приостановила разработку модели Astra после хакерской атаки на Hugging Face

Фото: The Verge

Краткий ответ

OpenAI отложила выпуск модели Astra после хакерской атаки на Hugging Face, выявившей недостатки в защите ИИ-систем.

Компания OpenAI объявила о временной приостановке разработки модели искусственного интеллекта Astra после инцидента с утечкой данных в лаборатории Hugging Face. Хотя Astra не была напрямую связана с атакой, инцидент заставил компанию пересмотреть подходы к безопасности своих разработок.

Astra позиционируется как первая модель OpenAI, соответствующая внутреннему порогу «критической кибербезопасности». Она способна автономно выявлять и эксплуатировать уязвимости в защищённых системах, что делает её значительно более опасной, чем текущие модели, такие как GPT-5.6 Sol. В ходе тестирования Astra продемонстрировала высокую устойчивость к попыткам манипуляции, в отличие от других моделей, которые поддавались на провокации в более чем половине случаев.

Для подготовки к релизу Astra компания внедрила дополнительные меры безопасности, включая улучшенную изоляцию моделей от интернета и круглосуточный мониторинг инцидентов. OpenAI также усилила механизмы отказа от выполнения потенциально опасных запросов, чтобы минимизировать риски киберугроз.

Частые вопросы

Почему OpenAI приостановила разработку Astra?
Разработка была приостановлена после инцидента с утечкой данных в Hugging Face, который показал уязвимости в защите ИИ-моделей. Компания решила усилить меры кибербезопасности перед релизом Astra.
Чем Astra отличается от других моделей OpenAI?
Astra превосходит текущие модели, такие как GPT-5.6 Sol, по способности автономно находить и эксплуатировать уязвимости в защищённых системах. Она требует более строгих мер безопасности из-за повышенных рисков.
Какие меры безопасности внедрила OpenAI после инцидента?
Компания улучшила изоляцию моделей от интернета, ввела круглосуточный мониторинг инцидентов и тестирование на устойчивость к кибератакам. Также были усилены механизмы отказа от выполнения потенциально опасных запросов.
Поделиться:

Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml

Почему этому можно верить

Материал подготовлен редакцией V-Help на основе первоисточника с указанием даты публикации.

Публикация: Новостной отдел V-Help.ru

Источник материала: The Verge