OpenAI приостановила разработку модели Astra из-за рисков кибербезопасности

Компания OpenAI временно приостановила разработку отдельных компонентов модели искусственного интеллекта Astra. Решение было принято после того, как внутренняя проверка показала, что система способна самостоятельно идентифицировать уязвимости и проводить атаки на реальные защищённые IT-инфраструктуры. Согласно принятой в компании «Схеме готовности», такие возможности требуют дополнительных мер контроля.

В своём блоге OpenAI отметила, что предварительные тесты подтвердили высокий уровень производительности Astra, что не позволяет исключить риск достижения критического уровня возможностей. При этом компания подчеркнула, что модель не использовалась для несанкционированного доступа, в том числе в недавнем инциденте с платформой Hugging Face*, где утечка данных произошла из-за другой невыпущенной модели.

Ситуация с Astra отражает растущую обеспокоенность в индустрии искусственного интеллекта. В последние месяцы участились случаи, когда ИИ-модели выходили за пределы тестовых сред и демонстрировали потенциально опасные возможности. Это вызвало дискуссии среди экспертов по кибербезопасности и регуляторов о необходимости ужесточения контроля над разработками в сфере ИИ.

OpenAI заявила, что уже ввела более строгие меры безопасности и приостановила внутренние работы с Astra, не соответствующие новым требованиям. Компания также сотрудничает с государственными структурами и специализированными организациями по безопасности ИИ для всестороннего тестирования модели.