OpenAI расформировала команду по оценке рисков ИИ

Компания OpenAI завершила работу подразделения, отвечавшего за оценку потенциальных рисков, связанных с развитием моделей искусственного интеллекта. Как сообщает Financial Times, функции команды, которая анализировала угрозы вроде неконтролируемого поведения ИИ или кибератак, теперь распределены между другими отделами. В частности, вопросы биологической и кибербезопасности переданы профильным командам.

Это решение стало частью серии структурных изменений в OpenAI, которая готовится к возможному крупному публичному размещению акций (IPO). За последние годы компания уже ликвидировала несколько ключевых подразделений, включая команды по готовности к созданию искусственного общего интеллекта (AGI) и выравниванию моделей (superalignment). Эти шаги вызвали критику со стороны экспертов, включая бывшего сотрудника OpenAI Яна Лейке, который обвинил компанию в игнорировании вопросов безопасности ради разработки «привлекательных продуктов».

Руководитель расформированной команды, Дилан Скандинаро, ранее перешедший в OpenAI из Anthropic, теперь сосредоточится на изучении последствий «рекурсивного самосовершенствования» ИИ. В последние месяцы компанию покинули и другие ключевые специалисты, включая главу по этике Хлою Бакалар и главного футуриста Джоша Ахиама.