V-Help
← Все новости
Искусственный интеллект

Anthropic закрывает модели Fable и Mythos после директивы Минторга США

Anthropic закрывает модели Fable и Mythos после директивы Минторга США

Фото: Ars Technica

Краткий ответ

Компания Anthropic остановила разработку ИИ-моделей Fable и Mythos после предупреждения Минторга США о возможных угрозах национальной безопасности из-за уязвимостей, таких как «джейлбрейк» Fable 5.

Компания Anthropic, известная своими разработками в области искусственного интеллекта, объявила о приостановке работы над моделями Fable и Mythos. Решение было принято после вмешательства Министерства торговли США, которое выразило опасения по поводу потенциальных угроз национальной безопасности.

Основной причиной стало опасение, что модель Fable 5 может быть подвержена «джейлбрейку» — методу обхода встроенных ограничений, который способен открыть доступ к нежелательным или опасным возможностям системы. Регуляторы считают, что такие уязвимости могут быть использованы злоумышленниками для нанесения ущерба критически важным инфраструктурам.

Этот случай демонстрирует, как государственные органы усиливают контроль за развитием ИИ-технологий. В последние годы регуляторы всё чаще вмешиваются в работу компаний, занимающихся разработкой передовых моделей, чтобы минимизировать риски, связанные с их неконтролируемым использованием.

Anthropic пока не раскрывает детали дальнейших планов по развитию этих моделей, но эксперты отмечают, что подобные меры могут стать нормой для индустрии, особенно в условиях ужесточения законодательства в сфере ИИ.

Частые вопросы

Почему Anthropic закрыла модели Fable и Mythos?
Минторг США усмотрел в них потенциальные риски для национальной безопасности, в частности из-за возможности обхода защитных механизмов в модели Fable 5.
Что такое «джейлбрейк» в контексте ИИ?
Это метод обхода встроенных ограничений ИИ-модели, позволяющий получить несанкционированный доступ к её функциям или данным.
Как регуляторы реагируют на угрозы со стороны ИИ?
Регуляторы ужесточают контроль за разработкой и внедрением ИИ, особенно в части безопасности, чтобы предотвратить злоупотребления и утечки данных.
Поделиться:

Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml

Почему этому можно верить

Материал подготовлен редакцией V-Help на основе первоисточника с указанием даты публикации.

Публикация: Новостной отдел V-Help.ru

Источник материала: Ars Technica