США заблокировали доступ к самым мощным ИИ-моделям Anthropic из-за угроз безопасности

Американские власти потребовали от компании Anthropic немедленно прекратить доступ к двум своим наиболее мощным моделям искусственного интеллекта — Claude Mythos 5 и Claude Fable 5. Директива, полученная в пятницу вечером, распространяется на всех пользователей по всему миру, а не только на иностранных граждан, как изначально предполагалось в рамках экспортного контроля.

Mythos 5, представленная в апреле, была самой продвинутой моделью Anthropic, способной выявлять уязвимости в основных операционных системах и браузерах. Из-за высоких рисков компания ограничила её использование в рамках программы Project Glasswing, предоставив доступ лишь около 50 проверенным организациям, включая Amazon, Apple, Google, Microsoft и CrowdStrike. Fable 5, выпущенная три дня назад, была адаптирована для широкого использования с дополнительными защитными механизмами, но сохранила высокую производительность.

Anthropic заявила, что решение властей основано на предполагаемой уязвимости Fable 5 к джейлбрейку, однако компания считает это преувеличением. По её словам, аналогичные возможности уже доступны в других публичных моделях, таких как GPT-5.5 от OpenAI. Компания также подчеркнула, что её защитные механизмы работают независимо от основной модели, предотвращая опасные сценарии даже при попытках обхода ограничений.

Решение властей вызвало критику со стороны Anthropic, которая считает, что такой подход может остановить развитие всей отрасли. Компания готовится к выходу на IPO в этом году и активно продвигала себя как безопасную альтернативу конкурентам. Однако теперь её осторожность в отношении Mythos 5, которую она называла слишком опасной для публичного релиза, обернулась пристальным вниманием со стороны государства.