Amazon сообщил властям США о рисках моделей Anthropic перед запретом

Фото: TechCrunch
Краткий ответ
Глава Amazon Энди Джасси сообщил властям США о рисках моделей Anthropic Claude Fable 5 и Mythos 5, что привело к их блокировке из-за опасений по кибербезопасности.
Американские власти ввели экспортные ограничения на модели искусственного интеллекта Claude Fable 5 и Mythos 5 от компании Anthropic после того, как глава Amazon Энди Джасси предупредил о потенциальных рисках их использования. По данным The Wall Street Journal, исследователи Amazon обнаружили, что одна из моделей могла предоставлять информацию, применимую для проведения кибератак. В результате регуляторы потребовали ограничить доступ к этим системам на глобальном уровне.
Anthropic, получивший значительные инвестиции от Amazon, отказался выполнять требования властей по устранению уязвимостей. В своем блоге компания отметила, что аналогичные возможности уже доступны в других публичных моделях ИИ. При этом представители Amazon подтвердили, что обсуждали вопросы безопасности с правительством, но не раскрыли детали переговоров.
Инцидент также затронул облачные сервисы AWS, которые используют технологии Anthropic. Эксперты отмечают, что ситуация подчеркивает растущую обеспокоенность регуляторов по поводу безопасности крупных языковых моделей и их потенциального использования в киберугрозах.
Частые вопросы
- Почему власти США заблокировали модели Anthropic?
- Регуляторы ввели экспортные ограничения после сообщений о том, что модели Claude Fable 5 и Mythos 5 могли использоваться для получения данных, потенциально применимых в кибератаках. Amazon, как инвестор Anthropic, предупредил правительство о рисках.
- Какую роль сыграл Amazon в этом инциденте?
- Глава Amazon Энди Джасси обсудил с представителями правительства США уязвимости моделей Anthropic. Компания подтвердила, что ее исследователи выявили потенциальные риски, но не раскрыла детали переговоров.
- Как отреагировала Anthropic на запрет?
- Компания заявила, что возможности, вызвавшие опасения, уже присутствуют в других общедоступных моделях. Anthropic отказался устранять уязвимости или отключать модели по требованию властей.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml