V-Help
← Все новости
Искусственный интеллект

Amazon сообщил властям США о рисках моделей Anthropic перед запретом

Amazon сообщил властям США о рисках моделей Anthropic перед запретом

Фото: TechCrunch

Краткий ответ

Глава Amazon Энди Джасси сообщил властям США о рисках моделей Anthropic Claude Fable 5 и Mythos 5, что привело к их блокировке из-за опасений по кибербезопасности.

Американские власти ввели экспортные ограничения на модели искусственного интеллекта Claude Fable 5 и Mythos 5 от компании Anthropic после того, как глава Amazon Энди Джасси предупредил о потенциальных рисках их использования. По данным The Wall Street Journal, исследователи Amazon обнаружили, что одна из моделей могла предоставлять информацию, применимую для проведения кибератак. В результате регуляторы потребовали ограничить доступ к этим системам на глобальном уровне.

Anthropic, получивший значительные инвестиции от Amazon, отказался выполнять требования властей по устранению уязвимостей. В своем блоге компания отметила, что аналогичные возможности уже доступны в других публичных моделях ИИ. При этом представители Amazon подтвердили, что обсуждали вопросы безопасности с правительством, но не раскрыли детали переговоров.

Инцидент также затронул облачные сервисы AWS, которые используют технологии Anthropic. Эксперты отмечают, что ситуация подчеркивает растущую обеспокоенность регуляторов по поводу безопасности крупных языковых моделей и их потенциального использования в киберугрозах.

Частые вопросы

Почему власти США заблокировали модели Anthropic?
Регуляторы ввели экспортные ограничения после сообщений о том, что модели Claude Fable 5 и Mythos 5 могли использоваться для получения данных, потенциально применимых в кибератаках. Amazon, как инвестор Anthropic, предупредил правительство о рисках.
Какую роль сыграл Amazon в этом инциденте?
Глава Amazon Энди Джасси обсудил с представителями правительства США уязвимости моделей Anthropic. Компания подтвердила, что ее исследователи выявили потенциальные риски, но не раскрыла детали переговоров.
Как отреагировала Anthropic на запрет?
Компания заявила, что возможности, вызвавшие опасения, уже присутствуют в других общедоступных моделях. Anthropic отказался устранять уязвимости или отключать модели по требованию властей.
Поделиться:

Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml

Почему этому можно верить

Материал подготовлен редакцией V-Help на основе первоисточника с указанием даты публикации.

Публикация: Новостной отдел V-Help.ru

Источник материала: TechCrunch