Anthropic выпустит мощный ИИ-инструмент для поиска уязвимостей — с ограничениями
Фото: Android Authority
Краткий ответ
Anthropic выпустила две новые модели ИИ: общедоступную Claude Fable 5 с защитой от злоупотреблений и Mythos 5 для поиска уязвимостей в ПО, доступную только киберэкспертам.
Компания Anthropic представила две новые модели искусственного интеллекта: Claude Fable 5 и Mythos 5. Обе демонстрируют значительный прогресс в аналитических возможностях, но предназначены для разных аудиторий.
Fable 5 станет доступна широкой публике и позиционируется как универсальный инструмент для решения сложных задач — от написания кода до стратегического анализа. Однако модель оснащена механизмами защиты, предотвращающими её использование для поиска уязвимостей или создания опасных материалов. При попытках обойти ограничения система автоматически переключается на менее мощную версию — Claude Opus 4.8.
Mythos 5, напротив, разработана специально для выявления уязвимостей в программном обеспечении. Её возможности идентичны Fable 5, но без защитных ограничений. Доступ к модели будет предоставляться только проверенным специалистам в области кибербезопасности, чтобы минимизировать риски злоупотреблений. Anthropic подчёркивает, что такой подход необходим для ускорения исправления багов до того, как ими воспользуются злоумышленники.
Разработчики внедрили в модели систему классификаторов, анализирующих запросы пользователей. Помимо блокировки хакерских сценариев, они предотвращают попытки синтеза опасных химических или биологических соединений, а также извлечение данных для создания неконтролируемых копий ИИ.
Частые вопросы
- Чем отличаются Claude Fable 5 и Mythos 5?
- Fable 5 — общедоступная модель с широкими аналитическими возможностями, но с защитой от хакерских атак. Mythos 5 идентична по мощности, но лишена ограничений и доступна только доверенным специалистам по кибербезопасности.
- Почему Anthropic ограничивает доступ к Mythos 5?
- Модель способна находить критические уязвимости в ПО, что делает её потенциально опасной в руках злоумышленников. Ограниченный доступ снижает риски использования для кибератак.
- Какие меры защиты внедрены в Fable 5?
- Модель оснащена классификаторами, блокирующими попытки поиска уязвимостей, создания опасных веществ или извлечения внутренних данных для копирования без защитных механизмов.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml