Anthropic应美国政府要求暂时禁用Claude Fable 5模型
图片： Wired
简要回答
Anthropic在发现可绕过内置安全限制的方法后，暂时禁用了其AI模型Claude Fable 5。该决定系应美国政府要求，以防范潜在滥用风险。
AI开发商Anthropic宣布暂时停止其Claude Fable 5系统的访问权限。此决定源于美国当局发现了一种被称为“越狱”的安全绕过方法。
在官方博客中，该公司表示，检测到的漏洞可能允许恶意行为者绕过模型的保护机制，从而对用户构成潜在风险。Anthropic强调，公司正在遵循监管要求，并已启动问题修复工作。
关于漏洞的具体细节和恢复时间表尚未披露。专家指出，随着AI系统复杂性的提升及其在关键流程中的集成，此类事件变得越来越常见。
Anthropic是生成式AI市场的重要参与者，与OpenAI、Google等公司竞争。Claude模型广泛应用于企业和研究项目，使得安全问题尤为重要。
常见问题
- AI模型中的“越狱”是什么意思？
- 越狱是一种绕过AI系统内置限制和过滤器的方法，使模型能够执行被禁止或不安全的操作。此类漏洞可能被用于生成恶意内容或违反安全策略。
- Anthropic为何禁用Claude Fable 5？
- 公司在发现可绕过模型保护机制的漏洞后，遵循美国政府要求采取了禁用措施。此举旨在防范潜在风险，直至问题得到解决。
- Claude Fable 5何时会恢复使用？
- Anthropic尚未披露具体的恢复时间表。官方声明仅确认修复漏洞的工作已在进行中，但未提供进一步细节。
分享：
Dzen 订阅： /feed/dzen.xml · RSS： /feed.xml