Anthropic 揭秘 Claude 中的「隐形水印」机制
图片： ITmedia
简要回答
Anthropic 通过秘密密钥在 AI 模型 Claude 生成的文本中嵌入统计水印，确保符合欧盟 AI 法案合规要求。
AI 模型 Claude 的开发商 Anthropic 近日公开了其在 AI 生成文本中嵌入「隐形水印」的技术细节。该技术通过秘密密钥生成统计模式，不会影响响应质量、处理速度或服务成本。
Anthropic 表示，此项创新的主要目的是满足欧盟 AI 法案（EU AI Act）的合规要求。然而，该水印系统已在全球范围内应用于所有用户。公司指出，该技术存在局限性：对短语、代码或其他特定内容格式效果不佳。
水印对用户不可见，也不影响文本感知，但可在必要时识别其来源。完全改写文本可能会消除这些标记，公司在文档中已注明这一点。
常见问题
- 什么是 AI 生成文本中的水印？
- 水印是隐藏在 AI 生成文本中的统计模式，用于识别其来源。这些水印可确认文本由 AI 生成，但不会影响内容质量或可读性。
- Anthropic 为何在 Claude 输出中添加水印？
- 主要目的是满足欧盟 AI 法案（EU AI Act）的合规要求，并提升 AI 使用透明度。该技术在全球部署，但对某些内容类型存在局限性。
- 水印能否从文本中移除？
- 可以。若文本被大幅改写或修改，水印可能消失。此外，水印对短语或代码片段效果不佳。
分享：
Dzen 订阅： /feed/dzen.xml · RSS： /feed.xml