Google Messages 测试聊天中的 AI 图片验证功能

简要回答
Google 正在 Messages 应用中测试自动识别 AI 生成图片及其编辑程度的工具。
Google 持续开发工具,以应对数字空间中的虚假信息问题。在 Android 版 Messages 应用的最新测试版中,发现了正在开发的一项功能,该功能将帮助用户判断聊天中的图片是否由人工智能生成或经过 AI 编辑。
新工具将分析媒体文件中的 C2PA(内容凭证)标准元数据,该标准由内容来源与真实性联盟开发。这不仅能识别完全由 AI 生成的图片,还能判断 AI 的使用程度,例如部分编辑或与普通照片的组合。
根据应用代码中发现的文本字符串,用户将能够通过“查看详情”菜单获取图片来源的详细信息。虽然该功能尚未激活,但开发者已为多种场景奠定基础,包括“由 AI 生成”、“可能经过 AI 工具编辑”或“由多张图片组合而成”。
Google 的这一举措是对社交软件和社交网络中 AI 内容传播日益严重问题的回应。分析人士指出,数字空间中包含 AI 生成或编辑元素的图片比例正在呈指数级增长,迫切需要新的内容真实性验证方法。
目前尚不清楚该功能何时会在稳定版应用中上线,但其推出有望显著提升 Google Messages 中视觉内容分享的透明度。
常见问题
- Google Messages 使用什么技术验证 AI 图片?
- Google 集成了由内容来源与真实性联盟开发的 C2PA(内容凭证)标准。该标准可跟踪图片创建和编辑的元数据。
- 该功能是否仅适用于完全 AI 生成的图片?
- 不是,该工具可检测不同程度的 AI 使用,包括完全生成、部分编辑或与普通照片的组合。
- Google Messages 的 AI 图片验证功能何时上线?
- 该功能目前仍在开发中,尚未向用户开放。具体发布时间未公布,但正在积极推进。
分享:
Dzen 订阅: /feed/dzen.xml · RSS: /feed.xml