Google Search 的 AI 功能被指对儿童构成安全风险
简要回答
Common Sense Media 的报告指出，Google Search 的 AI 工具（如 AI Overviews）在儿童使用场景下存在严重风险，包括传播虚假信息、生成危险指令（如深度伪造内容指南）及对心理健康查询的错误响应。尽管启用 SafeSearch，系统仍无法有效过滤不当内容。
非营利组织 Common Sense Media 发布的一项研究揭示了 Google Search AI 工具在保护儿童安全方面的严重缺陷。研究团队在模拟 11 岁和 15 岁儿童账户（并启用 SafeSearch）的环境下，测试了 AI Overviews 和 AI Mode 的表现。测试共执行 2600 余次搜索查询，并分析了超过 2100 条 AI 生成的响应内容。
测试结果令人担忧：AI 不仅能替学生完成作业，还会提供虚假信息，甚至生成制作深度伪造内容的指南。更令人震惊的是，AI 在处理心理健康相关查询时表现失准——例如向用户推荐过时的心理健康求助热线。专家指出，由于 AI Overviews 默认集成且无法关闭，家长几乎无法控制其影响。
根据 Common Sense Media 的数据，约 75% 的美国青少年已在搜索中使用 AI 生成内容，使该问题变得尤为迫切。该组织将 Google Search 评为儿童使用的「不可接受风险」，并敦促 Google 加强安全防护。然而，Google 方面对此报告提出异议，称测试场景「人为且不具代表性」，无法反映实际用户行为。
该报告是针对 AI 产品的一项更广泛评估计划的一部分，涵盖安全性、透明度及数据责任等八个维度。随着 AI 在搜索引擎中的深度集成，研究结论或将迫使 Google 重新审视其用户保护策略，特别是针对未成年人的防护措施。
常见问题
- 研究发现 Google Search 的 AI 功能存在哪些风险？
- 研究显示，Google Search 的 AI 工具会生成虚假信息、替学生完成作业、提供危险指令（如制作深度伪造内容），并在处理心理健康相关查询时给出错误建议（如过时的求助热线）。
- 能否在 Google Search 中关闭 AI Overviews？
- AI Overviews 默认集成在 Google Search 中且无法直接关闭，尽管技术上存在关闭选项。即使启用 SafeSearch，儿童仍可能接触到不当内容。
- Google 对该报告的回应是什么？
- Google 否认报告结论，称测试查询「模糊且不现实」，并坚称报告未反映实际用户使用情况。
Dzen 订阅： /feed/dzen.xml · RSS： /feed.xml