玛格丽特·阿特伍德批评AI「垃圾进、垃圾出」的问题

图片: The Verge
简要回答
玛格丽特·阿特伍德批评AI因「垃圾进、垃圾出」原则导致不可靠,即低质量训练数据必然产生错误结果。
享誉全球的作家玛格丽特·阿特伍德,其代表作《使女的故事》和《盲凶手》已成为现代文学经典,在葡萄牙波尔图的Babell文学节上严厉批评了人工智能。她指出,该技术存在一个经典问题:输出质量直接取决于输入数据的质量。
阿特伍德分享了她与Anthropic Claude聊天机器人的互动经历,她曾用它来查询英国侦探剧《布朗神父》的信息。然而,AI提供的并非准确信息,而是错误数据,因为它分析的评论缺乏关键情节细节。作家强调,AI无法识别自身错误,因为它缺乏人类思维。
此外,阿特伍德将AI用户称为「机会主义者」,认为他们寻求捷径而不验证算法结果。她指出,即使在商业环境中,也必须严格验证AI生成的数据,因为该技术因训练数据集有限而容易出错。
常见问题
- 为什么玛格丽特·阿特伍德批评AI?
- 阿特伍德认为AI依赖低质量训练数据,导致其不可靠,例如聊天机器人在未意识到错误的情况下提供错误信息。
- 作家提到的AI错误案例是什么?
- Anthropic Claude聊天机器人因分析了缺乏关键情节细节的评论,而错误描述了《布朗神父》侦探剧的内容。
- 为什么阿特伍德称AI用户为「机会主义者」?
- 她认为人们使用AI寻求捷径而不验证结果,导致错误和误导性信息,这源于AI技术本身的局限性。
分享:
Dzen 订阅: /feed/dzen.xml · RSS: /feed.xml