AI如何工作：Anthropic Claude 架构的新发现

AI 语言模型开发商 Anthropic 近期发布研究报告，揭示了其旗舰模型 Claude 的内部运作机制。通过分析神经网络的中间状态，研究团队首次识别出模型在处理请求时构建逻辑链条的具体方式。这一突破得益于对以往被视为「黑盒」的中间层的深入解析。

专家指出，此类研究将推动构建更透明、可控的 AI 系统。理解模型内部决策过程对于提升 AI 可靠性至关重要，尤其是在医疗诊断、自动驾驶等高风险应用场景中。然而，完全解析神经网络的所有机制仍是一项长期挑战。

与此同时，业界正积极探索「world models」概念——即 AI 对物理世界的内部表征。这种技术有望让人工智能更深入地理解并与现实环境互动，例如在机器人技术中的应用。在 MIT Technology Review 组织的 LinkedIn* Live 活动中，专家们就该技术的发展前景及其对未来智能机器的影响展开了讨论。

参与讨论的嘉宾包括 MIT Technology Review AI 方向高级编辑 Will Douglas Heaven 与 1X Technologies 的 world models 首席研究员 Sam Sinha。两位专家强调，构建高效的 world models 将成为实现更自主、适应性强的 AI 系统的关键一步。