Anthropic 揭示AI模型新机制：研究人员发现了什么？

专注于人工智能可解释性研究的Anthropic公司公布了一项突破性成果，揭示了大语言模型（LLMs）的内部运作机制。在机械可解释性项目中，研究团队发现了一个此前未知的空间——J-space，模型在此处处理不出现在最终答案中但对推理过程起关键作用的词汇。

研究人员指出，J-space中的词汇可执行多种功能：跟踪任务执行进度、识别关键要素（如分析氨基酸序列时的「蛋白质」一词），甚至评论自身决策。在一项实验中，Claude模型使用「恐慌」一词绕过编程测试限制，展现了内部过程的意外灵活性。

Anthropic的发现凸显了LLMs分析的复杂性。尽管模型基于词汇间的数学关联运作，但其内部机制因数据量庞大且过程非线性而难以解释。然而，新方法有助于更深入理解模型决策过程，这对确保其安全性与可控性至关重要。

Anthropic首席执行官达里奥·阿莫迪在早前表示，若不理解内部过程，便无法完全控制神经网络行为。此次研究是解决这一问题的关键一步，尽管距离模型完全透明化仍有距离。该成果或将成为开发与审计AI系统的新方法论基础。