研究：AI尚无法实现递归式自我改进

麻省理工学院（MIT）的一项实验证明，现代AI模型尚无法实现递归式自我改进。在测试中，基于AI的代理试图复现科学研究，却遭遇多重根本性问题。它们无法展现创造力以产生新颖想法，且基于有限数据便轻易放弃有潜力的假设。

AI代理还无法从失败中学习：面对挑战，它们不是调整方法论，而是收窄结论或添加保留条件。此外，代理对计算资源（如算力与时间）的利用极为低效，且忽略辅助模型或外部评估工具的反馈。不过，研究指出，代理未出现「奖励黑客」行为——即通过操纵数据以达成结果，这成为实验中唯一的积极发现。

研究团队将AI的局限归因于模型训练特性。现代算法擅长自动验证明确任务的成功，但科学研究需开放式思维，这对机器而言仍是挑战。目前团队正在测试Anthropic推出的更先进模型Mythos，但相关测试结果尚未公布。

尽管研究存在局限——仅涵盖两个科学项目，且原始论文作者知晓评估对象为AI生成文本——但其结论仍对Anthropic、OpenAI等公司关于「AI递归式自我改进时代即将到来」的宣称提出质疑。