Anthropic CEO谈AI信任危机：问题不在风险警告，而在未兑现的承诺

Anthropic CEO达里奥·阿莫迪回应了对其AI风险警告的批评，此前投资者加文·贝克尔指责其言论助长了美国社会对AI的负面情绪，特别是在数据中心建设方面。贝克尔还质疑Anthropic提出的监管建议（包括加州针对大型AI公司的透明度法案）的有效性。

阿莫迪否认了过度悲观的指责，强调其发布的内容均衡展现AI的优势与威胁。他指出，科技行业未能以积极的愿景赢得公众信任，这促使他撰写了《机器之爱》一文。尽管如此，他仍坦承公众对AI的负面看法依然存在，并将其称为‘信任危机’。

阿莫迪指出，这种不信任源于科技公司、政府及IT行业数十年来未兑现的承诺。他批评‘AI能治愈癌症’等空洞口号无法改变公众认知，而真正的成果才是改变态度的关键。

在讨论监管时，阿莫迪反对‘所有规则都会导致权力集中’的简单化观点。他强调，硅谷以外的许多人将监管视为遏制企业垄断的工具。Anthropic倡导的政策旨在限制大型企业的扩张，同时为中小竞争者创造机会。

阿莫迪还解释了为何AI技术易导致权力集中，即使是开放权重模型也无法完全解决问题。他指出，计算资源的差异将权力集中于资源最丰富的一方。然而，他认为合理的‘游戏规则’能同时降低网络威胁、生物危害及对齐问题的风险，限制大型企业权力，并为开放权重模型留出生存空间。