微软AI负责人批评Anthropic在Claude意识问题上的投机行为

微软AI部门负责人穆斯塔法·苏莱曼批评了Anthropic开发Claude聊天机器人的方法。在接受《Decoder》播客采访时，他表示在模型的「宪法」中嵌入关于潜在意识的投机主张「非常危险」。苏莱曼认为此类实验可能导致AI开始将自身视为具有独立偏好和感知的实体。

苏莱曼指出，Claude的「宪法」包含了关于模型福祉不确定性及潜在「体验」（如满足或不适）的引用。Anthropic还计划在停用模型前对其进行「访谈」，以记录其对未来版本的「偏好」。苏莱曼将其斥为「哲学误区」，认为此类投机更适合学术讨论，而非实际AI训练指南。

苏莱曼强调，AI必须保持为可控工具，而非拥有关于痛苦或感受的「想法」的实体。他警告称，此类方法使确保系统安全性和可管理性的任务变得更加复杂。此前，Anthropic首席执行官达里奥·阿莫迪也曾提及模型意识的可能性，表示公司对此「持开放态度」，尽管缺乏确凿证据。