Google DeepMind 投资1000万美元用于多智能体AI系统安全

Google DeepMind宣布启动一项1000万美元的资助计划，用于研究多智能体人工智能系统的安全性。该计划的合作伙伴包括Schmidt Sciences、英国ARIA机构、Cooperative AI Foundation及Google.org慈善部门。资金将用于支持学术研究，专家认为在学术环境中能更深入地分析长期风险，而非企业实验室。

Schmidt Sciences主管詹姆斯·福克斯及DeepMind代表强调，目前尚未形成专门的多智能体AI安全研究领域。然而，随着自主智能体数量的增加及相互交互，可能出现不可预测的风险场景。例如，AI智能体可能通过自动化和规模化加剧现有威胁，如网络攻击或欺诈。

专家将潜在风险比作大型机构中人类交互可能产生的问题，但AI智能体的影响可能更迅速且广泛。DeepMind估计，为大规模应用此类系统做准备仅剩数月时间。该资助计划旨在加速构建科学基础，以防范可能的威胁。