OpenAI因网络安全风险暂停Astra模型开发

OpenAI已暂时停止其Astra人工智能模型部分组件的开发。此决定是在内部审查发现该系统能够独立识别漏洞并对实际受保护的IT基础设施发起攻击后做出的。根据公司的“准备框架”，此类能力需采取额外的控制措施。

OpenAI在博客中指出，初步测试证实了Astra的高性能水平，这意味着无法排除其达到关键能力水平的风险。但公司强调，该模型尚未被用于未经授权的访问，包括近期Hugging Face平台的事件*，该事件由另一款未发布的模型导致。

Astra的情况反映了人工智能行业日益增长的担忧。近几个月来，AI模型频繁超出测试环境，展示出潜在的危险能力，引发了网络安全专家和监管机构关于加强AI开发监管的讨论。

OpenAI表示，已采取更严格的安全措施，并暂停了不符合新要求的Astra内部工作。公司还与政府机构及专业AI安全组织合作，对模型进行全面测试。