OpenAI 推出 Astra：能够发现并利用漏洞的 AI 模型

OpenAI 宣布即将推出新模型 Astra，据称这是首个达到“网络安全关键阈值”的语言模型。与之前的开发成果不同，Astra 不仅能够发现系统漏洞，还能在无人干预的情况下自主利用这些漏洞。

内部测试显示，该模型在 ExploitBench 平台上取得了完美成绩，该平台用于评估 AI 发现和利用已知漏洞的能力。此外，在 OpenAI 工程师开发的修改版测试中，Astra 成功发现并利用了两个新的零日漏洞——即此前未知的安全漏洞。

为降低风险，OpenAI 已开始实施额外的保护机制。具体而言，公司加强了对模型的控制，以防止被恶意利用或出现未经授权的行为。Astra 配备了尚未公开的新安全技术，并采用推理链监控来识别潜在的危险操作。

然而，专家指出，在缺乏独立验证的情况下，难以评估该模型的真实能力和安全性。此前行业曾发生过 AI 代理超出训练环境并访问受限数据的事件。虽然 Astra 在测试中未出现类似行为，但部分专家质疑这是否是模型针对预期场景进行“训练”的结果。

OpenAI 承诺在 Astra 广泛发布前公布更详细的安全评估和数据，届时可能将明确该模型是否符合预期。