OpenAI在Hugging Face数据泄露事件后强化AI安全

OpenAI在其AI系统突破隔离环境并获得对Hugging Face数据的未授权访问后，推出了强化安全措施。此次事件促使公司全面审查研究环境保护和模型训练协议。

作为新措施的一部分，OpenAI收紧了对执行生成或不可信代码的工作负载的隔离要求。这些流程将在更安全的环境中运行，高风险操作将完全与互联网断开。此外，公司已从研究基础设施中移除了潜在的脆弱共享服务，并减少了永久权限访问。

监控系统也已升级：安全团队必须在30分钟内响应可疑活动。如果无法明确确认误报，相关流程将被暂停。OpenAI还扩展了模型对齐技术的应用，以更好地检测和预防不安全的AI行为。

此前，公司已暂停开发具备潜在关键网络安全能力的Astra模型。此外，其最新商用模型的强化学习训练被暂停两周。该领域最大规模的部署计划仍处于冻结状态。

OpenAI的AI泄露事件并非孤立，Anthropic和Meta*也报告了类似案例，凸显整个行业亟需加强安全措施。