蚂蚁集团发布AI安全开源模型,保护智能体与多模态系统

图片: TechNode
简要回答
蚂蚁集团开源了SingGuard-NSFA模型,用于保护AI智能体免受网络威胁,包括提示注入和数据泄露。该模型覆盖133种语言的185个场景,延迟仅50毫秒。
中国科技巨头蚂蚁集团凭借其金融科技领域的创新,在AI安全领域再次取得突破,开源了专为保护自主AI智能体而设计的SingGuard-NSFA模型。
SingGuard-NSFA能识别七大风险类别,涵盖28个子类别及185个具体场景。其核心防护对象包括提示注入、敏感数据泄露、恶意代码执行,以及计算资源与访问权限滥用。该模型支持133种语言,并配备包含近10万个测试用例的评估系统。
开发者可选择四种参数版本:0.8B、2B、4B和9B。据蚂蚁集团介绍,模型处理单个请求仅需约50毫秒,适合高性能系统集成。另一款模型SingGuard则专为多模态AI系统打造,在复杂场景中提供全面保护。
开源SingGuard-NSFA有望加速安全AI解决方案在金融服务、云平台及企业应用等行业的落地。蚂蚁集团强调,其开发成果符合现代网络安全标准,可广泛应用于商业与研究项目。
常见问题
- SingGuard-NSFA能检测哪些威胁?
- 该模型可识别提示注入、敏感数据窃取、恶意代码执行、资源滥用及未授权访问等风险。它涵盖七大主要威胁向量的28个子类别。
- SingGuard-NSFA支持哪些语言?
- 模型支持133种语言,适合全球部署。其评估系统包含近10万个测试用例,用于性能验证。
- 开发者可获取哪些版本的SingGuard-NSFA?
- 目前提供四种参数版本:0.8B、2B、4B和9B。每种版本处理单个请求仅需约50毫秒,确保高性能。
分享:
Dzen 订阅: /feed/dzen.xml · RSS: /feed.xml