在人工智能技术快速迭代的背景下，AI安全防护体系正经历从内容审核到行为管控的范式转变。蚂蚁AI安全实验室近日宣布开源两项核心安全技术——智能体安全护栏SingGuard-NSFA与多模态安全护栏SingGuard，为自主智能体和跨模态交互场景提供系统性安全解决方案。这两项技术已通过中国信通院认证，并在多项国际评测中超越主流安全模型。
针对智能体从"问答交互"向"自主执行"演进过程中暴露的新型风险，SingGuard-NSFA构建了行为安全防护双层机制。该技术通过实时拦截请求与兜底响应防护，在智能体执行动作前完成安全检测。其风险评估体系基于CIA安全三角原则，结合OWASP国际指南，将智能体风险细分为7大类28个中类，覆盖185个具体场景，并建立包含133种语言、近10万条样本的评测数据库。技术实现上提供双模式选择：审计模式可生成详细风险报告，防护模式能在50毫秒内完成单次判定，支持0.8B至9B四种模型规模部署。公开评测显示，其0.8B轻量模型性能已达行业8B模型水平，且新增风险类别时仅需训练微调模块。
在多模态交互安全领域，SingGuard创新性地建立统一安全判断框架。面对攻击者通过Unicode变形、图片隐喻等跨模态方式绕过传统关键词检测的挑战，该技术可同步解析文本、图像及混合模态内容中的潜在威胁。其动态规则加载机制允许在不重新训练模型的情况下更新安全策略，特别适用于规则频繁更新的生产环境。通过"快慢结合"的推理设计，系统先进行初步筛查，复杂场景再启动深度分析，在保持毫秒级响应速度的同时，将检测准确率提升至行业领先水平。
国际基准测试表明，SingGuard在文本查询、图像识别等六大类35个数据集评测中，平均F1值全面超越Llama Guard 3、谷歌ShieldGemma等主流模型。中国信通院专家指出，随着大模型能力边界扩展，AI安全已从单一内容过滤升级为涵盖行为管控、系统治理的复合体系。蚂蚁集团依托二十年支付安全技术积累，已形成覆盖智能体全生命周期的安全防护矩阵：今年4月联合清华大学开源的ClawAegis防御插件，与此次开源的两大护栏技术形成互补，共同构建起从框架审计到运行时防护的完整链条。
目前，相关技术已深度融入蚂蚁集团业务生态。在智能客服"蚂蚁阿福"、AI版支付宝"阿宝"等场景中，SingGuard系列技术有效拦截了98.7%的变形文字攻击和跨模态恶意指令。支付宝"AI付"系统通过部署NSFA行为护栏，使资金操作类风险事件下降76%。蚂蚁AI安全实验室负责人表示，将持续开放核心安全技术，与行业共建可信AI生态，推动智能体技术安全可控地服务于数字经济建设。
