蚂蚁AI安全实验室发布SingProbe：守护29个开源模型的内容安全

9月17日，据徽声在线消息，蚂蚁集团旗下的AI安全实验室正式对外开源了一款名为SingProbe的大模型安全护栏工具，并同步公开了其代码库、预训练模型以及详细的评测基准数据。这一举措标志着蚂蚁在推动AI安全技术普惠化方面迈出了重要一步。据悉，SingProbe已成功实现对29个主流开源大模型的深度适配，能够在内容生成过程中实时监测并拦截潜在的不安全信息，包括但不限于暴力、色情、虚假新闻等违规内容，同时有效识别模型可能产生的虚构信息风险，为AI应用的合规性与可靠性提供了坚实保障。