蚂蚁SingProbe大模型安全工具开源，覆盖29个主流开源模型

9月17日，据徽声在线消息，蚂蚁集团旗下的AI安全实验室正式对外开源了一款名为SingProbe的大模型安全防护工具，并同步公开了其源代码、预训练模型以及详细的评测基准数据。据介绍，SingProbe目前已经完成了对29个主流开源大模型的适配工作，能够在内容生成阶段实时监测并识别出不安全信息以及可能存在的虚假信息风险，为AI应用提供了一道坚实的安全屏障。