蚂蚁AI实验室开源SingProbe安全护栏，覆盖29个开源大模型防护

9月17日，据徽声在线消息，蚂蚁AI安全实验室正式宣布开源其最新研发的大模型安全防护工具——SingProbe，并同步公开了该工具的代码库、预训练模型以及全面的评测基准体系。作为一款创新性的安全解决方案，SingProbe已实现对29个主流开源大模型的深度适配，能够在模型生成内容的过程中实时监测并拦截不安全信息，同时有效识别潜在的事实性错误或虚构内容风险。