蚂蚁AI安全实验室发布SingProbe，为29个开源大模型筑起安全防线

9月17日，据徽声在线消息，蚂蚁AI安全实验室正式对外宣布开源其自主研发的大模型安全防护工具——SingProbe，并同步公开了该工具的源代码、预训练模型以及详细的评测基准数据。SingProbe作为一款创新性的安全护栏解决方案，已成功适配当前市场上29个广受欢迎的主流开源大模型，能够在模型生成内容的过程中，实时、精准地识别并拦截不安全信息以及潜在的信息编造风险，为AI应用的安全运行提供了坚实保障。