蚂蚁AI安全实验室发布SingProbe，为29个开源模型筑起安全防线

9月17日，据徽声在线消息，蚂蚁集团旗下的AI安全实验室正式对外宣布开源其最新研发的大模型安全防护工具——SingProbe，并同步开放了该工具的源代码、预训练模型以及详细的评测基准数据。SingProbe作为一款创新性的安全护栏解决方案，已成功适配当前市场上29个广受欢迎的主流开源大模型。该工具的核心优势在于，它能够在模型生成文本内容的过程中，实时、精准地识别并拦截潜在的不安全信息以及可能存在的编造事实风险，为AI应用的健康发展提供了坚实的安全保障。