蚂蚁AI安全实验室开源SingProbe，为29个开源大模型筑起安全防线

9月17日，据徽声在线消息，蚂蚁AI安全实验室正式对外宣布开源其自主研发的大模型安全防护工具——SingProbe，并同步公开了该工具的源代码、预训练模型以及详细的评测基准数据。这一举措标志着蚂蚁集团在AI安全领域迈出了重要一步。据悉，SingProbe已成功适配包括多个知名框架在内的29个主流开源大模型，能够在模型生成内容的过程中，实时、精准地识别出不安全信息以及可能存在的编造信息风险，为AI应用的健康发展提供了坚实保障。