蚂蚁AI安全实验室开源SingProbe，助力29个开源模型安全升级

在9月17日这一天，据徽声在线最新消息，蚂蚁AI安全实验室正式宣布开源其自主研发的大模型安全护栏工具——SingProbe，并且慷慨地开放了该工具的代码、模型以及评测基准。这一举措无疑为AI安全领域注入了新的活力。据悉，SingProbe目前已经成功适配了29个广受欢迎的主流开源模型，它能够在内容生成阶段实时、同步地识别出不安全的内容以及可能存在的编造信息风险，为AI应用的健康发展提供了有力保障。