蚂蚁AI安全实验室开源SingProbe，29个开源模型获安全防护

在9月17日这一天，徽声在线传来一则重要消息，蚂蚁AI安全实验室正式对外开源了其研发的大模型安全护栏——SingProbe，并且慷慨地开放了代码、模型以及评测基准。这一举措标志着在AI安全领域又迈出了坚实的一步。据悉，SingProbe工具已经成功适配了多达29个主流的开源模型，它能够在模型生成内容的阶段，同步且精准地识别出不安全的内容以及可能存在的编造信息风险，为AI应用的安全保驾护航。