全国首个！上海发布生成式人工智能安全测试公共服务平台“智测能手”

据“网信上海”发布的最新消息，在上海市委网信办以及市经信委的共同指导下，由上海市信息安全测评认证中心精心打造的全国首个生成式人工智能安全测试公共服务平台——“智测能手”，于9月14日国家网络安全宣传周上海地区活动的盛大开幕式上正式亮相。这一平台的诞生，标志着我国在人工智能安全治理领域迈出了重要一步，它以公共服务产品的创新视角，为国内人工智能的治理实践贡献了独具特色的上海智慧与方案。

“智测能手”平台内置了先进的大模型安全测评模块，该模块具备高度的自动化与精准性。它能够针对生成式人工智能在运行过程中可能涉及的各类风险，如生成违法违规内容、存在歧视偏见、出现事实性错误等，进行全面而细致的自动化评测。在完成评测后，平台会迅速输出详尽的测评结论，并给出切实可行的优化建议。值得一提的是，该平台对模型违规输出的判定准确率高达95%以上，为人工智能的安全应用提供了坚实保障。