全国首创！上海发布生成式AI安全测试平台“智测能手”

据“网信上海”最新消息，在上海市委网信办以及市经信委的共同指导下，上海市信息安全测评认证中心成功打造并推出了全国首个专注于生成式人工智能安全测试的公共服务平台——“智测能手”。这一创新平台于9月14日国家网络安全宣传周上海地区活动的盛大开幕式上正式亮相，标志着我国在人工智能安全治理领域迈出了重要一步。

“智测能手”平台以公共服务产品的全新视角，为国内人工智能的健康发展提供了切实可行的上海方案。该平台特别设立了大模型安全测评模块，这一模块具备高度自动化的评测能力，能够针对生成式人工智能可能涉及的违法违规内容、歧视偏见、事实性错误等风险进行全面而精准的评估。经过严格测试，该模块对模型违规输出的判定准确率高达95%以上，为人工智能的安全应用提供了有力保障。

此外，“智测能手”平台还致力于提供优化建议，帮助开发者及时发现并纠正模型中的潜在问题，从而推动生成式人工智能技术的持续进步与健康发展。这一平台的发布，无疑将为我国人工智能产业的规范发展注入新的活力。