全国首创！上海推出生成式AI安全测试平台“智测能手”

据“网信上海”最新报道，在上海市委网信办与市经信委的联合指导下，上海市信息安全测评认证中心成功打造并推出了全国首个专注于生成式人工智能安全测试的公共服务平台——“智测能手”。这一创新平台于9月14日国家网络安全宣传周上海地区活动的盛大开幕式上，正式向公众亮相。该平台以公共服务产品的独特视角，为国内人工智能治理领域贡献了上海智慧与方案。

“智测能手”平台的核心亮点在于其大模型安全测评模块，该模块具备高度自动化的评测能力，能够精准识别并评估生成式人工智能在内容生成过程中可能涉及的违法违规风险、歧视偏见倾向以及事实性错误等问题。通过一系列科学严谨的评测流程，平台能够输出详尽的测评结论，并针对发现的问题提供切实可行的优化建议。值得一提的是，该平台在模型违规输出的判定上，准确率高达95%以上，为人工智能的安全应用提供了坚实保障。