全国首创！上海发布生成式AI安全测试平台“智测能手”

据“网信上海”最新报道，在上海市委网信办以及市经信委的联合指导下，上海市信息安全测评认证中心成功打造并推出了全国范围内首个专注于生成式人工智能安全测试的公共服务平台，该平台被命名为“智测能手”。在9月14日举办的国家网络安全宣传周上海地区活动的开幕式上，“智测能手”平台正式亮相并对外发布。这一平台的诞生，标志着我国在人工智能治理领域迈出了创新的一步，它以公共服务产品的独特视角，为国内的人工智能治理实践贡献了上海智慧与方案。

“智测能手”平台特别设立了大模型安全测评模块，该模块具备高度的自动化评测能力，能够针对生成式人工智能在运行过程中可能涉及的违法违规内容、潜在的歧视偏见以及事实性错误等风险进行全面而细致的检测。通过先进的算法与模型分析，平台能够迅速输出详尽的测评结论，并针对发现的问题提出切实可行的优化建议。值得一提的是，该平台在模型违规输出的判定上展现出了极高的准确性，其准确率不低于95%，为人工智能的安全应用提供了有力保障。