全国首创！上海推出生成式人工智能安全测试公共服务平台“智测能手”

据“网信上海”最新报道，在上海市委网信办与市经信委的联合指导下，上海市信息安全测评认证中心成功打造并推出了全国首个专注于生成式人工智能安全测试的公共服务平台——该平台被命名为“智测能手”。在9月14日举办的国家网络安全宣传周上海地区活动开幕式上，这一创新平台正式亮相并对外发布。作为公共服务领域的一项重要创新，“智测能手”平台以全新的视角和思路，为国内人工智能治理领域贡献了上海智慧与方案。该平台特别设立了大模型安全测评模块，该模块能够针对生成式人工智能可能产生的违法违规内容、歧视性偏见以及事实性错误等风险进行全面而自动化的评测。经过严格测试，平台输出的测评结论与优化建议极具参考价值，且对模型违规输出的判定准确率高达95%以上。