上海首发全国首个生成式AI安全测试平台“智测能手”

据“网信上海”最新报道，在上海市委网信办与市经信委的联合指导下，上海市信息安全测评认证中心成功打造并推出了全国范围内首个专注于生成式人工智能安全测试的公共服务平台——“智测能手”。该平台于9月14日国家网络安全宣传周上海地区活动的盛大开幕式上正式亮相，标志着我国在人工智能安全治理领域迈出了重要一步。作为一项创新的公共服务产品，“智测能手”平台为国内人工智能行业的健康发展提供了具有上海特色的治理方案。其核心的大模型安全测评模块，能够针对生成违法违规内容、潜在的歧视偏见以及事实性错误等风险进行全面而自动化的评测，不仅输出详尽的测评结论，还提供针对性的优化建议，确保对模型违规输出的判定准确率高达95%以上。