全国首个生成式AI安全测试平台“智测能手”在上海发布

据“网信上海”最新报道，在上海市委网信办以及市经信委的悉心指导下，上海市信息安全测评认证中心成功打造并推出了全国首个专注于生成式人工智能安全测试的公共服务平台——“智测能手”。这一具有里程碑意义的平台于9月14日国家网络安全宣传周上海地区活动的盛大开幕式上正式亮相。该平台以公共服务产品的创新视角，为国内人工智能治理领域贡献了独具特色的上海智慧与方案。其中，平台的大模型安全测评模块尤为引人注目，它能够针对生成违法违规内容、存在歧视偏见以及事实性错误等潜在风险，展开全面而自动化的评测工作。评测结束后，平台会精准输出测评结论，并给出切实可行的优化建议，确保对模型违规输出的判定准确率高达95%以上。