全国首个生成式AI安全测试平台“智测能手”在上海发布

据“网信上海”发布的最新消息，在上海市委网信办以及市经信委的共同指导下，由上海市信息安全测评认证中心精心打造的全国首个生成式人工智能安全测试公共服务平台——“智测能手”，于9月14日国家网络安全宣传周上海地区活动的开幕式上盛大亮相并正式发布。这一平台的诞生，以公共服务产品的创新理念，为国内人工智能治理领域贡献了极具价值的上海智慧与方案。该平台的亮点之一在于其大模型安全测评模块，此模块能够针对生成违法违规内容、潜在的歧视偏见以及事实性错误等风险，展开全面且自动化的评测工作。评测结束后，会精准输出测评结论，并给出切实可行的优化建议。值得一提的是，该模块对模型违规输出的判定准确率高达95%以上，为人工智能的安全应用提供了有力保障。