全国首发生成式AI安全测试平台“智测能手”亮相上海

据“网信上海”最新消息，在上海市委网信办以及市经信委的共同指导下，上海市信息安全测评认证中心成功打造并推出了全国首个专注于生成式人工智能安全测试的公共服务平台——“智测能手”。这一创新平台于9月14日国家网络安全宣传周上海地区活动的开幕式上正式亮相，标志着我国在人工智能安全治理领域迈出了重要一步。

“智测能手”平台以提供公共服务产品为核心理念，为国内人工智能的健康发展与有效治理贡献了上海智慧与方案。该平台特别设立了大模型安全测评模块，该模块具备强大的自动化评测能力，能够精准识别并评估生成式人工智能在输出过程中可能涉及的违法违规内容、歧视偏见以及事实性错误等风险。

经过严格测试与验证，“智测能手”平台对模型违规输出的判定准确率高达95%以上，不仅能够输出详尽的测评结论，还能针对发现的问题提供切实可行的优化建议，为人工智能模型的持续改进与安全应用提供了有力保障。