全国首创！上海推出生成式AI安全测试平台“智测能手”

据“网信上海”最新报道，在上海市委网信办与市经信委的联合指导下，上海市信息安全测评认证中心成功打造并推出了全国范围内首个专注于生成式人工智能安全测试的公共服务平台——“智测能手”。该平台于9月14日在国家网络安全宣传周上海地区的盛大开幕式上惊艳亮相，正式宣告其投入使用。作为公共服务领域的一次创新尝试，“智测能手”平台以独特的视角和全面的功能，为国内人工智能治理领域贡献了宝贵的上海智慧与方案。

该平台特别设立了大模型安全测评模块，这一模块具备高度自动化的评测能力，能够精准识别并评估生成式人工智能在运行过程中可能产生的违法违规内容、潜在的歧视偏见以及事实性错误等风险。通过先进的算法和技术手段，平台能够迅速输出详尽的测评结论，并针对发现的问题提出切实可行的优化建议。值得一提的是，该平台在判定模型违规输出方面的准确率高达95%以上，为确保人工智能技术的健康、安全发展提供了有力保障。