上海市信息安全测评认证中心在市委网信办和市经信委的指导下,建设了全国首个生成式人工智能安全测试公共服务平台“智测能手”。该平台于2023年9月14日在国家网络安全宣传周上海地区活动开幕式上发布。平台定位为公共服务产品,为国内人工智能治理实践提供上海方案。平台的大模型安全测评模块可针对生成违法违规内容、歧视偏见、事实性错误等风险进行自动化评测,输出测评结论与优化建议。其对于模型违规输出的判定准确率不低于95%。