AI生成的内容真假难辨；中小微企业的合规成本居高不下；大模型的安全漏洞不容忽视……在生成式人工智能加速发展的今天，这些都是横亘在行业面前的现实问题。如何平衡好创新发展与安全治理的关系，已成为人工智能产业高质量发展需要回答的时代考题。
习近平总书记在向2025世界智能产业博览会致贺信时指出：“人工智能应该是造福全人类的国际公共产品。”
那么，随着人工智能越来越普惠地参与公共生活中，人工智能安全测试是否也能以公共产品的形式提供服务，从而更好地服务于人工智能的创新发展与安全治理？
近日，在市委网信办、市经信委的指导下，由上海市信息安全测评认证中心建设的全国首个生成式人工智能安全测试公共服务平台——“智测能手”，在国家网络安全宣传周上海地区活动开幕式上正式发布。“智测能手”便是这一思考的探索之举。
上海交通大学国际与公共事务学院副院长贾开教授指出，平台以公共服务的形式提供人工智能安全能力支撑，而“公共性”构成了理解平台创新的关键。他对比了英国的“AI Assurance”生态，即旨在打造人工智能安全认证、安全评估的“第三方市场”，试图通过商业形式来提供人工智能安全保障服务。上海此举则探索出了另一条思路：以公共服务的形式提供安全能力支撑。
这一“公共性”包含两层含义：第一，以负责任态度统筹安全与发展，让社会受益于“负责任人工智能”；第二，“安全需要可持续投入，而公共服务可能是实现可持续投入的有效途径”。
该图片疑似使用了AI生成技术，请谨慎甄别
平台首页。上海市信息安全测评认证中心 供图
大模型安全测评补齐企业安全短板
当前不少企业在模型备案环节面临周期长、成本高等挑战。平台大模型安全测评针对涉及生成违法违规内容、歧视偏见、事实性错误等风险开展自动化评测，评估报告可以作为企业大模型备案材料的主要技术要件，助力企业将安全评估的周期大幅缩短。
上海羚数智能科技有限公司联合创始人陈启明用“工业AI的合规加速器”来形容平台对企业的意义。他说：“过去，大模型备案过程中，仅自主安全测试就要花1个多月时间，其间投入了多名核心算法工程师进行多轮数据对齐与人工抽检。接入该平台后，安全评估的周期大幅缩短，且通过标准化的测试流程，第三方评测和合规整改的综合成本降低了至少40%，让我们能把核心人力重新聚焦在工业智能体的业务落地上。”平台把原本漫长的备案长跑，变成了标准化、可预期的短跑，让企业能以更低的门槛，将精力集中在解决制造业的真实痛点上。
标识验证堵住传播链路中的漏洞
在AIGC治理链条中，标识管理是基础的同时也是容易被忽视的一环。平台AIGC标识验证模块严格依据《人工智能生成合成内容标识办法》及GB45438—2025相关标准，对文本、图像、音频、视频等多模态内容开展显式、隐式两类标识合规核查。
MiniMax(稀宇科技)执行总编辑周晓榕说：“规范出具的标识检测材料，可以成为有价值的技术凭证。它能够把各方对标识要求的理解落实到同一份可核验的结果上，减少仅凭口头说明进行确认的情况。对稀宇科技而言，这与我们已经开展的跨平台测试和标识互认验证具有直接衔接价值。”
AIGC内容检测让深度伪造无所遁形
平台AIGC内容检测模块严格遵循《互联网信息服务深度合成管理规定》要求，融合多类算法模型，实现对文本、语音、图像、视频等多模态AI生成合成内容的检测。
功能背后，周晓榕提出了来自业务一线的评价口径：“我们会重点看两类问题：一类是漏检，也就是应识别的生成合成内容没有被发现；另一类是误报，也就是非合成内容被错误判断为生成合成内容。”她补充道：“就企业选用检测服务而言，我们希望平台能够用业务样本持续验证检测效果。这样的评价方式，才能支撑其长期应用，也有助于减少对正常创作的误伤。”
智能代码审计与普惠化服务
智能代码审计功能结合安全大模型构建多Agent协同代码审计架构，输出含触发路径、可控性分析及PoC的结构化漏洞报告，帮助企业在研发阶段筑牢代码安全防线。
贾开教授认为，四大板块完全契合当前人工智能技术研发及其应用的行业痛点。“模型安全测评、AIGC标识验证、AIGC内容检测等都是当前人工智能模型备案的基本要求，因此平台所提供的这三项功能恰为人工智能企业提供了‘当务之急’。同时，智能代码审计属于增值服务，其同样是当前行业痛点，尤其是在模型直接生成代码的能力越强的背景下，代码越容易出现漏洞，而这也意味着平台所提供的审计服务正是契合当前人工智能的应用前沿。”
一个连接创新与安全的桥梁
在标准规范建设方面，平台推动建立统一的生成式人工智能安全测评标准体系；在产业生态优化方面，平台的普惠化服务模式有效改善产业生态结构，形成大中小企业协同发展的良好态势；在监管治理完善方面，平台建立的统一测评标准和自动化检测能力，大大提高了监管部门的治理效率和精准度。
普惠性是贯穿平台始终的底色。贾开教授说道：“平台以公共服务的形式为中小微企业提供安全能力、安全资源、安全知识，恰恰能够缓解资源有限条件下的‘安全-普惠’张力，使得中小微企业也能够在不担心安全风险的情况下放心发展。”
他同时认为，平台在上海的发布将有利于其他地方打开“统筹人工智能安全与发展”领域的制度创新思路：“其核心目标是实现安全与普惠的统一，并为全国人工智能安全治理格局提供示范与可复制的推广模式。”
贾开教授进一步指出，这一模式在全球范围内同样具有独特价值：“创设‘人工智能安全测试公共服务平台’构成了既不同于欧盟事前规范、又不同于美国自由放任的‘第三条路径’。”在他看来，人工智能革命不同于以往任何技术革命，“安全要求并不能仅仅被理解为对于人工智能的‘紧箍咒’，其反而是促进技术发展、释放技术潜力的‘催化剂’。”
以公共服务赋能产业创新，以高水平安全护航技术向善——当平台成为可交互、可演进、可持续的公共基础设施时，它便不再只是一个技术工具，而是一座连接创新与安全的桥梁。正如习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上的主旨讲话中所说的：“确保人工智能安全、可靠、可控，让人工智能这匹千里马既跑得快又跑得稳。”
