英伟达首席执行官黄仁勋。图片经由AI生成
文丨晓静
编辑丨 苏扬
面对越发失控的AI智能体，英伟达试图将一套全新的安全控制逻辑，直接下沉并落实到AI运行所依赖的软件、计算及硬件基础设施中。
北京时间9月28日，英伟达正式推出免费的“英伟达开放智能体安全平台”（NVIDIA Open Agent Safety Platform）。
英伟达此次给智能体加装“安全护栏”，建立在智能体“越狱”越来越频繁的背景下。
过去几个月，包括OpenAI、Anthropic、Meta和谷歌在内的多家公司相继披露了模型与智能体逃脱沙箱限制、入侵外部系统的事件。
这些安全事件引发了全行业关于“AI究竟该加速还是降速”的激烈争论。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）公开呼吁放缓技术推进速度，这一观点也得到了山姆·奥特曼（Sam Altman）和埃隆·马斯克（Elon Musk）的支持。
但英伟达首席执行官黄仁勋却给出了截然不同的答案。在他看来，AI安全绝不意味着必须牺牲发展速度，安全风险本身完全可以通过计算机科学和全栈工程手段来解决。
“只有解决了AI安全问题，AI给社会带来的巨大潜能才能得以实现。”黄仁勋在新闻公告中表示，“随着我们不断探索AI能力的前沿，我们也必须加快对AI安全前沿的探索。安全与保障需要全栈工程。”
01 打造全栈护栏
英伟达认为，近期发生的一系列事件暴露出传统AI安全机制的局限：仅依靠模型层面的安全护栏、提示词限制以及应用层控制，已不足以约束自主性越来越强的智能体。
“近期的事件凸显了AI智能体面临的一个根本性障碍，那就是单靠模型层面的安全护栏无法有效治理智能体可以访问或执行的内容。”英伟达企业级AI副总裁贾斯汀·波伊塔诺（Justin Boitano）表示。
根本原因在于，智能体不再只是回答问题的聊天框，而是能够调用系统工具、读写文件、连接API，并持续执行复杂任务的自主实体。对于长时间运行的智能体而言，一旦绕过应用层限制，仅靠模型层面的约束很难形成足够强的控制边界。
为此，“英伟达开放智能体安全平台”不再只依赖模型和应用层面的“软拦截”，而是将控制点进一步下沉至基础设施层，构建覆盖软件运行时、硬件与计算层以及机器人系统的全栈治理架构。
OpenShell Gateway 安全架构原理图
该架构的核心由“软硬结合”的两大支柱构成：
·NVIDIA OpenShell（软件层隔离）：这是一套开源的安全运行环境，专门在CPU侧为智能体划定活动范围。它可以在模型本身的限制之外，实时跟踪 智能体的行为并强制执行安全策略。目前它已经进入通用阶段（GR），除了支持英伟达自身的Vera CPU，也兼容Arm和英特尔等第三方计算平台。
·NVIDIA Sentry（硬件层监控）：这是安装在BlueField-4 DPU芯片上的独立监控机制。它处于一个不受主系统干扰的隔离环境里，直接在硬件层面盯着智能体的一举一动。一旦发现智能体试图越权，它可以在毫秒级时间内将其隔离并关停。
英伟达强调，一旦智能体试图突破既定的软件边界，Sentry可以在毫秒级时间内将其隔离并停止运行。Sentry基于英伟达DOCA软件构建，可检查智能体的请求与响应、验证身份、提供可信遥测，并对数据、工具、API和服务实施细粒度的零信任访问策略。
这意味着，英伟达的安全体系不再局限于在模型输出端做“末端拦截”，而是将控制关口进一步前移至运行环境与硬件基础设施。
波伊塔诺认为，传统沙箱主要解决应用层隔离问题，但当企业开始大规模运行智能体舰队时，就需要一套能够覆盖所有智能体的统一安全策略。
02 OpenAI却意外缺席
随着智能体开始进入办公、开发、机器人及关键基础设施等场景，英伟达正加速推动这套安全架构落地。目前，采用相关技术开展合作的机构已经超过100 家。
在大模型与开发层面，Anthropic正将Claude Managed Agents与OpenShell及BlueField集成，在模型之外增加软硬件双重控制；SpaceXAI将 Cursor编程智能体与Grok模型接入该平台；Scale AI则将其融入自己的智能体基础设施层。
在企业应用领域，Salesforce将OpenShell集成至Slack，便于团队审计与权限审批；SAP则将其嵌入Joule Studio运行时，并参与推动开放安全AI联盟标准。
这种合作还延伸到了物理世界。Figure、Gecko Robotics和Skild AI等机器人初创公司正利用OpenShell开发系统，将安全控制延伸至自主机器人的实际动作中。
此外，花旗银行、摩根大通等金融巨头也参与了共同开发；Canonical、SUSE 和红帽等操作系统厂商正将其集成至企业级解决方案。合作方还广泛涵盖微软、思科、戴尔、联想、甲骨文云等科技巨头。
不过，在这份庞大的合作名单中，OpenAI的缺席格外引人关注。作为此前引发行业安全讨论的核心主角之一，OpenAI曾参与过OpenShell的前期工作，但并未出现在本次平台发布的核心合作伙伴名单中。
对此，英伟达与OpenAI均未给出解释。尽管目前尚无法判断双方合作关系是否发生改变，这一细节依然为当下的智能体安全格局增添了耐人寻味的信号。
03 英伟达的安全逻辑
把“英伟达开放智能体安全平台”看作软件与硬件工具的简单组合，低估了英伟达的真正意图。
今年7月，英伟达联合120多家机构发起了由Linux基金会托管的“开放安全AI联盟”（Open Secure AI Alliance）。该联盟通过共享安全研究、工具与最佳实践，旨在推动全行业统一的安全评估标准。本次发布的平台，正是这一开放安全生态落地的核心一步。
从GPU、DPU等算力硬件，到CUDA、DOCA等软件生态，再到如今的智能体运行时与安全基础设施，英伟达正持续扩大其在AI全栈中的统治力。它甚至将手伸进了此前由模型公司、安全厂商主导的智能体治理领域。
对英伟达而言，AI安全并不是踩刹车，而是为自主执行任务的智能体打造可控的运行轨道。
黄仁勋给出的解法，是将控制权从上层的模型训练和提示词，彻底向下下沉至运行时、计算基础设施以及芯片本身。当智能体承担的职责日趋复杂，安全不再只是一个软件功能，而将成为整个计算机基础设施不可分割的一部分。
目前，包括OpenShell在内的“英伟达开放智能体安全平台”相关组件已正式上线，开发者可通过英伟达官方资源页面及GitHub获取。
特约编译无忌对本文亦有贡献
