
过去一年,AI从大模型加速走向Agent。
变化首先发生在计算负载上。过去大模型训练和推理,核心负载相对集中在NPU/GPU。但Agent运行时间从一次问答变成数小时、数天甚至数周之后,计算链条开始迅速变长。
CPU要承担向量检索、上下文补齐、沙箱拉起;NPU负责模型推理。多Agent并发时,甚至需要秒级拉起十万级沙箱。于是原来固定配置在NPU服务器里的CPU开始不够用,需要外挂CPU超节点,并根据Agent负载重新调整CPU/NPU比例。
另一场变化发生在内存里。模型参数正在从万亿走向十万亿,上下文从几K拉长到几M,KV Cache随之膨胀,HBM和DDR也装不下了,还要继续向SSD延伸。过去围绕AI芯片搭建的一套计算系统,突然要同时处理CPU、NPU、内存、存储和高频数据搬运。

华为常务董事、ICT BG CEO杨超斌发表主题演讲
9月17日,在上海的华为全联接大会上,华为一口气更新了几乎整套AI基础设施:发布采用NPO光互联技术的昇腾960超节点,升级鲲鹏超节点,推出OceanStor M900 AI记忆存储,并以灵衢把这些原本分属计算、通算和存储的系统重新连接起来,组成一套面向Agentic AI的超节点集群。按照华为的规划,这套架构最终可以扩展至百万卡规模。
有意思的是,业界几乎同时发生了相同的变化。头部玩家把数据中心的定义,从“一代GPU”变成了面向Agentic AI的系统平台,提出要把数据中心重新定义成一个计算单元。过去藏在芯片之后的计算架构,正在被Agent重新推到台前。
关关难过关关过
“公无渡河,公竟渡河。”《箜篌引》里的这句话,放在今天的中国AI算力产业里,也非常贴切。
前面是水,后面也是水。先进制程受限时,最直接的选择当然是等待工艺追赶。单芯片不够强时,最保险的选择也是沿着已有的GPU路线慢慢补课。但华为过去几年做的,偏偏不是停在河边,没有路,就自己闯出一条路来。
如果把时间拨回几年前,华为面对的AI算力问题,其实比今天更残酷。
彼时,AI算力和单颗芯片的性能似乎牢牢绑定,如何破局成了摆在国产芯片产业面前的共同问题。先进制程受限之后,沿着传统路径去比单颗GPU,就意味着要在别人最擅长、自己又受制约的规则里竞争。华为的思路是,用一颗芯片解决不了的问题,就让更多芯片一起解决。
华为需要把芯片连起来,这恰好撞到了它过去几十年最熟悉的领域——通信和联接。
灵衢最早的价值,就在这里显现出来。它通过更高带宽、更低时延的互联,从超节点向更大的集群扩展。到2026年,昇腾910C超节点累计部署超过1000套,昇腾950已经规模商用。行业也把超节点明确定义成一种跨物理节点统一内存编址、逻辑上具有“一台计算机”特征的计算系统。也就是,只要互联足够强,多颗芯片组成的系统,也可以支撑计算。
这就是去年“超节点+集群”最核心的一步。但问题并没有因此结束,因为AI本身变了。
进入2026年,模型参数继续向10T甚至是更大的规模推进,注重长程任务处理的Agent,对超节点的性能提出了新的要求。
毕竟,在Agent完成长程任务的过程里,CPU要负责向量检索、上下文补齐和沙箱,NPU负责模型推理;Prefill、Decode、Attention、FFN对硬件的要求也越来越不同;上下文增长以后,HBM、DDR乃至SSD都开始进入计算关键路径。未来Attention与FFN还可能进一步由不同专用芯片完成。过去,服务器是一套固定好的配方,CPU、NPU、内存多少,在出厂时已经基本决定,现在,Agent却需要根据任务的不同配合不同的配方。据华为测算,在十万级沙箱场景中,鲲鹏超节点相比传统服务器,启动速度能够提升30倍;在复杂向量检索中,性能可以实现倍增。
在国产芯片的攀登之路上,难题总是一道接一道的出现。
灵衢给出的答案,就是不把CPU和NPU焊死,而是顺应变化。需要CPU,就扩鲲鹏超节点;需要AI算力,就扩昇腾;未来Attention、FFN需要不同类型硬件,也继续挂入新的计算单元。
这是一个颇为重要的架构调整思路,扩算力,除了往机器里加同一种芯片之外,是否能按照任务重新组织不同种类的资源。这一构想大胆又颠覆,华为过去积累的通信能力,再一次成了它寻找新路时最自然的支点。
正如杨超斌所说,华为不是要重新发明灵衢,而是把过去已经搭好的架构进一步向Agentic AI展开。从今年的鲲鹏超节点、昇腾960、OceanStor M900,到CPU、NPU、KV Cache统一进入灵衢体系,华为已经把Agent未来可能遇到的几堵墙,包括算力异构、内存不足、存储延迟、跨节点通信,都提前放进了同一套架构里。鲲鹏超节点甚至已经针对十万级Agent沙箱启动和大规模向量检索做专门优化。这也是灵衢今年强调“多样算力、异构协同”的意义。
而正是这样无数个类似的关键技术自研突围,才能让原来人有我无的劣势消失,AI算力的限制逐步瓦解。通过技术创新,华为走出了一条人无我有的路。
前路漫漫亦灿灿
创新是被逼出来的,而把原本属于不同系统、说着不同“语言”、运行在不同物理距离里的资源,真的变成一个高效率整体,需要的是一套创新的架构。
华为第一道要渡过去的河,是协议。
传统服务器的世界,本来就由许多“语言”组成。CPU访问本机内存是一套方式,NPU通信是一套方式,服务器之间走RoCE又是另一套方式。跨出一台机器以后,数据经PCIe出去,被封装、发送,再在另一端拆包处理。华为给出的数据是,一次跨服务器访问可能需要5次数据拷贝和协议转换。
小集群里,几微秒的损耗并不起眼。一旦进入十万卡、Agent高频交互时,每一次转换都记费。所以灵衢今年首先做了一件看起来最基础、但也最难的事情,就是把语言统一。
华为将CPU、NPU、内存、存储、网卡等核心组件原本十余种互联协议归一到灵衢体系,互联带宽从百GB级走向TB级,RTT时延由7微秒降低到2微秒。更关键的是,通过统一内存语义,让跨节点访问尽可能接近机器内部的load/store。这是华为试图解决计算资源高效利用的第一个关键点。


第二道河,是内存。
这一关尤其像过去几年中国AI算力遇到的问题,最稀缺的资源,往往也是最昂贵、最难单点突破的资源。
HBM(High Bandwidth Memory),即高带宽内存。它通过堆叠多个DRAM实现更高的内存带宽和更低的计算功耗,是高性能计算与图形处理等计算任务的必备技术。但如今,随着模型从1T走向10T以后,光靠把HBM越堆越大已经追不上模型的需求。
华为测算,1T模型训练时,每卡大约需要160GB HBM存储激活值;10T模型需要约650GB,已经超过单卡HBM的现实容量。行业通常选择丢弃部分激活值,在反向传播时重新计算,本质上是拿昂贵算力换内存容量。
华为选择把DDR拉进来。
DDR(Double Data Rate SDRAM),即双倍数据速率同步动态随机存取存储器。与HBM相比,DDR带宽较低,但容量更大、成本更低,且扩展更灵活,所以逐渐从服务器和数据中心的主内存,成为AI计算的第二级高速存储资源,与HBM形成分层内存体系。
华为的思路是,通过灵衢,DDR被做成NPU的“第二内存”,NPU可以绕过CPU中转直接读取,把HBM与DDR组成异构资源池。在华为的仿真中,这能够在不增加单卡HBM容量的情况下,提高训练MFU。
到了Agent推理,河面还要再宽一层。
Agent不断调用模型,KV Cache会从GB、TB走向PB级。存储问题进一步加剧。过去的存储在计算完成以后保存结果;今天的Agent却要求存储在计算过程中不断读取,存储将直接影响推理效率。所以华为今年推出OceanStor M900,通过灵衢接入PB级KV缓存体系,支持“一跳直连”,把存储进一步纳入AI计算架构。
最后一道河,华为甚至在挑战物理规律。
一般情况下,铜缆传得越远,损耗越大。总线之所以长期只能停留在主板、服务器或者机柜附近,并不是大家没有想过把它做长,而是物理世界的客观规律不允许。但一个4096卡超节点,已经需要跨越几十个机柜。
于是华为又把过去积累的光通信能力搬进计算系统。Hi-ONE采用NPO形态,把光靠近芯片。昇腾960超节点使用5500个Hi-ONE,替代传统方案下需要的约4.8万个800G光模块。按照华为公布的数据,整套系统由此降低超过550千瓦功耗,无故障运行时间提升一倍。
另一边,灵衢总线的高速传输距离被进一步拉长,从大约1米尺度走向300米跨柜互联。
这也是杨超斌提到的:协议归一,内存语义;多样算力,异构协同;分级存储,全局池化;光电互联,灵活组网 。
华为的选择一直是“公无渡河,公竟渡河”。而在前进的路上,有时候恰恰是因为没有桥,才必须自己造一座。
华为改写AI算力的游戏规则
过去几年,华为把一条原本属于自己的算力路线,慢慢变成越来越多企业开始认真考虑的一种产业选择。到了今年,这个问题又往前走了一步。
当Agent开始进入工厂、医院、金融、电力和政企场景以后,企业要考虑的不再是要不要采购国产AI芯片,而是如何把采购的芯片用起来?
互联网大厂可以自己训练模型,改通信库,建设液冷机房,维护万卡集群,再配一支数百人的Infra团队。但一家制造企业、一家医院、一家区域金融机构,很难先学会造一套AI基础设施,再开始使用Agent。
Agent进入产业并不简单。对企业来说,一方面,CPU、NPU、内存、存储要一起调度,另一方面,企业数据又自有更高的安全需求,要求本地部署。如果这些复杂度最终全部留给客户解决,那么再好的架构,也很难真正走出少数互联网大厂的数据中心。
灵衢希望用更简单的方式把架构创新的结果交付给客户。
华为推出从1卡到8卡的系列化一体机,Atlas 650E可以通过双机灵衢直连,让16颗NPU免交换互联,两台物理服务器在逻辑上像一台机器运行;16卡以上还可以继续平滑扩容,形成小型超节点。按照华为披露的数据,EP16并行下推理吞吐可以提升40%以上,并支持中小企业在本地运行万亿参数模型。
想要成为产业底座,就需要让合作伙伴也能基于它做开发。昇腾与DeepSeek Harness、OpenCode、openJiuwen等开源框架协同,伙伴可以按需组合,再去接自己的工具、业务系统和行业Agent。
CANN的变化更有代表性。去年8月5日,华为宣布CANN全面开源开放,目前CANN社区已跃升为中国开源项目活跃度第一。目前CANN已经进入常态化开源社区运营,月活开发者超过5200人;基于昇腾+CANN原生训练的模型已经超过40个,昇腾同时覆盖PyTorch、Triton、vLLM、veRL等90多个主流第三方社区,并成为PyTorch官网可直接安装的首个中国算力平台。另一边,50多家行业客户、伙伴和高校已经与昇腾共同建设26个行业专属算子库。
越来越多华为的生态伙伴,可以选择不同模组,制造自己的服务器和一体机,开发自己的行业算子,再把自己的Agent和业务系统接进来。
放眼望去,全球AI算力需求依旧在极速增长,随着Agent进入千行百业,企业需要把复杂的算力系统变成更简易上手的生产工具,而灵衢下一步要闯的关,是如何从华为的灵衢,走向全产业的灵衢。







