AI智能体所需的CPU回归，而非GPU

每个人都不曾料到的假设

如果你去年去问一位西方的科技记者，哪款芯片将定义人工智能时代，答案会立即浮现：GPU。NVIDIA 数据中心市场的统治地位、不断飙升的估值、关于 Hopper 和 Blackwell 的铺天盖地的报道——这个故事再清楚不过：GPU 是 AI 的引擎，而 CPU 只是被边缘化的遗留硬件。

然而这个故事现在可能错了。不是因为 GPU 正在失去相关性，而是因为 AI 被要求完成的事情发生了变化。我们正从回答问题的模型走向采取行动的系统。而这一转变突然让不起眼的 CPU 再度变得不可或缺。

变化的是什么：从聊天机器人到智能体

这个区分的重要性远超其术语所暗示的。生成式 AI 聊天机器人接收提示词并返回文本，其计算几乎完全发生在模型内部——矩阵乘法、注意力机制、令牌生成。那是 GPU 的领域，而 GPU 在这一领域表现出色。

AI 智能体则是另一回事。它会规划，会从外部系统检索信息，会调用 API，会编写和执行代码，会在多个服务之间管理状态，会决定何时停止并将结果交给人类或其他系统。

每个步骤都涉及顺序逻辑、分支判断、不规则内存访问以及不同组件之间的协调。这些是 CPU 的工作负载。不是因为这些任务微不足道，而是因为它们抵抗那种使 GPU 高效运转的大规模并行处理。

Arm 在其发布于 2026 年 9 月 2 日、Hot Chips 2026 大会前夕的博客文章中阐述了这一观点。论点简明扼要：随着 AI 智能体的普及，围绕每次推理事件的非 GPU 处理量将显著增长。CPU 不再仅仅是系统的入口，它是循环系统。

数据背后的转折

最具体的信号来自 NVIDIA 自身——这是一家没有理由淡化 GPU 重要性的公司。2026 年 3 月，NVIDIA 宣布推出 Vera，对外描述为第一款专为 AI 智能体时代打造的 CPU。

Vera 搭载了 88 个由 NVIDIA 设计的定制核心，名为 Olympus。其内存子系统可提供高达每秒 1.2 TB 的带宽。这些规格并非是为一款仅负责启动系统并将工作传递给 GPU 的 CPU 而设计的。它们是为一个预期承担大量自身计算负载的处理器而准备的。

NVIDIA 自己的文档列出了 Vera 所需处理的工作：运行 Python 环境、在隔离沙盒中执行代码、编排多步工作流、执行数据分析，以及在不出现空闲周期的情况下为 GPU 持续喂入任务。最后一点至关重要——一台坐在原地等待 CPU 的 GPU，就是一座昂贵的闲置 GPU。

Vera 同时被定位为与 NVIDIA 下一代 Rubin GPU 组成的组合平台的一部分，统称为 Vera Rubin。这一配对表明，NVIDIA 认为未来属于异构架构，而非单体架构。

谁受益，谁受损

Arm 显然是赢家。其整个商业模式——向数十家芯片设计公司授权 CPU 架构——获得了一个全新的叙事。多年来，Arm 不得不为自己辩护，以免被误认为移动 ARM 核心与数据中心无关。GPU 优先的 AI 叙事强化了这种偏见。而智能体优先的叙事则将其翻转：正是那些让智能体有用的功能需要更多的 CPU 周期，而非更少，而这些周期可以在 ARM 架构上运行。

NVIDIA 也受益，但条件是明确的。Vera 是 NVIDIA 确保方程中的 CPU 一侧不被竞争对手夺走的举措。如果有人构建了智能体编排层，那么 NVIDIA 仅在 GPU 上的优势可能不足以锁定全栈价值。Vera 既是防守，也是战略。

Intel 面临压力。其 Xeon 产品线从未被定位为 GPU 驱动 AI 推理的伴侣。除非 Alder Lake-SP 和 Granite Rapids 在智能体技术栈中找到可信的角色，否则 CPU 复兴的叙事可能会扩大数据中心买家期望与 Intel 当前供给之间的差距。

AMD 处于一个有趣的中间地带。其 Ryzen AI 和 EPYC 平台已经以能够自然契合智能体工作负载模型的方式融合了 CPU 和 GPU 计算。AMD 是否会把握这一时机，还有待观察。

这对数据中心意味着什么

实际影响是，数据中心的架构决策即将变得更加复杂。旧的策略很简单：堆叠 GPU，用 NVLink 连接它们，在每个节点上放一颗普通的 CPU 用于管理。这套策略假设 GPU 几乎承担了所有有意义的工作。

有了 AI 智能体，每个节点中 CPU 与 GPU 的比例将变得更加重要。工程师需要考虑 CPU 的内存带宽，而不只是 GPU 的内存带宽。他们需要考虑代码执行延迟、沙盒隔离开销和编排吞吐量——这些指标与浮点运算性能毫无关系。

这并非理论上的担忧。NVIDIA 对 Vera 内置 Python 执行和隔离环境的强调，直接指向一个部署现实：AI 智能体将运行不受信任或半信任的代码，而这些代码必须在某个地方快速且安全地执行。CPU 就是那个地方。

更广泛的启示：一场新的硬件竞赛

西方科技媒体在很大程度上忽视了这一转变，因为它并不符合现有的叙事框架。GPU 霸权是一个干净利落的故事。CPU 与之平起平坐则更为复杂，并且涉及 Arm 等玩家——其数据中心野心在英语媒体中一直报道不足。

日本科技媒体，特别是 ITmedia 和 Atmark IT，比大多数西方同行更深入地报道了这一角度。他们的表述——问题不再是 GPU 还是 CPU，而是二者如何分工——反映了对行业走向更为成熟的认知。

关键洞见在于此：AI 的瓶颈正在转移。这种转移迟早会发生。随着模型能力不断增强，相对于系统级响应速度的边际价值，原始推理速度的边际价值正在下降。一个推理迅速但执行效率低下的智能体，不如一个推理稍慢但能完整完成任务的智能体。

接下来会发生什么

我们预计 GPU 厂商会推出更多 CPU 产品。如果 NVIDIA 推出了 Vera，AMD 和甚至苹果定制芯片团队都有理由深化其针对智能体工作负载的 CPU 设计。我们可能会看到为智能体编排量身定制的专用指令集出现——类似于张量核心为矩阵乘法而生。

我们预计 ARM 将加速进入数据中心。该公司现有的服务器核心路线图可能会加快，而智能体叙事将进一步强化其每瓦性能优势。

我们预计将重新评估数据中心的容量规划。GPU 采购周期需要搭配以前无需考虑的 CPU 配置决策。将 CPU 视为次要因素的采购团队将在延迟和 GPU 空转中付出代价。

assumption 由 GPU 单独承载 AI 的时代已经结束。CPU 并没有取代 GPU。它正在迎头赶上。

十年来的第一次，AI 数据中心中最重要的一款芯片可能并非大家一直在关注的那一款。