technology 9 分钟阅读

OpenAI 刚刚在 NVIDIA 的护城河上撕开了一道缺口

OpenAI 自研推理芯片 Jalapeño 在能效和延迟上击败 NVIDIA Blackwell。最大的 AI 公司开始自己造芯,一切都将改变。

  • 出口
  • GPU
  • 人工智能
  • Noam Shazeer
  • Broadcom
  • 超大规模企业
  • HBM
  • LPU

NVIDIA 最害怕的时刻降临了

OpenAI 公开演示了自研芯片性能超越自家最佳 GPU 的事实。这绝非一个微不足道的里程碑。这是 OpenAI 这种体量的公司首次将一款芯片从设计推到基准测试,并宣布其比行业主导的硅片更快、更高效。

这款芯片名为 Jalapeño,与 Broadcom 联合开发,于 8 月 25 日在 Hot Chips 大会上公布。其规格足以改变市场对 OpenAI 和 NVIDIA 的定价逻辑。

Jalapeño 并非训练芯片。它是一款面向推理的应用专用集成电路(ASIC)。这一区别至关重要,因为推理才是 OpenAI 大规模烧钱的地方。每一次对话回复、每一个智能体任务、每一次 API 调用都经过推理。训练是一次性成本,推理是持续账单。

OpenAI 使用 Semianalysis 的 InferenceX 基准(一个公开的推理测试套件)将 Jalapeño 与 NVIDIA 的 Blackwell 系统进行了对比。结果 stark 鲜明。

在能效方面——每瓦处理的 token 数——Jalapeño 的吞吐量达到 Blackwell 的 1.5 到 1.9 倍。响应延迟降低了 1.7 到 3.6 倍。在交互式工作负载中,速度直接影响用户体验,性能高出 2.1 到 4.1 倍。Jalapeño 还在每兆瓦 token 数这一指标上追平或超越了 NVIDIA 即将推出的 Vera Rubin 加速器,当你运营以数百兆瓦计的数据中心时,这个指标很关键。

这些数字来自 OpenAI 自身。它们尚未经过独立验证。这是最大的 caveat,值得重复:数据集是自报的。Semianalysis 确认它审查了 OpenAI 的数字,但这不等同于独立验证。尽管如此,即使允许内部基准测试存在乐观偏差,方向是清晰的。

这与以往的尝试有何不同

大型科技公司多年来一直在谈论摆脱 NVIDIA。Google 为自身工作负载构建了 TPU 芯片。Amazon 开发了 Trainium 和 Inferentia。Meta 试验了自己的硅片。没有哪一款芯片能在 OpenAI 如今运营的规模上明确击败 NVIDIA 的性能。

通常的故事是定制芯片更便宜但更慢——这是成本优化,而非性能博弈。公司接受较低速度以换取较低单价。NVIDIA 的护城河从来不只是原始性能。它在于生态系统。CUDA、软件栈、工具链、优化的内核库——所有这些创造了转换成本,除非性能损失在可接受范围内,否则几乎无法证明转型合理。

Jalapeño 颠覆了这一假设。如果定制芯片不仅更便宜,而且更快,方程就彻底改变了。转型变得不仅经济上有利,而且能提升性能。这是一个质的不同门槛。

这是第一次有一家运营全球最大 AI 服务之一的公司公开跨越了这个门槛。

谁赢谁输

OpenAI 赢得了最显而易见的东西:大规模推理成本降低。该公司计划从年底开始在自有数据中心部署 Jalapeño,到 2027 年逐步扩展。外部销售尚未提上日程——至少目前不是。这是基础设施,不是产品。目标是降低 ChatGPT 用户的回复成本并加速智能体工作负载。

NVIDIA 失去的东西更难量化,但 arguably 更重要:叙事控制权。多年来,NVIDIA 的故事很简单。AI 需求增长。你需要更多 GPU。从我们这里买。增长循环自我强化。OpenAI 的芯片在链条顶端打破了这个循环。如果最大的 AI 公司不再需要 NVIDIA 进行推理,信号会传向每一个密切关注的公司。

Google、Amazon、Meta、Anthropic——都在开发自己的硅片。大多数仍处于更便宜但更慢的阶段。Jalapeño 证明了在 OpenAI 规模上实现比 NVIDIA 更快的结果是可行的。这抬高了其他人的天花板。

Samsung 获得了最可见的收益。Semianalysis 报道称,Jalapeño 可能使用了 Samsung 的第六代高带宽内存 HBM4。在先进 HBM 的 NVIDIA 供应链中,Samsung 一直落后于 SK Hynix。如果 OpenAI 的芯片成为 Samsung HBM 的重要买家,这将是一个有意义的拐点——不仅对 Samsung,也对内存供应的权力平衡。

Broadcom 也受益,尽管不那么显眼。该公司现在定位为能够设计和交付与世界上最强大 GPU 竞争的定制 AI 硅片的合作伙伴。这一声誉将吸引更多潜在客户。

未来需要关注的数字

最重要的数字不是 1.9 倍能效或 3.6 倍延迟降低。那些很有趣。改变行业的数字是总拥有成本(TCO)对比。

Semianalysis 评估认为,Jalapeño 和 NVIDIA 的 Vera Rubin 在 TCO 上大致相当。这意味着 Jalapeño 尚未在整个生命周期中成为明显的成本赢家。但它确实是性能赢家。如果未来几代缩小或消除这一差距——随着 OpenAI 扩大生产,似乎预期如此——TCO 图景将急剧转变。

OpenAI 还表示不会对外销售 Jalapeño。这是一个战略选择,值得审视。销售芯片会将 OpenAI 变成市场上的 NVIDIA 竞争对手。保持专有则让 OpenAI 成为需求客户,而非供应竞争者。后者立场对行业威胁较小,可能保留与 NVIDIA 在训练工作负载和其他需求上的关系。同时简化了爬坡阶段的供应链。

但也意味着行业其他公司无法购买 Jalapeño。他们只能从中学习。这让 OpenAI 的经验成为每个考虑定制硅片的公司的实际蓝图。

接下来会发生什么

直接的后续是验证。Jalapeño 的独立基准测试将出现。如果它们确认 OpenAI 的数字,这款芯片就成为现实。如果它们被削弱,它仍只是一个有希望的原型。现在的怀疑空间很宽。

除此之外,关注三个发展。

第一,哪些其他公司在未来十二个月内宣布与自己芯片的性能持平或更优。Jalapeño 设立了新标杆。任何跨越它的人都加速了 NVIDIA 的替代时间表。任何未达标的都强化了现状。

第二,OpenAI 是否将 Jalapeño 扩展到训练工作负载。目前它仅用于推理。如果 OpenAI 构建了能与 NVIDIA H 系列或 Blackwell 级芯片竞争的定制训练版本,对 NVIDIA 收入的影响将是实质性的。NVIDIA 主导训练。OpenAI 尚未挑战这一点。Jalapeño 之后的下一次芯片公告可能彻底改变计算。

第三,Samsung 是否成为未来定制 AI 芯片的默认 HBM 供应商。如果 Jalapeño 验证了 Samsung 的 HBM4,其他构建定制硅片的公司——尤其是已与 Broadcom 或其他 ASIC 设计师合作的——可能会围绕 Samsung Consolidate。这将压缩 SK Hynix 的份额,在一个需要两家供应商保持竞争力的市场中。

更深层的信号

在公众想象中,OpenAI 一直被视为一家 NVIDIA 公司。它是最依赖 NVIDIA 硬件的公司。其增长与 NVIDIA 股价同步。两者一起上涨。Jalapeño 是它们分道扬镳的时刻。

这种分化并不意味着 OpenAI 要完全离开 NVIDIA。训练工作负载、完整的 CUDA 生态系统以及现有基础设施承诺仍让 NVIDIA 保持相关性。但依赖不再绝对,而认知驱动的估值与现实同样重要。

这款芯片名叫 Jalapeño。它小巧、炽热、出人意料。这似乎很贴切。