technology 12 分钟阅读

英伟达向内存短缺低头,AI服务器涨价15%

英伟达将AI服务器价格上调至少15%,反映出三星、SK海力士和美光等存储芯片厂商日益增长的话语权。这一转变意味着全球AI训练和推理成本将大幅攀升。

  • 红色科技
  • GPU
  • AI芯片
  • 内存短缺
  • HBM

AI硬件领域的真正权力转移刚刚发生

英伟达宣布将AI服务器价格上调至少15%,该价格调整将从明年开始的交货起生效。表面上看,这似乎只是供应链成本的常规传导。但事实并非如此。这家多年来主导AI半导体定价的公司,首次在定价权上让出了位置——如今掌握定价权的是内存厂商。

彭博社8月22日报道了此次价格上涨消息,援引了为微软、谷歌和甲骨文等数据中心运营商供货的制造商。无论是现款的Grace Blackwell平台,还是下一代Vera Rubin平台均受影响。原因很直接:由于所有超大规模云厂商都在竞相建设AI数据中心,高带宽内存(HBM)和服务器DRAM的价格大幅飙升,而内存产能增速跟不上需求。

这一刻,AI硬件的叙事终于追上了物理现实。三年来,主导的故事一直是每张美元的GPU性能、基准测试的军备竞赛,以及英伟达围绕CUDA不断拓宽的护城河。而潜台词——对脆弱内存供应链的依赖——如今已变成明面上的显性矛盾。瓶颈已经向下移动,定价权也随之转移。

为何现在是内存掌握话语权

AI加速器只有在能够高速吞吐海量数据时才能交付性能。这就需要在GPU封装上直接集成大容量的HBM。如果HBM不足,你就无法交付可用的服务器。三星、SK海力士和美光各自生产全球大部分的HBM。凭借这一地位,它们获得了GPU侧此前从未拥有过的议价能力。

建造HBM晶圆厂并安装设备需要数年之久。即便三家内存企业都在加速产能扩张,供给追上需求也要等到下一个周期中后期。正是这段缺口迫使英伟达出手调价。苹果和高通此前已利用同样的内存短缺逻辑上调了自己的产品价格。现在英伟达也加入了这条涨价链条。

局势一目了然。HBM3e是当前顶级AI加速器所需的代际,其对先进封装产能的需求高度集中于韩国和日本。TSV(硅通孔)键合工艺负责堆叠HBM各层,该技术对良率极为敏感,且扩产速度缓慢。每一代HBM都在成倍增加复杂度。内存巨头们正在投入数百亿美元,但投资回报曲线是以多年为单位衡量的,而非季度。英伟达的设计周期很快,而内存的建厂周期却如冰川般缓慢。这种不对称性正是权力转移的根源。

单数据中心500亿美元的疑问

DeInformation估算,此次涨价可能让单座吉瓦级AI数据中心的建设成本增加至少500亿美元。这并非抽象数字。微软、亚马逊和谷歌当前规划的正是这种规模的吉瓦级园区。硬件成本上涨15%,意味着数十亿美元资本支出要么被内部消化,要么向产业链下游传导。

云服务商很可能会通过提高GPU租赁费率来收回大部分增加的成本。这意味着所有AI初创公司、研究机构以及通过公有云运行推理的企业都将看到账单上升。训练成本会率先上涨,也最为明显,因为内存密集型的模型每次浮点运算消耗的内存最多。随着模型变大、Token吞吐量需求攀升,推理成本也会随之跟进。

第二层影响更为微妙,也更具破坏性。15%的硬件成本上涨会与电力、冷却、房地产和熟练劳动力等其他通胀压力产生复利效应。此前以较低的假设成本签署了长期租赁和固定电力协议的数据中心运营商,如今已陷入账面亏损。一些运营商会重新谈判条款,另一些将自行吸收损失,少数则可能推迟或取消项目,引发一波停滞的AI基础设施公告,其回响将在接下来四个季度的财报电话会上持续扩散。

大型科技公司的自研芯片野心无法解决这一问题

亚马逊、微软、谷歌、Meta和OpenAI都在开发或扩展定制AI加速器,以减少对英伟达的依赖。这确实是趋势。但定制芯片同样需要大量HBM和服务器DRAM作为支撑。每一款新ASIC都是在从同样受限的内存供给中分走一份蛋糕。行业整体的内存需求曲线正在变得更陡峭,而非更平坦。

这意味着内存短缺并非英伟达一家面临的暂时性问题,而是整个AI基础设施建设的结构性约束。即使买家今天转向其他品牌,每月的云端账单仍会反映出同样的HBM驱动型成本压力。所谓"脱钩叙事"——认为垂直整合能让你免受大宗商品约束——在大宗商品正是让芯片运转起来的核心要素时,根本站不住脚。

此外还存在时间错配。定制芯片项目通常需要18到36个月才能进入量产,而内存产能扩张从宣布到投产则需要三到五年。两条时间线无法重合。押注定制芯片以摆脱英伟达定价权的买家,不过是用另一种依赖替换了原有依赖,而新的依赖更难摆脱,因为其物理产能分散在两个国家的三家供应商手中。

赢家与输家

三星、SK海力士和美光是赢家。它们的定价权从被动变为决定性地位,如今由它们设定瓶颈。

英伟达失去利润率灵活性。其品牌和软件护城河依然完好,但已无法再内部吸收零部件成本上涨。15%的提价是一次公开承认:-binding constraint(约束性瓶颈)已不再是GPU设计,而是内存。

被夹在中间的超大规模云厂商面临更高的资本支出和运营成本。它们将试图谈判长期内存供应协议,这可能稳定部分成本,但会偏向最大的买家,让中型AI公司暴露于风险之中。

小型AI企业和独立研究者损失最大。更高的GPU租赁费率会压缩实验预算。在去年同期价格下仍能盈利运行的模型训练,如今将变得勉强可行。这是此次涨价的隐性后果:它抬高了所有无法自主掌控数据中心容量的参与者的入门门槛。

赢家与输家的格局清晰对应于一个变量:规模。能够锁定长期内存合同、自建专有基础设施或协商优先分配权的厂商,可以将冲击内部消化。其余所有人都将支付现货价格,并目睹自身单位经济性的恶化。

尚未被充分定价的推理侧滞后

多数评论聚焦于训练成本,因为那里的即时痛感最为明显。但推理侧同样值得同等关注。随着模型越来越大、上下文窗口不断扩展,推理正变得越发受内存制约。15%的硬件成本上涨不会一对一地传导至推理端——云服务商将通过优化利用率来缓冲——但它确实抬高了成本底线。每一个边际盈利的推理工作负载都将变成未知数。那些作为开发者和企业客户入口的轻量级模型,将与前沿模型面临同样的成本压力,只是体现在不同的计费条目上。

这在市场两端都形成了压缩效应。顶级厂商通过溢价定价吸收成本。底端市场则面临利润率崩溃。中间地带——初创公司和小型团队的工作区——受到的挤压最为严重。这正是驱动创新实验的环节,也将感受到最剧烈的阵痛。

接下来会发生什么

预计未来两年内,内存供应商将宣布更多产能承诺。位于日本、美国韩国的新晶圆厂已处于不同规划阶段。但交货周期依然漫长,实际的供给缓解最早也要到2028年才会到来。

英伟达的Vera Rubin和Rubin Ultra架构仍将出货,只是成本更高。其能否继续维持溢价,取决于软件栈和生态锁定效应是否足够强大,能让买家接受更高的价格。从目前来看,答案依然是肯定的。

更深层的教训很简单。AI硬件定价从来不只是GPU的故事,它始终离不开内存。市场如今正在将这一现实计入价格。任何构建AI基础设施的人,都应当为持续的成本压力做好准备,而不是期待快速反弹。把这次涨价当作暂时颠簸的厂商会感到意外,而将其视为新常态的厂商则会从容应对。