超越HBM4E：韩国存储巨头如何重塑AI

HBM4E基线已经到来

三星和SK海力士都已向客户交付HBM4E样品。三星于5月宣布其12层48 GB产品，SK海力士则在6月跟进。在10月14日至16日于首尔江南区COEX举行的SEDEX 2026展会上，两家公司都没有将HBM4E视为终点，而是将其作为起跑线。

数据发人深省。三星的HBM4E将第六代1c DRAM芯片与4 nm代工基板芯片配对，将每引脚速度从14 Gbps提升至16 Gbps——增幅超过20%。最大带宽达到每秒3.6 TB。SK海力士的版本同样达成16 Gbps目标，并称能耗效率较HBM4提升20%。这些都是有意义的升级。但SEDEX真正的看点，在于它们之后还有些什么。

同题两解

AI的瓶颈不再只是内存移动数据的速度，而是数据需要传输的距离。

三星的答案是zHBM——一种将内存直接堆叠在GPU之上的3D结构，而非像传统方式那样放置在基板旁。计算与存储之间的物理距离大幅缩短，数据传输更快，功耗更低。三星还展示了LPDDR-PIM，它能够在内存内部执行计算，减少往返处理器的次数。与此同时展示的还有一款名为zNAND-O的3D NAND解决方案，专为功耗和空间约束更加严苛的边缘AI设备而设计。

SK海力士则走了另一条路，推出了HBF——高带宽闪存。其理念是弥合HBM的原始速度与NAND的高密度之间的鸿沟。HBF承诺的存储容量约为传统HBM的十倍，同时保持高吞吐量。这意味着在实际应用中，系统在推理过程中可以将更大规模的大语言模型权重存储在高速内存中，而非在不同层级之间搬运数据。

这些并非渐进式改进，它们代表了关于AI基础设施组织方式的两种不同哲学。三星正推动纵向一体化——内存贴近计算，计算嵌入内存。SK海力士则在推动架构分层——在HBM与存储之间新增一个内存层级，从而改变整个服务器的形态。

封装之战才是真正的竞争

仅凭HBM4E本身，并不会需要三星和SK海力士如今并肩展示的代工与封装能力。位于堆叠DRAM下方的基板芯片——负责供电、信号和热管理的部分——正日益成为设计挑战，其难度不亚于制造挑战。

三星展示了用于HBM4E的4 nm基板芯片、2 nm全环绕栅极晶圆，以及两种先进封装方案：2.3D Cube-E和3D Cube-H。信息很明确。三星希望将内存、逻辑设计和封装作为一个整体——字面意义上的——打包出售。构建定制AI加速器的客户将越来越需要一个同时精通三者的合作伙伴。

SK海力士做出了类似的举动，展示了一块印有黄仁勋签名的晶圆，用于Nvidia即将推出的Vera Rubin超算平台。这既是可信度信号，也是一种产品宣告。SK海力士在说：我们已经嵌入全球最重要的AI平台，我们的路线图远不止现有产品。

这对AI推理意味着什么

从训练向推理的转移，是驱动这一切的结构性变化。训练需要短时的大带宽，而推理是一种持续性的、对延迟敏感的工作负载，面对的模型不断膨胀。每增加一个参数，都在将内存墙推得更紧。

如果一个模型在推理时能完全装入HBM，就能避免当今服务器功耗中占据主导地位的昂贵DRAM至闪存数据搬运。如果HBF兑现承诺，它可以将相当一部分模型权重移入高速层。zHBM则通过将这一层级更靠近处理器，使其更小、更高效。两种方案从不同角度瞄准同一个问题。

今年早些时候的OCP峰会在技术层面为CXL内存方向增添了分量，这与SK海力士的HBF理念相契合。CXL允许内存跨服务器进行池化和分布式部署——这与每台GPU自带HBM堆叠的当前架构有着根本性不同。如果基于CXL的内存池被证明可以在大规模上可行，那么同时理解内存层级和协议栈的玩家将获得结构性优势。

谁赢谁输

这一阶段的赢家，是能够以量产形式交付这些架构的公司。三星和SK海力士拥有代工关系、封装知识和客户渠道。Nvidia、AMD和各大云服务商则是密切关注这些动向的客户。

今天的输家是现状。分层内存层级——HBM紧邻GPU，DRAM在下，SSD更下——正同时遭到两家韩国厂商的质疑。无论是zHBM还是HBF，谁先证明商业可行性，都会改变未来五年内每一台AI服务器的设计规则。

不过需要提醒的是，zHBM和HBF目前仍处于开发阶段。三星的zHBM原型是以模型形式展出的。SK海力士的An Hyun将HBF和3D堆叠DRAM描述为通往2030年路线图的一部分，届时他预计AI基础设施的性能将从当前水平增长约二十倍。这两种技术都尚未公布出货日期，客户采纳情况也未经确认。

接下来会发生什么

这场竞赛不再仅仅是看谁能堆叠更多的DRAM芯片或达到更高的Gbps，而是看谁能在下一代模型让当前设计在经济上不可持续之前，重新定义AI系统的内存架构。三星押注的是接近性与集成，SK海力士押注的是层级与容量。两者都是合理的赌注。哪一个先落地，哪一个就将成为标准。

SEDEX 2026表明，这两家公司都在认真谋划超越内存的竞争。这才是值得关注的信号。