三星存算一体芯片或重新定义AI硬件竞争格局

那场无声的转身，正在撕裂AI内存市场

三星在Hot Chips 2026大会上发布的LPDDR5X-PIM，是一项乍看平淡、但顺着AI硬件市场的走向细看便意味深长的发布。公司没有展示更快的HBM，没有更大的晶圆的，也没有新的封装噱头。它把算术逻辑嵌入低功耗DRAM——那种已经存在于每部智能手机和绝大多数笔记本电脑里的芯片——并演示了这样做可以将一个80亿参数语言模型的token处理延迟几乎减半。

数字具体而清晰。在Meta的开源Llama 3.1上，运行在标准LPDDR5X模块上的8B模型生成一次回复耗时12.3秒。同一模型在三星LPDDR5X-PIM上仅需5.4秒。token吞吐从每秒27个跃升至每秒81.3个——大约是三倍的增长，不是因为计算能力更快了，而是因为数据不再在内存和处理器之间来回搬运。

这一区分的意义远超 headline 上的提速幅度。

为什么HBM并非唯一答案

过去两年，AI行业将HBM——高带宽内存——视为任何严肃推理工作负载的默认基石。这一假设正在瓦解。HBM通过3D堆叠芯片和宽总线接口提供巨大带宽，但封装昂贵、功耗居高不下，且日益受制于产能瓶颈。台湾积体电路制造公司（台积电）难以将HBM3e的产出速度提升到足以满足亚马逊、谷歌、微软以及所有正在训练或部署大规模模型的初创企业的需求。

这种集中的代价正变得显而易见。英伟达最新GPU的HBM供应量相对于订单积压而言仍然有限。云服务商正在对配备HBM的实例实行配给制。专注于推理的芯片初创公司——Groq凭借语言处理单元（LPU），Cerebras凭借晶圆级引擎——之所以取得成功，正是因为它们将内存与传统的GPU架构解耦。它们不是在等待更多的HBM，而是在围绕HBM的不足进行设计。

三星的PIM选择了一条不同的路径。它不是从零开始构建一类新芯片，而是修改内存芯片本身，使其具备有限的算术运算能力。结果并非数据中心加速器，而是面向已握在人们手中的设备的更廉价、更低功耗的选项。

真正的赌注：端侧AI

三星将这项技术锚定在端侧AI——这是苹果、高通、联发科和华为等公司推动的方向，即让语言模型在本地运行，而非将查询流式传输到云端。经济账正在改写。在一台服务器上运行8B模型需要消耗电力、网络资源和延迟；在一部手机上运行它则需要消耗电池电量和散热余量。PIM通过将数据保留在内存阵列内部来解决散热和功耗问题，简单的算术操作——点积、激活函数、量化矩阵运算——可以直接在其中执行，无需承受将数据往返搬运至GPU或NPU核心所带来的开销。

这不是理论推演。三星对Llama 3.1进行了端到端测试，并公开了计时结果。2.3倍的加速和3倍的吞吐增益来自真实的推理工作负载，而非合成基准测试。这对于一家发布新产品类别的内存公司来说并不常见。大多数竞争对手公布规格参数，然后让客户自行验证性能。三星却在量产之前主动邀请外界 scrutiny。

兼容性方面的考量同样审慎。LPDDR5X-PIM采用与常规LPDDR5X模块相同的内存阵列结构。三星并没有要求主板设计师、手机OEM或芯片供应商从头重新设计系统。随产品一同发布的SDK和模拟器允许软件团队将计算任务映射到PIM计算 fabric 上，无需重写驱动程序或更换主板。相较于那些需要全新系统架构的替代方案，这大幅降低了采用门槛。

谁胜谁负

赢家目前一目了然。需要依靠电池驱动来运行实用AI模型的手机和笔记本电脑厂商——三星自身、很可能包括未来设备的苹果、作为芯片供应商的高通和联发科——获得了一个新的效率杠杆。三星内存部门此前面临HBM供过于关切的利润压力和DRAM领域中国竞争侵蚀的困境，如今拥有了一个差异化产品，且不与SK海力士的HBM霸权直接竞争。

输家不那么明显，却真实存在。以GPU为核心的AI加速器在端侧推理效率上的垄断地位有所削弱。如果一部手机能在LPDDR5X-PIM上流畅运行8B模型，那么捆绑独立NPU或依赖云推理的商业逻辑就会减弱。按token计费的云API提供商在计算发生在本地时失去了定价主动权。Groq和Cerebras凭借定制芯片实现超快推理建立了自己的立论基础，今天尚不受PIM的直接竞争——它们的靶点是数据中心工作负载，而非移动端——但长期的趋势指向同一个问题：缩短数据与计算之间的距离。

现任HBM龙头SK海力士并未受到LPDDR5X-PIM的威胁。两者面向不同的细分市场。但内存市场原本正朝着一个单一叙事收敛——HBM通吃所有AI应用——而三星已经击碎了这一叙事。如今出现了一条令人信服的AI内存第二条赛道，无需依赖台积电CoWoS封装产能，也无需数十亿美元投资HBM产线。

悬而未决的问题

最重要也最缺席于三星发布会的一个问题是：LPDDR5X-PIM如何扩展到8B以上的模型？按照当前标准，Llama 3.1属于小模型。现代推理工作负载越来越多地运行70B、120B乃至更大参数的模型。8B模型的加速固然有用，但行业正在向即使加上PIM也无法装入LPDDR的模型演进。三星尚未在更大规模的模型上演示这项技术，而将逻辑嵌入内存芯片的物理约束也限制了可在内存内原位执行的运算复杂度。

第二个空白是软件成熟度。SDK和模拟器仍处于早期阶段。编写有效划分PIM与主机处理器之间工作的代码并非易事。如果没有一个围绕内存内计算优化的图书馆和框架生态系统——类似于CUDA为GPU所构建的那一套——硬件优势可能无法足够快速地到达应用开发者手中。

第三个担忧是功耗。PIM减少了数据搬运，而这正是内存密集型工作负载中能量浪费的主要来源。但在内存芯片中嵌入逻辑也会增加封装内部的静态和动态功耗。三星尚未披露LPDDR5X-PIM模块在推理过程中的功耗数据。如果速度增益伴随着同等比例的功耗上升，手机上的散热情况可能抵消这一收益。

下一步是什么

三星已经启动了LPDDR6-PIM的标准化工作，表明这是一项跨越多代的长期承诺，而非一次性展示。今年早些时候，该公司在FMS 2026上获得下一代内存奖项，并借助Hot Chips大会在一个周期内将概念转化为经过验证的产品。这一节奏表明三星将PIM视为对冲HBM依赖的战略制衡点，而非边缘项目。

地缘政治维度也值得关注。美国对先进AI芯片对中国的出口限制，加速了北京推动端侧AI作为替代方案的步伐。三星的PIM技术不依赖最受限制的半导体工艺，有望在中国手机和PC制造商中找到现成市场，这些厂商希望在不过度依赖英伟达GPU或重HBM系统的前提下，在本地运行更大的模型。

AI硬件竞赛从来不会由一种架构决定胜负。HBM在2024年和2025年主导了叙事。Groq和Cerebras证明了专用推理芯片的可行性。如今三星在论证，下一轮效率提升将来自于改变内存的职能，而不仅仅是增加其数量。Llama 3.1上那5.4秒的成绩是一个起点，而非终点。接下来会发生什么，取决于行业是否能找到在更小、更聪明的内存上运行更大模型的路径——还是说，端侧AI的梦想会在模型体量的重压下崩塌。