三星PIM转型证明：摩尔定律早已失效

改变一切的数字

在斯坦福校园举行的 Hot Chips 2026 大会上，三星的黄加罗姆站在一群半导体从业者面前——过去四年里，他们亲眼看着 HBM 价格飙升，而带宽增益却趋于平坦。接着，他在屏幕上放了一张幻灯片，悄然颠覆了整个叙事：在三星自己的 LPDDR5X-PIM 上运行 Llama 3.1，完成一次 80 亿参数模型的推理仅需 5.4 秒。而同一模型在标准 LPDDR5X 模块上则需要 12.3 秒。

吞吐量从每秒 27 个 token 跃升至 81.3。提升了三倍——而且是在内存控制器中实现的，不是 GPU。

这之所以重要，是因为业界对 AI 加速的思维模型已经脆弱了一段时间。每个人都认为答案是更多的 HBM、更宽的总线、更好的堆叠。假设是：只要能把数据从内存快速转移到计算单元，问题就解决了。三星的公开基准测试证明，这个假设对于越来越广泛的工作负载类型来说是错误的。

摩尔定律没有死。它只是不再帮助解决正确的问题。

半导体行业对 AI 硬件危机的表述，始终围绕热设计和晶体管密度展开。如果你需要更多的 FLOPS，就扩展处理器。内存端一直被当作管道——昂贵、必要，但不是应该投入架构想象力的地方。

PIM 把这个层级彻底翻转过来。数据不再通过总线传输、经过控制器压缩、再送入计算单元——操作直接在数据所在的位置发生。在多种持续工作负载下，在 DRAM 和处理器核心之间移动比特的能耗成本，往往大于算术运算本身的能耗成本。这一洞察并不新鲜——麻省理工学院及其他机构十余年前就已发表过 PIM 论文——但直到今天，才首次在消费级内存密度上实现商业化。

三星选择在同行评审会议上开源 SDK 并发布基准测试，而不是把它们埋在一篇新闻稿里，这是一个战略信号。公司试图在 HBM 供应商有机会将其重新定义为小众之前，让 PIM 成为默认的讨论话题。这场比赛不再是看谁能堆叠最多的 HBM 层数，而是看谁能定义数据无需移动时依然高效运行的架构。

为什么 LPDDR 而不是 HBM 才是真正的主角

三星早在 2021 年就演示过 HBM-PIM。当时没有人恐慌。HBM 统治数据中心 AI 是因为其带宽无可匹敌——每个堆叠达到 800 GB/s 且还在攀升。对于训练大规模模型或以规模运行 GPT 级工作负载而言，目前没有接近的替代品。业界正确地将 HBM-PIM 视为研究方向，而非产品策略。

LPDDR5X-PIM 不同，因为它瞄准的是数十亿台永远不会使用 HBM 的设备：智能手机、笔记本电脑、嵌入式 AI 加速器。这些设备运行在严格的功耗范围内——整个子系统通常只有 5 到 15 瓦。在这个领域，HBM 的带宽优势毫无意义。重要的是每瓦太赫次，这是一个内存架构问题，而不是处理器问题。

三星的工程思路很直接：大模型市场正在碎片化。模型参数从 1750 亿缩减到 30 亿、80 亿及更小的变体，专门针对延迟和成本优化。认为所有 AI 工作负载都需要数据中心级内存的假设，正变得在商业上不可行。一部能用现有 LPDDR 形态在本地以每秒 81 个 token 运行 80 亿参数模型的手机，是一个产品，不是论文。

可能锁定标准的向后兼容布局

三星公告中最具战略深意的细节，也许不是基准测试结果，而是架构设计。LPDDR5X-PIM 使用的是与常规 LPDDR5X 相同的存储阵列。计算芯片与 DRAM 芯片共处同一封装，共享相同的引脚定义和信号完整性要求。一块为 LPDDR5X 设计的主板，原则上可以接受 LPDDR5X-PIM 模块而无需重新设计。

这是刻意为之。计算史上每一次重大内存架构变革——SDRAM 取代 DRAM、DDR 取代 SDRAM、HBM 取代 GDDR——都需要整个生态系统的重新工程。采用曲线以年为单位衡量，而非季度。通过保持引脚兼容，三星压缩了时间线。系统集成商、笔记本制造商和智能手机 SoC 设计师可以在不重写电源分配或信号布线的情况下评估 PIM。

SDK 和模拟器同样重要。PIM 将编程范式从 GPU 中心转向内存感知。现有的 CUDA 和 Metal 抽象并未暴露存算一体范式。三星在产品量产之前就提供工具链，意味着软件栈将与硬件同步成熟，而不是滞后。这一顺序——先有工具再有硅片——正是成功标准与被遗忘标准之间的分野。

赢家、输家以及下一步

HBM 供应商最先受损。三星在韩国境内的竞争对手海力士，以及美国的美光，都在其 AI 内存叙事中依赖每包带宽指标。PIM 将指标重定义为每次推理的能耗。那些为 HBM 堆叠高度优化的公司，现在面临一个市场：最优配置可能是一个更便宜、带宽更低的 LPDDR 模块，但内置片上计算。这对纯 HBM 供应商来说是一次利润率压缩事件。

GPU 厂商处于模糊位置。英伟达和 AMD 只有在他们的 GPU 集成 PIM 时才能受益；如果设备完全绕过它们，它们就会受损。一部智能手机上的 LPDDR5X-PIM 以 81 TPS 运行 80 亿参数模型，不需要调用独立 GPU。三星和苹果多年来一直在构建的端侧 AI 叙事，突然有了一个内存基础，而非处理器幻想。

最清晰的赢家是三星自身，前提是她能保持节奏。该公司目前拥有 LPDDR 领域中唯一公开基准测试、随 SDK 交付、向后兼容的 PIM 产品。正在推进的 LPDDR6-PIM 标准化工作意味着下一代将在竞争对手逆向工程架构之前锁定这一地位。如果其他内存供应商跟随，他们将追赶三星参与制定的规范。

更广泛的意义是结构性的。处理器晶体管上的摩尔定律扩展已放缓至个位数年度提升。业界的应对方式是往问题上堆更多 HBM，但这本身已在堆叠高度和散热方面触及物理极限。PIM 是对这一事实的承认：下一个有意义的性能提升将来自重新安排计算发生的位置，而非让处理器更密集。三星的公开基准测试不是一次产品发布，而是后摩尔时代 AI 硬件的一次论文声明。