定制HBM业务将如何运作

核心要点

• HBM4 支持定制基底裸片，该功能主要面向超大规模云服务商。

• 具体项目落地方式各有不同，但稀缺资源是设计团队与 EDA 工具。

• 尽管当前内存供给紧张，但定制 HBM（cHBM）预计不会进一步加剧需求压力。

HBM4 带来了基底裸片定制化的选项。HBM 堆叠的全部存储层通常由存储厂商完成设计，但如果采用定制基底裸片，那么由谁来设计？由谁制造？又由谁完成最终堆叠组装？事实表明，这些问题的答案会根据商务谈判结果而变化。

定制 HBM（缩写 cHBM）让企业可以把内存定制纳入 XPU（CPU/GPU/NPU）整体定制开发项目。当下内存供给本就紧张，在本就承压的普通 HBM 业务之上再增加定制内存，看上去举步维艰，但定制 HBM 不太会进一步加重供给压力。而且近期出现的部分技术思路还可以缓解短缺问题。

归根结底，可行场景下，cHBM 的核心价值是实现产品差异化。“行业会不断探讨：我该如何打造差异化？” 新思科技产品管理总监 Rob Kruger 表示，“cHBM 模式就是实现差异化的路径之一。”

HBM4 迎来转折点

高带宽内存 HBM 由多层裸片堆叠而成，除最底层一片之外其余均为存储裸片。底层裸片是逻辑裸片，负责堆叠内部的管理、寻址以及其他非存储类任务。在 HBM3 及更早版本中，堆叠内所有裸片，包括基底裸片，均由存储厂商（主要是美光、三星、SK 海力士）完成制造。

“过去，基底裸片采用和 DRAM 相同的工艺节点。”Kruger 解释道。

但 HBM4 彻底改变了这一点：“为了功耗与性能，基底裸片转向逻辑工艺。”

基底裸片需要迁移至更先进的 FinFET 工艺（大概率 4nm 及以下），而 DRAM 裸片并不会采用这类工艺。因此，虽然存储厂商依旧设计标准版本基底裸片，但交由逻辑晶圆厂完成制造。存储厂商后续负责堆叠组装、堆叠晶圆切割以及成品堆叠测试。

以上是标准基底裸片的实现路径。除此之外，HBM4 及其后续版本允许用定制裸片替换标准基底裸片，从而更加高效地处理特定工作负载。

为什么要定制 HBM？

理论上，各行各业众多企业都会对定制内存产生兴趣。内存层本身不做改动，但可以对控制逻辑做定制，这对芯片与系统架构师极具价值。

如果使用标准 HBM 搭建系统，直接采购现成器件即可（现阶段，这意味着要和其他所有采购方排队拿货）。而选择定制路线，就不再是简单采购成品，而是需要立项、投入资金并管理芯片设计项目。这就直接抬高了参与门槛。

实际上，这项能力主要面向超大规模云服务商，原因有三点。第一，它们具备充足资金支撑项目。第二，对比 Web 服务器，AI 处理的工作负载类型相对集中。甚至可以让一批机器专门运行某一类特定负载；而 Web 服务器很难这么做，因为事先无法预知实际业务负载。

因此超大规模云服务商更有条件把大批机器定向服务于特定业务负载，这种场景下，处理器与内存同步定制的价值非常突出。

第三点动因：虽然可以针对不同负载制定标准，但 AI 计算迭代速度极快，标准化流程节奏跟不上技术演进。

“JEDEC 标准化推进节奏偏慢。” 博通（Marvell）数据中心内存解决方案副高级总监 Khurram Malik 表示，“超大规模云服务商的迭代速度要快得多，于是问题就变成：如何基于自身业务负载去定制 HBM 基底裸片？”

定制化可以让企业跟随计算技术进步同步迭代，不必等待正式标准落地。同时根据定制内容，还能构筑产品差异化竞争优势。

除超大规模云厂商之外，企业级解决方案客户也可能入局。“我们看到越来越多企业客户也在尝试自研 XPU 处理器。”Malik 提到，“相关讨论还处在早期评估阶段。”

具体案例

Marvell 正在推进一套定制 HBM 落地项目。公司设有专门面向定制云计算的业务部门，为客户提供定制 XPU。

定制 XPU 催生了对定制内存的需求。

“我们开发定制 HBM，就是为了配套自研的定制 XPU。”Marvell 定制云解决方案高级副总裁 Jim Rogers 解释道。

不同超大规模云厂商的诉求并不统一，甚至诉求差异很大。“各家超大规模云厂商都希望拥有专属的裸片间接口。”Malik 说。

既然要为每一位客户开发定制 XPU，就存在配套定制 HBM 堆叠的机会。但为降低设计工作量，团队尝试打造一套统一的定制 HBM 版本，适配多款定制 XPU。

“我们正在梳理不同客户的需求，探索如何用一套 HBM 产品，覆盖多家客户的诉求。”Malik 表示。

接口封装重构

定制基底裸片时，即便其余部分完全沿用标准方案，内存控制器也会从主机芯片转移到基底裸片。定制版本一般会针对主机‑内存堆叠之间的接口做优化。把控制器迁移至基底裸片，相当于用一套定制（全新）接口 “封装” 原有标准接口。

“做 cHBM，就要定义 HBM 控制器的接口规范，可以采用 AXI（Arm 高级可扩展接口），也可以选用其他方案。”Kruger 讲到，“但双方必须达成一致，核心在于数据传输方式：数据格式与接口定义。”

这套方案还能带来多项参数层面收益。内存控制器本身面积很大，接口需要海量互连引脚。这些引脚会占用宝贵的裸片边缘资源（焊球以及裸片最外侧可对接外部芯片的互连资源）。另外，既然投入定制开发，主机处理器一般会采用最先进的硅工艺节点。

图 1：定制 HBM 中，内存控制器不再需要跨芯片驱动信号，体积可以大幅缩小，节约裸片边缘宝贵互连资源。来源：Bryon Moyer / Semiconductor Engineering

基底裸片需要比传统 DRAM 更先进的逻辑工艺，但不需要达到主机处理器工艺的昂贵程度。控制器会占用基底裸片的面积，但可以节约主机裸片面积；基底裸片新增面积带来的成本，低于主机端节省下来的面积成本，整体实现净成本优势。

如果定制接口相比标准接口减少互连引脚数量，还能进一步节约成本。内存 PHY 包含全部外部信号焊盘与驱动电路。控制器已经内置在基底裸片内部，不再跨主机与 HBM 堆叠通信，但内部依旧需要全部原始信号。不过信号不再输出到其他芯片，不再需要外部焊盘，驱动电路规格也可以降低。

“传统方案内存控制器放在计算裸片上。”Malik 解释，“把内存控制器迁移到定制 HBM 基底裸片，就可以移除 PHY（不再需要跨芯片驱动）。PHY 是计算裸片上面积最大的模块，功能仅用于互连通信。删掉 PHY，替换为 UCIe 或者其他裸片到裸片接口。新接口面积相比标准 DRAM PHY 缩小约 70%，计算裸片算力可提升 25%，整体功耗下降，整套 XPU 裸片的效率得到改善。”

另一项关键收益是可对接更多 HBM 堆叠。“取决于 XPU 裸片尺寸，裸片边缘可用互连资源变多，能够挂载更多 HBM，为计算瓦片提供更大内存容量。”Malik 说道。

存储厂商在这一流程中需要提供TSV PHY，这一套 IP 作为基底裸片的硅通孔参考模板。以 HBM5 举例：“会有 2048 比特信号接入这套 TSV PHY。”Kruger 介绍，“这是存储厂商提供的 IP，一方面对接自家内存堆叠裸片，同时定义互连接口规范，并且支持测试。”

当然，定制的范围不止接口。企业还会希望调整其他功能。“RAS（可靠性、可用性、可维护性）已经存在标准，但各家对于实际需求与实现方式都有自己的想法，这也是定制化的一大方向。”Kruger 说，“会有控制管理单元完成 RAS 遥测数据汇总采集，还需要定义数据如何上报给系统其他部分，保证和大系统适配。”

谁负责设计？

定制化不一定只做控制器迁移，但实际几乎不会止步于此。一旦开放器件修改，顺势叠加其他增益改动会更加简便。但目前没有统一标准流程，每个项目都需要多方谈判确定。

整个项目包含四大基础环节：设计、制造（含晶圆测试）、组装、最终测试。四项之中，设计是最难的部分；其余环节更多取决于产能。设计需要团队、工具，同时要明确更大内存如何影响性能与功耗。过去，只有存储厂商或者无晶圆厂企业具备条件，而如今超大规模云服务商自身也积累了深厚半导体设计能力。

第一种可能性（存储厂商主导设计）现实概率偏低。存储厂商现有业务已经饱和，承接定制设计项目并不匹配自身资源现状。虽然不能代表全部存储企业（多数厂商不愿公开发表观点），但已有企业表示，不希望被要求承接定制基底裸片设计工作。

“现在客户都想要定制化，追求更高带宽。”SK 海力士美国封装工程副总裁李宰植（Jaesik Lee）在演讲中表示，“但定制 HBM 需要存储厂商完成设计与制造，而我们的资源十分紧张。”

新思科技 Kruger 也认同资源约束问题，这类项目工作量巨大。“厂商并没有闲置团队专门承接各类定制设计。项目需要足够大的出货量，才能摊薄定制开发成本，因此项目数量天然会受到限制。”

如果存储厂商不承接设计，可选主体就剩下无晶圆厂企业与超大规模云服务商。目前尚不清楚会有多少无晶圆厂企业入局，但 Marvell 的案例预示还会出现其他同类项目。

即便如此，每个项目都是高度定制化。“和终端超大规模云厂商深度协作至关重要。”Malik 表示，“即便可以复用 IP 模块，依旧需要调优与优化，而每家超大规模云厂商的诉求各不相同。”

谁完成堆叠组装？

标准 HBM4 流程：存储厂商从逻辑晶圆厂拿到经过测试的逻辑裸片，完成堆叠组装、成品测试，再对外出货。定制版本中，存储厂商依旧生产堆叠内部的内存裸片，但基底裸片的设计归属不再属于存储厂商。那么存储厂商是否还接收外来定制基底裸片完成堆叠组装？在当前市场环境下，它们是否具备对应产能？

堆叠集成的承接方没有统一答案。每个项目都需要存储厂商、逻辑晶圆厂，还可能需要具备混合键合能力的封装厂共同签署协议确定。HBM4E 及后续版本，至少 16 层堆叠预计将采用混合键合技术。整套流程的归属随项目而变化。

“面向不同客户，存在多种商务合作模式。”Malik 介绍，“部分客户把逻辑设计全权交给设计方，自身掌握全部集成工作；部分客户把逻辑相关职责分配给设计方，集成职责交给存储厂商；还有部分客户选择全面主导，同时对接逻辑合作方与存储合作方。”

近期行业新闻：台积电宣布与华邦电子合作，华邦提供内存晶圆，台积电负责堆叠组装。这一合作可以缓解另外三大主流存储厂商的产能压力。

“低配版 HBM” 方案？

受内存短缺影响，设计人员必须另辟蹊径获取充足内存，尤其那些内存配额优先级不高的企业。其中一个备选方案：将标准 DRAM 裸片堆叠在主机裸片上方。

这类堆叠总高度不及正统 HBM，但最多可以堆叠 4 片 DRAM 裸片。虽然 HBM 尚未切换混合键合，但普通 DRAM 已经开始应用该技术。

“已经流片的设计案例中，底层逻辑裸片正面朝上，通过混合键合，和上方倒置的 DRAM 晶圆互连。”Kruger 解释，“这套 DRAM 晶圆键合节距小于 10 微米；HBM 还在使用微凸点，而 DRAM 叠逻辑已经用上混合键合。”

无论堆叠普通 DRAM 还是 HBM，键合节距对键合技术至关重要。“内存堆叠需要可靠 TSV、稳定凸点、互连键合工艺，以及高性能材料，支撑 HBM 持续微缩。” 泛林半导体先进封装技术总监 Prahaladad Parthangal 在 SEMI 战略材料大会演讲中提到，“当节距缩小至 10 微米以下，混合键合互连成为关键支撑技术。”

很多人以为该方案诞生是为应对内存紧缺，但还有更核心的动因：性能。

“我们一开始以为是客户拿不到 HBM 才退而求其次。”Kruger 说，“但应用层面的价值在于，紧密排布的混合键合 / 凸点互连带来显著更低延迟，同时功耗也得到优化。”

新思科技预计，该类方案每年落地项目数量不足 20 个。

一切随项目而定

综上，四大核心环节的落地模式总结如下：

1. 设计：项目之间各不相同，大概率由定制内存的使用方（超大规模云服务商），或是具备定制能力的设计服务公司完成。

2. 制造与晶圆测试：由逻辑晶圆厂完成，不一定和标准基底裸片的代工厂为同一家。

3. 组装：随项目而定，在项目商务协议中确定责任方。

4. 最终测试：测试流程和标准 HBM 保持一致，但需要配套定制测试程序。

部分项目已经启动，定制 HBM 堆叠预计 1‑2 年内进入数据中心。

那定制 HBM 会如何影响内存供给？表面看定制 HBM 是在标准 HBM 需求之外新增需求；但行业整体内存总需求不会区分是标准产品还是定制产品。因此预计不会进一步加重产能压力，本质是产品结构配比发生变化。

不过拿货依旧会十分困难。“内存缺口巨大，价格飞涨。”Malik 提醒，“各大存储厂商未来 1.5‑2 年的晶圆厂产能已经全部订满。”

产品配比的变动会给供给规划带来挑战：标准产品的需求容易预判，但哪些企业会做定制项目、在哪里完成制造，会让行业预测存在不确定性。