全球首款12层堆叠HBM3E，开始量产了

最近，韩国 SK 海力士宣布，已开始量产全球首款 12 层 HBM3E 产品，容量为 36GB，这是迄今为止现有 HBM 的最大容量。

SK 海力士声称，12 层 HBM3E 产品在速度、容量和稳定性方面均达到全球最高标准。该公司计划在年内向客户提供量产产品。

受此消息影响，SK 海力士股价周四在韩股市场上大涨。

SK 海力士率先实现 12 层 HBM 量产

今年 3 月，SK 海力士向客户交付 8 层 HBM3E 产品，创下业界首位。时隔 6 个月后，SK 海力士再次业界首个实现 12 层 HBM3E 芯片量产，再次证明其技术优势。

SK 海力士是自 2013 年推出世界首款 HBM 以来，开发并供应从第一代 (HBM1) 到第五代 (HBM3E) 全部 HBM 系列的唯一企业。

如今，SK 海力士实现在业界率先量产 12 层 HBM3E 后，将满足人工智能企业日益增长的需求，并继续保持其在人工智能存储器市场的领先地位。

SK 海力士总裁 Justin Kim 表示：「SK 海力士再次突破了 AI 内存领域的技术限制，展示了我们在 AI 内存领域的行业领先地位…为了克服人工智能时代的挑战，我们将稳步准备下一代内存产品，继续保持全球第一的地位。」

速度、容量、稳定性均达最高标准

据该公司介绍，12 层 HBM3E 产品在速度、容量、稳定性等人工智能存储器所必需的所有领域都符合世界最高标准。

SK 海力士将内存运行速度提高到 9.6 Gbps，这是目前可用的最高内存速度。如果大型语言模型 Llama 3 70b 由单个搭载 4 个 HBM3E 产品的 GPU 驱动，每秒可读取总计 700 亿个参数 35 次。

SK 海力士的 12 层产品和此前同等厚度的 8 层产品相比，容量增加了 50%。为了实现这一目标，该公司将每个 DRAM 芯片比以前薄 40%，并使用 TSV 技术垂直堆叠。

该公司还通过应用其核心技术 Advanced MR-MUF 工艺，解决了由于将更薄的芯片堆叠得更高而产生的结构问题。这使得新一代产品散热性能比上一代产品高 10%，并通过增强翘曲控制来确保产品的稳定性和可靠性。

三星进展如何？

HBM（高带宽存储器）是 GPU 的关键组件，有助于处理复杂应用程序产生的大量数据，芯片垂直堆叠技术可以在节省空间的同时降低功耗。

目前，HBM 的主要制造商只有三个——SK 海力士、美光科技和三星电子。其中，三星电子于今年 2 月首次推出了 HBM3E 12H。

三星 HBM3E 12H 支持全天候最高带宽达 1280GB/s，产品容量也达到了 36GB。相比三星 8 层堆叠的 HBM3 8H，HBM3E 12H 在带宽和容量上大幅提升超过 50%。

「当前行业的人工智能服务供应商越来越需要更高容量的 HBM，而我们的新产品 HBM3E 12H 正是为了满足这种需求而设计的，」三星电子存储器产品企划团队执行副总裁 Yongcheol Bae 表示，「这一新的存储解决方案是我们研发多层堆叠 HBM 核心技术以及在人工智能时代为高容量 HBM 市场提供技术领导力而努力的一部分。」

HBM3E 12H 采用了先进的热压非导电薄膜（TC NCF）技术，使得 12 层和 8 层堆叠产品的高度保持一致，以满足当前 HBM 封装的要求。因为行业正在寻找缓解薄片带来的芯片弯曲问题，这项技术将在更高的堆叠中带来更多益处。三星一直在努力降低其非导电薄膜（NCF）材料的厚度，并实现芯片之间的间隙最小化至 7 微米（µm），同时消除了层与层之间的空隙。这些努力使其 HBM3E 12H 产品的垂直密度比其 HBM3 8H 产品提高了 20% 以上。

三星先进的热压非导电薄膜（TC NCF）技术还通过允许在芯片之间使用不同尺寸的凸块（bump）改善 HBM 的热性能。在芯片键合（chip bonding）过程中，较小凸块用于信号传输区域，而较大凸块则放置在需要散热的区域。这种方法有助于提高产品的良率。

随着人工智能应用的指数级增长，HBM3E 12H 有望成为未来系统的优选解决方案，满足系统对更大存储的需求。凭借超高性能和超大容量，HBM3E 12H 将帮助客户更加灵活地管理资源，同时降低数据中心的总体拥有成本（TCO）。相比 HBM3 8H，HBM3E 12H 搭载于人工智能应用后，预计人工智能训练平均速度可提升 34%，同时推理服务用户数量也可增加超过 11.5 倍。

关于量产进度，三星表示已开始向客户提供 HBM3E 12H 样品，预计于今年下半年开始大规模量产。