HBM（高带宽内存）技术展望：2024年及以后

HBM（高带宽内存）技术是即将到来的“内存内计算/处理”时代的一种“近内存计算（Near Memory Computing）/处理”阶段。由于人工智能/机器学习的高需求，三星、SK海力士和美光这三大内存制造商正在HBM技术的开发上竞相角逐。HBM是一种具有高带宽和宽通道的3D堆叠DRAM器件，这意味着它非常适合高性能计算（HPC）、高性能图形处理单元（GPU）、人工智能和数据中心应用所需的高能效、高性能、大容量和低延迟内存。因此，对于内存制造商而言，硅通孔（TSV）工艺集成和3D HBM DRAM芯片堆叠技术是最重要的关键词。随着HBM DRAM制造商为每一代产品开发和采用新技术，我们预计即将推出的HBM4（2025-2026年）和HBM4E（2027-2028年）器件将拥有48GB甚至64GB，16Hi和1.6TB/s或更高。

在HBM技术和产品方面，英伟达推出了配备HBM2E和HBM3器件的Hoper H100 Tensor Core GPU、Grace Hopper GH100和GH200。请参考SK海力士在市场上所有世代（HBM1、HBM2、HBM2E、HBM3、HBM3E和HBM4）HBM DRAM芯片的功能摘要[1]。自2013年以来，SK海力士发布了用于AMD和英伟达GPU的HBM芯片。带宽从HBM Gen1的约1 Gbps和HBM Gen2的2 Gbps，增加到HBM2E的3.6 Gbps，再到现在的HBM3的6.4 Gbps和HBM3E的9.6 Gbps。
对于Gen1和Gen2 HBM器件，SK海力士在HBM DRAM芯片堆叠中采用了TC-NCF方法，而对于Gen3和Gen4则采用了MR-MUF工艺。SK海力士在此基础上进行了更多优化，并为Gen5开发了先进的MR-MUF以改善散热。即将推出的Gen6 HBM4可能会结合使用这种技术和新的混合键合技术。