存储芯片巨头,开启AI算力争霸赛
编辑 | 漠影
韩国存储芯片巨头们正在打一场翻身仗。尽管从最新财报来看,存储芯片复苏未见好转,供应过剩导致营业利润大幅下降,但这些存储芯片巨头们的股价均在上周上涨。力挽狂澜的核心功臣,便是逐渐成为数据中心AI训练必备组件的AI相关内存芯片——高带宽内存(HBM)。因生成式AI开发和商业化竞争加剧,第二季度对AI相关内存的需求大幅增加。HBM的受关注程度,在上周SK海力士和三星发布最新财报后举行的电话会议期间可见一斑,分析师们就HBM相关进展和后续规划密集发问。自去年英伟达发布世界首款采用HBM3的GPU H100以来,HBM3及更先进HBM芯片的热度一直居高不下。据英国《金融时报》援引两位接近SK海力士的消息人士报道,英伟达和AMD要求SK海力士提供尚未量产的下一代HBM3E芯片的样品。英伟达已要求SK海力士尽快供应HBM3E,并愿意支付“溢价”。
▲英伟达GPU及其他AI芯片HBM采用情况(图源:SemiAnaysis)
虽说今年缩减开支是重头戏,但存储芯片巨头们在HBM方向的投资仍相当舍得——合计掌控着全球90%HBM芯片市场的两家大厂SK海力士和三星均表态,计划明年将HBM芯片产量提高一倍,并为了更好应对HBM不断增长的需求,而减少其他类别存储芯片的投资。01.英伟达AMD微软亚马逊排队坐等用上HBM3E
▲2015年AMD介绍新型存储芯片HBM(图源:AMD)
HBM最初用于高端游戏显卡,目前在全球动态随机存取存储器(DRAM)市场中占有的市场份额较小,但潜力非常可观。随着云计算及生成式AI服务的发展,全球大型科技公司将越来越多地使用HBM,来快速处理快速增长的数据。据芯片行业咨询公司SemiAnalysis披露,HBM的价格大约是标准DRAM芯片的5倍,利润丰厚,预计到HBM占全球内存收入的比例将从目前的不到5%增长到2026年的20%以上。自2013年开发全球首款HBM芯片以来,全球第二大存储芯片巨头SK海力士一直处于HBM领先地位。这也是SK海力士首次在内存技术竞赛中领先于三星。随后两家韩企进入激烈的HBM抢位赛,争相开始量产HBM2、HBM2E等芯片。2022年6月,SK海力士宣布开始量产业界首款HBM3内存,与英伟达H100 GPU配合使用,预计将于2022年第三季度发货。该内存将为H100提供高达819GB/s的内存带宽。▲历代HBM性能演进(图源:SK海力士和Rambus)
目前SK海力士是目前唯一一家批量出货HBM3的供应商,拥有超过95%的市场份额。它正在为AMD MI300X和英伟达H100生产数据速率为5.6GT/s的12层24GB HBM3。今年一开年,HBM3便呈大热之势,订单迅速增加。2月份有报道称,据市场人士透露,HBM3价格近期上涨了5倍。随后在5月30日,SK海力士乘胜追击推出最新的HBM3E,每个堆栈的带宽从HBM3的819GB/s增加到1TB/s,将于明年上半年投入生产,据说英伟达、AMD、微软、亚马逊等芯片大厂正排队抢货。这驱动HBM价格进一步大幅上涨。据行研机构TrendForce的数据,SK海力士2022年在全球HBM市场占有50%的份额,三星以40%的份额紧随其后,美国存储芯片巨头对手美光以10%的份额排名第三。SK海力士披露,生成式AI市场的扩张已迅速推高对AI服务器内存的需求。在AI相关需求激增的驱动下,上周三,SK海力士报告其今年第二季度同比由盈转亏,营业亏损为2.88万亿韩元,其股价上周却上涨了12%。▲过去半年SK海力士股价变化
次日,三星宣布第二季度营业利润为6685亿韩元,同比下降95%。受益于最新一代HBM3芯片在内的高端内存技术订单激增,三星股价周四上涨了2.4%,然后又有所回落。▲过去半年三星电子股价变化
TrendForce预测,2023年全球HBM芯片需求将增长60%,达到2.9亿GB,明年将再增长30%,2025年整体市场有望达20亿美元以上。预计明年SK海力士将占据HBM市场53%的份额,其次是三星(38%)和美光(9%)。02.AI服务器使用的内存比传统服务器至少多出1~8倍
03.今明HBM需求预计陡峭增涨两家大厂披露HBM最新路线图
▲SK海力士在财报电话会议期间披露公司后续规划,将支持高密度和HBM产品需求
SK海力士相信第三季度AI服务器需求将持续增涨,特别是高密度DDR模块和HBM,这两款产品的收入有望在下半年比上半年增速更高,HBM的需求将在明年保持相当健康的增长。近期,特别是随着超大规模企业对生成式AI服务的竞争加剧,三星收到了来自此类客户的大量需求,预计今年和明年HBM的需求可能会出现相当陡峭的增长。目前SK海力士的首要任务是投资增加HBM的大规模生产。该公司刚刚对今年年初制定的有关技术产能组合的规划进行了调整,以应对对高密度DDR5和HBM不断增长的需求。对于HBM路线图来说,重要的是与GPU的发布或领先加速器市场的公司的时间表保持一致。SK海力士预计将在2026年某个时候转向HBM Gen 4,并正为此做准备。根据其路线图,明年下半年将是HBM3E量产期,也是HBM3E的供应扩大期。今年SK海力士的重点是增加HBM量产所需的1Z纳米的比例,还准备增加1B纳米产能和TSV产能,为明年上半年开始供货的HBM3E做准备。为了与市场增长预期保持一致,三星一直在扩展其HBM业务,产品方面拥有向主要客户独家供应HBM2的记录,后续还就HBM2E开展业务,计划2023年下半年开始大规模生产HBM3。三星HBM3正在接受具有行业顶级性能和密度或容量的客户资格认证,已开始向主要的AI SoC公司和云计算公司发货8层16GB和12层24GB产品。具有更高性能和容量的三星下一代HBM3P芯片计划于今年晚些时候发布。▲三星HBM3介绍(图源:SemiAnalysis)
三星还一直投资HBM生产能力,基于此已经预订了大约10亿或十亿中值Gb级的客户需求,大约是去年的两倍,并正在通过提高生产力来进一步提高供应能力,到2024年计划将HBM产能增加至少是2023年水平的两倍。另据此前报道,三星拟投资1万亿韩元扩产HBM。对于三星来说,它虽然在HBM竞争的反应比SK海力士慢半拍,但考虑到通常AI芯片与HBM存储器一起集成到单个封装中,三星拥有一个其他芯片企业所不具备的优势——兼具先进GAA工艺技术、HBM技术和先进封装技术。如果未来三星能够推出最大化发挥这三类关键技术协同效应的解决方案,这有望成为未来三星在AI算力市场竞争中的关键壁垒。04.结语:存储芯片巨头打响HBM争霸赛
▲美光科技披露面向AI基础设施需求的解决方案路线图
存储芯片巨头们正在严阵以待,通过加大在先进技术突破和扩大产能方面的投资,为持续到来的HBM等支持大规模数据处理的高性能内存产品的需求激增做好准备。SK海力士能否在HBM技术和市场保持领先身位、长期掌握议价权,也是业界强烈关注的焦点。*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。