"); //-->
AI服务器出货动能强劲带动HBM(high bandwidth memory高频宽存储器)需求提升,预计2023年AI服务器出货量年增15.4%。
据TrendForce研究显示,2022年三大原厂HBM市占率分别为SK海力士(SK hynix)50%、三星电子(Samsung)约40%、美光科技(Micron)约10%。此外,高级深度学习AI GPU的规格也刺激HBM产品更迭,2023下半年伴随NVIDIA H100与AMD MI300的搭载,三大原厂也已规划相对应规格HBM3的量产。因此,在今年有更多客户将导入HBM3的预期下,SK海力士作为目前唯一量产新世代HBM3产品的供应商,其整体HBM市占率可望借此提升至53%,而三星、美光则预计陆续在今年年底至明年初量产,HBM市占率分别为38%及9%。
目前英伟达NVIDIA所定义的DL/ ML型AI服务器平均每台均搭载4张或8张高级显卡,搭配两颗主流型号的x86服务器CPU,而主要拉货力道来自于美系云端业者Google、AWS、Meta与Microsoft。据TrendForce统计,2022年高级搭载GPGPU的服务器出货量年增约9%,其中近80%的出货量均集中在中、美系八大云端业者。展望2023年,微软Microsoft、脸书Meta、百度与字节跳动相继推出基于生成式AI衍生的产品服务而积极加单,预估今年AI服务器出货量年增率可望达15.4%,2023~2027年AI服务器出货量年复合成长率约12.2%。
根据TrendForce调查,AI服务器可望带存储器需求成长,以现阶段而言,Server DRAM普遍配置约为500~600GB左右,而AI服务器在单条模组上则多采64~128GB,平均容量可达1.2~1.7TB之间。以Enterprise SSD而言,由于AI服务器追求的速度更高,其要求往往优先于DRAM或HBM满足,在SSD固态硬盘的容量提升上则呈现非必要扩大容量的态势,但在传输界面上,则会为了高速运算的需求而优先采用PCIe 5.0。而相较于一般服务器而言,AI服务器多增加GPGPU的使用,因此以英伟达NVIDIA A100 80GB配置4或8张采计,HBM用量约为320~640GB。未来在AI模型逐渐复杂化的趋势下,将刺激更多的存储器用量,并同步带动Server DRAM、SSD以及HBM的需求成长。
*免责声明:文章来源于网络,如有争议,请联系客服。
专栏文章内容及配图由作者撰写发布,仅供工程师学习之用,如有侵权或者其他违规问题,请联系本站处理。 联系我们
相关推荐
Google发布第8代TPU,台厂ASIC服务器出货迎新机遇
基于Android平台的手机的存储器优化
公司在测试视频服务器,现在要一边工作,一边看电影
Motorola M68HC11单片机原理、应用及技术手册
意法半导体为数据中心电源组合增加了选项
英特尔产能先供服务器Xeon处理器 联发科、AMD掘金CPU缺货商机
小霸王SB-818型复读机DRAM存储器电路
Google AI压缩技术引发市况反转? 两岸存储器业界:大缺货潮恐延续更久
存储器转型AI战略资源 台厂受惠
读/写存储器RAM7489组成的延时电路
大型皮带机智能保护系统
存储器超级周期独一无二 三星、SK海力士估值向台积电靠拢
力积电:3D AI Foundry将与存储器、逻辑代工三分天下
[来自SOHU]“龙芯”CPU问世
SN75370双MOS存储器接口
联想亿万次服务器惊曝内幕 曙光请律师欲讨说法
闪速存储器技术现状及发展趋势
C语言程序设计及应用实例
论坛将换服务器!
Q1服务器CPU均价大涨27% 英特尔被曝出售原本将报废的芯片
用于UI创新的存储器
高速SDRAM存储器接口电路设计
Intro to TechTalk
异步SDRAM存储器接口电路设计
Arm重磅推出AGI CPU 1OU 双节点参考服务器
介绍DSP外部电路设计的经典著作
高速PCB设计指南之三
1兆位5伏闪速电擦除存储器AT29C010A及其应用
存储器的混乱
NAND报价狂涨:LTA将成为存储器行业主流模式