新闻中心

EEPW首页 > 网络与存储 > 市场分析 > AI SSD采购容量预计突破45EB

AI SSD采购容量预计突破45EB

作者: 时间:2024-08-13 来源: 收藏

根据 TrendForce 集邦咨询最新的《Enterprise 》研究报告,由于 AI 需求大幅升温,最近两季 AI 服务器相关客户向供应商进一步要求加单 Enterprise (企业级固态硬盘)。上游供应商为了满足 在 AI 应用上的供给,加速制程升级,开始规划推出 2YY 产品,预期于 2025 年量产。

本文引用地址:https://www.eepw.com.cn/article/202408/461945.htm

TrendForce 集邦咨询表示,AI 服务器客户对供应商加单的情况,导致 Enterprise SSD 合约价于 2023 年第四季至 2024 年第三季间的累积涨幅超过 80%。

TrendForce 集邦咨询在报告中指出,SSD 应用于 AI 推理服务器,可在推理过程中协助调整、优化 AI 模型,尤其 SSD 可以实时更新数据,以便微调推理模型结果。AI 推理主要提供检索增强生成 (RAG, Retrieval-Augmented Generation) 和大型语言模型 (LLM, Large Language Model) 服务,而 SSD 可以储存 RAG 和 LLM 参考的相关文档和知识库,以生成含有更丰富信息的响应。此外,随着更多生成信息是以影片或相片显示,其数据存储量也相应增加,因此,TLC/QLC(四层单元闪存)16TB 以上等大容量 SSD 便成为 AI 推理主要采用的产品。

现在大家都知道,想要大模型有更高质量的输出,就需要高质量的数据,而且是大量的高质量数据。所以,存储系统的第一个作用就是:承担起存储大量数据的能力。

有人预测数据集会呈指数级增长,如此多的数据,说到底还需要服务器和存储来承担,如果还是用机械硬盘,则需要非常多的硬件系统,这对于数据中心空间,能耗和散热都是挑战。

而如果换成 SSD 闪存存储后,其单位能耗可以输出更高的性能,有助于省电。同时,更高的单盘容量可以减少硬件系统数量,进而减少数据中心机房空间占用,省下更多成本。

在 AI 同样非常火热的北美等市场上,对高容量 SSD 的需求正在快速上升。企业和数据中心正在寻求大容量的存储解决方案来应对不断增长的 AI 相关数据。

AI 的场景大致分为模型训练和推理两大部分。

其中,训练主要在数据中心内部完成,涉及的主要操作包括数据摄取(Ingest)、Checkpoint 创建等。当然,需要归档的数据也都存放在资源充裕的数据中心里。而推理既可以在数据中心内部完成,也可以在近边缘和远边缘端完成。

数据准备的过程主要发生在数据中心和近边缘端,也会有少部分发生在远边缘端。可以说,几乎所有场景中都离不开存储的支持,都需要存储具有处理大量数据的能力,都需要有尽可能高的读写性能。

此时,闪存存储的优势就非常明显。

在 AI 浪潮的推动下,美国顶级科技公司的数据中心正加速从 HDD 转向企业级 SSD。比如:大型科技公司如特斯拉在扩大 AI 服务器建设时,纷纷选择增加 SSD 的采购量,以满足日益增长的数据处理需求。

AI SSD 需求位元年增率超过 60%,供应商加快大容量产品开发

2024 年 AI 服务器 SSD 市场除了 16TB 以上产品需求自第二季大幅上升,随着 NVIDIA H100、H20 和 H200 等系列产品到货,相关客户进一步加大 TLC 4、8TB Enterprise SSD 订单需求。根据 TrendForce 集邦咨询预估,今年 AI 相关 SSD 采购容量将超过 45EB,未来几年,AI 服务器有望推动 SSD 需求年增率平均超过 60%,而 AI SSD 需求在整个 NAND Flash(闪存)的占比有机会自 2024 年的 5%,上升至 2025 年的 9%。

不过,戴尔公司副董事长兼首席运营官 Jeff Clarke 在财报电话会议上透露,由于成本上升和供需关系紧张,预计 2024 年下半年 SSD 价格将再攀升 20%。这一消息无疑给计划购买或升级 SSD 的用户带来了不小的压力。

业内专家分析认为,SSD 价格的上涨与原材料成本的增加密切相关。随着全球原材料价格的持续上涨,SSD 的生产成本也在不断攀升。此外,存储器厂商为了摆脱亏损、改善盈利状况,也开始寻求提高产品价格。这些因素共同推动了 SSD 价格的上涨。

对于用户而言,面对 SSD 价格的上涨,如何选择合适的存储设备成为了一个亟待解决的问题。一方面,用户可以根据自己的实际需求选择性价比更高的存储设备;另一方面,用户也可以关注市场动态,抓住合适的时机进行购买或升级。



关键词: SSD

评论


相关推荐

技术专区

关闭