大模型迭代引发一体机市场热潮，IDC启动大模型推理算力系列研究

2025年1月以来，中国市场 AI 创企深度求索开发的 AI开源 大模型 DeepSeek的爆火引起广泛关注，近期DeepSeek等大模型的迭代也推动了一体机产品的密集发布，吸引了包括服务器、云服务、行业应用开发、大模型技术供应商等多方参与，根据IDC统计，市场上已迅速有接近百家厂商推出AI一体机产品。

未来AI算力市场服务模式如何演变？AI一体机有哪些市场机会？基于市场上的普遍问题，IDC进行了总结，旨在为技术供应商和行业用户提供参考：

中国市场AI算力服务的模式

DeepSeek等大模型的迭代推动了AI算力服务模式的更新升级，一方面，用户端对AI算力建设提出新的需求，包括算力效率提升、推理需求增加、供应方式多样化等；另一方面，供应侧，AI算力基础设施服务模式也不断创新。中国市场的AI算力建设，走出了一条具备中国特色的差异化路线。

当前提供AI计算服务的模式主要有以下几种：

●   公有云算力服务：在公有云上提供算力基础设施，即公有云厂商的AIaaS服务。

●   智算中心：由政府牵头，国资平台发起智算中心项目，由集成商作为总包，智算中心厂商参与建设。建成之后可供地方政府、企业训练、调优与部署AI应用。

●   私有云：由企业自主采购、自主建设AI私有云，支撑内部的模型训练与部署。

●   AI一体机：主要用于支撑本地部署AI应用。

AI一体机的市场机会

AI一体机，是专为AI大模型应用和部署而设计的集成计算设备，通常包含CPU/GPU等算力组合、存储器、操作系统、AI平台软件及各类模型算法、推理服务等软硬组件。从去年开始，AI一体机市场上主要产品形态包含训推一体机、推理一体机等，训推一体机具备开箱即用、私有化部署等特性，支持完整的AI模型开发流程（包括训练和推理部署等多个环节）。也有部分推理一体机，专注于高效能推理场景。目前搭载DeepSeek的AI一体机方案存在差异，能支持运行蒸馏版、满血版V3/R1模型，但Deepseek一体机的实际应用效果仍有待观察，有些行业用户则结合自己的应用场景考量优先选择预制了参数规模更小的大模型、成本更低的一体机做尝试，预计能够满足一些行业的应用需求。

由于DeepSeek事件，带动了整个中国市场对AI应用的乐观发展预期，如果在驱动更多企业（尤其是中小等长尾企业）部署AI的假设下，AI一体机市场将会迎来进一步发展。随着基础大模型开启另一开发新范式，大模型从千亿参数向行业精调模型演进，AI一体机通过软硬一体的集成解决方案，能够实现特定场景的私有化部署，缩短部署周期，降低中小企业大模型的使用门槛。对于一些具备大量敏感数据的用户，私有化部署确保数据安全处理/避免敏感信息外流，能够满足教育/科研、政务与公共服务、制造、能源、医疗、金融等领域的一些应用需求。

IDC启动大模型推理算力系列研究

随着AI应用的不断落地，算力建设的重点也将从以支持训练为主开始转向越来越多的支持推理。在此背景下，IDC启动大模型推理算力系列研究。主要包含下列研究报告：

●   《中国大模型推理计算指数研究报告，2025》：希望从大模型推理的角度，帮助用户建立推理算力选型的参考、验收的标准以及持续运营的支持。如下表所示，技术能力、服务能力、规模化能力、供应链以及安全，将是我们考量的维度。

●   《中国AI大模型训推一体机市场分析与品牌推荐，2025》：AI大模型一体机市场囊括了服务器、云服务、行业应用开发、大模型技术供应商等多方参与，市场以往更关注基础功能和性能，今年可能更强调成本、效果更佳的AI模型能力集成、软硬件协同优化和行业定制化、安全性等。IDC将启动市场追踪与品牌推荐研究，辅助行业用户更好的选型AI大模型一体机产品。

免责声明

本文中的内容和数据均来源于IDC所发布的报告，所有内容及数据均为我公司所有。未经IDC书面许可，任何机构和个人不得以任何形式翻版、复制、刊登、发表或引用。