AI加速器对抗 AMD面对英伟达不落下风

「买愈多、省愈多」的话语权轮到AMD发声！ 根据近期业者公布AI服务器测试结果显示，MI300X在相同条件下，达到英伟达H200 5倍之Tokens（参数）吞吐量。 得益于AMD在ROCm生态系导入的新AI Tensor Engine（张量引擎），加速GPU训练及推理; 另外，在硬件层面大量堆叠HBM也发挥关键作用。 未来在成本更加锱铢必较的情况下，AMD AI服务器更显优势。

平价语言模型的崛起，正在重塑GPU市场生态，阿里巴巴首开全球数据中心算力过剩第一枪，业界分析，未来成本更加被检视情况下，AMD AI服务器价值将重获市场重视。 过往英伟达自豪的CUDA生态护城河，AMD强化ROCm补齐短版，最新推出的AI Tensor Engine，搭配更佳的硬体规格，与主流业者一决雌雄。

法人分析，台厂于AI服务器供应链扮演重要角色，硬件组装具竞争优势，因此包括鸿海、广达，散热业者奇鋐、双鸿等也能吃到AMD服务器订单。 晶片也委托台积电生产，但相较英伟达，AMD更敢于尝试新技术，MI300领先市场采用采用SoIC搭配CoWoS，今年将推出的MI350X以台积电3纳米制程打造，并用上HBM3E，更大的吞吐量、使推理性能将前一代提高35倍。

AMD之MI300X在DeepSeek-R1推理性能表现突出，结果显示，MI300X运行FP8最高参数版本之DeepSeek-R1时，在相同延迟下吞吐量最高可达辉达H200之5倍，科技业者指出，H200单一节点可处理16个请求、MI300X则可处理128个。

AMD原先预估今年上半年AI业务收入将持平，不过，受中国大陆特规版MI308强劲需求推动，法人透露，CSP的资本支出成长及阿里巴巴和腾讯的采用，将推动AMD今年AI业务收入成长至87亿美元，相较去年50亿美元、大幅成长7成。 在消费性产品部分，Radeon 9070系列发布带动，AMD游戏GPU预计表现强劲，该系列GPU在光追性能方面大幅提升，并引入全新的AI加速性能，第二季表现可期。