AMD 发布 Helion 机架参考设计:把智能体执行与模型推理拆到两类机架
AMD 在 10 月 12 日的 OCP 全球峰会上发布 Helion,一个面向智能体(agentic AI)的开放机架级参考设计。它给出两种配置:面向超大规模客户的纯 CPU 机架,最多支持 32,768 个第六代 EPYC(9006 系列)Zen 6 核心,只承担智能体执行,模型推理请求送往独立的 GPU 基础设施;面向企业的一体化机架,把 EPYC CPU 节点、最多 16 颗 Instinct MI350P GPU 节点与通用计算放在同一个机架里,其中 GPU 由两个各 8 卡的 5U 节点构成,两个节点独立运行,之间没有 scale-up 互连。企业配置集成 token router,把智能体的模型调用路由到云端前沿模型,或路由到同一机架内运行的开源模型。AMD 计划在 2026 年 11 月提供基于该设计的系统,并计划把规范贡献给 OCP。

把智能体执行与模型推理拆开,依据是两类负载的差异。智能体在两次模型调用之间要做的事,包括维护上下文、调用外部工具、编排多步流程、访问数据库,主要消耗 CPU 与内存带宽;模型推理才落在加速器上。传统 AI 机架围绕 GPU 构建,把这类控制流负载一起压到加速器上并不经济。纯 CPU 机架的做法是让智能体容量与模型服务容量各自扩展,按实际负载配比 CPU 与 GPU 密度,而不是让加速器承担 CPU 更适合的工作。纯 CPU 机架的密集、均衡与高性能三类刀片分别对应 256 核 400W、256 核 600W 与 96 核 5.0GHz,机架公布的最高网络带宽为 102 Tbps。
机架按 OCP 规范分层实现:机架与母排采用 ORv3,21 英寸、44OU,支持风冷与直液冷;主机处理器模块对应 DC-MHS,管理与安全对应 DC-SCM,电源框对应 HPRv2,网络对应 OCP NIC 3.0,芯片信任根采用 Caliptra。逐层对齐的意义在于它可以按企业机房原有的供电与散热条件部署,而不必等待为高密度 GPU 机架所做的配电改造完成,这也与 AMD 强调的"用现有 IT 基础设施部署智能体"一致。
Helion 与 AMD 今年早些时候推出的 Helios 面向不同负载:Helios 是统一的 GPU scale-up 域,面向前沿规模训练与大规模推理;Helion 面向智能体,把推理放进同一机架,或交给独立的加速机架。企业配置里两个 GPU 节点之间不设 scale-up 互连,说明它并不打算承接前沿训练,而是补齐智能体场景中的推理环节。对机房侧来说,参考设计给出的是一组关于 CPU 密度、供电与液冷条件的可配置区间,实际交付形态仍取决于 Cisco、Dell、HPE、Lenovo、Supermicro、鸿海、QCT 与 Wiwynn 等伙伴的系统实现。Helion 目前仍是参考设计。CPU 机架与加速机架各自扩展,配比是否划算,取决于智能体工作流里工具调用与推理耗时的实际分布,这一点要到生产环境里才能看清。












评论