
在Open Compute Project (OCP) 全球峰会上,AMD正式推出专为Agentic AI(代理式人工智能)工作负载打造的开放式机架参考设计——Helion。该架构创新性地在基础设施层嵌入软件模型路由器,依据成本与延迟需求,将AI智能体的模型调用动态路由至云端前沿系统或本地开源模型,而非默认将所有请求发送至昂贵的GPU集群。
此次发布与AMD Helios 72-GPU机架进入生产阶段同步进行,AMD同时首次公开展示了下一代EPYC Verano服务器处理器的硅片样品。AMD董事长兼CEO苏姿丰博士将这一系列举措定义为构建“异构数据中心”的关键步骤,旨在让CPU、GPU及其他加速器在不同工作负载中各司其职,而非在单一架构中竞争主导地位。
Helion:面向Agentic AI的开放蓝图
随着AI应用从简单的聊天机器人推理转向复杂的Agentic AI,数据中心硬件的功能定位发生结构性转变。在传统LLM部署中,CPU与GPU比例通常为1:4至1:8;而在Agentic配置中,CPU承担编排层任务(如路由工具调用、查询数据库、执行安全策略),GPU则专注于模型推理。AMD指出,这一转变推动基础设施向1:1的CPU与GPU比例演进。
Helion正是针对这一变化提出的架构解决方案。作为一个公开蓝图而非直接销售的产品,AMD计划将其贡献给OCP社区,允许OEM、ODM及超大规模运营商基于共享规范自行制造系统。该机箱符合OCP Open Rack V3标准,采用21英寸、44-OpenU机柜设计,并整合了DC-MHS、DC-SCM、HPRv2等多项行业标准。
Helion提供两种主要配置:一是全CPU机架,搭载第六代EPYC “Venice”处理器,每机柜最多容纳32,768个核心,适用于需专用智能体执行能力的场景;二是企业一体化配置,将EPYC CPU刀片与AMD Instinct MI350P GPU推理节点配对,每机架支持最多16个MI350P GPU。两种配置均支持风冷和直接液冷。
模型路由器:实现结构性成本优化
Helion的核心差异化优势在于其集成的模型路由器。该组件工作在模型请求层,通过分析传入的智能体调用,将其分派至最具成本效益的后端:高复杂度任务使用云托管的前沿模型,低复杂度或对延迟敏感的任务则使用机架内本地托管的开源模型。
AMD服务器解决方案高级副总裁Dan McNamara透露,内部测试显示,使用模型路由器可将令牌成本降低43%,并将响应速度提高多达三倍。这种节约源于结构性改变:本地处理的请求不产生边际API成本,从而将常规调用从按令牌计费的边缘API定价中剥离。Forrester首席分析师Charlie Dai认为,这种编排与推理的解耦能显著提升GPU利用率。
Helios量产确认与Verano首秀
在Helion发布的同时,苏姿丰确认Helios 72-GPU机架已于2026年9月进入生产发货阶段,初始系统已在OpenAI、Meta、Microsoft和Oracle安装运行,微软Azure确认为早期接收方之一。Helios基于72个Instinct MI455X加速器(CDNA 5架构,HBM4内存)构建,搭配第六代EPYC Venice CPU,整机架HBM4内存约31 TB,FP4 AI推理性能目标为2.9 exaflops,完全配置价格约为525万美元。
此外,AMD展示了EPYC Verano处理器的实物硅片。作为首款支持LPDDR5X内存的EPYC处理器,Verano基于Zen 6架构和台积电2nm工艺,采用SB1 BGA永久焊接设计。尽管牺牲了现场可更换性,但其24通道LPDDR5X内存子系统带宽高达每秒2.9 TB,远超NVIDIA Vera CPU的1.2 TB/s,极大提升了智能体执行工作负载的性能。展示的硅片最多支持192个核心,预计2027年上半年量产。
行业协同与市场前景
峰会上,AMD还与NVIDIA、Google和Meta联合发布了开放数据中心规范v0.7,涵盖电源、冷却及物理布局,旨在推动AI数据中心从兆瓦级向吉瓦级扩展。尽管计算层竞争激烈,但巨头们在设施标准化上达成共识。
Dell、Cisco、HPE、Lenovo、QCT、Supermicro、Wiwynn和鸿海集团已宣布支持Helion参考设计,合作伙伴制造的配置计划于2026年11月提供。然而,分析机构NAND Research指出,目前尚缺乏量化Helion机架级性能的公开基准数据,且11月的交付时间表较为激进。Helion能否实现其成本优化承诺,仍有待OEM生态系统的落地表现及独立基准数据的验证。