
AMD正开发一款专为人工智能(AI)代理设计的机架级计算系统——Helion Agentic AI Rack。该系统旨在满足个人助手、企业应用及技术计算等不同场景的工作负载需求。
在硬件配置上,Helion Agentic AI Rack支持多达32,768个基于Zen 6架构的x86 CPU核心,集成16个Instinct MI350P AI加速器,可提供74 PFLOPS的FP4算力。此外,该平台具备102 Tbps的网络带宽,并采用模块化设计以灵活适配多样化的AI代理计算需求。
针对三类负载的定制化方案
AMD将AI代理工作负载划分为个人、企业和专业技术三类,并允许运营商根据具体需求自定义CPU核心密度、性能及功耗。
针对个人代理场景,系统侧重高密度与高能效,采用功耗400W的256核心Venice处理器;企业级应用需在容量与性能间取得平衡,使用功耗600W的256核心Venice处理器,并将代理执行、推理及通用计算分离至不同节点——CU沙盒节点负责执行,Instinct MI350P加速器支持推理,通用服务器处理数据库及存储任务;技术计算则优先考虑速度,采用高频运行的96核心Venice处理器。
超大规模配置可仅依赖CPU基础设施,而企业版则在机架内混合部署处理器与图形加速器。系统还内置智能令牌路由器,用于在前端模型与开源模型间分配请求,同时支持可编程网络、开源软件生态及符合开放计算项目(OCP)规范的ORv3 44OU硬件。
传统数据中心面临改造挑战
由于传统数据中心主要面向标准云或遗留企业计算设计,现有设施可能缺乏支持该机架所需的电力、冷却及网络基础设施。Helion Agentic AI Rack混合了高密度与高频服务器,要求数据中心在机架空间、电力分配及冷却资源上进行精细化规划,而非部署统一系统。
网络层面,高达102 Tbps的带宽及可编程令牌路由器的集成,也要求现有设施升级兼容的网络设备与软件,以支持高吞吐量及模型请求路由。若现有基础设施无法适配,运营商可能需对设施进行重大改造。
据悉,Helion Agentic AI Rack预计将于2026年11月上市。目前,AMD尚未披露具体的设施升级成本或详细冷却要求。