
甲骨文(Oracle)与英伟达(NVIDIA)宣布扩大AI基础设施合作伙伴关系,将在Oracle Cloud Infrastructure(OCI)上全面提供NVIDIA Vera Rubin系统及Vera CPU。
甲骨文计划将OCI Superclusters扩展至千兆瓦级别,部署NVIDIA Vera Rubin NVL72系统,并实现Vera Rubin NVL72和Vera CPU在云平台的全面商用。双方表示,该配置旨在支持依赖GPU和CPU的AI模型训练、推理及软件代理任务。
此次合作建立在OCI现有NVIDIA系统部署基础之上,包括GB200和GB300 NVL72。甲骨文的超集群设计融合了NVIDIA机架级系统、Oracle Acceleron网络、NVIDIA Spectrum-X以太网组件以及BlueField-4数据处理单元。在Vera Rubin NVL72架构中,每个机架通过NVLink连接72个GPU,整体网络架构可扩展至数十万个GPU。
此外,甲骨文计划推出NVIDIA HGX Rubin NVL8。这是一款采用x86服务器配置的八GPU系统,配备两个64核Intel Xeon 6处理器、4TB DDR5内存及6.4Tbps RDMA网络。该选项旨在满足希望以小规模配置获得下一代Rubin GPU,同时保持与基于x86应用兼容性的客户需求,为企业处理训练、微调及推理工作负载提供新途径。
OpenAI率先部署
OpenAI是该基础设施的早期用户。据甲骨文和英伟达介绍,OpenAI已在阿比林(Abilene)一个拥有超过10万个NVIDIA Blackwell GPU的OCI Supercluster上,训练并运行了GPT-6 Astra模型。
OpenAI计算基础设施工程负责人Sreekanth Pothanis表示:“随着前沿模型不断进阶,我们需要能够跟上步伐的基础设施。NVIDIA Vera Rubin在OCI上为我们提供了加速模型训练及服务苛刻AI工作负载所需的计算性能和规模。”
除GPU外,双方正着力解决AI代理引发的处理器需求问题。AI代理通常需调用工具、执行代码及检索信息,若CPU成为瓶颈,将导致GPU利用率不足。OCI上的Vera CPU旨在通过支持单线程工作及内存密集型操作,解决代码执行与并发任务处理难题。
双方指出,OCI Kubernetes Engine允许客户分别扩展CPU和GPU资源,而Acceleron网络硬件可隔离运行由AI系统生成的不可信代码工作负载。OpenAI目前正在OCI上测试Vera CPU,用于代理沙盒工作负载。OpenAI计算首席技术官Uday Ruddarraju称:“Vera CPU提供了执行代码及运行快速增长的代理沙盒工作负载所需的顶级性能。我们正将其引入OCI生产环境,以大规模支持此类负载。”
基础设施定制化趋势
这一举措凸显云服务商正将AI基础设施扩展范围从单纯GPU集群延伸至更定制化的处理器、网络和内存组合,以适应大模型和自主代理应用需求。对甲骨文而言,获取先进NVIDIA系统仍是其关键市场优势。
Oracle Cloud Infrastructure总裁Mahesh Thiagarajan表示,最新扩展涵盖模型开发和运营工作负载。“通过与NVIDIA合作,我们将能力扩展至训练、推理和代理AI,帮助客户在需求增长时保持GPU的高效、安全及可扩展性。”
NVIDIA超大规模和高性能计算副总裁Ian Buck指出,AI工厂需高效、耐用且可互换。“通过与甲骨文合作,我们将Vera Rubin和Vera CPU带入OCI,帮助客户利用更多基础设施,并随AI演进维持其价值。”