
随着英伟达凭借NVLink Fusion技术扩大市场影响力,竞争对手正急于推出替代性互连技术和交换机产品。在本周举行的AI基础设施峰会上,Delos Data和Cornelis Networks正式加入“Scale-up”(集群内扩展)网络竞赛。Scale-up fabric是让多颗GPU协同工作表现为巨型AI加速器的关键技术,AMD等厂商已通过拥抱Ultra Accelerator Link(UALink)等新兴协议追赶这一趋势。
目前,这些协议大多通过标准以太网交换机进行隧道传输。例如,AMD使用基于博通102.4 Tbps Tomahawk 6芯片的交换机,连接至MI455X上的定制I/O Die。尽管专用的UALink交换机和物理互连方案尚属稀缺,但Cornelis和Delos正从标准化、软件优化和物理硬件等多角度应对这一挑战。
为“非英伟达”网络树立标准
Cornelis在峰会上推出了Active Compute Fabric(ACF,主动计算架构),旨在建立开放的Scale-up和Scale-out网络体系,将可编程计算能力集成到网络中。这家2020年从英特尔分拆的公司,原本专注于高性能计算的Scale-out互连。随着具备800 Gbps能力的CN6000系列交换机和网卡即将发布,Cornelis希望通过开放的Ultra Ethernet Protocol(UEP)进军Scale-up市场。
ACF扩展了UALink和ESUN等技术使命,旨在为广泛硬件设定统一的网络内计算能力基线。类似英伟达NVSwitch支持的SHARP技术,ACF允许将集合通信等操作卸载到交换机ASIC上,以释放GPU算力。Cornelis指出,通信开销和同步常导致加速器利用率不足,其网络内加速器可处理流经系统的数据。
Cornelis估算,在拥有10万颗GPU的系统中,约一半GPU时间花在等待数据上,相当于每年浪费约16.8亿美元产能和500 GWh电力。该公司还致力于KV Cache卸载、MoE专家分发、HPC应用MPI卸载及网络内检查点保存等功能,以降低通信开销并提升故障恢复能力。
面向AI时代的全新网卡
与此同时,由前Barefoot Networks和英特尔高管创立的Delos Data致力于从物理层入手,推出Nonstop AI产品组合。其理念是提供系统级蓝图,加速端点间数据移动并支持大规模计算域扩展。Delos的数据接口将以三种形态提供:
首先是I/O Die,聚合带宽超过30 Tbps(双向约8 TB/s),远超英伟达或AMD最新加速器3.6 TB/s的互连带宽上限。Delos的小芯片具有协议无关性,兼容ESUN、UALink等协议,且不绑定封闭生态,设计师可直接授权设计。其次是近封装光学(NPO)技术,集成10+ Tbps数据接口,作为机架间光互连的替代方案,兼顾铜互连的低功耗与光互连的可维护性。最后是400+ Gbps的NIC,同样具备协议无关性,服务于Scale-out网络。
这些接口建立在Delos现有的计算参考设计及Nonstop AI软件平台之上,该平台支持对交换式Fabric或Mesh的配置监控,利用遥测数据实现链路故障时的动态重路由和快速恢复。
激发竞争活力
投资者渴望在Scale-up领域引入更多竞争。Cornelis宣布获得约2.05亿美元融资,用于推动下一代网络产品上市。Delos Data也于周二宣布,在Matrix、Playground和Socratic Partners等机构支持下,其融资总额已超过1亿美元。