随着GPU资本大量涌入新建数据中心，AI基础设施云服务（即“新云”）数量激增。然而，构建算力容量相对容易，大规模运营却困难重重。随着Kubernetes逐渐成为AI工厂的操作系统层，云原生社区所具备的专业知识，正成为许多新兴提供商亟需补齐的短板。
KubeCon大会正逐渐演变为聚焦AI基础设施的行业盛会，AI容器编排和分布式推理成为讨论核心。Stackpane首席执行官Sarbjeet Johal指出，新一代AI云平台虽建立在与此前超大规模云服务商相同的计算基础之上，但许多厂商业务过于单一，缺乏通往最终企业用户系统的关键桥梁。
Johal警告称，若这些“新云”不与重视现有设施的合作伙伴协同，将陷入困境。“它们无法独立生存，因为谁会成为它们的客户？只能是超大规模云服务商。新云本质上只是溢出的算力。”
软件能力决定AI基础设施云胜出者
Kubernetes历经十余年演进，如今在AI领域显现回报。云原生计算基金会（CNCF）在今年的KubeCon日程中增设了专门的AI推理和智能体（Agentic）轨道，标志着从业者注意力的转移。据媒体报道，Kubernetes目前已覆盖约三分之二的企业环境，嵌入英伟达参考架构，并支撑着新云的发展。多年来操作Kubernetes所磨练的技能，正直接应用于AI工厂的商业建设，而这也正是当前资本流向的重点。
行业观察人士指出，随着Kubernetes走向成熟，关于推理的讨论日益增多，分布式推理已成为当前最热门的领域。这种成熟度至关重要，因为大量AI资本支出正流向新兴提供商。软银集团今年夏天宣布进入美国新云业务，加入这一拥挤的市场。然而，许多现有运营商最初是为比特币挖矿构建数据中心，或通过套利现货定价起家，而非擅长运行大型软件，一场行业清算或许即将到来。真正的难点不在于获取GPU，而在于像真正的云一样运营它们。
有观点认为，“一半的新云将会失败”。要运营一家大型新云，必须具备类似CoreWeave的能力。CoreWeave的成功在于其创始人既懂数据中心，又拥有大规模软件栈技术。救援之力来自云原生社区：CoreWeave的工程团队由前谷歌云高管Chen Goldberg领导，被视为将数据中心专业知识与大规模软件技能相结合的典范。建议私募股权投资者收购较小的Kubernetes公司以填补市场空白。随着拥有土地、电力和物理外壳的数据中心所有者寻求解决连接性、多代英伟达硬件以及跨数据中心工作负载等问题，这些公司的估值可能达到十亿美元级别。
Johal目睹了Rackspace Technology经历的类似历程，他也同意软件能力将决定哪些提供商能够幸存。“我们以前看过这部电影。如果你想成为优秀的超大规模云服务商，没有软件能力就死定了。我们在Rackspace知道如何运营数据中心，但我们缺乏软件能力……没有软件能力，你就彻底失败了。”