随着企业将人工智能应用和智能体投入生产环境,AI基础设施的需求正发生深刻转变。早期的投资焦点集中在获取高性能GPU上,但实践表明,加速器仅是拼图的一角。智能体系统需要能够执行代码、访问数据、连接企业应用并在分布式设施上安全运行的完整环境。这意味着,市场需要的不再仅仅是裸金属GPU容量,而是融合计算、网络、存储、安全及大规模管理服务的完整云平台。

这一转变为云提供商带来了新机遇,也重塑了企业的期望:基础设施提供商需支持完整的应用程序生命周期,而非仅提供专用硬件。

从“裸金属”到全栈云平台

在2026年美国KubeCon + CloudNativeCon大会期间,Vultr首席营销官Kevin Cochrane指出,企业需要的是一个包含云计算、专用AI计算、网络、存储及开放生态系统的完整平台。

Vultr自2014年进入云市场以来,始终以开发者导向的平台为核心。在拓展AI基础设施领域时,该公司采取了审慎策略,优先满足企业工作负载和平台工程需求,而非单纯追逐GPU供应量。Cochrane自嘲Vultr是AI基础设施领域的“乌龟”,意在强调其稳健性。

早期AI基础设施需求主要来自超大规模云服务商、研究机构及大模型初创公司,它们亟需通过裸金属设施访问GPU集群。然而,当企业试图利用AI智能体简化运营、改善客户体验并创造新收入时,需求发生了变化。这些应用必须与企业现有系统协同,符合安全规范,并集成至既定的网络架构中。

Cochrane指出,复杂性和专业技能缺失是企业采用AI的主要障碍。即便拥有强大的加速器,若缺乏周边的基础设施和服务来构建、部署及运行应用,企业仍难以落地。为此,Vultr提供包括传统云计算、GPU、网络、存储及对60多个云原生计算基金会(CNCF)项目支持的一体化环境,旨在减少企业自行组装AI环境的工作量,让开发人员能按需部署预配置服务。

智能体兴起推动CPU回归

对GPU的过度关注往往掩盖了传统计算资源在AI架构中的作用。事实上,智能体AI扩大了基础设施需支持的工作负载范围。

AI智能体不仅涉及向模型发送提示并接收响应,还可能执行脚本、与代码仓库交互、运行构建、访问数据库及调用外部工具。这些活动需要GPU之外的计算资源。“并非所有工作负载都需要在GPU上运行,”Cochrane表示。

CPU对于数据库、应用程序代码和数据管道依然至关重要,同时也支持较小的优化开源模型及无需专用加速器的推理工作负载。此外,随着智能体获得运行代码和与系统交互的能力,企业需要安全的沙箱环境,将这些活动与生产环境及敏感资源隔离。

这催生了一种更复杂的基础设施模型:GPU处理高耗能的模型推理,而CPU支持围绕模型的应用程序、管道及执行环境。若企业在购买GPU容量时忽视周围的计算、存储、网络及隔离需求,可能会造成新的“基础设施孤岛”。全栈方法则赋予平台团队更大灵活性,在保持一致操作环境的同时,将资源精准匹配至个别工作负载。

数据主权成为架构决策关键

随着企业在各地区扩展AI部署,数据主权已超越简单的信息存储位置问题。在受监管行业或符合国家数据要求的组织中,企业需明确数据驻留位置、访问权限及服务可用性边界。

Cochrane将Vultr的区域架构描述为一种隔离模型,其全球34个数据中心区域独立运行。区域内数据保留在该区域内,不会被区域外的服务访问。这种隔离延伸至应用程序操作层面。以法国为例,即使Vultr的全球控制平面或其他区域不可用,在法国区域运行的应用程序仍能照常运作。

“如果世界其他地方都‘熄灭’了,你在法国的生产应用程序依然正常运行,”Cochrane称。这种方法旨在减少对可能影响区域可用性的全球服务的依赖,为企业提供更清晰的边界以管理敏感工作负载并保持业务连续性。随着AI深入业务运营,组织需在包括数据、计算、管理服务及操作依赖性在内的整个应用堆栈层面评估主权问题。

AI经济转向基础设施所有权

随着组织从试点转向持续的生产工作负载,运行AI应用的成本成为核心考量。当智能体反复调用模型、检索信息并执行多步骤工作流时,推理成本迅速攀升。企业必须在模型性能、吞吐量和基础设施支出之间取得平衡。

Cochrane认为,越来越多的组织将转向开源模型,利用自身数据进行适应,并在可控的基础设施上运行。相较于完全依赖大型商业模型,企业可使用专有信息对专用模型进行后训练,并将其部署于适合的运营工作负载中。他举例称,某平台工程组织通过后训练开源模型并在自有基础设施上运行,将推理成本降低了80%。

这表明,组织开始在整个堆栈层面评估企业AI基础设施的经济性。模型选择固然重要,但基础设施利用率、吞吐量、数据移动及长期运行智能体的成本同样关键。对于某些工作负载,拥有更多基础设施控制权比完全依赖外部推理服务能提供更好的成本控制。这并非要求每家企业都自建模型,而是强调组织需要更多灵活性来选择模型的运行位置及分布工作负载。

平台工程重塑云原生堆栈

智能体AI不断变化的基础设施需求,也扩大了平台工程团队的职责。Cochrane预计,平台工程师将成为企业采用AI的核心,与业务部门紧密合作,定义构建块,使开发人员能够部署受治理的AI应用,无需独立组装每个组件。

此外,云原生社区也在进化其共享基础设施模式。随着架构日益复杂,组织需要指导以了解各组件如何组合。Cochrane预测,将出现针对特定工作负载类型的“意见主导型”预建堆栈市场。团队可从经过测试的架构起步并根据需求调整,从而降低构建智能体应用的复杂性,鼓励更一致的部署实践。

同时,新云市场可能出现整合。专注于裸金属GPU容量的提供商将面临压力,因为企业要求更广泛的云功能。能够扩展至完整公共云平台的提供商,将更能胜任生产工作负载的服务。Vultr现有的云平台及其在传统计算和专用AI基础设施上的投资,正是为这一转型奠定基础。

综上所述,企业AI正在重新定义云基础设施。GPU虽仍重要,但智能体应用需要包括CPU、安全执行环境、网络、存储、数据主权及集成云原生服务在内的更广泛基础。新云市场的下一阶段,将由谁能提供企业在生产中运行AI所需的完整环境来决定,而非仅由GPU容量多少决定。基础设施的挑战已从使AI计算可用,转变为使围绕AI的整个系统在企业级规模下实用且易于操作。