过去两年,企业人工智能(AI)投资的核心始终围绕算力展开。各大组织竞相争夺GPU资源、洽谈基础设施协议并迅速搭建机器学习平台。然而,许多企业事后发现,存储正成为制约加速器效能的关键瓶颈。

据媒体报道,谷歌云存储产品副总裁Ronen Schwartz在近期访谈中指出,存储已从后台赋能者转变为加速器执行的关键部分。这一被严重低估的问题,正直接影响企业AI基础设施的效率与成本。

GPU闲置即亏损:隐性成本凸显

Schwartz指出,加速器是企业最昂贵的支出项目。GPU每闲置一秒等待数据,都意味着即时且可追溯的资金浪费。然而,当团队获得TPU或GPU访问权限后,数据交付路径往往未得到与计算层同等的重视。

“团队花费大量时间争取加速器,却因数据交付路径设计不足,无法获得预期输出。”Schwartz表示。这种模式普遍存在:组织通常在GPU利用率未达标、训练超时后,才意识到存储架构投入不足的代价已嵌入项目中。

训练、推理与智能体:截然不同的存储挑战

AI并非单一工作负载,训练、推理和智能体(Agentic)具有根本不同的数据移动模式,需针对性设计。

训练阶段的关键痛点在于检查点(Checkpoint)管理。训练集群需每隔约15分钟暂停,将多TB数据写入存储以防故障。Schwartz指出,缓慢的存储会导致整个GPU集群冻结。谷歌的快速对象存储技术写入检查点速度比标准对象存储快三倍以上,恢复速度快五倍以上,这对自动驾驶等大规模应用至关重要。

推理阶段则受限于实时性与低延迟,响应时间直接决定用户体验和Token经济性。智能体工作负载则要求共享工作空间、跨智能体状态持久化及低延迟检索,以支持长短生命周期进程的按需激活。

源自Colossus的企业级架构优势

谷歌的差异化优势建立在多年内部运行超大规模AI工作负载的基础上。Schwartz引用数据显示,其快速对象存储吞吐量达每秒15太字节(TB),谷歌云托管集群达每秒10TB。

技术核心包括“区域协同定位”(Zonal colocation),即将数据物理放置在靠近GPU/TPU集群的位置,最小化传输时间。谷歌的Rapid Bucket技术通过减少处理步骤,使单个Bucket提供超过每秒15TB的吞吐量,支持每秒2000万次查询,延迟低于毫秒级。

“该架构基于谷歌长期支持加速器的基础设施经验,并与全球十大前沿AI模型公司中的九家合作验证。”Schwartz称,这种架构能显著减少空闲计算,降低训练成本并加快迭代速度。

激活非结构化数据的智能体价值

智能体不仅需访问数据库,更需大规模处理图像、视频、文档等非结构化数据。为此,谷歌推出“智能存储倡议”,核心功能为“对象丰富化”(Object Enrichment)。

当文件存入Bucket时,谷歌AI模型会自动提取内容并附加结构化元数据,使非结构化数据无需人工干预即可被智能体查询。此外,专门的文件系统Filestore智能体卷集成至Google Kubernetes Engine,旨在处理数百万智能体并发运行的成本、响应速度及数据共享需求。

Schwartz强调,存储层正在经历重新评估。早期在存储架构上的决策将限制或启用后续所有工作负载的性能。随着GPU利用率成为关键KPI,将存储作为主要层级而非事后考虑,将成为企业从AI投资中提取更大价值的关键。