Google与Oracle联合宣布，Google第八代张量处理单元（TPU）将于2027年在Oracle Cloud Infrastructure（OCI）上正式提供服务。这是TPU问世11年来，企业首次无需绑定Google Cloud即可访问这款驱动Gemini等前沿模型的定制AI芯片。
该消息在Oracle AI World 2026大会上发布。这一合作标志着AI竞争格局的重大转变：硬件独占性不再是大厂的核心护城河，竞争焦点正转向软件生态系统与“数据引力”——即企业对JAX、TorchTPU等技术栈的熟练度，以及数据存储位置。
训推分离：8t与8i的差异化架构
第八代TPU分为针对训练的TPU 8t和针对推理的TPU 8i，两者在计算密度、内存及网络拓扑上存在显著差异。
TPU 8t专为大规模模型训练设计，支持密集型及混合专家（MoE）架构。由9,600个芯片组成的超级Pod可提供121 EFLOPs的峰值FP4算力，共享2 PB高带宽内存。Google声称，相比前代Ironwood，8t的训练性价比提升2.7倍（该数据尚未经独立审计）。
TPU 8i则针对生产环境推理优化，特别适用于多步推理、智能体框架及长上下文应用。每个芯片配备288 GB HBM3e内存，1,152个芯片的Pod配置旨在降低延迟。Google表示，8i在低延迟推理方面的每美元性能较Ironwood提升80%。
技术突破：SparseCore与Boardfly拓扑
为解决MoE模型训练中的嵌入表查找瓶颈，TPU 8t引入了专用组件SparseCore。它通过专用硬件处理不规则的嵌入查找，避免占用主计算单元的密集矩阵运算资源，从而显著提升大型推荐系统及广告模型的训练效率。
TPU 8i的核心创新在于其互连拓扑结构“Boardfly”。与传统3D环形拓扑相比，Boardfly将1,024个芯片配置下的网络跳数从16次减少至7次，大幅降低同步延迟。配合集合加速引擎（CAE），同步延迟进一步降低五倍。这种低延迟特性对需要多步推理的智能体AI至关重要。
此外，Google通过光电路开关（OCS）技术保障集群稳定性。在9,600个芯片的大规模集群中，OCS能实时动态重路由流量以绕过故障硬件，无需重启任务。数据显示，配备OCS的Pod在训练运行中保持了97%的有效吞吐量。
分工明确：Oracle筑基，Google供芯
根据协议，Oracle负责提供电力、冷却及数据中心网络等物理基础设施，并承诺进行“云吉瓦级”投资。Oracle的高速网络平台Acceleron将TPU集群连接至OCI的计算和存储网络，支持零信任数据包路由及远程直接内存访问（RDMA）。
对 enterprise 用户而言，TPU靠近Oracle数据库部署意味着可直接对现有数据进行微调或推理，避免跨云数据传输成本。目前，OCI已支持80万个NVIDIA GPU，引入Google TPU后，客户可在同一安全边界内混合使用多种AI加速器。
软件生态：PyTorch原生支持与JAX壁垒
第八代TPU广泛支持JAX、vLLM、SGLang、Ray及Hugging Face Transformers等框架。值得注意的是，Google的TorchTPU堆栈已于2026年10月在PyTorch Conference上开源，提供包括“Fused Eager”在内的多种执行模式，使PyTorch用户能以更低门槛迁移至TPU。
尽管技术壁垒降低，但JAX仍是发挥TPU全部性能（如SparseCore、ICI网络）的关键。对于计划大规模部署TPU的企业，培养JAX专业能力仍是必要的投入。
战略信号：从硬件锁定到软件生态
与Amazon Trainium、Microsoft Maia等仅限内部使用的定制芯片不同，Google选择将TPU开放给竞争对手Oracle，这在超大规模云厂商中尚无先例。此举表明，Google的战略重心已从通过硬件锁定客户，转向通过软件生态（JAX、Pathways等）扩大技术采用率。
Google人工智能和基础设施高级副总裁Amin Vahdat表示，下一代AI需要多样化计算，将TPU带入OCI将为组织提供更大的灵活性。然而，这也意味着企业虽摆脱了云厂商绑定，却可能陷入对Google软件栈的深度依赖。
常见问题解答
TPU何时在OCI可用？
预计2027日历年开始提供。Oracle承诺将在未来TPU世代发布的首日同步上线，这是一项多年期、多吉瓦级的长期合作。
需要重写PyTorch代码吗？
不一定。TorchTPU提供了PyTorch原生路径，且已开源。但对于追求极致性能的工作负载，尤其是涉及SparseCore和多Pod编排的场景，使用JAX仍是最佳选择。
如何选择8t或8i？
若工作负载为迭代式模型开发和训练，应选择TPU 8t；若为大规模服务成品模型，特别是智能体或多步推理系统，应选择TPU 8i。