H100 每小时实际成本揭秘
通过对 AWS、Azure 及新兴云服务商（Neoclouds）的按需 GPU 租赁价格进行统计，并将所有数据统一折算为每 GPU 每小时美元价格，本文仅针对完全相同的 GPU 型号进行了分组对比。
核心数据对比
在 H100 SXM 80GB 这一特定型号上，市场价格呈现显著分化：
- RunPod Community：$2.69/GPU-hr，月费用（按730小时计）为 $1,964。
- RunPod Secure：$3.99/GPU-hr，月费用为 $2,913。
- AWS (p5.48xlarge)：$6.88/GPU-hr，月费用为 $5,022。
- Azure (ND96isr_H100_v5)：$12.29/GPU-hr，月费用高达 $8,972。
同一款芯片，最便宜与最贵选项之间的价差高达 4.57 倍。 一台 GPU 连续运行一个月的成本，取决于租赁渠道，最低仅需 $1,964，最高则达 $8,972。
为何严格分组对比
“H100”并非单一产品，而是包含 SXM 80GB、PCIe 80GB 和 NVL 94GB 三种形态。尽管营销名称相同，但三者价格各异。若混合对比，将制造出虚假的巨大价差。因此，本文所有对比均严格限定在单一型号与显存规格的组别内。
此外，同一供应商内部也存在定价差异。以 Azure 的 A100 PCIe 80GB 为例，根据每台虚拟机配置 1、2 或 4 张 GPU，单 GPU 小时价格分别为 $3.67、$4.78 和 $4.78。为确保公平，本文采用各供应商提供特定 GPU 的最低单价作为基准，不展示同一供应商内部的结构性价差。RunPod 的 Secure 和 Community 服务则被视为同一家公司的不同产品线。
4.57 倍价差背后的价值差异
从 Azure ND 系列切换至 RunPod Community，用户虽降低了成本，但也失去了以下关键优势：
- InfiniBand 高速互联： Azure ND SKU 配备每 GPU 400 Gbps 的 Quantum-2 InfiniBand 及 GPU Direct RDMA 技术，这是实现多节点分布式训练的关键。这也解释了为何 ND 系列定价高于 Azure 自身的单 H100 NC SKU ($6.98)。
- 数据中心服务等级协议 (SLA)： RunPod Community 由第三方主机提供商出租自有硬件，缺乏大型云厂商级别的 SLA 保障。
- 企业级服务： 包括合规性支持、承诺容量保障以及超大规模云厂商的其他附加服务。
若仅在单节点上进行微调，用户支付的溢价可能购买了从未使用的互联网络；但若需在 64 个节点上进行分布式训练，廉价选项则难以胜任。
数据来源与处理
本次分析涉及以下数据处理流程：
collect.py：抓取无需认证即可访问的 AWS 价格列表和 Azure 零售价格。hyperscalers.json：存储上述 API 返回的原始数据。vendors.json：记录新兴云服务商的价格转录数据，包含来源 URL 和读取日期。compute.py：执行分组、供应商标准化处理及价差计算。compare.json：输出最终对比结果。
python3 collect.py # 处理约 1 GB AWS 索引，耗时较长
python3 compute.py研究局限性
- 仅涵盖按需公开标价： 预留实例、承诺用量折扣和竞价实例（Spot）均能降低超大规模云厂商的实际报价，尤其是竞价实例会大幅缩小价差。
- 区域限制： 每个供应商仅选取一个代表性区域（AWS 为
us-east-1，Azure 为eastus）。 - GPU 数量认定： 依据供应商文档而非价格标签确定。例如 AWS 报告 p5 实例拥有 “640 GB HBM3”，Azure 报告加速器总内存，两者均未明确标注单 GPU 型号。相关文档链接已收录于
compare.json。 - Lambda Labs 未纳入主要统计： 其官网显示所列费率将于 2026-11-16 生效，当前费率需登录查看。其数据已单独列出并标注。
- 可用性未计入： 无法获取的廉价 H100 并不构成实际有效的市场价格。