一句话定义:算力时租价差(GPU Rental Spread)指同型号 GPU 在同一时间点、不同渠道与不同合约条件下,每小时租金的差额。公开渠道上,同一张 H100 能见到个位数美元到十几美元的不同报价(具体以各家官方页面为准),差出三到四倍并不罕见。
价差来自哪里,大致可拆成四块:
合约期限(commitment)。按小时随用随停的是现货(on-demand),供应商要承担“今天有人租、明天空着”的风险,风险溢价直接进入单价。反过来,你预付几个月甚至一年,供应商拿到确定性,就愿意让价。这部分通常贡献最大一块价差。
电力与地域(power & location)。电费和数据中心的散热成本在长期运营成本里占主要位置。工业电价低、气候冷、土地便宜的地方,同一张卡的成本就低;把机柜放在寸土寸金的城市核心区,租金自然高。
利用率与 SLA。承诺 99% 以上可用性、独享整机、故障几分钟换卡的服务,必须留冗余机器备用;冗余没人付钱时,只能摊到单价里。反之,共享卡、可被随时回收的抢占式实例(spot / preemptible),最便宜也最不稳定。
打包程度。裸卡和“带高速网络、存储、镜像、运维面板”的平台是两种商品,中间隔着转售与集成加价。
打个租房的比方:同一套房子,日租民宿、押一付三的年租、签五年长约,每平米单价能差一倍;市中心和老工业区的水电物业费不一样;带保洁管家和“坏了你自己修”的,更不是一个价。价差不是谁在宰客,而是风险、服务、确定性被打包进了价格。
和相邻概念的区别:算力时租价差说的是“同一时刻的价格分布”,不是“价格随时间的变化”(那是算力价格波动);也不是“单位有效算力成本”——后者要把利用率和中断损失折算进去;它更不等于总拥有成本(TCO),TCO 还含存储、网络、人力和迁移成本。
| 采购方式 | 单价 | 灵活性 | 主要风险 | 适合谁 |
|---|---|---|---|---|
| 自建 | 长期最低 | 最差 | 折旧、闲置、运维 | 流量稳定且规模大 |
| 长约/预留 | 中等偏低 | 中等 | 承诺期内用不完 | 推理业务锁底价 |
| 现货/抢占式 | 最高或最低 | 最好 | 被回收、涨价 | 实验、峰值溢出 |
对实际决策的意义:从业者要比的从来不是挂牌价,而是“有效时租 = 挂牌价 ÷ 实际利用率 + 闲置、迁移、中断的隐性成本”。训练任务能排期、能容忍重启,长约或抢占式更划算;推理有稳定底噪流量,用长约锁住底座、现货接峰值;短期试验直接买现货。普通人感受到的“模型又降价了”,一部分来自模型效率,另一部分就来自厂商在长约、自建、错峰上的采购结构优化。
