跳到主内容
快讯直播
AI智模界
AI 词典

容量规划:按峰值买,还是按均值买?

一句话定义:容量规划(Capacity Planning)是提前估算“要准备多少资源才够用”,在不够用和用不完之间选一个能接受的平衡点。

打个比方。 开一家奶茶店,你得决定备多少杯子和多少员工。按平日中午的客流准备,周末排队排到街角;按节假日最高峰准备,平时一半人闲着发工资。容量规划回答的就是这个问题,只不过在 AI 系统里,被准备的东西换成了 GPU 卡、显存、推理实例和调用配额。

峰值还是均值,关键看扩容有多快。

如果扩容是分钟级的(弹性伸缩、按量付费),按均值买、峰值临时拉起就够了,多留一点只是为了扛住突发毛刺和扩容延迟。如果扩容是周级的(采购机器、审批、上架、灌模型),你就必须按“未来几周的峰值”买,因为流量不会等你。

判断余量不能凭感觉。有三个数值得看:

  • 峰均比(Peak-to-Average Ratio):一天里最高峰是均值的几倍。它决定了均值策略的上限。
  • 分位数:看 P95、P99,不要只看平均。平均值会把“1% 的用户等了 30 秒”这件事完全抹掉。
  • 扩容时间(Lead Time):从决定扩容到真正能扛流量需要多久。这段时间里的峰值,只能靠存量余量硬扛。

AI 负载还有个特殊性:GPU 不像 CPU 那样能超卖,显存是硬性限制,模型加载和冷启动又慢。所以同样的业务,AI 服务的余量通常要比普通 Web 服务留得更保守。

和相邻概念的区别

  • 和性能优化:优化是“少用资源”,容量规划是“备够资源”。先优化再规划,否则就是在为空耗买保险。
  • 和自动扩缩容(Autoscaling):后者是执行手段,前者是策略,包括什么时候扩、扩到哪、上限设多少,都由规划定。
  • 和压测(Load Testing):压测是获取数据的手段,容量规划是用数据做决策。
按峰值买按均值买 + 弹性
成本高,大量时间闲置低,用多少付多少
延迟保障稳依赖扩容速度
适合扩容慢、SLA 硬性要求高、独占资源扩容快、可排队、无状态服务

对从业者和普通人的意义

从业者:把“余量”当成一份有价格的保险,而不是空耗。汇报时说“多留 30% 是为了扛住每天 20 点的直播高峰,代价是这部分资源在其余时间闲置”,比说“留点余量保险”专业得多。反过来,砍容量时也要问清楚:砍掉的是真闲置,还是那 1% 的救命空间。

普通人:双十一的服务器、医院急诊的床位、公司年会订的盒饭,都是同一个问题的不同版本。资源很少能“刚刚好”,容量规划就是把“浪费一点”和“崩一次”放在天平上称一称。具体计费方式与规格上限,以各家云厂商的官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。