一句话定义：边际成本（Marginal Cost）指每多生产一单位产品、多服务一个用户，总成本额外增加的那部分。
传统软件行业有句老话：软件的边际成本趋近于零。多一个人下载 App，公司几乎不多花一分钱——服务器早就买好了，代码复制一份也不要钱。所以互联网产品敢做“免费 + 无限量”，先把人圈进来再说。
AI 产品打破了这个惯例。每生成一个 token，都要真实地占用一次 GPU 计算、消耗电力和带宽。这不是比喻，是账本上能看到的开销。
打个比方：传统 SaaS 像一张已经付过钱的健身房年卡，多进去一个人几乎不增加成本；AI 产品更像出租车，每多跑一公里就多烧一公里油。你多问一句，让它多写一段，引擎就要多运转一段时间。推理（inference）阶段的成本还跟上下文长度相关：对话越长、贴进去的文档越多，单次请求的边际成本越高。
三个容易搞混的概念：
| 概念 | 通俗说法 | 例子 |
|---|---|---|
| 固定成本 Fixed Cost | 用不用都得付 | 训练大模型的一次性投入、机房、团队工资 |
| 边际成本 Marginal Cost | 多用一次就多付一次 | 生成一段回答占用的 GPU 时间与电 |
| 平均成本 Average Cost | 总账摊到每次使用 | 本月总支出 ÷ 本月总请求数 |
还有一个“边际收益”：多服务一个用户带来的收入增量。只有当边际收益高于边际成本时，扩张才划算。
对从业者来说，它有三层现实意义。
第一，它决定了免费额度能撑多久。免费额度本质是用固定成本去补贴边际成本，每一个白用的人都在真实地消耗资源。所以免费版几乎都配了 token 上限、限速（rate limit）和并发限制——不是因为小气，是因为这笔账算不过来。
第二，它决定了降价空间。价格战的底线就是边际成本，毛利等于价格减去边际成本。模型蒸馏、量化、批处理、缓存命中、更高效的推理引擎，工程上做的很多事归根到底就一句话：把每个 token 的成本压下去。具体降幅各家不同，以官方页面为准。
第三，它决定了产品形态。长上下文、多轮 Agent 反复调用、图像和视频生成，边际成本都远高于一次短问答，因此更容易被单独计价。按用量计费（usage-based pricing）就是让价格贴着边际成本走。
对普通人来说，记住一句就够：AI 的“免费”是带配额的免费，AI 的“降价”通常来自单位成本下降——这两件事，都由边际成本决定。