一句话定义:单位任务成本(Cost per Task)指的是把一件对业务真正有意义的任务从头到尾跑通、并交付到可用程度,平均要花多少钱。
挂牌价为什么不够用
打个家常比方。两家店买的鸡胸肉单价几乎一样,但“每份宫保鸡丁的成本”可能差一倍:有人刀工好损耗少,有人做废了重来,还有人出锅前得有人尝一口咸淡。只看食材单价,算不出这道菜的成本。
模型 API 按 token 计价,就相当于食材单价。一次真实任务的钱,主要花在四个地方。
上下文膨胀(context bloat)。你在对话框里试一句提示词,消耗很小;上线后,用户的每轮追问、检索回来的文档、工具返回的结果、历史对话,都会反复塞回 prompt。同一件事做到第十轮,输入可能是第一轮的很多倍。
成功率。一次做对的概率是七成,平均就要跑将近 1.5 次;失败的尝试照样计费,而且往往上下文更长、更贵。
重试与工具调用。智能体(agent)会反复调用模型和外部接口,每一步都是一次往返,既烧 token 也烧延迟。
人工复核(human-in-the-loop)。输出不稳定就得有人兜底,复核那几分钟的工资,经常比 token 账单贵得多。
和相邻概念的区别
| 概念 | 回答的问题 | 谁在用 |
|---|---|---|
| 每百万 token 价格 | 原材料多少钱 | 采购、比价 |
| 单次调用成本 | 发一次请求多少钱 | 工程师压测 |
| 单位任务成本 | 办成一件事平均多少钱 | 选型、预算、定价 |
| 单位任务价值 | 这件事办成能赚多少 | 业务负责人 |
对实际工作的意义
选型时,别拿“最便宜的模型”和“最强的模型”直接对撞,要比的是“在我能接受的质量下,把一个任务稳定跑通的总成本”。便宜模型常常更贵:多跑两轮、多错几次、多一个人盯着看,账就翻过去了;贵模型也可能更划算,因为一次做对。
想压低这个数,着力点通常不在砍单价,而在:给上下文瘦身、能缓存的缓存起来、把任务拆小、把简单的活路由给便宜模型、把复杂判断留给强模型、减少无谓重试。至于具体单价,各家随时调整,以官方页面为准。
一句话:单价决定你花多少钱买料,单位任务成本决定这门生意能不能做。
