跳到主内容
快讯直播
AI智模界
AI 词典

单位任务成本:别只看每百万 token 的价签

一句话定义:单位任务成本(Cost per Task)指的是把一件对业务真正有意义的任务从头到尾跑通、并交付到可用程度,平均要花多少钱。

挂牌价为什么不够用

打个家常比方。两家店买的鸡胸肉单价几乎一样,但“每份宫保鸡丁的成本”可能差一倍:有人刀工好损耗少,有人做废了重来,还有人出锅前得有人尝一口咸淡。只看食材单价,算不出这道菜的成本。

模型 API 按 token 计价,就相当于食材单价。一次真实任务的钱,主要花在四个地方。

上下文膨胀(context bloat)。你在对话框里试一句提示词,消耗很小;上线后,用户的每轮追问、检索回来的文档、工具返回的结果、历史对话,都会反复塞回 prompt。同一件事做到第十轮,输入可能是第一轮的很多倍。

成功率。一次做对的概率是七成,平均就要跑将近 1.5 次;失败的尝试照样计费,而且往往上下文更长、更贵。

重试与工具调用。智能体(agent)会反复调用模型和外部接口,每一步都是一次往返,既烧 token 也烧延迟。

人工复核(human-in-the-loop)。输出不稳定就得有人兜底,复核那几分钟的工资,经常比 token 账单贵得多。

和相邻概念的区别

概念回答的问题谁在用
每百万 token 价格原材料多少钱采购、比价
单次调用成本发一次请求多少钱工程师压测
单位任务成本办成一件事平均多少钱选型、预算、定价
单位任务价值这件事办成能赚多少业务负责人

对实际工作的意义

选型时,别拿“最便宜的模型”和“最强的模型”直接对撞,要比的是“在我能接受的质量下,把一个任务稳定跑通的总成本”。便宜模型常常更贵:多跑两轮、多错几次、多一个人盯着看,账就翻过去了;贵模型也可能更划算,因为一次做对。

想压低这个数,着力点通常不在砍单价,而在:给上下文瘦身、能缓存的缓存起来、把任务拆小、把简单的活路由给便宜模型、把复杂判断留给强模型、减少无谓重试。至于具体单价,各家随时调整,以官方页面为准。

一句话:单价决定你花多少钱买料,单位任务成本决定这门生意能不能做。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。