一句话定义:内部 AI 开支(Internal AI Spend)指一家公司在自身业务中消耗大模型与 AI 工具所产生的成本——员工写代码、做客服、审合同、跑数据分析都算——并且往往按对外公开的零售价(list price)折算,而不是按厂商真实的边际推理成本记账。
为什么强调“按零售价”:很多公司自己就是模型厂商,或有内部折扣、预留吞吐(provisioned throughput),员工用起来近乎“免费”。但“免费”不等于“没有成本”。要判断这笔投入值不值,就得把内部消耗按公开挂牌价折算成“影子价格”(shadow price)——即“同样的用量去外面买要花多少钱”。
打个比方:家里开餐馆,员工吃饭不掏钱,但后厨仍要按菜单价记一笔账,才知道这份“免费午餐”到底补贴了多少、是不是吃掉了半个服务员的工资。
Anthropic 的例子为什么值得说:据公开讨论,Anthropic 内部大量使用自己的模型写代码、跑 agent(智能体),若按零售价折算,这笔内部 AI 账单的规模已经可以和员工薪酬放在同一张表上比较。它的意义不在于数字本身(具体以官方披露为准),而在于它揭示了一个新问题:当“硅基员工”的消耗可以和人头费同量级时,财务和工程就得用同一套语言对话。
计量时容易踩的坑:
- 账单不等于成本。内部折扣会让实付远低于零售折算价,两个数字要分开看。
- agent 场景用量是非线性的:一次任务可能几千到几万 token,还会循环调用、自我重试,单价乘用量的粗算常常低估。
- 降本手段很具体:上下文缓存、批处理、把简单任务降级到小模型,往往能砍掉可观比例的开支。
和相邻概念的区别:
| 概念 | 视角 | 回答的问题 |
|---|---|---|
| 内部 AI 开支 | 企业自己用 AI | 我们内部到底消耗了多少 |
| 推理成本(inference cost) | 模型厂商 | 服务一次请求的边际成本 |
| AI 预算(AI budget) | 财务 | 我们打算花多少 |
| 单位经济学(unit economics) | 产品 | 每个任务、每个用户赚不赚 |
对从业者的意义:把 AI 用量当人头一样管——谁在用、用在哪、产出什么。按团队和项目打标签、看 token 消耗趋势、设预算告警,这套做法可以叫“AI FinOps”。更关键的是 ROI(投资回报率):如果一个工程师的 AI 账单快赶上他的工资,就该问一句“产出有没有翻倍”。省下的 token 不是目的,换来的结果才是。
