一句话定义:Complexity-Gated Quota(按复杂度分级配额)是一种资源分配策略——系统不按"你问了多少次"或"烧了多少 token"来限额,而是先判断这次请求需要多深的推理,再按复杂度档位分别给额度。简单请求几乎不计数,复杂请求才消耗"昂贵额度"。
先打个生活化的比方
公司报销制度:买瓶矿泉水不用审批,买一台服务器要走三级签字。预算不是"每人每月只能提 20 张单",而是"小事随便办,大事有预算"。按次数限额的荒唐之处在于——买水和买服务器,凭什么算同一次?
按复杂度分级配额就是把这套逻辑搬进 AI 系统:额度不是按"次数"发,而是按"这件事有多难"发。
机制怎么跑起来
请求进来时,先过一个轻量路由器(router)或分类器,给这次交互打一个复杂度分。常见的判断信号包括:要不要多步推理、要不要调用工具或跨 App 编排、上下文有多长、输出要不要结构化校验、是否涉及需要外部大模型的兜底。打完分映射到不同档位,每个档位对应不同的模型、推理预算(reasoning budget)、超时时间,以及各自的配额池。
关键在于:分级发生在推理之前,成本控制也就发生在花钱之前。等 token 烧完了再限流,钱已经花掉了。
和相邻概念的区别
| 概念 | 计量单位 | 简单请求 | 复杂请求 |
|---|---|---|---|
| Rate Limiting(速率限制) | 单位时间请求数 | 同样受限 | 同样受限 |
| AI 词典:Token">Token Quota(令牌配额) | token 数 | 也消耗 | 消耗大 |
| Tiered Access(分级访问) | 用户等级 | 看人下菜 | 看人下菜 |
| Complexity-Gated Quota | 复杂度档位 | 几乎不消耗 | 消耗昂贵额度 |
和 Token Quota 最本质的差别是激励方向:Token 配额鼓励你"少说话",按次配额鼓励你"少提问",而按复杂度配额鼓励的是"别拿大炮打蚊子"——它把便宜的能力做成无限量,把贵的能力做成有预算。
为什么 Apple 这类公司会用
新一代 Siri 的交互光谱极宽:设闹钟和"帮我把上周的会议纪要整理成待办,并同步到提醒事项"完全不是一个量级的活。后者可能要调用多个 App、走多轮编排、甚至在本地模型搞不定时转交外部大模型。这类请求的边际成本是前者的成百上千倍。
若统一按次数限额,普通用户设个闹钟就被扣一次额度,体验极差;若完全不限,少数重度用户就能吃掉推理算力,导致高峰期所有人变慢。分级配额同时解决了这两个问题:日常指令无感,重活有预算。产品上通常表现为——文档里写"某些需要更强模型的功能有每日使用上限",而基础功能不提及额度。具体额度与适用范围以官方页面为准。
对从业者的实际意义
做 AI 产品时,先把请求按复杂度分层,比先调提示词更能决定单位经济学。落到实现上是三件事:一个靠谱的复杂度分类器(错了会误伤或漏放)、一套分档的模型路由、以及面向用户的透明说明——让用户知道"为什么这件事有限额",比悄悄降级体面得多。
