一句话定义：可扩展监督（Scalable Oversight）研究的是，当任务难度超出人类的直接判断能力时，如何仍然对 AI 系统保持有效监督，并且这套监督手段能随模型能力一起"长大"，而不是被甩在后面。
问题从哪来
监督的前提是"有人能判断对错"。可当模型开始写几千行代码、做数学证明、给出成体系的诊断建议时，评审的人往往看不懂；看不懂就没法说"好"或"不好"，也就没法据此训练和验收。
打个比方：你请了一位会计帮你报税，他交上来一沓表格，你完全看不懂。你实际能做的只有两件事——等税务局的通知（结果验证），或者再请一位会计来交叉复核（用另一个模型来评估）。可如果两位会计串通，或者复核的那位水平更差，控制权就悄悄溜走了。
三条常见思路
| 思路 | 做法 | 类比 | 主要风险 |
|---|---|---|---|
| 分解 | 把大任务拆成人类能逐块验证的小步骤 | 检查一道长算式的每一步 | 某些步骤本身仍不可验证；拆解可能掩盖关键跳跃 |
| 辩论 | 让两个模型互相挑错，人类只当裁判 | 法庭上双方专家对质，陪审团判断谁更可信 | 会辩论不等于会做事，可能只学会话术 |
| 辅助评估 | 用一个较弱的、可信的模型帮人类打分 | 实习医生先初筛，主治医生复核 | 谁来监督帮忙的那个模型？容易绕成循环 |
三条路通常组合使用。共同点是把"人类看不懂的整块判断"，换成"人类能看懂的局部判断 + 可追溯的证据"。
和相邻概念的区别
- 与人类反馈强化学习（RLHF）：RLHF 默认人类能给可靠的偏好排序；可扩展监督处理的正是"给不出可靠偏好"的场景。
- 与可解释性（Interpretability）：可解释性试图让人看懂模型内部在干什么，它是服务于可扩展监督的一种手段，但两者不是同一个问题。
- 与对齐（AI 词典：Alignment">Alignment）：对齐是总目标，可扩展监督是实现它的一条技术路线。
对从业者和普通人的意义
从业者：别默认"人类标注等于真值"。在超出评审能力的任务上，要主动设计可验证的中间产物（单元测试、引用来源、可复现的实验步骤）、可分解的评分维度，以及留痕机制，让判断能事后追查。具体工具和框架更新很快，以官方文档为准。
普通人：与 AI 协作时，把"验收"拆成你确实能判断的部分——数字对不对、事实能不能查证、代码跑不跑得通；剩下看不懂的部分，尽量保留真实世界的后果检验（上线指标、客户反馈），那是最难被糊弄的一道关。