跳到主内容
快讯直播
AI智模界
AI 词典

草稿本(Scratchpad):写下来的过程本身就是计算

一句话定义:草稿本(Scratchpad)是让模型在给出最终答案之前,先把中间步骤、临时结果、待办事项写在输出里的做法。这些写出来的内容不会消失,而是留在上下文里,成为后续推理可以直接回看的"工作台"。

为什么写下来就变准了

Transformer 这类模型有一个容易被忽略的特点:每一层、每个位置能做的计算量是固定的,层数也是固定的。模型没有"在心里多算几遍"这个动作,它只能沿着深度走一遍。于是遇到需要十几步算术、或者需要跨好几句话拼信息的问题时,如果被要求直接吐答案,它必须在极少的 token 里完成全部跳转——任何一步塌了都没有回头路。

把中间结果写成 token,局面就变了。这些 token 会在下一步变成新的输入,模型可以读到它们、检查它们、在它们之上继续算。这相当于用"序列长度"去补"深度不够":算力没变,但可用的计算步骤变多了。

打个比方:心算 37×24,多数人得在脑子里同时挂着好几项,容易掉;写成竖式就轻松很多。不是人变聪明了,而是中间结果落到了纸上,眼睛随时能回去查、能核对、能接着往下推。草稿本就是模型的那张纸。

和相邻概念的区别

概念是什么与草稿本的关系
草稿本 Scratchpad宽泛说法:任何让模型把中间计算写出来的做法——
思维链 AI 词典:Chain-of-Thought">Chain-of-Thought提示模型分步推理并展示步骤最常见的草稿本形态
ReAct交替进行推理与调用工具草稿本里还混进了外部动作
检索增强(RAG)从外部找资料塞进上下文那是补知识,草稿本是组织计算
微调(Fine-tuning)改模型权重草稿本不改权重,只在上下文里临时搭台

对从业者的实际意义

第一,提示里要主动留出草稿空间。"先列步骤,再给结论"往往比"直接回答"稳;反过来,一上来就逼模型"只输出一段 JSON",等于把它的草稿纸收走了,复杂任务上容易出错。

第二,草稿是 token,token 就是钱和时间。长草稿会显著拉长输出、挤占上下文窗口,简单任务上还可能平白引入错误——查一个固定事实不需要先列五步计划。

第三,做评测和抽取时要留心:最终答案常常藏在草稿末尾,解析逻辑得能把它挑出来。

最后一点提醒:草稿有效,但不等于模型"诚实的心理活动"。它写下的步骤可能只是听起来合理的事后合理化,而且一旦某一步错了,后面的步骤会顺着错误继续铺。草稿本是个好用的工作台,不是一个可靠的监控摄像头。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。