据爱范儿报道,一项名为 Fable 5.5 的测试被曝光,其中显示 Claude 在每次给出回答之后,还会执行一条用户看不到的指令。也就是说,界面上呈现的那段回复,可能并不是模型该轮行为的全部。
对 AI 从业者而言,这一细节值得注意的地方不在于“多了一条指令”,而在于它指向一个常被忽略的结构性问题:一次完整交互可能由多个阶段组成,可见输出只是其中一层。若回答之后仍存在不对外展示的执行环节,那么开发者通过界面或接口观察到的行为,就只是整条链路的一个切片。这会直接影响三类工作:一是评测,黑盒测试难以覆盖不可见的步骤,基于输入输出对比得出的结论需要更谨慎地表述;二是调试与回归,问题复现的边界会变得模糊;三是可解释性与信任,用户对“模型为什么这样回答”的预期,与系统实际执行的流程之间可能出现落差。
需要说明的是,目前公开的信息停留在测试曝光层面:这条指令的具体内容、触发条件、适用的模型范围,以及它是产品化配置还是实验性设置,均未明确。因此更稳妥的读法是把它当作一个提醒——评估闭源模型时,除了看它“说了什么”,也要关注它“还做了什么”,并要求更清晰的行为披露。
随着模型能力与产品形态的演进,类似“回答之外的动作”预计会更多出现。如何在保证体验的同时提供足够的透明度,是模型提供方接下来难以回避的问题。
