人工接管(Human Takeover)指的是智能体(Agent)执行任务到一半,遇到拿不准、风险高或能力不够的情况,把控制权交给人;人处理完后,再把任务交还给系统继续跑,这个反向动作叫 Handback。一句话:它不是让人从头重做,而是让人从系统停下的地方接着做。
打个比方:自动驾驶在施工路段提示“请接管方向盘”。好的接管不会只亮个警示灯,而是把车稳在可接管的位置,告诉你为什么退出、现在在哪、周围什么情况、接下来该做什么。智能体的接管也一样,核心是交接三样东西:状态、上下文和权限。
状态:任务做到哪一步,哪些子任务已完成,中间产物在哪,哪些待确认。比如订机票的智能体已经选好航班、填好乘客信息,卡在“差旅政策不允许商务舱”,人应该能直接改舱位,而不是重新填一遍。
上下文:对话历史、工具调用记录、检索到的证据、智能体的假设和置信度、失败原因。否则人接手就像看半截电影,只能靠猜。
权限:人用什么身份操作?只读、可批准还是可执行?能不能绕过原来的策略?操作要不要留审计记录?交还后,智能体是沿用人的决定,还是重新规划?这些都要在接管界面里讲清楚。
和相邻概念的区别:
| 概念 | 谁在控制 | 典型触发 | 交接重点 |
|---|---|---|---|
| 人工接管 | 人 | 高风险、低置信、异常 | 状态、上下文、权限 |
| 人在回路(Human-in-the-loop) | 人与系统交替 | 预设审批点 | 审批意见、合规记录 |
| 人在环上(Human-on-the-loop) | 系统为主,人监控 | 指标越界 | 告警、快速定位 |
| 升级(Escalation) | 更高权限的人 | 超出当前处理者能力 | 责任与信息上移 |
| 故障转移(Failover) | 备用系统 | 系统故障 | 可用性,通常无人参与 |
人工接管强调控制权转移的瞬间,以及三样东西是否完整交接。
对从业者,接管该被当成产品功能来设计,而不是异常兜底:要有可读的中间状态、可编辑的决策、可追溯的日志、明确的权限边界和交还规则;如果超时没人接管,要有安全默认行为。对普通人,看到“需要人工接管”时,先看系统给的理由和当前状态,确认自己有没有权限,处理完再决定是让智能体继续跑还是自己收尾。接管不是失败,它是自动化系统诚实划出的能力边界。具体实现和界面以各产品官方文档为准。
