一句话定义:致命性自主武器(Lethal Autonomous Weapons Systems,LAWS)是指一经激活,就能在没有人类操作员实时确认的情况下,自行搜索、识别、选定并攻击目标的武器系统。判断它是否属于致命性自主武器,关键要看开火那一刻的决定权在谁手里,而不在于有没有人参与部署。
打个比方。自动售货机是“自动的”,但它只在被投币时按固定规则出货,选什么完全由人决定;如果售货机会自己上街判断谁“看起来想买”、然后主动把货塞过去并收钱,那才叫“自主”。武器也一样:会按预设角度扫射的自动火炮、等人按键才攻击的无人机,都还带着人的意图;而能自己在战场上判断“那是坦克还是救护车”“该不该打”的系统,已经在替人做价值判断了。
技术上它是一条流水线:传感器收集信号,再用目标检测与跟踪模型判断“这是什么、在往哪走”,接着由交战规则或优化算法给出决策,最后执行。难点不在“打得准不准”,而在于开放战场充满训练分布之外(out-of-distribution)的情况,还会被对抗性伪装欺骗;更麻烦的是,区分平民与战斗员、判断一次打击是否“比例适当”,本质上涉及法律与伦理判断,无法写成损失函数。
三类系统常被混淆:
| 类型 | 人的位置 | 典型形态 |
|---|---|---|
| 自动化、遥控 | 人在回路中(human-in-the-loop),由人按键 | 操作员遥控的攻击无人机 |
| 半自主 | 人在回路上(human-on-the-loop),人只负责监督、可以叫停 | 自主巡航、攻击需人确认的巡飞弹 |
| 自主 | 人在回路外(human-out-of-the-loop) | LAWS,争议集中在这里 |
所以争议焦点不在准确率,而在责任和底线。如果机器误杀平民,追责链条会断:写模型的工程师、下命令的指挥官、部署系统的机构,谁都可能说“不是我决定的”。这就是所谓问责空白(accountability gap)。国际人道法(International Humanitarian Law, IHL)要求区分原则与比例原则,而这两条都需要有人承担判断责任。目前国际上存在主张禁止、主张严格规制、反对禁止等不同声音,讨论多在《特定常规武器公约》(CCW)框架下进行,具体进展以相关官方页面为准。
对从业者的启示很直接:任何“自动决策且后果不可逆”的系统,都应该设置人类否决点、随时可中断的开关,以及可审计的决策日志,这也是“有意义的人类控制(meaningful human control)”的工程落点。对普通职场人,同样的道理适用于风控拦截、内容审核、医疗辅助诊断:自动化可以提速,但最后一票该由谁投,必须在设计阶段就写清楚。
