联合国框架下围绕“杀手机器人”——即致命性自主武器系统——的规则磋商未能形成共识,相关讨论以未达成协议告终。
所谓“杀手机器人”,指能够在没有人类实时干预的情况下自主选择并攻击目标的武器系统。围绕这类系统应当被全面禁止还是仅加以限制,各方立场分歧明显:一方主张通过具有约束力的国际条约予以禁止,另一方倾向于先制定非约束性准则、为技术发展保留空间。此次磋商未能弥合这一分歧。
对 AI 从业者而言,这一结果的意义在于:军事应用是自主系统治理中最敏感的场景,而国际规则层面的空白正在扩大。技术能力的推进速度快于规则形成速度,这意味着在未来一段时间内,相关系统的研发与部署将主要依赖各国国内法与自愿性规范,而非统一的国际约束。
缺乏共识同样带来可预期性问题。企业参与国防相关项目,或提供可能被用于军事目的的通用模型与组件时,难以依据清晰的国际标准评估合规边界;关于人类控制、问责归属与误伤风险的讨论,也仍多停留在原则层面。
支持者认为,持续对话本身具有价值,可为后续协议积累共识基础;批评者则指出,反复磋商而未产生实质约束,难以回应外界对自主武器失控风险的担忧。
该议题仍存争议,短期内难以形成具有约束力的国际规则。对关注 AI 治理的人来说,这既是军控问题,也是检验 AI 安全与问责机制如何落到现实制度中的一次实例。
