日本确认乌克兰有自杀无人机——自主武器规范出现裂痕
一则日本新闻报道为致命自主武器的争论增添了紧迫感,证实AI制导无人机已在乌克兰造成平民死亡。如今的问题是,国际社会会走向禁令,还是会加速其最担忧的军备竞赛。
一份应令各大首都震动的日本报告
一则来自日本的新闻,其分量远超其发源地所能暗示的范围。法新社被日本雅虎新闻转载报道,联合国人权事务高级专员沃尔克·图尔克证实收到了情报,显示完全自主的无人机——即无需人类干预即可选择并攻击目标系统——已被部署在乌克兰,并造成平民死亡。上个月,三人丧生。细节具体得令人不安:一台由人工智能制导的俄罗斯无人机被设定飞往扎波罗热州的一座加油站,但在无人干预的情况下,自主识别并击中了一个丙烷储罐。
这则报道经由日本媒体传出至关重要。日本正处于自主武器辩论的关键节点。它并非乌克兰冲突的主要当事方,但一直在quietly推进自身国防人工智能能力,并主办关于致命性自主系统治理的国际讨论。当日本新闻机构放大这一故事时,它表明对话已不再局限于西方首都或非政府组织简报室——它正抵达那些将_next制造并可能部署这些系统的社会。
规范在固化之前正在瓦解
多年来,禁止致命性自主武器——常被称为杀人机器人——的运动基于一个简单的假设:世界必须在技术跑在法律前面之前划下一条红线。这条线本应在联合国通过《特定常规武器公约》(CCW)缔约国会议于十一月划定。目标是制定一项具有国际约束力的条约,禁止那些能够无需有意义的人类控制就实施击杀的系统。
这项努力如今正受到来自两个方面的压力。
一方面,战场正在传授任何条约草案都未预料的教训。正如《纽约时报》报道、现已通过联合国渠道引发回响的扎波罗热事件,并非原型测试或实验室演示。这是一次有确认伤亡的战斗部署。俄罗斯通过记者追踪的细节承认使用了自主瞄准逻辑。据报道,乌克兰也对该类系统进行了实战测试。双方正在实时了解这些武器能做什么,且都不等待联合国决议才去验证。
另一方面,外交进程正被从内部掏空。最新一轮谈判产生了由128个国家同意的自主武器定义——一个看似进展的里程碑。但非政府组织立即指出,该措辞因美国和俄罗斯淡化关键术语的努力而被削弱。定义现在存在,但其适用范围模糊不清。这是一种看起来充满实质、却需有人执行时才见分晓的外交胜利。
谁赢,谁输,谁在关注
此报道的即时受益者是监管Arguments。十多年来,自主武器禁令的支持者一直面对一个熟悉的反驳:这些系统在实质上尚不存在。乌克兰已摧毁了这一异议。扎波罗热三名死去的平民并非假设。
但此故事中的赢家和输家并非 neatly distributed。
华盛顿、莫斯科等地的军事机构将确认自主系统在战斗中有效,并加速自身项目。美国已运营具有不同程度的自主性的武装无人机,并公开辩论有意义的控制的阈值。俄罗斯在乌克兰使用人工智能制导瞄准,表明其国防工业在某些领域的发展速度已快于西方情报评估。中国正在大力投资自主武器,并在参与《特定常规武器公约》讨论的同时扩大其军事人工智能能力。
民间社会组织和联合国人权机制为其警告获得了具体的参考点。沃尔克·图尔克的声明、米里亚娜·斯波利亚里奇与秘书长安东尼奥·古特雷斯的联合声明,以及不断增长的平民伤亡报告目录,都在强化同一叙事:危险并非理论上的。红十字国际委员会长期主张,自主武器违反国际人道主义法的基本原则,特别是区分和相称性要求。一台能独立选择在丙烷储罐和一个附近行走的人之间做出抉择的无人机,可能符合编程规则的条文——但它无法行使道德判断,而这正是这些机构所警告的缺口。
如果当前轨迹持续,输家将是人类应对其使用致命武力决定保持问责的原则。自主性将这种问责推入迷雾。当一个系统自行选择目标时,谁对错误负责?程序员?授权任务的指挥官?机器本身?国际法建立在人类做出最终选择的假设之上。自主武器消解了这一假设。
接下来会发生什么
关键投票将于十一月在《特定常规武器公约》会议上进行。会员国将决定是开启具有约束力条约的正式谈判,还是继续那些仅产生定义而缺乏执行力的非约束性讨论。
如果十一月会谈达成一项条约,它将面临阻碍AI时代所有军控协议的相同结构性问题:技术正快于外交。今天在乌克兰部署的系统与正在开发的技术相比仍属原始。任何条约生效之时,能力差距将会更宽。
如果十一月会谈失败——鉴于已被削弱的定义和主要军事大国的战略利益,有充分理由预期会出现这种结果——这将成为自主武器监管的灾难性先例。它将向世界表明,国际社会可以见证自主系统造成的实际平民死亡,却仍选择不作为。
日本在此后的角色值得密切关注。东京已将自己定位为负责任的国防人工智能行为体,在倡导透明度和行为准则的同时,又同步扩展自身能力。日本在十一月的投票方式不仅关乎条约结果,更关乎中等强国——非核国家也非超级大国、却日益制造定义下一场战争时代系统的国家——更广泛的 alignments。
扎波罗热遇难的三名平民不会是最后一批。问题在于,世界是否会决定预防此事——还是等到死亡人数迫使局面到来。