特朗普与习近平AI条约重塑战争规则
美中达成新协议,要求人类掌控AI战场决策——这项协议将重新定义威慑理论,迫使所有军事强国重新评估自身战略。
彻底改变现代战争的协议
斯科特·贝森特在描述唐纳德·特朗普近期亚洲之行成果时措辞直率。美国财政部长告诉美国全国广播公司(CNBC),特朗普与习近平达成了一项"非常重要"的协议:当人工智能系统被用于军事目的时,人类必须保持在决策链条之中。在重大军事行动中,自主武器系统不能在无人监督的情况下运作。这不仅仅是一份草案框架或模糊原则——这是世界两个最大军事力量之间的一项双边承诺。
这项协议的意义远超华盛顿和北京找到共同点这一象征层面。它直指二十一世纪战争的基础性问题:当机器能够比任何人类指挥官更快处理信息时,谁拥有下达致命决定的权力?
“人在环路中"的先例
“人在环路中"这一说法在国防政策圈子里流传多年,通常作为一种建议而非规则存在。国际非政府组织和军控倡导者长期以来认为,完全自主的武器——即在没有实质性人类控制的情况下选择和打击目标的系统——对平民人口构成生存威胁,并破坏战略威慑的稳定。这些辩论从未产生过具有约束力的协议。
这次不同,因为最有能力部署这类系统的两方已明确承诺,让人类对人工智能驱动的军事决策承担责任。这是世界上领先的两个人工智能研究计划和国防工业基础首次就其最先进系统在战斗中的运作方式公开设定限制。
这一限制对所有关注此事的国家都意义重大。以色列一直在测试日益增强的自主打击能力。俄罗斯在乌克兰战场部署了具有不同程度的算法协同的无人机蜂群。印度正在大力投资人工智能辅助的指挥控制基础设施。这些计划都不受特朗普-习协议的直接管辖,但这两个超级大国认为完全自主性不可接受的政治信号,创造了一种新的规范边界。
限制自主性意味着谁受损
太平洋两岸的国防承包商会立即感受到压力。美国国防工业已经投入数十亿美元开发日趋复杂的瞄准算法、自主监视平台和预测性物流系统。洛克希德·马丁、雷神、Anduril和帕兰提尔等企业销售的产品,其价值主张越来越依赖于通过减少决策周期中人为延迟来获得的速度优势。正式限制自主运作意味着某些系统将需要在达到批准的部署门槛之前重新设计。
中国也面临类似限制。其在《2017年新一代人工智能发展规划》等文件中概述的军队现代化战略,明确设想了由人工智能主导的战争场景。解放军改革文件引用实现"智能化"战争的概念,这意味着机器的决策比人类操作员所能匹配的速度更快、精度更高。特朗普-习协议并未消除这一学说,但它确实为北京造成政治成本,如果今后被发现中国部队在违反人类监督承诺的情况下行动。
私营部门的影响更为深远。正在构建军民两用技术——即同时服务于商业市场和国防应用的技术——的人工智能公司现在面临着额外的合规风险。每一个为战场用途而训练算法,如果其操作参数漂移向完全自主化,都可能带来潜在的法律暴露。这种监管不确定性可能会放缓创新时间表,或将投资重新导向敏感性较低的应用领域。
为何贝森特坚持此协议与人工智能军备竞赛分开
贝森特点明了军事-人类监督协议与围绕人工智能统治地位的更广泛经济竞争之间的界限。他警告说,“危险"的中国人工智能模型可能被用于网络攻击,并认为无论存在何种合作框架,美国人工智能实验室都必须保持技术优势。在他的表述中,关于自主武器的安全合作并不意味着拱手让出更广泛的创新竞争。
这种区分揭示了中美关系中的根本紧张态势。两国政府都希望管理灾难性风险,同时积极争夺经济优势。该协议承认,不受控制的人工智能军事系统对两国乃至整个国际秩序构成的威胁,大于任何一方从无限制发展中获得的收益。
但宣布将威慑与竞争分离,比维持它更容易。中国继续在其人工智能能力上多领域推进。美国维持着对中国制造商的高端半导体设备出口管制。双方似乎都不愿在核心技术优势上妥协。问题是,一项有限的军事克制能否在更广泛的战略摩擦中存续。
接下来会发生什么
这项协议在变得有意义之前需要实施机制。如果没有验证协议、监测框架和执行条款,双方都可以声称遵守,同时通过技术重新解释悄悄扩大其自主能力。界定何谓"实质性人类控制"需要精确的技术标准——这是一个在人工智能系统随着时间推移变得更加不透明和自适应时臭名昭著的困难任务。
第二个挑战在于范围蔓延。今天的协议涉及军事决策。明天的谈判可能需要涵盖防御性网络行动、战略传播、经济制裁自动化以及关键基础设施保护——所有这些领域都是人工智能系统越来越多地影响结果而没有直接人类干预的领域。
第三方国家也将面临各自的合规计算。美国在印太地区和欧洲的盟友将会监控华盛顿是否一致地执行该协议——还是选择性地执行。如果美国部队获得豁免,却要求他人遵守,规范基础很快就会侵蚀。
与此同时,非国家行为体构成了可能最大的不可预测因素。恐怖组织、犯罪集团和叛逃工程师不会签署条约。一个由正式国家控制之外的团体策划的人工智能增强攻击,将立刻考验该协议的相关性,并痛苦地暴露其局限性。
协议之下的更深层问题
每一次关于人工智能武器政策的讨论都回到一个基本问题:谁来决定何时杀人?特朗普-习协议含蓄地断言,答案仍然是人类。这一断言之所以有分量,正是因为作出这一断言的两个政府拥有使这一问题在很大程度上成为理论问题的资源、技术和军事基础设施——前提是它们选择履行承诺。
历史表明,这类承诺是脆弱的。核军控协议通过在严格的验证机制和相互不扩散利益下维持着冷战敌意。类似的对自主武器的限制今天缺乏可比的基础设施支持。构建这种架构需要持续的对话参与、技术专业知识分享以及太平洋两岸各国政府的政治意愿。
这项协议是演变成某种持久的东西,还是溶解为修辞装饰,完全取决于接下来发生的事情——而非 announcement 本身。