特朗普想要一支AI军队，联合国希望AI保持人类控制

联合国试图给AI踩刹车，白宫却想一脚油门踩到底

联合国大会第81届会议本周在纽约开幕，而本十年最具决定性的问题之一已被列入议程：人类应当审慎把控人工智能的发展节奏，还是全速推进？

答案完全取决于你站在什么立场。在联合国会议厅内，来自联合国秘书处、法国主持的安全理事会以及大型科技公司中最谨慎的声音所传递的叙事是清晰的——人工智能可能脱离人类控制，世界需要尽快划定护栏，否则为时已晚。而在华盛顿，信号恰恰相反。

谁在发言，说了什么？

联合国秘书长安东尼奥·古特雷斯于9月16日向记者表示，来自人工智能发展前沿的警告不容忽视，人工智能安全将成为下周各国领导人讨论的核心议题之一。这番定调分量不轻。古特雷斯已将自身定位为一个对无约束的技术加速保持审慎态度的人，而他的措辞——呼吁具备开发人工智能优势的国家之间共享信息、建立透明度机制、构建一个防范风险的 multilateral 体系——释放出联合国正在认真对待此事的信号。

法国在9月担任安全理事会轮值主席，已召集于9月23日举行一次会议，专门分析其所谓"失去对人工智能控制"的风险，以及先进人工智能模型可能被用于开发、推动或实施威胁国际和平与安全的行动的危险性。对于一个极少使用此类措辞的机构而言，这是极为直白的表述。

OpenAI首席执行官山姆·阿尔特曼计划在那次安理会会议上做简报。Anthropic的达里奥·阿莫迪也会出席。他们不是监管者，也不是外交官。他们是正在建造那些如今令人担忧的系统的人。他们现身联合国本身就是一个故事——这表明行业内的谨慎声音已从新闻稿跨入国际安全决策的最高层。

9月24日，由治理专家尼古拉·米亚尤联合创立的联盟"人工智能安全联盟"将组织一场边会，汇聚联合国开发计划署、联合国教科文组织及会员国代表，讨论发布前的安全测试、独立第三方评估、全球通用安全标准以及人工智能危机国际协调协议等议题。

一套安全体制的架构正在实时勾勒。关键问题是，它能否真正站稳脚跟。

特朗普的矛盾

联合国报道在很大程度上回避了一个事实：唐纳德·特朗普在其第二任期内一直推动一个截然不同的愿景。他主张建设人工智能驱动的军事力量，提出在行政部门设立"人工智能沙皇"一职，并将美国在人工智能领域的领导地位定义为与中国竞争中的国家存亡问题。

这不是边角料。这是当下最核心的矛盾。

联合国的辩论将人工智能安全视为一种集体行动难题——一种需要共享标准、透明度和多边监督才能应对的挑战。特朗普的人工智能军事愿景则将其视为零和博弈——一种速度比护栏更重要、向对手让出任何优势都构成生存性风险的挑战。

这两种框架无法共存而不产生摩擦。如果美国同时在联合国倡导人工智能安全标准，又向人工智能驱动国防战略倾注资源，世界其他各国会将此解读为虚伪。中国会认为这证明美国只在规则限制对手时才想要规则。欧洲会认为这证明华盛顿无法被信任来主导全球人工智能治理。

为何这场碰撞的意义远超联合国大楼之外

stakes 并非抽象。美方消息指出，特朗普和中国国家主席习近平预计将在联大高级别周之后举行双边会谈。人工智能将出现在议程上。那场对话若有任何成果，都将决定纽约正在讨论的安全框架是否有机会转化为实际执行力。

如果美国和中国无法在人工智能标准上找到共同点——大多数分析人士预计他们找不到——那么联合国的安全架构就有沦为一种没有执行机制的自愿性安排的 risk。这正是米亚尤所警告的那样：最难的部分不在于就框架应该是什么样子达成共识，而在于真正落实它。

从消息来源来看，中国的立场十分明确：它指责美国寻求垄断人工智能技术领导地位。而美国在军事人工智能领域加速推进的做法，在北京看来恰恰证实了这一指控。这个循环自我强化。

谁赢谁输

如果多边安全框架获得推动，受益者将是那些缺乏人工智能开发能力却承受着来自自主武器、深度伪造引发的虚假信息以及不受约束的算法决策所带来不成比例风险的较小国家。输家则是那些从不加约束的加速中获利的人——主要是太平洋两岸资金雄厚的各方，他们将护栏视为竞争劣势。

如果该框架如目前看来越来越可能的那样走向失败，世界将滑向一场事实上的人工智能军备竞赛，而没有任何外交熔断机制。企业的安全承诺沦为营销噱头，联合国沦为空谈的场所，而那些建造了最强大系统的人——阿尔特曼、阿莫迪以及中国和各地的同行——将对任何人都不负责。

接下来会发生什么

关注两件事。第一，安理会会议是否能在修辞之外产生任何联合声明或承诺。有关人工智能安全的空洞决议早有先例——看起来像进展，实际上几乎毫无意义。第二，关注特朗普与习近平的会谈。如果他们能在人工智能信息共享或危机沟通渠道方面达成哪怕是 modest 的协议，那将成为整个联大会议最具分量的成果。如果他们毫无结果，那么在纽约讨论的安全架构将依然是它今天的模样：一项没有执行者的提案。

联合国正试图用自愿合作来解决协调问题。白宫则运行在竞争框架之下。除非这两种现实走向汇合——或者其中一方击败另一方——否则人工智能治理将永远停留在一场辩论，而非一个体制。