世界真的能驯服AI吗？全球安全条约面临残酷现实

剧场是真实的，实质却尚未到来

本周唐纳德·特朗普在华盛顿迎接习近平主席进行为期三天的峰会，人工智能牢牢占据议程的核心。仅凭这一点，就足以表明这场对话已发生多么深刻的转变。一年前，AI安全仍是一个只能在实验室和达沃斯讨论会上低声议论的小众话题。如今，它已成为两个拥有核武器却互不信任的大国共同关注的头条议题。

真正重要的问题并非世界各国领导人是否正在谈论AI安全——他们确实在谈。关键问题在于：在一个被完全相反的条件所定义的地形中，能否产生任何具有约束力的成果？这些条件包括：政府间的零信任、激烈的商业竞争，以及一系列有充分动机选择隐瞒而非合作的科技公司。

两种叙事，一个难题

马克·斯科特在《大西洋理事会》撰文时提出了一个有用的区分。一方面，是AI研究人员和前行业内部人士正在发出的真实警报。恶意行为者黑客攻击竞争对手。企业举报人在社交媒体上发表"天空网"式的警告。首席执行官们也在公开场合呼吁寻求帮助——这要么是极具自知之明，要么是极具戏剧性，通常两者兼备。另一方面，人们也认识到，部分恐惧被那些能从当前发展速度中获利的群体刻意放大。准备上市的公司有动机让自己听起来比私下感受到的更加担忧。

两种观察同时成立。这正是当下如此难以把握的原因。丑闻是真实的。监管现状正在失效。但发声最响亮的那些危险倡导者，恰恰是最希望一切照常运转的人。

地缘政治的算盘极为残酷

任何严肃的全球AI治理框架都必须回答一个简单的问题：谁来执行它？美国和China作为两大AI生态系统，不仅仅是竞争对手。它们正处于一场贯穿芯片、算法、人才和基础设施的科技冷战之中。双方都没有理由相信对方会遵守协议。双方也没有理由为了一个无法验证的承诺而牺牲自身的竞争优势。

这并不是一个新问题。军控条约始终面临同样的不可能——要么信任对方，要么失去一切。AI的独特之处在于速度。核武器花了数十年才发展出来。前沿AI模型却可以在几个月内迭代。一项谈判和批准需要数年的条约，可能在它本应规范的技术已经往前走之后才姗姗来迟。

硅谷面临的风险敞口

对美国科技公司而言，算盘更令人不安。每一项打开黑箱的要求——分享训练数据、披露模型能力、接受独立审计——都等于要求暴露核心竞争力。在一个以数十亿美元和数十亿参数来衡量第一名与第二名差距的市场中，这不是一笔小让步。这是一笔生存攸关的让步。

对AI风险发声最响亮的公司，往往正是那些构建最强大模型的公司。它们的警告服务于双重目的：既为抬高竞争对手准入门槛的监管提供正当性，又为其正在开发的能力营造政治掩护。这不一定是犬儒主义的。这是结构性困境。任何关注过AI竞赛实况的人都明白，处于前沿的公司彼此之间的竞速，并不亚于它们与风险之间的竞速。

真正可行的方案

那么，剩下的路是什么？如果我们放弃有约束力的多边条约这一幻想，也摒弃自愿行业自律的便利，剩下的是一种更难看的、却可能更有用的东西：由各国制度拼凑而成的方案，通过市场压力形成事实上的全球标准。

欧盟已经有了《人工智能法案》。美国正通过行政命令向分部门监管迈进。中国已实施了自己的生成式AI训练要求。这些制度不会整齐对齐。它们会相互冲突。但正如数据隐私规则影响了全球互联网行为，无论公司总部设在何处，AI治理框架也很可能通过合规成本和 Market access 的组合而逐渐趋同。

你的规则越严格，外国公司进入你市场的成本就越高。这就会创造一种激励，让其他国家采用类似的标准，并非因为分享了你的价值观，而是因为它们负担不起被甩在身后的代价。这就是布鲁塞尔效应在人工智能领域的延伸。

真正的考验尚在未来

本周特朗普与习近平的对话之所以重要，在于它承认了AI是一种共同风险。这种承认在大国对手之间极为罕见。但在没有任何实质性举措跟进之前，这也只是一句空话。联合声明、工作组、模型评估试点项目——任何能证明这场对话能超越合影留念时刻的东西。

观察者们不应关注峰会公报中的措辞——这些措辞总是精心构造，既雄心勃勃又模棱两可。真正的信号将在随后的数月里显现：是否宣布了双边工作组，是否商定了具体的安全基准，双方是否愿意分享各自AI系统中发生的事故或险些酿成事故的信息。

最后一个问题最为艰难。它要求每个政府将对方视为共同防范一场会对双方都造成损害的情境的伙伴，而非需要规避的对手。这种合作历史上往往只出现在危机已经发生之后。

即便外交辞令再空洞，风险却是实实在在的

根本的担忧并非虚构。今天正在被构建的AI系统比人类有史以来制造的任何事物都更强大。它们的发展轨迹尚未被充分理解。它们的部署正在加速。一些最响亮的警告来自带有商业利益的人，并不意味着这些警告是错的。

它意味着全球社会需要能够在没有完美信任的情况下存活的治理结构。那绝不会像冷战时期的条约那样。它会更复杂、更非正式、更碎片化。但鉴于当前大国关系的现状，碎片化也许是唯一现实的前行之路。

本周的峰会是迈出的其中一步。它究竟是某种持久事物的开端，还是 techno-political 焦虑长剧中的又一个插曲，还有待时间揭晓。建设这些系统的公司不会等待答案。它们始终在竞速。而我们其他人，应当关注是否有人正在需要刹车时真正把刹车造出来。