technology 9 分钟阅读

布鲁塞尔制定规则,华盛顿选择道德施压——特朗普的自愿AI协议是一枚政策炸弹

特朗普在东厅召集AI巨头签署了具有"道德约束力"的自我监管协议,将欧盟已颁布的硬法置于一旁。接下来会发生什么,将重塑全球治理军备竞赛。

  • 无核化
  • Facebook
  • Dario Amodei
  • AI 安全
  • 超级智能

东厅再度回旋

就在几天前,特朗普还在白宫东厅为中国国家主席习近平举行国宴。如今,同一间屋子又主办了与同一批人工智能高管的第二场峰会——伊隆·马斯克、黄仁勋、苏姿丰、马克·扎克伯格、桑达尔·皮查伊、萨提亚·纳德拉、格雷格·布洛克曼、亚历克斯·卡普、杰夫·贝佐斯——但这次的叙事框架却截然不同。特朗普在政府档案中将这项技术正式从“人工智能”更名为“超级智能”。他称由此达成的协议“道义上具有约束力”,并指出执行将依靠“自我约束与同业监督”,而非立法。

象征意义是精心设计的。镜头前的姿态更是如此。而一旦拨开摆拍照片的表象,政策后果实则相当严峻。

自愿优于法定——美国的选择

欧盟已出台《人工智能法案》,这是一套综合性监管框架,按风险等级对AI系统进行分类,并对开发商和部署者施加具有法律强制力的义务。企业若违规,最高可被处以全球营收6%的罚款。该法以强制效力生效。布鲁塞尔制定了规则;鉴于市场准入本身就是杠杆,世界其他地区都被期待与之接轨。

华盛顿另辟蹊径。特朗普的协议要求参与企业落实四类安全措施——用于在新模型中发现问题,内部风险评估,外部审计机构,以及其他未明确指定的措施——但并未将其编纂为成文法。白宫仅发布了一份单页文件。特朗普将其发至Truth Social平台,声称签署方会彼此监督。他后来承认这些措施“可能有必要编纂”为法律,但未提供时间表,也未指明具体机制。

这并非犹豫不决,而是战略抉择:宁愿倚重道德劝服,也不愿诉诸法律强制。问题是,当技术迭代的速度超越监管步伐时,这种偏好能否维系。

这场风波的起点——关于“节奏”的争论

Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)今年九月发表了一篇题为《我们必须为前沿设定节奏》的文章,主张最具实力的实验室应协调合作,放缓AI能力的发展步伐。这篇文章在业内内外引发了激烈辩论。有人视其为对无序推进所蕴含的存在性风险的坦诚承认;另一些人则将其视为既得利益者披着安全外衣、企图设立进入壁垒的尝试。

白宫这份协议,看似是将阿莫迪的主张制度化,却并未赋予其直接的控制权。四类安全措施恰好对应了“节奏管控”框架:在问题外溢前予以发现,在部署前进行内部风险审查,接受外部审计作为集体监督的一种形式。然而,“把控节奏”意味着协调;“自我监管”意味着竞争。这两种冲动之间的张力,正是特朗普框架迄今未能化解的核心难题。

谁胜谁负,后续如何

若自愿协议得以维持,各大实验室将获得一项宝贵资产:抵御硬性监管的护盾。它们展现了积极回应的姿态,却无需承担法律义务。该框架为它们提供了政治掩护,使其得以继续以现有速度推进研发,同时标榜自身致力于安全。而这恰恰是行业游说团体所期盼的结果。

若协议破裂,后果将极为严重。一次高关注度的失败——某个模型在四类安全措施中的任何一项察觉之前就已造成重大危害——便会在一夜之间让整套自愿方案失效。今日反对监管的立法者明日便会获得新弹药。欧盟会将美国的软弱视为硬法早已必要的明证。那些本着诚意签署的公司,无论怎样,终将面临追溯性问责,只是法律依据换了一种说法。

特朗普曾称自己“非常接近”在三到四天内敲定AI“沙皇”人选,这一任命增添了另一重变量。若该沙皇拥有法定权力,将彻底改变格局;若无,则仅具礼仪性质。时机至关重要:若沙皇任命与协议同步公布,表明华盛顿正构建自愿与强制并行的双重监管轨道;若沙皇延后出场,自愿框架将成为唯一机制,而对于一项能瞬间跨越国界的技术而言,这根基显然薄弱得多。

全球涟漪效应

美国是体量最大的AI市场。即便标榜无意监管,其政策立场仍会设定事实上的标准。在全球运营的企业往往倾向于遵守其遇到的最严格框架——目前便是欧盟的《人工智能法案》。但若华盛顿建立起一个与之竞争的自愿性体制,道路便会分岔:美国公司遵循美国准则,欧洲公司恪守欧洲法律,分歧由此扩大。

中国提供了第三种模式。国家主导的监管,公共辩论较少,但执行更快。北京不会在Truth Social上发布单页协议,而是直接下达指令。特朗普峰会邀请来的高管们与习近平的代表的代表曾同坐一桌,这一事实凸显出在AI领域,安全合作与经济竞争之间的界限已何等模糊。技术从不尊重外交边界,其监管亦然。

真正的考验不在签字那一刻

每场AI峰会都会产出照片与新闻稿。表演式治理与实质性治理的界限,将在失败中显现,而非宣告之中。若四类安全措施成功防范或发现了一起重大事件,自愿模式便赢得信誉;若一家巨头公司为快于竞争对手而绕开内部审查,推出危险模型,该模式便会彻底崩塌。

自我监管需要利益一致,群体监管需要互信。但在一个先发优势能以数十亿美元和战略占位来衡量的竞争性行业里,这两者都不会自然存在。特朗普的协议预设了这些一致性已然存在。而过去十年科技业自我监管的实践证据表明,它们并不存在。

将这项技术改称为“超级智能”,是这场本就充满戏剧性的活动中最为荒诞的细节。它传递出一个信号:白宫已承认能力的跃升是真实存在的,即便政策应对尚未跟上。道德劝服能否驾驭一种连各国政府自己都承认可能超越人类控制的技术?这是任何新闻稿都无法回答的问题。

布鲁塞尔写下了规则。华盛顿选择了说服。治理领域的军备竞赛已然打响,而竞赛的规则将由企业觉得最容易遵守的那套框架来定义——而那套框架,未必能保障任何人的安全。