technology 8 分钟阅读

联合国安理会正成为AI治理的舞台

Altman和Amodei向安理会发出警告:前沿人工智能可能脱离人类控制——而没有任何一个国家能够独自解决这个问题。真正值得注意的是他们的呼吁所揭示的深层问题:究竟谁才有资格制定规则。

  • 开源权重模型
  • Sam Altman
  • 人工智能
  • 联合国安理会
  • Dario Amodei
  • OpenAI

安理会迎来新常设议程

萨姆·阿尔特曼与达里奥·阿莫代伊此行前往联合国,并非为了征求许可,而是要抢占制定人工智能治理规则桌前的一席之地。会议地点设在联合国安理会——这传递出的信息远不止一次企业游说之旅那么简单。

本月23日的高级别简报会由法国主持的安理会轮值主席国召集,OpenAI首席执行官阿尔特曼亲自出席,Anthropic首席执行官阿莫代伊通过视频连线参与,Hugging Face的克莱门斯·多雷格也远程参会。仅这三家公司就足以获得安理会简报机会,这本身就是一个鲜明的信号:关于人工智能的真正权力并不在议会,而在旧金山与帕洛阿尔托的一两家实验室中。

他们说了什么不如他们为何在那里说更重要

阿尔特曼的核心论点并不陌生:前沿人工智能系统正呈指数级发展,如果人类现在不建立国际安全框架,控制权可能滑出掌控。他将这一前景描绘得极为严峻——历史上影响最为深远的技术之决策,不应在硅谷实验室的闭门会议中做出。这一表述准确无误,却极具策略性。它将人们的注意力从以下事实转移开:正是这些实验室,目前才拥有构建此类系统所需的算力与资本。

阿莫代伊则走得更远。他梳理了具体的威胁路径——网络攻击能力被迅速强化、人工智能被滥用于生物武器设计、前沿模型可能脱离人类监督独立运转。他强调,若安全所需,愿推迟产品发布。这一点引人注目。同样引人注目的是他坚持认为,没有任何单一国家或公司能够单独解决这一问题。这一点既坦诚,又充满政治张力:它隐含地呼吁各国政府——尤其是那些缺乏本土人工智能领军企业的国家——接受由美国公司设计的标准。

全球南方听到了不同的信号

西方媒体大多将此视作一次 straightforward 的安全倡议。但内罗毕、雅加达、拉各斯和布宜诺斯艾利斯的读者很可能接收到了截然不同的信息。他们听到的是:

一群由欧洲安理会主席国背书的技术公司首席执行官,正请求世界上最有权力的机构采纳由他们自身参与定义的治理框架。邀请是普遍的——请与我们一同治理人工智能——但起跑线设在加利福尼亚。

这不是阴谋论。这是结构性现实。在安理会上作证的这些公司掌握着专有模型、庞大的算力资源,以及与美国监管机构之间的监管俘获关系。他们同时扮演被监管者与监管者的双重角色。全球南方面临着一个没有干净选项的抉择:接受由竞争对手塑造并从中受益的框架,或者选择退出,并承担被视作次要利益相关方、进而被贴上不合规标签的风险。

华盛顿已往另一个方向拉扯

房间里最重要的细节,是谁没有在场。唐纳德·特朗普的政府已释放出对具有约束力的国际人工智能协议深度怀疑的信号。近期刊载的报道显示,特朗普曾提议将前沿人工智能系统重新命名为“超级智能”,同时拒绝在全球治理条约上签字。这种矛盾——危言耸听的言辞与拒绝监管相结合——并非偶然。这是一种刻意姿态:一个国家希望引领人工智能发展,却不愿接受任何外部约束。

中国占据着镜像立场。北京从技术主权与国家安全的视角审视人工智能治理,而非抽象的生存风险。两大超级大国均透过这副滤镜看待此次安理会简报会。多边机构的会议与紧急修辞并存,平行推进的是巩固国内主导地位的并行努力。

法国谨慎出牌

法国在此简报会期间担任安理会主席的角色意义重大。巴黎已将自己定位为欧洲战略自主与数字主权的支持者。通过召集此次会议,法国表明其意图塑造围绕人工智能治理的制度架构——而非将此角色让渡给华盛顿或北京。三位美国科技首席执行官出席法国主办的会议,是一场精心安排的亮相:欧洲权威、美国能力、全球紧迫性。

联合国秘书长安东尼奥·古特雷斯呼应了立即行动与建立全球监督机构的呼吁。他的讲话带有制度分量,却缺乏强制机制。安理会可以through决议,但无法强迫OpenAI接受国际审计,也无法迫使美国批准任何即将诞生的条约。

谁赢谁输,接下来是什么

此次简报会的赢家是到场的那几家公司。阿尔特曼、阿莫代伊与多雷格现已在世界最高安全机构面前作证。他们不再仅仅是科技公司首席执行官,而是事实上应对生存风险的顾问——这一角色并无民主授权,却拥有巨大的非正式影响力。

输家则是美国与中国轴心之外的各国政府,他们将被要求采纳未曾参与设计的标准。输家还包括那些没有前沿实验室的国家的科研人员与开发者,他们将面对由他人构建的合规制度。

接下来将是围绕制度设计的长期博弈。预计将出现类似国际原子能机构(IAEA)模式的国际人工智能安全机构提案。预计美国会抵制具有约束力的监督机制。预计中国将提出以数据主权为核心的替代框架。预计欧盟会推动监管对等。还会预期硅谷首席执行官再次作证——因为这个平台太过宝贵,不能拱手让人。

这场简报会并非转折点。它是一个信号,表明转折点已经开启。问题在于,世界其余部分能否参与这场转向,还是仅仅被动反应。