查尔斯国王刚刚加入AI安全倡导阵营，这为何重要

国王不再只是象征性角色

上周，查尔斯三世国王在苏格兰的德拉姆阿里比庄园（Drumalby House）主持了一场会议，悄然重塑了21世纪英国君主制的职能。英伟达（NVIDIA）首席执行官黄仁勋、DeepMind联合创始人及谷歌首席科学家德米斯·哈萨比斯（Demis Hassabis），以及OpenAI首席财务官莎拉·弗洛伊德（Sarah Freund）坐在国王对面，讨论了一件大多数人绝不会预料到会出现在王室议程上的议题：如何防止人工智能成为人类的生存威胁。

查尔斯开宗明义，直言不讳。他认为人工智能的发展速度令人深感忧虑，他希望获得保证——人类不会失去对自身命运的控制权。据路透社和BBC报道，他的原话将这一问题定性为人的尊严问题：人们需要知道自己的命运，灵魂不会被拱手交给那些无人真正理解的系统。

这种定性并非偶然。查尔斯数十年来一直致力于培养自己在可持续发展、建筑和机构改革领域的专长。这是他在英国传统上拥有话语权的领域的最新举措——全球治理——即便国家的硬实力已经日渐式微。

黄仁勋的反驳：监管产品，而非引擎

黄仁勋此行的目的并非盲目附和。他以一种揭示了人工智能安全辩论中分歧所在的方式进行了反驳。黄仁勋认为，人工智能与社交媒体有着本质区别。社交媒体是一种产品，而人工智能是每款产品背后的技术——是引擎，而非交通工具。

他的建议很具体：在人工智能系统正式推出前进行严格测试，在安全性不足时推迟部署。如果需要新法律，就修订现有框架。政府应监控产品上市后的情况，而非试图对基础研究进行微观管理。

这是一个来自其公司出售世界上大多数人工智能模型所需芯片的人所持的立场。黄仁勋一贯反对对人工智能研发本身实施严厉监管，认为这会延缓进步并将优势让渡给竞争对手—— namely，中国。他出席查尔斯国王的会议并非向安全派阵营投降，而是试图将讨论导向产品层面的监管，将责任落在制造商而非研究人员肩上。

非典型的联盟：王权与科技巨头

这次会议之所以重要，不仅在于谁出席了，还在于它在哪里举行、由谁组织。德拉姆阿里比庄园是一座私有的苏格兰庄园，这不是一次白厅简报或政府委员会会议。查尔斯以自己的方式召集了这些人物，组建了一个将道德权威与技术可信度相结合的联盟。

哈萨比斯在AI研究和安全领域拥有深厚专长——DeepMind是最早发布关于AI对齐严肃研究的实验室之一。弗洛伊德代表OpenAI，即引发公众对通用人工智能风险当前浪潮的公司。黄仁勋代表使这一切成为可能的硬件生态系统。三人组成了一支非同寻常的三角阵容：芯片制造商、模型构建者和安全研究者，一同坐在一张与国王对坐的桌前。

暗示再明显不过。英国正试图将自己定位为关于AI治理的对话实际发生的场所——不仅仅通过立法，而是通过一个能够影响规范形成的影响力人物网络，在立法跟上之前塑造规范。如果成功，这将赋予英国与其缺乏美国规模或中国速度形成对比的领域不成比例的软实力。

地缘政治背景：不再以武力为后盾的英国

如果不了解当前格局，就无法理解这次会议。美国生产了占主导地位的人工智能模型和领先芯片设计。中国正大力投资并快速推进，且通常受到的约束较少。欧洲正在起草监管法规——《人工智能法案》已成法律——但执行仍不均衡，该大陆在尖端模型开发方面仍然落后。

英国处于一个狭窄的中间地带。它拥有DeepMind、OpenAI的英国业务以及一个不断壮大的初创企业生态系统。它没有英伟达级别的硬件主导地位，也没有中国级别的国家级协调。但它所拥有的，是制度信誉和一位愿意加以利用的国王。

查尔斯的介入发出信号：英国希望在对AI应如何治理的问题上引领方向，即便它无法在应如何快速建设的问题上引领。这是一项以影响力而非主导为策略的路线——希望通过设定辩论框架来施加影响，而他人在能力方面展开竞争。

接下来会发生什么

有多种可能结果。最可能的是，此次会议成为一个象征——一张强化英国作为全球科技争端中深思熟虑调解者自我形象的合影。更有野心的可能是，它为其他国家采用或回应的AI监管框架播下种子。风险在于两者皆未实现，英国只能自说自话，而美国和中方则以自己的节奏重塑该领域。

黄仁勋强调产品层面监管而非研究层面控制，表明业界倾向于第一条路径——可见的治理而不减缓发展。查尔斯关于存在性风险的警告则表明安全派希望更结构化的解决方案。这两派立场的交汇之处仍有待观察。

明确的是，关于AI治理的对话已不再局限于实验室和立法机构。它已经部分移入了非正式影响力的领域——王室庄园、私人会议，以及来自那些拥有分量却不居高位的人物的公开声明。这一转变至关重要。谁能坐上那张桌子，以及他们离开时做出了什么承诺，可能比任何单项法律更能定义AI政策的下一阶段。