美国欲在危险AI发布前予以阻止，接下来会发生什么

美国决定掌握AI总开关的那一天

美国参议院正在悄然起草一项可能从根本上改变人工智能未来掌控权的立法。悬而未决的并非传统意义上的监管——没有罚款，没有披露要求，也没有分阶段的合规时间表。这是更为全面的举措：联邦政府将拥有在AI模型推向市场之前，就以其被认为过于危险为由将其禁用的权力。

据路透社报道，该框架将对先进AI系统开发商施加立法者所称的“注意义务”。其措辞借鉴了几十年来规范各行业的环保和产品安全法规。只不过这里的隐患不是污染或缺陷产品，而是足够强大的模型可能被武器化、用于设计核武器或生物武器，或在灾难性网络攻击中被部署的可能性。

将受此制度约束的公司包括OpenAI、Google DeepMind和Anthropic——这些正是自2023年以来主导全球AI叙事的企业。但法律并不会止步于此。任何其模型达到特定能力阈值的开发者，无论国籍如何，都将面临同样的义务。这从设计上构成了一项对该技术未来管辖权的宣示。

细节仍在变动之中。但从参议员Amy Klobuchar和Ted Cruz的谈判立场来看——两人都提出了配套法案——该框架建立在三大支柱之上。

第一，部署前的强制性安全测试。开发商将被要求将其模型提交给政府进行的评估，可能包括在国家实验室（如洛斯阿拉莫斯或桑迪亚）进行模拟演练。目标是压力测试一个AI系统是否可能被重新用于武器设计、大规模破坏或其他形式的群体伤害。

第二，阻止发布的权力。如果联邦评估人员认定某模型构成不可接受的风险，政府可禁止其发布。企业保留上诉权，但举证责任将发生转移——他们需要证明安全性，而非政府证明危险性。这种举证责任的倒置是整个提案中最具决定性的一环。

第三，一个超越恐怖主义的“灾难性风险”定义。立法者特别关注恶意行为者利用AI加速WMD开发、协调复杂网络行动或制造病原体的可能性。该立法会将这些情景视为必须在前沿模型交付前加以管理的基线风险，而非假设。

时机增添了紧迫感。随着11月中期选举临近，参议员们在参议院只有大约三周时间，在众议院只有一周时间，之后立法日历实际上将冻结。该法案能否进入全院表决仍不确定。但两党各自提出具体立法版本这一事实本身就非同寻常：两党一致认为当前AI发展的速度已经超出了现有法律框架的承受能力。

这种共识不应被误读为对解决方案的完全认同。共和党人倾向于围绕国家安全竞争来框定辩论——中国发展迅速，本土企业竞相追赶。民主党人则强调生存性风险和企業问责。重叠点虽狭窄却真实存在，足以推动立法进程，尽管具体细节将在委员会听证会和公众意见征询期间引发激烈争论。

当华盛顿争论不休时，印太地区两大 closest allies 正在准备自己的应对措施。韩国和日本都不愿成为美国法律的监管附庸。双方都明白，如果美国通过国内立法确立事实上的全球标准，盟国企业将面临双重合规负担——更糟的是，可能被排除在需要美国认证安全许可的市场之外。

韩国的方法仍在成形中，但早期信号显示其模式更接近欧盟的《AI法案》而非美国提案。首尔强调行业特定指南而非全面的事前否决权。政府表示有兴趣采用快速响应测试协议，但尚未背书联邦否决权。这一区分至关重要：它在试图展现负责任发展的同时，保留了行业灵活性。

日本则走完全不同的道路。东京将自己定位为“社会5.0”的倡导者，优先推动AI在医疗、制造和公共服务中的整合。经济产业省提出了自愿认证方案和行业主导的安全工作组。日本的立场旨在避免美式否决机制，同时向华盛顿表明日本企业能够满足同等标准。

两种做法都不是天真之举。它们都反映出一种清醒的认识：美国的立法轨迹很可能会产生具有约束力的规则，无论当前法案是否以现有形式通过。对首尔和东京而言，问题不是是否要监管AI，而是不丧失竞争优势、不依赖美国安全认定的前提下如何做到这一点。

美国提案最重要的后果或许并非其对OpenAI或Google的直接影响。而是它为“谁有权决定什么是危险AI、以及基于何种依据”树立了先例。

如果联邦政府获得基于国家实验室专家进行的风险评估来阻止发布的权力，这就创造了一种新的技术官僚守门机制。审查者将是科学家和工程师，而非立法者。他们的判断将具有法律效力。他们的标准也可能会影响其他国家的选择——无论是通过趋同还是摩擦。

这种动态已在芯片出口管制中看到端倪：美国对先进半导体的限制迫使盟友在合规与市场准入之间做出选择。AI否决框架可能导致类似的依赖关系——如果你的模型无法通过美国的安全审查，你就无法进入世界上最大的市场，而其他竞争市场也可能最终要求同样的认证。

该法案的通过之路充满不确定性。即使它在11月选举前顺利穿越国会，实施也将面临法院的争议，并受到可能需要数年时间的行政规则制定的制约。OpenAI、Google和Anthropic已经开始调动法律和资源游说力量。行业组织正在起草强调自我监管和透明度的替代方案，以取代预防性的阻断授权。

但对话的基调已经转变。一年前，主流叙事是AI监管不可能实现——技术跑得太快，立法者跟不上。参议院愿意考虑联邦否决权，标志着第一次认真尝试扭转这一假设。最终结果是有效的护栏还是官僚僵局，还有待观察。但可以肯定的是，美国AI无约束部署的时代正在终结，全世界都在旁观取而代之的是什么。