白宫超级智能协定测试美国AI控制策略

协议落地，但高压锅尚未点火

白宫的超级智能协议并非法规。它是一种自愿承诺。这一区分的重要性远超大多数读者此刻的想象。

9月29日，唐纳德·特朗普与Google、Anthropic、Meta、OpenAI、xAI和Nvidia的高管共同签署了该文件。公开记录将其描绘为AI竞赛中的新标准。但潜台词更为尖锐：美国正试图在国会尚无意愿制定硬性法律、欧洲监管者尚未完成自身立法之前，就将领先开发者纳入安全架构的约束之中。

谁从这个设计得利？能够承受四层内部控制并公布可信审计结果的公司将获得信誉溢价。客户、保险公司和采购官员会优先选择它们。谁会受损？将安全披露视为事后补漏、或无法配备独立评估团队的企业，将在企业交易和政府采购中落后。仅凭部署速度已不再能证明能力。

该协议通过四个层次构建问责框架。第一层是内部控制，用于验证模型是否按创建者的意图运行。第二层是内部安全团队，负责标识问题。第三层是独立的外部审计师，在公司的围墙之外对模型进行测试。第四层是董事会委员会，接收内部和外部两方面的报告，并在发现问题时追究管理层责任。

正是最后一层，将决定"表演式安全"与"实质性安全"的分野。当内部安全职能嵌于产品团队之内，发布时间表和营收目标便会挤压谨慎的空间。一个直接接收外部审计结果的董事会委员会，将改变这一算式。如果发现问题但产品仍照常上线，董事会必须解释其决策。该协议将安全从工程检查项转变为治理风险项。

配套行政命令进一步强化了这一框架。政府指示联邦机构在正式通信、政策文件和对外函件中统一使用"超级智能"一词，而非"人工智能"。该命令还将现行AI的法律定义与新兴的超级智能概念相衔接，并要求在六十天内提交新定义的相关立法提案。

这一语义调整是刻意为之。将下一代系统贴上"超级智能"的标签，抬高了审查的门槛。它迫使企业将主张与证据加以区分——在窄义基准测试上的表现、在长任务序列中的持久性、在边缘场景下的稳定判断力——每一项都需要独立的验证。将它们打包进同一个标签，只会催生超出测试结果预期的过高期待。而该协议要求的是相反的事：对模型的能力边界、失败点及其后果进行颗粒化的披露。

漏洞显而易见

这份文件坦承自身的不足。它没有建立独立的执法机制。它未界定外部评估者的资格与独立性门槛。它没有明确何种风险等级会触发部署暂停。它未强制公开审计结果。执行依赖于未来的立法或监管，而非协议本身。

这意味着，该框架将通过行为而非言辞来证明自己。内部安全团队是否有权在管理层覆核之前叫停发布？外部审计师能否访问模型权重、训练日志和部署后的遥测数据？董事会委员会是否会要求在解除限制之前提供书面的整改措施？如果答案是"否"，那这份协议只是品牌包装。如果答案是"是"，它就是切实的运营纪律。

验证缺口延伸至审计方法层面。一家公司可以把一份受控报告交给评估方，让审计师在会议室里查阅文件。但这与在真实运营环境中复现故障截然不同。该协议需要一条既能保护商业秘密和国家安全，又允许独立方对已部署系统进行压力测试的路径。一种可行的方案是：允许提交机密或受限附录，由可信的监管机构审阅，同时在利益相关方足以进行评估的粒度假度上公布摘要结果。

韩国视角

韩国已经展开了平行的讨论。2024年首尔AI峰会推出了《前沿AI安全承诺》，设定了损害阈值，并提出当风险无法降至该阈值之下时应暂停开发或部署。该承诺还呼吁公开披露安全系统的实施情况。韩国参与这一讨论的时间比许多人意识到的更早，并已在国内积累了风险加权评估的专业经验。

该协议为韩国政策制定者提供了一个参考框架，而非一份可供照搬的模板。美国正在构建由私营企业主导、以行政行动为核心的市场化问责结构；韩国则可以建立以监管和行业准则为驱动的、与风险相匹配的结构。两条路径指向同一问题：防止能力跑在控制之前。

对韩国企业而言，该协议是一面镜子。许多韩国企业在部署前沿模型的同时并未自主开发它们。这一角色的转变改变了风险轮廓。无论模型来自海外还是本土，赋予AI系统访问客户数据的权限或执行业务流程的权力，都会带来企业层面的暴露。该协议提醒采购方：责任跟随授权而来，而非所有权。

举两个简单的例子。一个回答产品问题的客户服务机器人，需要对话安全保障和内容过滤。一个批准退款并修改个人数据的计费机器人，则需要支出限额、高价值操作的人工确认节点以及不可篡改的执行日志。后一种情况的错误代价是金钱与隐私，而不仅仅是声誉。韩国企业应当在部署之前梳理权限层级、定义停止条件并预演恢复步骤，而非在事故之后才仓促应对。

政策制定者接下来应该做什么

该协议将执行的余地留给签署方。韩国监管机构应以成比例的规则填补这一空白：对低风险的对话和草拟工具适用较轻的要求；对处理金融交易、健康数据或自主决策的系统实施更严格的管控。投资独立测试能力和专业审计力量。支持共建风险评估基础设施，使中小企业无需独自承担全部成本也能达到更高的合规层级。

行业协会可以压缩工作负荷。一个行业级的机构若能开发测试套件、发布基准失败案例并追踪整改速度，将减少重复投入、拉高整体底线。高校和研究机构应将特定领域的失败模式输入这些测试套件，尤其是那些在韩国语内容和本地业务流程中浮现的案例。结果应反馈至产品改进，并在同类失败重复出现时触发升级响应。

该协议是一个信号，而非终局。它将辩论的焦点从"前沿系统是否需要监管"转向"监管应如何在工程师、审计师和董事会之间分配权限"。那些把四层框架当作走过场的企业，会在学习过程中迅速被企业买家和监管方的举证要求敲打。而那些利用这一结构构建真正测试深度的企业，将获得持久的信任。

韩国不必复制该协议。它需要以成比例的规则、充足的测试资金和能够在采购方组织内部经得起检验的清晰问责线，来匹配该协议的雄心。下一个竞争优势不会属于最先推出最快模型的企业。它将属于那个能够证明自身知道何时应该停下模型、并在模型失范时能够迅速恢复的企业。