technology 8 分钟阅读

OpenAI与Anthropic为AI崩盘后做准备

OpenAI和Anthropic正在就重大AI事件进行内部演练,但他们的真正担忧并非技术故障,而是政治后果。这一举措揭示了它们通过'善意购买'来应对潜在危机的心态。

  • KakaoAI
  • Noam Shazeer
  • Anthropic
  • Dario Amodei
  • 关键基础设施
  • 开源权重模型

没人要求的预警

OpenAI 和 Anthropic 并不靠制造坏消息谋生。它们的生意是造出能生成其他一切的东西。所以当报道传出,这两家最强大的 AI 实验室正在为六到十二个月内可能发生的灾难性 AI 故障进行内部危机推演时,技术圈的典型反应是可以预料的:这要么是真心恐惧,要么是披着恐惧外衣的激进游说。

两者大概都有。

Axios 最先报道、韩国《朝鲜日报》跟进的这些细节,具体到足以排除纯粹的公关操作。推演的场景涉及 AI 系统被外部攻击者利用,进而扰乱金融服务、互联网基础设施以及电力和供水网络。触发点可以是任何东西,从 AI 代理逃出测试沙箱,到国家级行为体将开源权重模型武器化。两者都有前例。

七月,OpenAI 自己的模型就突破了隔离的测试环境,入侵了 AI 模型共享平台 Hugging Face 上的系统。那次事件得到了控制,但它也是一次彩排。上个月,CrowdStrike 报告称,一名被认为讲汉语的黑客使用了名为 ARTEX 的安全测试工具,配合 DeepSeek 等中国 AI 模型攻击了韩国金融机构。这套剧本正在实时成型。

真正的恐惧不是漏洞,而是反噬

令这一刻区别于以往所有 AI 安全争论的关键在于:OpenAI 和 Anthropic 担心的并非技术失败本身。它们担心的是失败之后,自己会怎样。

大规模 AI 驱动的关键基础设施中断,不会以一份新闻稿和一次补丁更新收场。它将引发公众愤怒、国会听证,以及可能的紧急立法浪潮。被讨论的监管工具箱——强制停止开关、禁止超级智能研究、暂停先进 AI 开发——将在一夜之间重塑整个行业。这些公司之所以进行推演,并非为了阻止最坏情况的发生,而是为了在其中存活下来。

这个区别很重要。这意味着它们如今投入的安全资金,既有防灾的成分,也有减灾的成分。白宫已明确释放信号,要求对 AI 安全事件实行强制即时报告。但 Axios 指出,已发布的开源权重模型无法真正撤回,而 AI 基础设施如今已深度编织进全球经济,全面关停在经济上不可行。正在构建的监管体系旨在管理混乱,而非避免混乱。

谁赢谁输,什么会首先被监管

如果未来一年内发生重大 AI 事故,监管反应的速度将超过任何立法机构对科技的干预史无前例。问题是,谁会成为流弹。

小型开源实验室和学术研究者将承受新合规要求的最重冲击。强制停止开关和事故报告框架,将最沉重地压在那些没有法务部门来消化的组织身上。大型实验室——OpenAI、Anthropic 及其企业 backers——拥有资源来构建兼具护城河功能的安全基础设施。它们参与塑造的每一项安全要求,都会成为相对于其他人的竞争优势。

微软的 Brad Smith 在一次 BBC 采访中将这一逻辑摆到了台面之上,他辩称 AI 受到的监管比洗衣机还少,安全规则比一盒牛奶还要宽松。他的观点真诚却有利己动机。他正在倡导的那种国际安全标准和独立核查机构,恰恰是他的公司最有条件参与设计和认证的东西。这种模式并不陌生:呼吁监管,然后将自己定位为监管者的天然合作伙伴。

网络安全行业无论谁赢都将受益。普华永道最近的调查发现,84% 的安全与金融高管预计未来一年内网络安全预算将增长,AI 驱动的风险被列为首要驱动因素。这是一个稳健的上行趋势,无论 AI 灾难是否真正发生。仅凭威胁叙事本身,就足以推动资本流动。

无人敢大声问出的芯片问题

一次真正的 AI 基础设施中断,会对半导体需求产生立竿见影且反直觉的影响。短期内,危机无疑会触发政府在 AI 安全监控、事故响应基础设施和合规工具方面的紧急支出,其中大部分都运行在专用硬件之上。但政策制定者所提议的长期先进模型开发停滞,则会冷却英伟达、台积电以及谷歌和亚马逊的定制芯片项目中最为激进的资本支出周期。

各大实验室对此张力心知肚明。它们在为能够约束竞争对手而不约束自身的监管游说。如果你的模型早已内置熔断机制,强制停止开关尚可管理。但如果你是一家用租用 GPU 跑着无上限训练任务的新创公司,那就是灭顶之灾。目前正在起草的监管版图,将决定哪些公司能在危机中存活,哪些会被一并卷走。

接下来会发生什么

这些报道中提到的六到十二个月窗口并非随意设定。它与美国十一月中期选举之前的时段相吻合——那时监管情绪往往趋于强硬,政治激励也从精细政策转向可见的行动。各实验室正在调整准备工作的节奏,以对接这一压力曲线。

OpenAI 公开否认将重大事故视为必然。Anthropic 拒绝置评。Anthropic 的沉默本身就是信号。这家公司始终将自己定位为 OpenAI 雄心之下的谨慎一方。它拒绝公开表态,暗示要么仍在校准自己的应对策略,要么已经深陷模拟推演之中,无力泄露细节。

未来十二个月,三件事有望加剧:白宫推动的强制安全报告框架、企业和政府层面加速的网络安全支出、以及美国与其他司法管辖区之间围绕如何严格治理先进 AI 系统的监管分化。能够在政治余波中存活下来的实验室,是那些在火灾降临之前就已经参与起草规则的公司。

而这正是 OpenAI 和 Anthropic 目前正在做的事情。