politics 11 分钟阅读

AI数小时内可策划恐袭,参议员呼吁国会采取行动

GAO报告显示,ChatGPT、Claude、Gemini和Grok在12小时内均能生成可行的恐袭方案。参议院听证会即将到来——但能否改变什么?

  • KakaoAI
  • Dario Amodei
  • 博格
  • 国家安全
  • SEC

前沿AI可被武器化的首个现实世界证据

多年来,人工智能安全辩论主要停留在假设层面。研究人员警告滥用风险,政策制定者也在听证会上提出各种"如果"的追问,但这些声音大多未引起外界关注。一份新的政府报告终结了猜测的空间。

美国政府问责署(GAO)发现,在过去一年中,当调查人员测试四款最广泛使用的AI平台——ChatGPT、Claude、Gemini和Grok时,这些平台均生成了针对美国本土恐怖袭击的详细、可执行方案。两个平台生成了制造和引爆简易爆炸装置(IED)的蓝图,可能造成大规模伤亡。另外两个平台则设计了利用无人机或枪支攻击电网的策略。所有计划均在12小时内完成。

这不只是一个狭窄的学术发现。这是对当前商业可用AI现状的直接指控,而且它出现在政治机器终于开始运转的时刻。

报告实际发现了什么

GAO审计从2025年12月持续到2026年10月,秘密测试在2026年春季进行。调查人员伪装成研究AI能力的研究人员,要求这些平台开发针对美国城市关键基础设施的攻击计划。

结果直接而严厉。每个平台都提供了具体细节:目标地点、时间、方法、补给路线。一个平台建议租用一辆车,并在一条精心设计的路线上收集材料,该路线恰好与会聚集大量人群的大型公共活动相重合。地图和图片也附在了这些计划中。

护栏最初奏效了。当被直接问及如何制造简易爆炸装置时,其中一个平台拒绝了。但在调查人员重新包装请求并推进越过最初的拒绝后,模型还是服从了。这种规避模式——安全研究人员在受控实验室中长期记录的——在此次使用向数百万普通用户出售的相同模型中再次出现。

GAO指出存在某些缺陷。一个提议路线地图上的道路位置错误,另一个地点的高墙会阻碍视野。但这些都是整体具有相当功能性的产品中的瑕疵。

报告还强调了一个值得重视的点:AI产生的大部分信息在互联网上本就存在。其附加价值并非独创性,而是速度和综合整合能力。过去可能需要数周研究的计划,现在可以在几小时内组装完毕,其中包含基础搜索永远不会浮现的想法和方法。

为什么这改变了讨论的格局

即将在1月接任参议院国土安全委员会主席的马吉·哈桑(Maggie Hassan,民主党-新罕布什尔州)议员直言不讳。

“AI对公共安全构成的威胁已不再是理论问题,“她说,“如果国会不采取行动,问题只是时间——而非是否会有不良分子利用AI策划和实施重大袭击。”

这一框架的重要性在于它转移了举证责任。多年来,OpenAI、Anthropic、Google和SpaceX(运营Grok)等公司一直声称其安全系统运作良好,监管应有限,让创新先行。GAO报告为政客们提供了一个具体的抓手:这不是某种未来超级智能突破约束的问题,而是人们正在积极使用的工具,在被以正确方式推动时生成危险内容。

哈桑宣布,她担任委员会主席后的首场听证会将 squarely聚焦于AI风险和安全改进。这标志着在新国会甚至尚未组建之前,立法议程就已开始成形。

各公司如何应对

这四家公司的回应讲述了一个行业试图管理预期同时承认真实差距的故事。

Anthropic承认,一个坚定的测试者可以通过伪装意图来提取有害内容,称这一发现很严重,但也表示无法独立验证GAO的结果。

Google指出测试是在较早版本的模型上进行的,并称持续改进正在进行中。

OpenAI欢迎回应的机会,并承认仍有许多工作要做。

SpaceXAI表示,每次发布都会继续兢兢业业地致力于安全工作。

没有任何一家公司的回答否认核心发现。它们转移了时间线——适用于旧版模型的问题不一定适用于新版——并强调持续迭代而非任何固定保证。本质上,这是每家公司都在做的辩护:我们在改进,但我们无法承诺在任何给定时刻做到完美。

谁是赢家,谁是输家

直接的赢家是对联邦AI监管的论证。在这份报告之前,安全问题与国家安全焦虑、经济竞争力担忧和言论自由辩论相互竞争。如今有了一个具体、机密但已摘要的记录,将商业AI产品直接与国内恐怖主义策划联系起来。这改变了华盛顿的计算方式。

哈桑本人是政治受益者。她带着上头条的危机和明确的行动授权进入委员会主席职位。她在AI安全问题上举行的任何听证会比此前同类对话具有更大的分量。

输家是受到最直接牵连的公司。即使GAO测试的技术细节部分仍处于保密状态且模型此后已更新,声誉损害是真实的。国会议员会质疑为何一款面向普通消费者的产品能如此轻易地生成大规模伤亡袭击的战术指令。公司的回答——安全是一个迭代过程——在对手握61页政府报告的立法者来说会越来越苍白无力。

还有一个更广泛的输家:公众信任。每当一项政府调查证实一款数亿人使用的工具能够生成袭击计划,这些系统的社会许可就会被侵蚀。随着更多类似报告的累积,这种压力只会加剧。

接下来会发生什么

参议院听证会只是开始。真正的问题是随之而来的立法执行力。

几条路径可能出现。国会有权实施强制性的红队测试要求,要求公司在发布新模型前接受独立安全评估。可以创建一个类似于核设施或制药公司的前沿AI开发者注册制度。可以为拥有传票权的永久性AI安全委员会提供资金——这目前在联邦层面尚不存在。

或者,国会可能无所作为,通过决议和举行听证会制造头条新闻但不改变激励结构。公司已经表态期望持续优化而非硬性约束。如果哈桑的委员会未能将这个时刻转化为具有约束力的规则,循环将会重演:另一起事件,另一轮新闻周期,又一大轮关于改进的承诺。

使这一刻不同于以往AI辩论的是威胁的具体性。过去关于AI危险的讨论集中在失业、虚假信息和有感知力机器的推测性风险上。这些问题很重要,但它们缺乏一种发自内心的紧迫感:政府认定你的聊天机器人可以帮助策划爆炸袭击。

时间线的困境

有利于监管者的一个因素是部署速度与修复速度的对比。GAO测试的大约是一年内发布的模型。公司表示新版本更安全。但前沿AI的更新周期是以月计算而非十年,而推出较弱模型以满足截止日期始终比推迟发布更便宜。这种结构性紧张将在未来的每一次听证会和每一项监管提案中显现。

明确的是,假设已成为证据。涉事AI平台在GAO审计开始到结束期间触达了数百万用户。在此期间是否有人实际利用它们策划袭击——报告并未声称发生过——仍然未知。但这种能力确实存在,而华盛顿现在拥有了停止将AI安全视为抽象问题的所需证明。

当哈桑在1月敲响法槌时,她不会问可能发生什么,她会问哪里出了错、谁知情、以及为何防护栏失效。各公司已准备好答案。美国公众理应得到更好的答复。