AI发现系统漏洞,修补时却造成崩溃
本周国会听证显示,人工智能模型发现了关键基础设施中大量的安全漏洞,而仓促的补丁反而引发了连锁故障。真正的危机并非人工智能摧毁了什么,而是我们无力修复它揭露的问题。
速度困境
华盛顿本周出现了一个不同寻常的景象:几位银行首席执行官与国家安全局官员齐聚国会,向议员们解释的并非系统遭外国对手入侵,而是他们自身的防御工具——具体而言是人工智能——反倒造成了破坏。
这一责任归属的微妙转向,其分量远超多数读者此刻所能意识到的程度。
短短数日,美国便接连遭遇一系列连锁故障:逾两万个航班被联邦航空管理局按下暂停键,全美航班大面积停飞;微软 Outlook 陷入停摆;用户无法登录银行账户;一张涉及机密的 NSA 通信网络性能严重下滑。而这一切,均非源自黑客入侵或国家级网络攻击。
根源在于一场手忙脚乱的“紧急抢修”——为了弥补那些 AI 模型刚刚挖出的防御漏洞。
据《华盛顿太阳报》获悉的内部消息,知情人士透露,基于 AI 的漏洞扫描发现的网络安全防御缺口远甚于外界此前所知——而各方急于填补这些漏洞的动作,反而压垮了补丁本应守护的系统本身。
“这些模型正在大规模识别漏洞,紧迫性随之飙升,所有人都要求立刻打补丁。他们正试图一次性强行推送海量补丁——这早已超出系统的设计负载。”一位就该事件接受过情况通报的国会议员坦言。
换言之,发现问题的“探测引擎”早已跑赢了做出响应的“处置机制”。而这两条速度曲线之间的落差,正是当下最危险的那处盲区。
究竟谁该负责?
摩根大通将其周一的故障归咎于软件缺陷。NSA 则将周二的性能下滑定性为“计划内的例行维护”。国土安全部长马克韦恩·马林在向 CNBC 致辞时则直言不讳:他们把新技术硬塞进极其陈旧的计算机系统上,结果显而易见——系统不堪重负。随着新技术不断上线,这类状况只会越来越多。
值得注意的是,上述所有解释中都缺席了一个关键角色:那些开发漏洞扫描工具的 AI 企业。
联邦政府及各大金融机构近年来日益依赖基于自有内部数据训练的商业化 AI 模型,专门搜寻那些对手方本该利用的薄弱环节。这套逻辑在理论上无懈可击——只要你能抢先发现裂缝,就能在别人把卡车开进来之前将其封堵。但现实理论从未算进“发现”与“部署”之间那道沉重的摩擦成本。
眼下我们所见的,正是这种不对称态势所衍生的运营成本。发现问题已变得廉价且迅捷,而解决问题却依然迟缓且脆弱。
Encode 首席战略官内森·卡尔文直指这一结构性症结:从某种意义上说,这反而令人宽慰,因为它意味着并未遭到真实攻击。但这同时暴露出一个事实——我们赖以运转的关键基础设施,底层竟是建立在布满重大漏洞的老化系统之上。想要升级换代绝非坦途,而随着模型日益精进,这绝不会是一次性的工作,我们将持续不断地发现新漏洞。
他还补了一刀——那句无人爱听却人人不得不听的实话:随着模型愈发强大,这绝不会是一锤子的买卖。
补丁悖论
在人工智能安全与陈旧基础设施的交汇处,一种反常的激励机制正在悄然滋长。国会虽未直接点破,但听证证词已将这一悖论勾勒得清晰无比。
AI 模型负责扫描漏洞。模型越先进,捕获的漏洞就越多。一旦漏洞浮出水面,立即修补的压力便扑面而来,毕竟对手手中也握着同等水平的 AI 工具。然而,对老旧系统进行快速打补丁又会引入新的不稳定性;不稳定性引发系统宕机;宕机进而演变为政治代价。
于是恶性循环就此闭环:新一代 AI 让探测愈发激进,倒逼修补节奏不断提速,而这又进一步动摇老旧架构的根基。
这并非假设中的连锁崩塌。本周的数据已然触目惊心:两万个航班取消,一家主流邮件平台停摆,涉密通信网络性能受损,银行系统无法为客户提供服务。而这一切,皆非敌对势力所为。
联邦航空管理局与微软已分别就各自的中断给出了技术性解释。但这些归因都未能触及表象之下的核心动力——那种逼迫系统在基础设施根本无法可持续承载的速度下狂飙突进的压力。
下一步会发生什么
未来可能出现多条发展路径,而本周的国会听证证词已释放出明确信号,表明议员们正开始严肃审视其中几条路线。
其一,针对 AI 责任归属的监管质询不可避免。倘若一套自动化系统检出漏洞,随即触发一键打补丁流程,最终却导致生产环境瘫痪,这笔账该算在谁头上?模型开发商?部署该系统的机构?还是拍板放行补丁的工程师?无论哪个选项,都难以严丝合缝地嵌入现有的合规框架。
其二,现代化改造的资金投入必将加速。相较于发布一款炫目的 AI 产品,替换老旧系统既烧钱又耗时,在政治上毫无光环可言。但算账的日子已无可回避:你总不能指望给一座根本没按承重设计的老楼疯狂打补丁,还能让它稳稳当当。
其三,或许影响最为深远,各机构将对自身在基础设施上部署 AI 驱动型防御工具的激进程度展开重新评估。这些线人之所以选择匿名发声,自有其苦衷——他们所透露的私下共识,早已越过任何官方机构愿意留档备查的底线。NSA 截至发稿未予置评。
这场冲突的本质并非人机对立,而是“发现问题”与“解决问题”的能力之争。我们早已学会以惊人的速度揪出隐患,却尚未掌握同步化解它们的法门。这道鸿沟之中,潜伏着下一轮系统性风险的种子。
本周,国会在听证会上亲耳见证了这一证据。接下来唯一的问题是,这场听证会本身会不会也沦为一纸空谈,变成那份“已被识别却迟迟未修”的漏洞清单上的又一条新增项。