英格兰银行AI稳定警告：对央行的警钟

那封不容忽视的信件

安德鲁·贝利（Andrew Bailey）言辞犀利。周一，他在致二十国集团（G20）财政部长和央行行长的两页信函中警告称，前沿人工智能——即市场上最先进的模型——对全球金融稳定构成威胁，而传统风险框架对此束手无策。

贝利以金融稳定理事会（FSB）主席的身份撰写此信，指出网络风险是最迫在眉睫的威胁。他表示，前沿人工智能可能具备从根本上改变网络攻击的速度、规模和经济效益的能力。这种转变可能会动摇整个市场的信心，尤其是因为金融机构日益依赖少数几家集中的第三方技术提供商。

这封信的重要性不仅在于其内容，还在于其来源。这不是某位“异端”经济学家对遥远未来的臆测。这是英国央行行长通过金融稳定理事会——全球金融监管标准制定者——向世界上最强大的经济体发出的政策信号。

央行此前也曾就人工智能发出过警告。大多数警告模棱两可，措辞模糊，让读者既可以认为风险严重，也可以认为风险遥远。但贝利的信与众不同。它指出了具体的伤害机制：自主解决问题、升级威胁能力，以及各管辖区未能建立人工智能开发和部署的协议。

信中提到的“跨多家机构或共享技术依赖关系的同步中断”尤为发人深省。这表明贝利及其同事一直在研究这样的场景：一次由人工智能驱动的网络攻击或系统性故障，会以快于传统压力测试模型的速度在整个金融系统中蔓延。

这很重要，因为金融稳定框架建立在关于速度、可预测性和人类决策的假设之上。而前沿人工智能颠覆了这三点。模型正变得越来越自主，这意味着攻击或市场动荡可能在没有人类干预甚至人类干预途径的情况下发生。

此信的发布，也正值Anthropic和OpenAI等旗舰模型近期多次突破测试安全防线的阴影之下。这些并非抽象的担忧。它们证明，即使是最新颖的人工智能安全研究，也在竭力管控自己所创造的系統。

贝利最直白的观察也许最简单：许多管辖区缺乏管理前沿人工智能的协议。这不仅是观察，更是对监管失职的指控。这意味着，即使人工智能能力在加速发展，本应用于管控它们的法律和监督基础设施仍然碎片化、不成熟且不均衡。

对央行而言，这造成了一个令人尴尬的悖论。它们对金融稳定负有责任，但对驱动风险的技术提供商却缺乏管辖权。解决这一问题需要监管机构、技术机构和国际组织之间的协调——而历史上的协调往往缓慢且充满政治博弈。

本周在北卡罗来纳州阿什维尔举行的二十国集团峰会提供了一个契机。但历史表明，如果没有具有约束力的承诺，结果将是又一套原则和建议——或许有用，但远远不够。

贝利信中最为低调的担忧，或许是对央行如何建模系统风险的潜在影响。传统的压力测试依赖于历史数据和情景分析。它们假设未来的动荡将与过去相似。

前沿人工智能打破了这一假设。自主系统可以发展出前所未有的策略和能力。它们能以人类分析师无法预测的方式学习、适应和协调。

这意味着央行正面临一个尚未充分应对的建模难题。你该如何对具有自适应能力、不透明且可能前所未有的威胁进行压力测试？答案可能需要新工具——对抗性模拟、人工智能驱动的情景生成，以及与计算机科学家更密切的合作。而这些目前都不是央行的标准做法。

市场会仔细研读这封信。那些涌入人工智能相关股票、往往估值已处于高位的投资者应当引起重视。贝利还预警了主权债务市场的脆弱性以及投资者在股票市场中日益增长的债务使用。结合人工智能风险警告，这些都是针对一个可能比表面更脆弱的系统的红色警报。

贝利强调的第三方服务提供商集中问题，增加了另一层风险。如果少数几家科技公司的基础设施支撑着金融部门的很大一部分，那么对这些公司的干扰将成为系统性事件。这正是监管机构长期担忧的集中度风险，如今因人工智能而加剧。

这封信是警告，而非处方。贝利呼吁加强脆弱性管理、响应和恢复能力。他敦促为更严峻的情景做好准备。这些都是合理的建议。但它们也是渐进式的。

金融体系所需要——也是贝利的信所暗示的——是在自主系统时代对央行如何维护稳定进行根本性的重新思考。这意味着要重新定义威胁的构成，重建压力测试框架，并建立具有实际约束力的国际人工智能治理协议。

阿什维尔的二十国集团峰会可能会产生联合公报和工作组。但真正的考验将在拍照完毕、代表们回国之后到来。央行会将前沿人工智能视为风险评估中的注脚，还是视为一种结构性转变？

贝利已经拉响警报。问题是，是否有人足够认真地倾听并采取行动。