AI聊天机器人险些引发美中战争

那场险些引发战争的擦肩而过

今年春天，在美国与伊朗正在进行的军事对峙期间，美军准备拦截一艘在中国商船在中东地区活动。武装部队待命登船检查，军机已经升空。然而在行动执行前的几分钟，有人回头重新查看了最初的情报报告——发现它是建立在一个AI聊天机器人的工作成果之上的。

这台AI错误地识别了该船的货物。具体 cargo 内容尚未得到证实，但后果已极为惊人：一艘中国船只被指控携带与伊朗核武器计划相关的零部件，当时只差几分钟就会成为战火中的目标。对一艘悬挂中国国旗的船只发动袭击，将立即引发与北京方面无法预测的升级。最终，行动被取消。没有开火。这个世界还不知道自己离更糟糕的灾难有多近。

这篇由CNN在4月18日报道的新闻，并未在更广泛的英文媒体中引发应有的警觉程度。但它是有记录以来最重大的AI安全事件之一——不是因为消费类应用的故障，而是因为它发生在美国军事机器内部，发生在真正的热战期间，针对的是真正敌对方的旗帜。

错误是如何发生的

据CNN报道，那份情报报告是在一名军事分析师使用的AI聊天机器人的帮助下生成的。该系统将公开信息与机密信号情报相结合，得出了关于该船货物的结论。随后，分析师利用AI将输出结果格式化为标准情报简报，并通过官方渠道分发。

这个过程听起来近乎平凡。分析师撰写了报告，AI帮助整理和格式化，军方指挥链随即推进。然而，在这个例行流程内部恰恰是整个问题的症结所在：在AI的推测与发动军事行动的决定之间，不存在任何实质意义上的人工核查环节。

CNN并未确认AI在货物问题上到底错在哪里。这一遗漏很重要。在不了解具体错误的情况下，很难判断这一误认是明显的AI幻觉，还是从模糊数据中得出的合理推断。但可以确定的是，AI被允许直接作为瞄准决策的基础，而没有经历情报分析传统上要求的对抗性检验。

五角大楼的AI赌注

这一事件并非孤立发生。今年1月，国防部长皮特·赫格塞斯宣布了一项"AI加速战略"，明确要求扩大AI在军队中的应用——从情报分析到目标选定，以速度为最高优先事项。推动这一政策的逻辑简单而危险：如果美国不能在军事AI领域领先，中国将填补这一空白，华盛顿将在下一次潜在冲突中落后。

这种担忧是真实的。中国正在大力投资自主瞄准系统、AI驱动的情报融合以及指挥控制自动化。美军深知，在围绕台湾或南海的冲突中，秒数至关重要。自动化承诺能赢得这些秒数。

但缺乏 safeguards 的速度，只是通往灾难的快速通道。据CNN报道，美国政府不同机构正在各自的安全标准下部署各自的AI工具，缺乏统一框架来验证AI生成的情报。没有要求分析师证明AI系统的结论经得起独立审视。循环中没有内置红队对抗机制。只有一种倾向于采用而非审查的文化倾斜。

这艘中国船只事件是这种倾斜导致现实世界近乎危机的首个有据可查案例。但它不会是最后一个。

谁赢谁输

对五角大楼领导层来说，这应该是一个令人不安的警钟。赫格塞斯的加速战略如今受到隐含质疑——不是因为AI在军事上没有用武之地，而是因为当前的实施缺乏防止AI错误触及触发线的制衡机制。一名分析师仅凭一台不受制约的聊天机器人和对机密信号数据的访问权限，就生成了一份几乎让美军与中国驶入碰撞轨道的报告。没有将军签字批准。没有情报界的反分析被触发。系统按设计的方式完美运转：快速、无摩擦，却错误百出。

中国军方的外交体系会仔细审视这个故事。无论是有意泄露还是简单的开源报道，它所传递的信息十分明确：美军正在使用未经核实AI工具驱动的瞄准决策。这是北京可以利用的机会，而且它必将加以利用。

民间监督机构和军控倡导者在此有正当诉求。这一事件表明，AI在动能瞄准角色中的部署进度远远领先于安全协议的开发，差距可能有数年甚至数十年之遥。一条要求在AI生成的情报进入瞄准管线前必须经过人工核查的规则，在操作速度上花费不多，却能预防此类规模的灾难。

接下来会发生什么

五角大楼和美国战略司令部均未回应CNN的置评请求。这种沉默意味深长。承认错误可能拖慢加速议程。否认或推诿是更安全的选择。两者都不利于问责。

取而代之的很可能是渐进式的修补。军方将出台新指南，或许会增加对AI辅助报告的二次审查要求。他们会宣布成立新的AI安全办公室或审查小组。这些是实质性步骤，但它们将是反应性的、狭隘的——针对症状而非奖励速度胜过验证的根本激励结构。

只要文化不变，此类事件还会发生。那艘中国船是幸运的。它没有武器。它是一艘没有敌意的商船。下一次AI误认可能涉及军舰、潜艇或正在执行巡逻任务的部队。在一个已经紧张的地区——美军正与伊朗交战，中国密切关注着每一举动——容错空间比任何国防官员愿意承认的都要薄。

CNN的报道不仅仅关乎一份糟糕的报告。它关乎一个比自身安全机制更快运转的系统。这个春天，美军没有对中国开战。但他们险些如此，而他们之所以没有的原因，比大多数人意识到的更为复杂。