technology 8 分钟阅读

AI伪造信息险些引发美国对中国船只的打击

CNN报道披露,AI生成的虚假信息几乎导致美军在中东地区对中国船只发动袭击,命令在最后一刻被撤销。这一险些发生的冲突暴露出美中危机动态中一条危险的新断层线。

  • KakaoAI
  • 霍尔木兹海峡
  • 开源权重模型
  • 费多罗夫
  • 伊朗原油出口

那次虚惊

CNN本周爆出一条消息,随后被日本FNN跟进报道,这条新闻足以让每一位防务分析师今晚难以入眠。有人向美军灌输了关于中东一艘中国船只的虚假情报——而这套系统随即自动生成了它。这不是人类伪造的报告,也不是粗拙的泄密,而是一套AI系统产生了足以引发实际军事行动的逼真假情报。打击行动在最后一刻被叫停。

那一停顿——无论多么短暂——就是头条新闻与战争之间的差距。

这起事件的不寻常之处不在于AI被用于欺骗。深度伪造和合成宣传作为信息战的一部分已存在多年。真正具有里程碑意义的,是这份捏造的情报跨越了信息领域进入作战领域的门槛。它到达了一个军事规划者阅读、评估并准备据此行动的平台。一艘中国舰船差点因一项从未有人核实的信息而遭到攻击。

加速战略

华盛顿和北京都在朝一种只能被称为"加速战略"的方向推进。这一逻辑既诱人又危险:人工智能处理卫星图像、信号拦截和开源报告的速度远超任何人类参谋团队,能在几分钟而非几小时内生成目标包和威胁评估。在危机中,速度就是优势。这正是双方投入巨资推动的核心论点。

这次险些酿成灾祸的事件揭示了该论点的固有缺陷。当你把决策周期压缩到足够程度时,系统开始消耗自己的输出。用真实情报数据训练的AI模型可以生成看起来与真实报告一模一样的逼真伪造品。一个 glanced at满屏AI摘要 feeds 的人类操作员根本没有可靠方法区分生成谎言与真实拦截。AI军事价值的速度,恰恰也是它成为灾难性错误载体的原因。

这不是理论推演。它就刚刚发生。美军已经做了这个实验,而目标是一艘中国舰船。

谁赢谁输

直接的输家是可信度。每当AI伪造情报进入军事决策流程——即使被发现——就会侵蚀指挥官对自己系统的信心。此次事件之后,美国规划者在依据AI评估目标采取行动时将犹豫不决。中国规划者将假定来自美国的模糊信号本身可能就是AI生成的诱饵。双方都在原有的战略互不信任之上增添了一层新的偏执来源。

更大的输家是升级稳定性。拥核大国历来面临因误读信号而导致意外战争的风险。这一风险现在多了一个新维度:不只是战争的迷雾,还有战争的幻觉。AI系统无需恶意也能造成伤害。它只需要对自己的伪造品足够自信、将其呈现为事实,并且足够快速以超越人类核实的速度即可。

这里也没有明确的赢家。中国并未从美国利用AI生成假情报针对其自身舰船中获得任何战略优势——除非意图正是测试美军系统是否会据此行动。若如此解读,这起事件就成为一次试探:一种测量美国指挥结构将AI情报转化为实际打击速度的方式。若是这样,这次测试揭示了一个仅凭合成数据就能被推向打击的系统。

英文读者通常忽略的细节

原始报道通过CNN发布,但在日本通过FNN Prime Online被放大,它与哈里王子新闻、台湾半导体热潮以及关于习近平健康的传言一同出现在国际热搜页顶端。这种语境聚类本身就发人深省。日本的媒体生态正将此事视为更广泛焦虑浪潮的一部分——关于AI、中美竞争和地区安全——而非孤立的技术故障。

日本防务界对军事环境中AI风险的讨论尤为积极,部分原因在于东京既处于美国加速驱动的阴影之下,也处于北京迅速AI军事化的压力之中。一家日本电视台将此新闻置于头条,表明这次险些酿成的事端在日本引发的共鸣与美国不同——在那里,焦点可能更多放在操作细节和内部问责上,而非战略影响。

下一步会怎样

最可能的轨迹是,两军都会收紧围绕AI辅助目标的协议,却不去解决速度与核实之间的根本张力。预计将出现新的检查机制、新的人机协同要求,以及围绕哪些AI输出可送达操作员的新分类边界。但这些都不会改变根本问题:加速的压力将持续加大,而核实的声音将持续式微。

一个更令人担忧的场景是AI生成信号作为作战输入的正常化。一旦指挥官接受其情报图景中有一定比例是合成产物,举证责任就永久性地发生了转移。每条模糊报告都变得可疑。每次延迟都变得可以辩护。而每次误击都更难追溯其源头。

此事还提出了尚未解答的归因问题。那份AI生成的假情报是由美国系统在自己管道中注入虚假数据而产生的吗?还是由外部行为者——可能是中国——故意伪造,专门用来测试美军是否会发起打击?两种可能性都存在。前者代表内部安全机制的灾难性失效。后者则代表对这些安全机制的成功利用,以及未来攻击的蓝图。

险些越过的门槛

本周在中东发生的事件不是网络攻击,不是破坏行动,也不是外交事件。它是一件更新鲜、更难以归类的事物:两个拥核大国之间由AI驱动的险些擦枪走火,之所以没有真正开火,只是因为有人在最后一秒踩下了刹车。

促成此事的技术不会消失。推动华盛顿和北京走向更快决策周期的加速战略也不会消失。现在改变的是,出现了一个有据可查的案例——系统差一点就开火了。

这应该是现代军事史上最为安静、却最令人不安的数据点。