AI如何成为国家虚假信息的新战场

捷径暴露

OpenAI 周四发布了一篇博客文章，悄然颠覆了人们对大语言模型时代虚假信息运作方式的一些既定认知。俄罗斯和伊朗的情报人员一直在使用 ChatGPT —— 并非为了用机器人账号刷屏社交媒体，而是为了生成精心打磨的报告、虚假的作者人设以及能够打入拉丁美洲、美国和欧洲真正新闻编辑室的叙事。这一发现意义重大，因为它标志着影响力行动从粗暴的工具时代转向了一种更微妙、也更危险的形式：大规模叙事洗钱。

OpenAI 发现，俄罗斯的活动主要是为了向上级汇报进度。情报人员通过 ChatGPT 起草报告提交给上级，表面上看起来成果丰硕，实际上并未进行任何底层的调查工作。然而在这些报告里，隐藏着真正的行动蓝图 —— 虚构的智库、招募的研究人员、冒充的地区官员。其中一份文件被 OpenAI 称为“所见过影响最广”的行动，因为它引发了实质性的政治回应。

在秘鲁，俄罗斯情报人员冒充教育主管部门，欺骗学校举办有关乌克兰的活动，并推介斯特潘·班德拉这位极具争议的历史人物。对乌克兰民族主义者来说，他是自由战士；对波兰人和犹太人而言，他却与配合纳粹以及屠杀平民联系在一起。秘鲁一家媒体确认了此类活动确实发生过。随后，波兰媒体对此进行了报道。接着，一名欧洲议会议会的极右翼成员提议禁止任何表达对班德拉支持者入境。

“俄罗斯的虚假叙事既利用了，也加剧了乌克兰人与波兰人之间的历史矛盾，”OpenAI 写道。这场行动并未制造紧张关系 —— 那背后有数个世纪的历史积累。它只是找到了裂痕最薄的地方，然后加以推动。

谁来识别虚假叙事

这尤其令人警醒之处在于，这些行动并未局限于边缘平台或机器人农场。若干内容最终被多家主流媒体采纳：美国的 Daily Kos 和英国的中东监督（Middle East Monitor）。伊朗情报人员创建了七个虚假作者人设，向全球小型媒体机构投稿近 100 篇长文，主题主要聚焦美伊冲突，其次涉及美国国内政治。

中东监督随后已下架相关作者页面，但未回应置评请求。Daily Kos 确认其社区版块允许以用户生成内容的名义自由发布，仅有一条模糊的禁则：禁止冒名顶替。相关帖子仍然在线。

Daily Kos 这件事的意义不在于造成多少实际损害，而在于它揭示了信息战中一个新的摩擦点。那些曾经作为核实来源硬门槛的媒体，如今编辑边界已变得千疮百孔。一篇由 AI 驱动人设精心撰写的文章可以轻易穿过社区规则，并被从未意识到自己是在与虚构打交道的记者引用。

伊朗的商业化模式

伊朗的行动与俄罗斯截然不同。俄罗斯账户把 AI 当作提高内部汇报效率的工具，而伊朗账户则将 AI 武器化为内容引擎 —— 生成波斯语和英语文本，向媒体机构投稿，并维护着一套虚构作者组合。OpenAI 指出，这种活动看起来像是商业外包公司运作的影响力行动，尽管它无法确认行为体身份。

这一差异可能反映了不同的机构性虚假信息策略。俄罗斯似乎将 AI 视为官僚保护色 —— 让底层情报人员看起来勤勉高效，而高层决策者则可以专注于战略制定。伊朗则似乎将其当作生产线。两种模式都行之有效，也都具备可扩展性。

为何这一切彻底改变

多年来，计算虚假信息影响的剧本很简单：追踪账号、统计传播量、评估覆盖范围。这种模式假设瓶颈在于传播 —— 让更多人看到谎言。而新的瓶颈是可信度。一篇发表在正规媒体上的 AI 生成文章，披着一层制度性背书的外衣，这是任何机器人网络都无法复制的。

“AI 对他们的价值远不止是一把捷径，”克莱姆森大学瓦特家庭创新中心媒体鉴证中心的达伦·林维尔（Darren Linvill）表示，“它帮助他们创造出在外表、语感和行文上都足够真实的语言，以至于被正规媒体刊登出来。而我认为，就几年前的伊朗行动而言，他们会在这点上挣扎得多。”

这条轨迹正是问题所在。几年以前，这类行动会在初稿阶段就失败 —— 措辞生硬、幻觉明显、结构混乱。如今，其产出与中端评论写作已难分轩轾。守门人不是 AI 公司，而是编辑、事实核查人员和读者 —— 他们所有人都在承受着越来越大的压力：必须更快发布，更少核实。

接下来会发生什么

OpenAI 封禁了相关账号。但这只是 containment（遏制）措施，而非解决方案。情报人员会迁移到其它平台，人设会被重新创建，方法已经被实地测试并持续优化。

OpenAI 的报告所迫使我们面对的一次清算，已经拖延太久：AI 模型在信息生态系统中并非中立工具。它们是力量倍增器，降低了生产具有说服力、可发表宣传品的门槛。同样这项技术，既能让记者用一半时间完成一篇报道，也能让外国情报人员用一半时间完成一篇可信的捏造文章。

俄罗斯行动瞄准拉丁美洲，是因为那是一个监控薄弱的地带 —— 长期被西方情报机构和新闻媒体双双忽视。伊朗行动则通过社区版块 targeting（针对）美国媒体，因为它知道阻力最小的路径就是开放出版环境。两者都将战略锚定在同一个现实上：影响力基础设施不再集中于国家媒体机器或已知机器人农场，而是流淌在那些从未想过自己会成为外国影响力行动分发渠道的媒体评论区、社区博客和意见版面上。

启示不在于 AI 是危险的，而在于任何能让高质量写作变得廉价且即时的工具，都会被任何从中受益的人所使用 —— 包括那些花了数十年时间精研可信谎言艺术的对手。