冲绳选举显示AI虚假情报如何快速越界
冲绳县知事选举正成为AI驱动选举干预的现实世界测试案例。在日本8月13日投票前夕,社交媒体上广泛流传着描绘候选人被建筑机械碾压的AI深度伪造视频,以及伪造的“亲中”恐慌视频。
压路机视频
8月6日,一段六秒视频出现在X平台上。画面中一个长得与冲绳现任知事高市早苗(Danny Tamaki)几乎无法辨认的人躺在地上,一台压路机正朝他开去。几名举着"我们爱丹尼"标语牌的人在袭击发生前欢呼。这段视频带有Grok Imagine的水印——这是xAI开发的图像和视频生成工具。
截至8月10日,该视频播放量已超过49万次,且未被下架。
跨政治光谱的用户纷纷表达了强烈的反感。几位其他候选人的支持者表示,即使是他们也认为该内容不可接受。X自身政策明确禁止针对个人的骚扰或恐吓内容,但这段视频仍然留存。
无论如何,发布者毫不掩饰自己的意图。8月8日,他们发布了一条直接点名高市早苗的消息:“我只想消灭你。如果你的所有财产都被夺走,你会觉得没问题吗?”
没有候选人姓名的恐惧
第二段AI生成视频采取了不同的策略。它没有提及任何候选人姓名,而是在震撼的画面上叠加日文文字,声称中国正在夺取冲绳,询问观众是否愿意接受一切被中共夺走,并以乌鲁木齐作为警示性类比,最后以投票呼吁收尾。
高市早苗对手的支持者捡起了这段视频,将其重新包装为证明:如果知事连任,岛屿将落入北京之手。原创作者并未提出这样的论点——这种解读在回复链中自然形成。
不是伪造的"伪造海报"
同周晚些时候,第三份材料流入传播。它看起来像是第一位参选人贤田航太竞选海报的翻版。画面中是一个酷似贤田的男子,旁边写着"建设一个服务于国家利益的冲绳"的口号。
《朝日新闻》一位记者用SynthID进行测试——这是嵌入ChatGPT及相关工具的OpenAI水印系统——检测标志显示肯定:该内容确系使用OpenAI工具生成。
贤田的竞选团队否认制作或授权了该图像。几天后,一名支持者站出来承担连带责任并在X平台道歉。原帖已被删除,但副本继续作为攻击贤田的弹药流传——而贤田本人已经因该口号本身而面临质疑。评论者指出,在一个数十年来承受美国军事设施主要代价的县,“将国家利益置于地方利益之上"本身就是一个极具误导性的框架。
选举本身
共有六名候选人参选。《朝日新闻》8月5日和6日进行的民调显示,在实质上形成两人对决的选情中,贤田以微弱优势领先高市早苗。差距足够微小,以至于少量流失选票——或一批因受震慑而不愿现身投票的摇摆选民——就足以翻转结果。
两个竞选团队内部都已发出警报。一位高市早苗的高级顾问告诉《朝日新闻》,他们担心精心设计的虚假信息会左右相当数量的选民。一位贤田的顾问承认公众就冲绳问题发声是有价值的,但警告当前的舆论温度适得其反。
两个竞选团队都没有能力和组织机制进行大规模溯源和内容下架。这些视频在常规法律意义上并不构成诽谤。它们是AI生成的,公开标注来自商业生成工具,并通过奖励愤怒情绪的算法放大传播。
为何这超越冲绳的意义
日本没有全面规范AI生成选举内容的法律。《公职选举法》禁止诽谤和虚假陈述,但这些条款起草于印刷和广播时代,根本无法应对合成媒体的挑战——这类内容在技术上诚实地声明了"这是AI制作的”,却在效果上具有功能性欺骗。
冲绳选战正在实时暴露这一法律空白。深度伪造不需要完美才有效。压路机视频不需要声音、不需要解说、不需要叙事铺垫——观众理解其中的威胁,因为画面本身已经完成了一切。一张合成海报只需要足够的相似度和一个充满暗示性的口号,就足以扭曲候选人的立场。
这种模式具有可移植性。只要社交媒体平台基于个人举报而非主动检测来审核内容,它就有效;在多候选人竞选中效果尤为显著,因为选民对任何单一候选人都缺乏深入了解。
中国框架
第二段视频最引人注目的选择是提及乌鲁木齐。乌鲁木齐是中国新疆地区的首府,一直是政府安全行动的发生地。将其与冲绳联系起来并非偶然——这是一个精心设计的感情触发器,旨在激活既有的对中国扩张主义的焦虑,同时让高市早苗亲美亲基地的立场显得无效。
这种双重功能是微型化的虚假信息策略:视频不声援任何候选人,不指明任何作者,只是让政治格局看起来比实际情况更危险,从而压低温和派选民的投票率,并将其他选民推向承诺安全的候选人。
冲绳选民已经为安全辩论生活了七十年。美军占领着该县约70%的可居住土地。与基地相关的犯罪、噪音和事故并非抽象议题。一段借用其词汇的合成视频不需要制造恐惧,它只需要加剧恐惧。
接下来会发生什么
平台面临一个选择。X没有下架压路机视频,尽管它明显违反了反骚扰政策。其他平台在某些选举中更为积极,在另一些选举中却懈怠。没有统一标准。
日本选举主管部门已表明意识到这一问题,但尚未发布针对AI生成内容的可执行指导。内阁府已在公开论坛上讨论此议题,但没有任何监管措施出台。
冲绳选举将产生胜者和败者。但真正的故事在于选后数据将揭示什么。如果投票率低于知事选举的历史常态,或者出口民调显示大量选民称网络内容为决定性因素,那么教训将是不言而喻的。
亚洲民主国家正在注视。台湾在2024年举行总统大选,遭遇了有充分记录的AI生成虚假信息浪潮。韩国在地方选举中经历了合成媒体攻击。菲律宾、泰国和马来西亚面临类似的脆弱性。冲绳并非例外——它是预演。
赢得这场选举的知事将继承一个现已知晓其政治进程可被一段脚本加一个订阅账号武器化的县。关键问题是,围绕它的制度能否足够快速地适应并采取有效行动。