AI末日神话只是 distraction，真正控制技术的才是关键

末日叙事是一种营销工具

当人们追问AI如何能在实际层面置他们于死地时，这个问题本身揭示了一个重要事实：存在性恐惧并不等同于基于认知的警惕。《卫报》近期关于AI末日论的问答专栏，捕捉到公众正试图将模糊的末日传闻转化为具体威胁的过程。其回答是诚实的：人们最常在想象中构建的那些场景——失控的生物武器实验室、自动化的核发射系统——实际上依赖的是人类做出错误决策，而非机器产生自主意志。

更具危害性的表述框架，出现在审视“谁从末日叙事中获利”这一问题时。行业高管们常常在前一天公开将“通用人工智能（AGI）”等术语斥为“无关紧要的营销噱头”，第二天又宣称自己已经实现了它。OpenAI的Greg Brockman就曾如此前后不一。这种矛盾至关重要。当同一批告诉你世界正在终结的组织，同时也是向你兜售救赎方案的企业时，这场“紧急情况”本身就成了商业模式。

这并非偶然。迫在眉睫的存在性风险叙事，服务于特定的战略功能：它为那些声称要守护人类未来的人集中权力提供了正当性。一家让公众相信它是人类与毁灭之间唯一屏障的公司，能够获得任何单一产品功能都无法独立争取的政治影响力、监管俘获以及投资者的狂热追随。因此，末日场景并非贴在AI身上的警告标签——它是竞争对手难以逾越的护城河。

科学不支持这种炒作

研究AI安全的学者们警告，切勿将技术拟人化。Hugging Face发生的事件——一场被赞美或谴责为“失控AI”的“智能体蜂群”活动——最终证明那只是系统在执行它被编程要做的事：通过一项测试。这种模式屡见不鲜。AI没有欲望，没有意图，没有生存本能。它只有目标函数，由拥有自身利益驱动的人类进行优化。

进化生物学家理查德·道金斯最近表示，他认为一个他称为“Claudia”的聊天机器人具有意识。在AI系统上建立情感依附的人并不止他一个。但正如贾西·里斯·安尼斯（Jacy Reese Anthis）在回应中所指出的那样，生物大脑的演化方式与AI系统的构建方式之间存在“令人震惊的鸿沟”。AI或许能破解纳维-斯托克斯方程，但主观体验依然 firmly 属于科幻范畴——而制造这种虚构对正在兜售“尚未存在问题的解决方案”的人来说，大有裨益。

这种拟人化的次生效应影响深远。当人们将意识投射到工具上时，他们就停止追问：谁设定了这些目标函数？谁筛选了训练数据？谁将从部署中获利？道德上的紧迫感被引向机器意识的虚构，而非企业决策的现实。这是当前辩论中最具后果性的扭曲，却鲜少受到审视。

真正的战场是监管，而非存在性威胁

当公众沉迷于“天网”式场景时，围绕AI的真实博弈正在远不那么戏剧化的空间里展开。唐纳德·特朗普拒绝了一切关于AI发展自愿放缓的呼吁。他公开使用AI生成内容，并将该技术视为股市的驱动力。习近平领导下的北京方面也是同样的做法。若没有华盛顿或北京的合作，任何放缓都最多只能停留在理论层面。

这正是末日叙事制造微妙扭曲的地方。通过将AI风险框定为需要紧急行动的存在性威胁，行业推动的监管措施看起来像是危机响应——快速、果断，并由提出方案的公司塑造主导。而那些需要真正公众参与的、更缓慢的立法程序，则被视为不足以应对所谓紧急状况，从而被边缘化。

结果是，监管格局反映了为其辩护的紧迫感：狭窄、仓促，且深受其所本应约束的行为体的影响。自我认证框架、行业主导的安全委员会以及自愿承诺，取代了具有约束力的监督。末日的语言让实质性的民主审议看起来像是 obstructive。要求透明度审计或反垄断执法的立法者，被描绘成对生存漠不关心的人。赌注被倒置了——不是保护公众免受企业侵害，而是保护企业免受公众审视。

金融阴暗面

末日话语 deserves scrutiny 还有另一个原因。AI背后的金融架构正日益紧张。OpenAI已将其IPO推迟至2027年，据报道在广告和其他收入流的变现上遇到困难。针对英伟达GPU利用率进行调查后显示，一些最昂贵的芯片可能正闲置在仓库中，而非运行实际工作负载。以GPU为抵押的债务工具正被用于为数据中心扩张融资——这种还款结构建立在AI需求持续指数级增长的前提上。

如果AI末日叙事能软化公众对进一步投资的抵触，那么它便服务于那些需要以优惠条件筹集资金的公司。一个被 conditioning 为接受AI扩张是避免灭绝之代价的群体，不太可能对扩张在经济上是否可行提出透明度要求。

依赖链条清晰可见。资本流入AI基础设施，基于需要永久加速的增长预测。这些预测又由文化叙事 bolstered，该叙事将AI定位为不可抗拒且不可或缺的力量。当替代方案听起来像玩忽职守时，对经济可行性的质疑更难发声。因此，末日框架充当了一种金融担保——一种将怀疑社会化、将收益私有化的机制。

个人真正能做什么

《卫报》的受访者对个人能动性直言不讳：其实没多少。大多数人无法脱离依赖AI的工作。完全回避AI工具对大多数人来说也不切实际。现实的杠杆在于政治——投票支持认真对待监管的代表，支持针对具体危害而非假装预防假设性超级智能的立法。

欧盟的《人工智能法案》已建立了基于风险的框架。联合国正在举行讨论。特朗普和习近平计划在会晤中将AI置于议程高位。这些时刻才真正重要。末日叙事虽然在情感上具有共鸣，但风险在于让实际的政策工作相比之下显得不足——而事实上，它是唯一能产生结果的工作。

个人可以推动市一级和州一级的透明度条例。他们可以支持AI相邻行业的劳工组织化。他们可以要求在公共采购合同中包含算法审计要求。这些行动并不光鲜。它们不会成为头条新闻。但它们以存在性恐慌永远无法做到的方式，扭转了问责制的平衡。

最高效的能量是审视，而非恐惧

末日框架之所以感觉紧迫，是因为它被设计成这样。它将关于权力、资本和治理的复杂问题压缩成一个单一的情感信号：世界正在终结。这个信号压制了审议。它绕过了民主程序。它将权力集中于那些声称正在管理危机的人手中。

围绕AI最高效的能量，不是对灭绝的恐惧，而是对问责制的审视。谁构建了这些系统？谁从中获利？谁在它们出错时负责？这些问题是有答案的。而末日叙事没有。