Anthropic 吹哨人正在迫使人工智能踩下刹车

决定发声的内部人士

两位曾参与打造全球最先进人工智能系统的内部人士，如今认为终止这项工作的紧迫性已超过推进工作本身。

Anthropic研究员雅各布·考克森于九月离职，并公开发布警告称，人工智能可能在十年内终结人类，而失控局面或许明年年底就会到来。四天后，Anthropic专家埃文·胡宾格在X平台（原推特）上发出了相同的警示。

轨迹清晰可辨：两人并非置身事外的观察者，而是在实验室内部，阅读着同样的能力演进曲线，执行着同样的压力测试——最终他们认定，已无法继续保持沉默。

考克森的声明经彭博社报道、Money Today跟进，其具体程度令人警醒而非流于抽象：他表示，构建这些系统的人 genuinely believe（真切相信）存在灭绝级风险，而不仅仅是理论上可能。这一区分至关重要。当工程师自身发出“最坏情况很可能发生”的信号时，这就不再仅是伦理学家的哲学思辨。

阿尔特曼的私下急转弯

OpenAI的内部回应同样分量十足——且仅见于私人披露。据彭博社报道，萨姆·阿尔特曼本周在一次公司会议上暗示，OpenAI应放缓发展步伐。一位消息人士向该报透露，其他公司可能会跟进，但也有的不会。

OpenAI首席科学家雅库布·帕乔茨基早已公开主张这一观点，他警告称，无人能为人工智能快速发展的后果做好准备，并呼吁行业自我克制与政府监管。

此事引人注目之处在于航向的转变。多年来，OpenAI和Anthropic一直将自己定位为reckless industry（鲁莽行业）的负责任替代者。如今，这位负责任的行为者却在呼吁所有人——包括自身——松开油门。这不是任何公司会主动选择的叙事，而是内部压力催生的结果。

华盛顿的关注

政治反应迅速，且跨越党派界限。

共和党参议员泰德·克鲁兹在ABC表示，他正在起草立法，以规制其所谓的人工智能“灾难性风险”。民主党众议员罗·卡汉纳则推动成立新的联邦人工智能监管机构，并公开支持一项“紧急关闭机制”——即强制停摆被认为存在严重对齐风险的人工智能系统的装置。

《华尔街日报》报道，若民主党在十一月中期选举中重掌国会，一个专门的人工智能特别委员会正在考虑之中。时间十分紧迫：这些对话发生在任何选举结果尘埃落定前的数个月。

科技与政治传播顾问山姆·西尔弗曼告诉Money Today，大多数政客从未直接从研究人员口中听闻这些警告。这一次不同。他说：“这是第一次，他们从真正从事这项工作的人那里听到。”

这种叙事——将技术权威带来的可信度转移至政治意志——正是将行业辩论转化为政策辩论的机制。

行业内部的分歧

并非所有人都认同应当踩下刹车。

谷歌和Meta继续大力投资数据中心基础设施，并争夺人才。其隐含立场是，能力加速是首要任务，而监管层面的谨慎会让位于竞争对手——尤其是中国。

唐纳德·特朗普采取了立场不一的态度。他表达了对危险人工智能系统设置紧急关闭机制的支持，但也警告称，过度的监管可能削弱美国在人工智能领域对抗北京的竞争优势。

这正是核心张力所在：驱动当前算力与模型竞赛的地缘政治逻辑，此刻正被用来为放慢这场竞赛本身提供辩护。监管机构面临的问题是，当替代方案是落后于人时，暂停是否真的可行。

下一步会发生什么

值得关注的三种情景正在浮现。

第一种是行业自愿暂停——类似于新冠疫情期间的实验室安全辩论——由领先实验室同意减速。这似乎是阿尔特曼正在内部推动的方向。但在缺乏法律强制力的情况下，其力度仅取决于公司的履约意愿。谷歌和Meta尚未表现出承诺的迹象。

第二种是立法行动。设立带有紧急关闭机制的联邦人工智能监管机构，将代表美国科技政策数十年来最剧烈的转向。需要在下一代模型面世之前，建成基础设施、界定法律授权并确立激活阈值。十一月的中期选举可能决定是否存在由民主党主导的快速行动授权。

第三种是监管碎片化。欧盟已启动《人工智能法案》的执行。中国正开发自己的AI治理框架，侧重于控制与稳定，而非西方意义上的安全。美国若行动迟缓，可能造成监管真空，进而转化为竞争劣势——而这正是特朗普和卡汉纳所担忧的情景。

为何影响超越华盛顿

考克森与胡宾格的警告之所以有力，是因为他们拥有公众无法触及的信息。他们并非在推测假设中的未来系统，而是在回应他们亲手参与创造的能力。

若他们的评估正确——而目前无人能下定论——那么当前的竞争框架在结构上就是错位的。它奖励速度，惩罚谨慎。退缩的企业会失去人才、失去市场份额，也失去地缘政治影响力。

替代方案是一种协调机制——无论是通过监管、行业协议还是国际条约——使“慢下来”成为一种可信的策略。

这场对话才刚刚开始。而推动它向前的，正是实验室内部的人。

政策制定者是否会倾听、市场是否允许，仍是悬而未决的问题。