教宗利奥的AI警告是对科技巨头的震慑

教宗正在挑战 AI 背后的数学逻辑

当利奥教宗在联合国教科文组织（Unesco）的集会上表示"任何科学若脱离伦理便追求，都会冒着失去其本真意义的风险"时，他并非在发出对负责任的创新的一片模糊呼吁。他是在直击整个 AI 产业的底层计算逻辑——那种将效率奉为最高进步尺度的观念。

他的话带着技术政策制定者往往欠缺的精准。他说：“我们的思想和关系有被去人性化进程侵蚀的风险。“紧接着是更为犀利的一刀：“我们难以 Recognize 那些生命被以效率为标准评判的人固有的不可剥夺的尊严——当被视为不再具有生产力时，他们便遭抛弃与丢弃。”

这不是一句专为政策白皮书设计的口号。这是对每一个重大 AI 部署背后经济逻辑的直接挑战——从招聘算法到医疗分诊系统再到自主武器。教宗在论证的是，指标本身已被腐蚀，而不只是它的应用出了问题。

时机为何重要

利奥此次为期三天的法国之行，正值政治敏感之际。马克龙十年执政正走向尾声，明年春季将举行总统选举，玛丽娜·勒庞的支持率居高不下。教会不会介入法国选举结果，但它确实在乎哪一种框架会在欧洲辩论 AI 监管时占据主导地位。

这是 18 年来首次有教宗访问法国。方济各教宗在其 12 年的任期内从未进行过正式国事访问。利奥的到来释放出一个重新校准的信号——梵蒂冈选择在欧洲治理辩论正处于新阶段之际，于物理上和修辞上都亲临现场。

欧盟《人工智能法案》已是法律。但真正的较量发生在实施阶段。此刻确立的规范将回响数十年。教宗的介入将道德权威牢牢置于这片 contested 的空间之中。

教科文组织的讲话才是真正的举动

在爱丽舍宫与马克龙并肩发表的致辞是仪式性活动。在教科文组织的演讲才是实质性的。

尽管教科文组织长期面临资金危机和领导层争议，但它仍是少数几个发展中国家能与美国和中国享有制度性平等地位的全球论坛之一。利奥在此发言，是将他的警告嵌入一个先于并长于任何单一政府——无论是美国政府还是其他——的多边架构之中。

他还指出了一个更广泛的问题，却未点名具体对象：“掌权者在符合自身利益时援引[法律]，在受到约束时却置若罔闻，甚至将正义本身视为可买卖的商品。”

这番在巴黎一间教室、面对外交官和教育工作者说出的话，读起来既是对美国和中国 AI 治理方式的一种含蓄批评——华盛顿选择性执行出口管制，北京将监控技术整合进社会信用体系——也在情理之中。教宗至少从去年四月起就批评过世界领导力，当时他形容这个世界"正被一小撮暴君蹂躏”。

业界该恐惧什么

AI 公司已花费数十亿美元用于游说、安全研究和公共关系。但没有哪一项能让他们做好应对一种完全超越其参照系之外的道德论辩的准备。

业界的主流叙事将 AI 风险框架化为对齐问题、基准分数和灾难性场景。利奥的论证始于一个不同的公理：问题不在于机器能否思考，而在于当人类无法在生产力指标上与机器竞争时，人类是否仍值得被关怀。

这一点更难被驳斥。它不需要你理解 transformer 架构或奖励函数，只需要观察在效率成为衡量人类价值的唯一标准时，谁被留在了身后——而恰恰就有许多这样的观察者。

协助自杀的关联

利奥还就法国六月立法赋予成年患者协助自杀权利一事表示关切，并将此事与科学和技术日益成为"以利润为导向的产业”、推动基因操控、代孕和器官交易的趋势联系起来。

读者不应忽视这一表态的战略位置。协助自杀的辩论正在欧洲重归热潮——比利时、荷兰，以及如今的法国。利奥将这一议题与 AI 治理一同归入"利润驱动"技术的伞形之下，绘制了一条连接两项原本分离的政策辩论的道德界线。这一论点是连贯的：当技术服务于市场而非人类尊严时，AI 和临终关怀都会成为牺牲品。

谁赢谁输

利奥介入的受益者，是那些长期以来主张更强的 AI 监管的倡导者，他们认为仅有技术安全措施是不够的，还需要道德框架。如今，这些此前被定位为纯粹世俗或技术官僚的论点，背后有了天主教会道德权威的加持。

受损方则是 AI 公司及其监管者，他们现在面临一场未曾预见到的叙事竞争。业界对安全的承诺，在一位无需一个数据点就能断言"效率本身就是问题"的教宗面前，显得空洞无力。

欧洲政策制定者才是真正的摇摆因素。法国和欧盟具备行动所需的监管基础架构。关键在于，梵蒂冈的道德框架能否影响那些多年来将 AI 治理视为纯粹技术或竞争问题的政客们。

下一步是什么

利奥的访问将在周一延续，他将在梅斯就欧洲和平发表演讲，此时俄罗斯的入侵乌克兰战争已步入第五年。AI 警告只是开胃菜。教宗显然正在构建一个更为广泛的论述，涉及技术、权力与人类尊严——从 AI 到战争，再到临终医学。

天主教会历史上参与新兴技术一向迟缓。而当它出手时，姿态往往是宏大且道德化的，而非技术性或是渐进式的。这正是此次介入令现状感到危险的缘由：它拒绝按照业界的规则出牌。

如果利奥的框架在欧洲立法者中赢得共鸣，下一轮 AI 监管将呈现出与当前辩论截然不同的面貌。问题将不再是"机器是否足够安全"，而是"它们是否服务于人类尊严"——而这是一个 AI 业界无从作答的问题。