La advertencia sobre IA del Papa León es un tiro de advertencia al poder tecnológico
El discurso del Papa León en París hizo más que señalar los riesgos de la IA: reformuló todo el debate sobre gobernanza en torno a la dignidad humana frente a la eficiencia de las máquinas. El timing y los blancos de sus declaraciones revelan una Iglesia que se posiciona como voz rival para dar forma a la política tecnológica global.
El Papa está desafiando las matemáticas detrás de la IA
Cuando el Papa León dijo a un grupo reunido en la Unesco que «toda ciencia corre el riesgo de perder su sentido propio cuando se practica sin ética», no estaba lanzando un vago llamamiento a una innovación responsable. Estaba atacando los cálculos fundamentales de la industria de la IA: la idea de que la eficiencia es la máxima medida del progreso.
Sus palabras tuvieron una precisión que a menudo falta a los responsables políticos técnicos. «Nuestras ideas y relaciones corren el riesgo de empobrecerse por un proceso de deshumanización», dijo. Luego vino la línea más contundente: «Luchamos por reconocer la dignidad inalienable de las personas humanas cuyas vidas se juzgan según el criterio de la eficiencia y, cuando se considera que ya no son productivas, son rechazadas y desechadas».
Eso no es un sonido diseñado para un documento blanco de política. Es un desafío directo a la lógica económica que sustenta cada gran despliegue de IA, desde algoritmos de contratación hasta sistemas de triaje sanitario y armas autónomas. El Papa argumenta que la métrica en sí está corrupta, no solo su aplicación.
Por qué importa este momento
La visita de tres días de León a Francia se produce en un momento políticamente frágil. La década de Emmanuel Macron en el poder se acerca a su fin de cara a las elecciones presidenciales de la próxima primavera, donde Marine Le Pen se posiciona con altas intenciones de voto. La Iglesia no tiene intereses en los resultados electorales franceses, pero sí los tiene en qué marcos dominan el debate mientras Europa discute la regulación de la IA.
Esta es la primera visita papal a Francia en 18 años. El Papa Francisco nunca hizo una visita de Estado completa durante su pontificado de 12 años. La presencia de León señala una recalibración: el Vaticano está eligiendo estar presente física y retóricamente en el centro de los debates de gobernanza europeos en un momento en que esos debates están a punto de entrar en una nueva fase.
La Ley de IA de la UE ya es ley. Pero la implementación es donde ocurre el verdadero enfrentamiento. Las normas que se establezcan ahora resonarán durante décadas. La intervención del Papa coloca la autoridad moral precisamente en ese espacio disputado.
El discurso de la Unesco fue la jugada real
El addressed en el Palacio del Elíseo, pronunciado junto a Macron, fue el acto ceremonial. El discurso en la Unesco fue el sustantivo.
A pesar de sus problemas bien documentados debido a repetidas crisis de financiación y controversias de liderazgo, la Unesco sigue siendo uno de los pocos foros globales donde las naciones en desarrollo tienen paridad institucional con Estados Unidos y China. Al hablar allí, León situó su advertencia dentro de una arquitectura multilateral que precede y sobrevive a cualquier administración, estadounidense o de otra índole.
También señaló un problema más amplio sin nombrar a nadie: «Los que están en el poder invocan [la ley] cuando les sirve a sus intereses y la ignoran cuando los restringe, tratando incluso la justicia misma como si fuera una mercancía que se compra y se vende».
Ese lenguaje, pronunciado en un aula parisina de diplomáticos y educadores, se lee como una crítica velada de los enfoques estadounidense y chino de la gobernanza de la IA: la aplicación selectiva por Washington de los controles de exportación y la integración por Pekín de tecnologías de vigilancia en sistemas de crédito social. El Papa ha sido crítico con los líderes mundiales desde al menos abril pasado, cuando describió al mundo como «saqueado por un puñado de tiranos».
Lo que debería temer la industria
Las empresas de IA han gastado miles de millones en lobbying, investigación de seguridad y relaciones públicas. Nada de eso las prepara para un argumento moral que opera completamente fuera de su marco de referencia.
La narrativa dominante de la industria enmarca el riesgo de la IA en términos de alineación, puntuaciones en benchmarks y escenarios catastróficos. El argumento de León parte de un axioma diferente: que la cuestión no es si las máquinas pueden pensar, sino si los seres humanos siguen siendo dignos de cuidado cuando no pueden competir con las máquinas en métricas de productividad.
Esto es más difícil de descartar. No requiere entender arquitecturas de transformadores ni funciones de recompensa. Solo requiere observar quién se queda atrás cuando la eficiencia se convierte en el único criterio para el valor humano, y hay muchos observadores que hacen exactamente eso.
La conexión con la muerte asistida
León también señaló preocupaciones sobre la legislación francesa de junio que otorga a los pacientes adultos el derecho a la muerte asistida, vinculándola a un patrón en el que la ciencia y la tecnología se convierten en «negocios impulsados por el beneficio» que promueven la manipulación genética, la gestación subrogada y el comercio de órganos.
Los lectores no deben pasar por alto el placement estratégico de esta observación. El debate sobre la muerte asistida está resurgiendo en toda Europa: Bélgica, los Países Bajos y ahora Francia. Al agruparlo con la gobernanza de la IA bajo el paraguas de la tecnología «impulsada por el beneficio», León está trazando una línea moral que conecta dos debates de política aparentemente separados. El argumento es consistente: cuando la tecnología sirve a los mercados en lugar de a la dignidad humana, tanto la IA como la atención al final de la vida se convierten en víctimas colaterales.
Quién gana y quién pierde
Los ganadores de la intervención de León son los defensores de una regulación más estricta de la IA que han argumentado durante mucho tiempo que las medidas técnicas de seguridad son insuficientes sin marcos morales. Ahora cuentan con la autoridad moral de la Iglesia católica detrás de argumentos que anteriormente se enmarcaban como puramente seculares o tecnocráticos.
Los perdedores son las empresas de IA y sus reguladores, que ahora se enfrentan a una competencia narrativa que no anticiparon. Las promesas de seguridad de la industria suenan huecas frente a un Papa que puede decir que la eficiencia misma es el problema sin necesidad de un solo dato que lo respalde.
Los responsables políticos europeos son los verdaderos actores decisivos. Francia y la UE tienen la infraestructura regulatoria para actuar. La pregunta es si el encuadre moral procedente del Vaticano influirá en los políticos que han pasado años tratando la gobernanza de la IA como un problema puramente técnico o competitivo.
Qué viene después
La visita de León continúa el lunes con un discurso sobre la paz europea en Metz, ya que la invasión rusa de Ucrania entra en su quinto año. La advertencia sobre la IA fue solo el acto de apertura. El Papa está construyendo claramente un caso más amplio sobre tecnología, poder y dignidad humana, que se extiende desde la IA hasta la guerra y la medicina del final de la vida.
La Iglesia católica históricamente ha sido lenta para participar con las tecnologías emergentes. Cuando lo hace, la participación tiende a ser amplia y moral, en lugar de técnica o incremental. Esa es precisamente la razón por la que esta intervención es peligrosa para el statu quo: se niega a jugar según las reglas del juego de la industria.
Si el encuadre de León gana tracción entre los legisladores europeos, la próxima ronda de regulación de la IA tendrá un aspecto muy diferente al debate actual. La pregunta no será si las máquinas son lo bastante seguras. Será si sirven a la dignidad humana, y esa es una pregunta para la que la industria de la IA no tiene respuesta.