Los CEO de IA suplicaron al Consejo de Seguridad de la ONU. EE. UU. y China dijeron que no.
Sam Altman y Dario Amodei advirtieron al Consejo de Seguridad de la ONU que el riesgo de la IA exige acción global. Luego EE. UU. vetó la premisa y China rechazó el liderazgo occidental del esfuerzo, dejando al órgano más poderoso del mundo paralizado ante su tecnología más trascendental.
El día que los CEOs de la IA golpearon a la puerta del Consejo de Seguridad
El 23 de septiembre, en la sede de la ONU en Nueva York, dos figuras que normalmente operan muy lejos de la geopolítica tradicional — Sam Altman, de OpenAI, y Dario Amodei, de Anthropic — se dirigieron al Consejo de Seguridad de las Naciones Unidas y advirtieron a sus miembros que la inteligencia artificial podría representar una amenaza para toda la humanidad.
Luego, los dos miembros más poderosos del Consejo prácticamente les dijeron que se fueran a casa.
La reunión fue convocada por Francia, que ostenta la presidencia del Consejo de Seguridad durante el mes. Los ministros de Exteriores de Reino Unido y Francia hicieron eco de las advertencias, señalando el peligro concreto de los sistemas autónomos de armas letales capaces de seleccionar y atacar objetivos sin un control humano significativo. El tono fue sobrio, las apuestas se plantearon en términos existenciales y, durante unas horas, pareció que el organismo creado tras la Segunda Guerra Mundial y encargado de mantener la paz internacional realmente avanzaría en materia de IA.
Pero no fue así.
Michael Kratsios, asesor de ciencia y tecnología del presidente Trump, transmitió la posición estadounidense con crudeza: Estados Unidos rechazaría «resueltamente» cualquier intento de construir un marco regulatorio para la inteligencia artificial. También señaló su oposición a reducir el ritmo de desarrollo, incluso por razones de seguridad. El representante de China ofreció una réplica ligeramente más matizada: reconoció cierto entendimiento sobre la necesidad de regulación, pero se opuso al dominio occidental en el debate e insistió en que la propia ONU, y no un puñado de capitales europeas, debería ser el foro principal. Rusia se mantuvo al margen, argumentando que el tema corresponde a los organismos especializados existentes y no al Consejo de Seguridad.
Las imágenes fueron contundentes. Los CEOs de las dos empresas de inteligencia artificial más influyentes del mundo acababan de pedirle al órgano geopolítico más poderoso de la Tierra que les ayudara a prevenir una catástrofe. Y los miembros permanentes de ese órgano ni siquiera pudieron ponerse de acuerdo sobre si debía discutirse.
Por qué esta reunión importa más de lo que parece
El Consejo de Seguridad de la ONU ha tratado, desde 1945, amenazas a la paz internacional: guerras, sanciones, misiones de mantenimiento de la paz, proliferación nuclear. Nunca antes se le había pedido que considerara la regulación de la inteligencia artificial. El hecho de que esta cuestión haya llegado a su agenda señala cuán seriamente las potencias europeas ahora ven las implicaciones estratégicas de la tecnología.
La iniciativa francesa no fue accidental. Los gobiernos europeos han dedicado los últimos dos años a posicionar el Reglamento de IA de la Unión Europea y las iniciativas diplomáticas relacionadas como el estándar global. Llevar la pregunta al Consejo de Seguridad fue un movimiento para elevar la gobernanza de la IA de un régimen regulatorio a un mandato de seguridad — uno que, en teoría, podría llevar la fuerza de resoluciones vinculantes bajo el Capítulo VII de la Carta de las Naciones Unidas.
Justo eso es lo que alarmó a Washington y a Pekín.
Estados Unidos ha preferido históricamente marcos voluntarios de la industria y la competencia de mercado antes que una regulación de arriba hacia abajo. El lenguaje de Kratsios — «rechazar resueltamente» — fue inusualmente contundente para un entorno multilateral, lo que sugiere que la administración Trump ve la regulación de la IA no solo como un controversia de política doméstica, sino como una cuestión estratégica. Un marco del Consejo de Seguridad, incluso uno no vinculante, podría crear precedentes que restrinjan a las empresas estadounidenses de IA o legitimen la supervisión extraterritorial.
La posición de China es distinta pero apunta en la misma dirección. Pekín se opone a la elaboración de normas liderada por Occidente no porque favorezca la desregulación — China cuenta con su propio aparato integral de gobernanza de la IA —, sino porque rechaza que la agenda se establezca en Londres y París en lugar de en Nueva York, donde China ejerce mayor influencia como miembro permanente del Consejo de Seguridad.
La convergencia entre Estados Unidos y China en este tema es rara y significativa. Discuerdan en todo, desde aranceles hasta Taiwán hasta derechos humanos. Pero ambos perciben la gobernanza occidental de la IA como una amenaza: Estados Unidos, por temor a que la regulación ceda el liderazgo tecnológico; China, por temor a que la regulación codifique la ventaja occidental bajo el pretexto de neutralidad.
Quiénes ganan, quiénes pierden
Los ganadores de la sesión bloqueada del 23 de septiembre son las propias empresas de inteligencia artificial.
Ninguna resolución vinculante. Ningún estándar de seguridad obligatorio impuesto desde arriba. Ningún requisito de frenar el desarrollo. OpenAI, Anthropic y todos los demás laboratorios que operan en la frontera pueden seguir construyendo al ritmo que decidan, sin responder ante ningún organismo internacional y presionados únicamente por la algo vaga fuerza de sus propias declaraciones públicas.
Justo así lo querían.
Los perdedores son todos aquellos que creen que la trayectoria actual conlleva riesgos inaceptables. Amodei fue explícito: «ningún líder, empresa o nación por sí solo puede abordar esto». La lógica es sólida. Un sistema de IA desarrollado en Silicon Valley puede ser ajustado en Shanghái, desplegado en Lagos y causar fallos en cascada a través de sistemas financieros que abarcan tres continentes. El riesgo es inherentemente transfronterizo. La arquitectura de gobernanza sigue siendo terca e inapelablemente territorial.
Los ministros de Exteriores europeos que impulsaron la sesión del Consejo de Seguridad ahora enfrentan una elección incómoda. Pueden retirarse al Reglamento de IA de la UE y esperar que otros países se alineen voluntariamente —una estrategia que ha funcionado de manera modesta para la privacidad de datos, pero que podría demostrarse insuficiente para una tecnología cuyas aplicaciones más peligrosas no pueden contenerse dentro de ninguna jurisdicción—. O pueden intentarlo de nuevo, tal vez a través de la Asamblea General de la ONU, donde las dinámicas de poder están menos paralizadas pero los mecanismos de aplicación son aún más débiles.
Qué ocurre después
La trayectoria más probable a corto plazo es la fragmentación. Puede esperarse que la UE profundice su perímetro regulatorio e intente exportar sus normas mediante acuerdos comerciales y reglas de contratación pública —el llamado Efecto Bruselas—. Puede esperarse que Estados Unidos se reafirme en una política de innovación primero, con financiación gubernamental fluyendo hacia los laboratorios de frontera bajo el supuesto de que el liderazgo es la mejor medida de seguridad. Puede esperarse que China siga construyendo su propio ecosistema cerrado de gobernanza de la IA, priorizando el control estatal y la estabilidad social sobre la apertura que los reguladores europeos y estadounidenses suelen enfatizar.
Ninguna de estas vías crea el tipo de coordinación global que solicitaron Amodei y Altman. Pero tampoco requieren el tipo de acuerdo que el Consejo de Seguridad demostró ser incapaz de lograr.
La pregunta más profunda es si las empresas de IA terminarán pidiendo regulación por sí mismas, o si continuarán haciendo lobby para acceder a los tomadores de decisiones mientras se oponen a cualquier marco que las restrinja. El testimonio de Altman del 23 de septiembre fue notable por lo que implicaba: que las empresas que construyen los sistemas más poderosos del mundo reconocen que no pueden gestionar los riesgos solas. Pero el reconocimiento no es lo mismo que entregar el control.
Francia lo intentará de nuevo. La presidencia del Consejo de Seguridad rota mensualmente, y los próximos titulares —probablemente un miembro no permanente— podrían ser más propensos a la agenda europea. Pero sin la participación de Estados Unidos, cualquier resolución carecerá de legitimidad. Sin la aprobación de China, carecerá de universalidad.
El Consejo de Seguridad de la ONU se reunió para discutir la tecnología más trascendental del siglo XXI. No produjo nada. Ese resultado, paradójicamente, es en sí mismo un resultado —uno que revela dónde radican los verdaderos centros de gobernanza de la IA y lo difícil que será cambiar esa disposición.