Trump quiere un ejército de IA. La ONU quiere que la IA permanezca bajo control humano.
La ONU impulsa estándares internacionales de seguridad de IA mientras Washington persigue una fuerza militar impulsada por IA. El choque entre la precaución corporativa voluntaria y la ambición geopolítica definirá si las barreras globales se mantienen.
La ONU intenta poner los frenos a la IA. La Casa Blanca quiere pisar el acelerador a fondo.
La 81.ª sesión de la Asamblea General de las Naciones Unidas se abre esta semana en Nueva York, y una de las preguntas definitorias de la década está en la agenda: ¿debe la humanidad dosificar el desarrollo de la inteligencia artificial, o salir corriendo?
La respuesta depende enteramente de dónde uno se pare. En la cámara, la narrativa que emana de la Secretaría de la ONU, de la presidencia francesa del Consejo de Seguridad y de las voces más prudentes de las grandes tecnológicas es clara: la IA podría escapar al control humano, y el mundo necesita cercas antes de que sea demasiado tarde. En Washington, la señal es la contraria.
¿Quién habla y qué dice?
El secretario general de la ONU, António Guterres, declaró a los periodistas el 16 de septiembre que las advertencias que provienen de la primera línea del desarrollo de la IA no pueden ignorarse, y que la seguridad de la IA será un tema central entre los líderes mundiales la próxima semana. Eso no es poca cosa. Guterres se ha posicionado como escéptico ante la aceleración tecnológica desatendida, y su lenguaje —abogando por el intercambio de información entre los países mejor situados para desarrollar la IA, por mecanismos de transparencia, por un sistema multilateral que prevenga riesgos— senala que la ONU se toma esto en serio.
Francia, que ostenta la presidencia del Consejo de Seguridad en septiembre, ha convocado una reunión para el 23 de septiembre específicamente para analizar lo que denomina el riesgo de perder el control sobre la IA y el peligro de que los modelos avanzados de IA puedan emplearse para desarrollar, promover o ejecutar acciones que amenacen la paz y la seguridad internacionales. Ese es un lenguaje directo para un órgano que rara vez utiliza ese tipo de marco.
Sam Altman, director general de OpenAI, está previsto que informe a esa reunión del Consejo de Seguridad. Lo mismo hace Dario Amodei, de Anthropic. Estos no son reguladores ni diplomáticos. Son las personas que están construyendo los sistemas de los que ahora advierten. Su presencia en la ONU es en sí misma una noticia —señala que la voz cautelosa de la industria ha cruzado desde los comunicados de prensa hasta los pasillos más elevados de la deliberación en seguridad internacional.
El 24 de septiembre, un evento paralelo organizado por AI Safety Connect —una coalición cofundada por la experta en gobernanza Nicola Miayu— reunirá al Programa de las Naciones Unidas para el Desarrollo, la UNESCO y representantes de los Estados miembros para discutir pruebas de seguridad previas al lanzamiento, evaluación independiente por terceros, estándares de seguridad comunes a nivel mundial y protocolos de coordinación internacional para crisis de IA.
La arquitectura de un régimen de seguridad se está trazando en tiempo real. La pregunta es si se mantendrá.
La contradicción de Trump
Esto es lo que la cobertura de la ONU omite en gran medida: Donald Trump ha pasado su segundo mandato impulsando una visión radicalmente diferente. Ha defendido un ejército potenciado por IA, hablado de crear un zar de la IA dentro del poder ejecutivo, y enmarcado el liderazgo estadounidense en inteligencia artificial como una cuestión de supervivencia nacional frente a China.
Esto no es un apéndice. Es la contradicción central del momento.
El debate en la ONU trata la seguridad de la IA como un problema de acción colectiva —el tipo de desafío que requiere estándares compartidos, transparencia y supervisión multilateral. La visión de Trump sobre la IA militar la trata como una competencia de suma cero —el tipo de desafío donde la velocidad importa más que las salvaguardas, y donde ceder cualquier terreno a los rivales es un riesgo existencial.
Estos dos marcos no pueden coexistir sin fricción. Si Estados Unidos defiende simultáneamente estándares de seguridad de IA en la ONU y vierte recursos en una postura de defensa impulsada por IA, el resto del mundo lo leerá como hipocresía. China lo leerá como prueba de que Estados Unidos quiere reglas solo cuando estas restringen a otros. Europa lo leerá como evidencia de que Washington no puede confiarse el liderazgo en la gobernanza global de la IA.
Por qué esta colisión importa más allá de los pasillos de la ONU
Las apuestas no son abstractas. El material fuente señala que se espera que Trump y el presidente chino Xi Jinping mantengan conversaciones bilaterales tras la semana de alto nivel de la Asamblea General de la ONU. La IA estará en la agenda. Lo que surja de esa conversación establecerá el tono sobre si los marcos de seguridad discutidos en Nueva York tienen alguna oportunidad de traducirse en aplicación.
Si Estados Unidos y China no encuentran un terreno común sobre estándares de IA —y la mayoría de los analistas esperan que no lo hagan—, entonces la arquitectura de seguridad de la ONU corre el riesgo de convertirse en un ejercicio voluntario sin mecanismo de aplicación. Eso es exactamente lo que Miayu advirtió: la parte más difícil no es estar de acuerdo en cómo debería ser el marco, sino implementarlo realmente.
La posición de China es clara según la fuente: acusa a Estados Unidos de buscar monopolizar el liderazgo tecnológico en IA. La posición de Estados Unidos, reflejada en su impulso militar hacia la IA, valida esa acusación a los ojos de Pekín. El ciclo se alimenta a sí mismo.
Quiénes ganan y quiénes pierden
Si el marco de seguridad multilateral gana tracción, los ganadores son las naciones más pequeñas que carecen de capacidad de desarrollo de IA pero soportan un riesgo desproporcionado de armas autónomas, desinformación habilitada por deepfakes y toma de decisiones algorítmica sin control. Los perdedores son quienes se benefician de la aceleración desregulada —principalmente los actores bien capitalizados en ambos lados del Pacífico que ven las salvaguardas como desventajas competitivas.
Si el marco flaquea, como parece cada vez más probable dado el estancamiento entre EE. UU. y China, el mundo se dirige hacia una carrera armamentista de IA de facto sin disyuntores diplomáticos. Los compromisos corporativos de seguridad se convierten en marketing. La ONU se convierte en un club de cháchara. Y las personas que construyeron los sistemas más poderosos —Altman, Amodei y sus homólogos en China y otros lugares— no responden ante nadie.
Qué sucede después
Observa dos cosas. Primero, si la reunión del Consejo de Seguridad produce alguna declaración conjunta o compromiso más allá de la retórica. Las resoluciones vacías sobre seguridad de IA tienen precedente histórico —parecen progreso y significan casi nada. Segundo, observa las conversaciones Trump-Xi. Si producen incluso un acuerdo moderado sobre intercambio de información o canales de comunicación de crisis alrededor de la IA, sería el resultado más significativo de toda la sesión de la Asamblea General de la ONU. Si no producen nada, la arquitectura de seguridad discutida en Nueva York seguirá siendo exactamente lo que es hoy: una propuesta sin un ejecutor.
La ONU está intentando resolver un problema de coordinación con cooperación voluntaria. La Casa Blanca opera en un marco de competencia. Hasta que esas dos realidades converjan —o una derrote a la otra—, la gobernanza de la IA seguirá siendo un debate, no un sistema.