El Consejo de Seguridad de la ONU acaba de convertirse en un escenario de gobernanza de la IA
Altman y Amodei advirtieron al Consejo de Seguridad de que la IA de vanguardia podría escapar al control humano, y de que ningún país puede resolver el problema por sí solo. La verdadera historia es lo que revela su llamado sobre quiénes tienen la potestad de establecer las normas.
El Consejo de Seguridad tiene un nuevo tema permanente en la agenda
Sam Altman y Dario Amodei no fueron a las Naciones Unidas a pedir permiso. Fueron a reclamar un asiento en la mesa donde se escribirían las reglas de la gobernanza de la inteligencia artificial. La sede —el Consejo de Seguridad de la ONU— comunica algo más grande que una gira corporativa de cabildeo.
La sesión informativa de alto nivel del día 23, convocada bajo la presidencia francesa del Consejo de Seguridad, reunió al director general de OpenAI en persona, al director general de Anthropic por enlace de vídeo y a Clemens Doerig, de Hugging Face, también de forma remota. Que tres empresas por sí solas hayan merecido una sesión ante el Consejo de Seguridad es, en sí misma, una declaración sobre dónde reside ahora la autoridad real sobre la inteligencia artificial. No está en los parlamentos. Está en un puñado de laboratorios de San Francisco y Palo Alto.
Lo que dijeron es menos importante que por qué lo dijeron allí
El mensaje central de Altman era conocido: los sistemas de inteligencia artificial de vanguardia avanzan de forma exponencial y, si la humanidad no construye marcos de seguridad internacionales ahora, el control podría escapar de sus manos. Lo planteó con crudeza: las decisiones sobre la tecnología más trascendental de la historia no deben tomarse a puerta cerrada en los laboratorios del Valle de Silicio. Ese encuadre es preciso pero estratégico. Desvía la atención del hecho de que esos mismos laboratorios son, actualmente, las únicas instituciones con suficiente capacidad de cómputo y capital para construir estos sistemas desde cero.
Amodei fue más lejos. Desplegó vectores de amenaza concretos: el rápido perfeccionamiento de las capacidades de ciberataque, el uso indebido de la inteligencia artificial para el diseño de armas biológicas, la posibilidad de que los modelos de frontera operen más allá del control humano. Su compromiso de ralentizar los lanzamientos de productos si la seguridad así lo exige resultó notable. Lo mismo su insistencia en que ningún país ni empresa puede resolver esto solo. Ese último punto es a la vez honesto y políticamente cargado: llama implícitamente a todos los gobiernos, especialmente a aquellos sin campeones domésticos de la IA, a aceptar estándares diseñados por firmas estadounidenses.
El Sur Global escuchó algo distinto
La cobertura occidental ha tratado esto mayormente como un llamado directo a la seguridad. Los lectores en Nairobi, Yakarta, Lagos y Buenos Aires probablemente captaron una señal diferente. Esto es lo que escucharon:
Un pequeño grupo de directores generales de tecnología, respaldados por un presidente europeo del Consejo de Seguridad, están pidiendo a los cuerpos más poderosos del mundo que adopten marcos de gobernanza que esos mismos directores ayudaron a definir. La invitación es universal: únanse a nosotros para gobernar la IA; pero la línea de salida está marcada en California.
Esto no es conspiración. Es estructura. Las empresas que testificaron ante el Consejo de Seguridad poseen modelos propietarios, vastos recursos de cómputo y relaciones de captura regulatoria con agencias estadounidenses. Son simultáneamente los regulados y los reguladores. El Sur Global enfrenta una elección sin opción limpia: aceptar un marco moldeado por competidores que se benefician de él, o apartarse y arriesgarse a ser calificado como incumplidor por instituciones que ya los tratan como partes interesadas de segunda categoría.
Washington ya tira en la otra dirección
El detalle más importante en la sala fue quién no estaba. La administración de Donald Trump ha mostrado un profundo escepticismo hacia los acuerdos internacionales vinculantes sobre inteligencia artificial. Reportes recientes indicaron que Trump barajó renombrar los sistemas de frontera como “súper inteligencia” mientras rechazaba pactos globales sobre gobernanza. Esa contradicción —un lenguaje alarmista emparejado con una negativa regulatoria— no es accidental. Es la postura de un estado que quiere liderar el desarrollo de la inteligencia artificial sin someterse a ninguna restricción externa.
China ocupa la posición espejo. Pekín ve la gobernanza de la inteligencia artificial a través del prisma de la soberanía tecnológica y la seguridad nacional, no mediante riesgos existenciales abstractos. Ambas superpotencias observan la sesión del Consejo de Seguridad a través de ese prisma. Las reuniones de órganos multilaterales y la retórica de emergencia coexisten con esfuerzos paralelos por asegurar el dominio doméstico.
Francia jugó sus cartas con cuidado
El papel de Francia como presidenta del Consejo de Seguridad para esta sesión es significativo. París se ha posicionado como defensora de la autonomía estratégica europea y la soberanía digital. Al convocar esta reunión, Francia señaló que tiene la intención de dar forma a la arquitectura institucional en torno a la gobernanza de la inteligencia artificial, sin ceder ese rol a Washington o Pekín. La presencia de tres directores generales estadounidenses en terreno acogido por Francia es un montaje deliberado: autoridad europea, capacidad estadounidense, urgencia global.
El secretario general de la ONU, António Guterres, reafirmó el llamado a la acción inmediata y a un órgano de supervisión mundial. Sus palabras tuvieron peso institucional pero ningún mecanismo de imposición. El Consejo de Seguridad puede aprobar resoluciones. No puede obligar a OpenAI a someterse a una auditoría internacional. No puede forzar a Estados Unidos a ratificar cualquier tratado que surja.
Quién gana, quién pierde, qué viene después
Los ganadores de esta sesión son las empresas que se presentaron. Altman, Amodei y Doerig ahora han comparecido ante el máximo órgano de seguridad del mundo. Ya no son solo directores generales de tecnología. Son consejeros de facto en riesgo existencial —un rol sin mandato democrático pero con enorme poder informal.
Los perdedores son los gobiernos fuera del eje EE. UU.-China que se les pedirá adoptar estándares en cuyo diseño no tuvieron participación. Los perdedores son también los investigadores y desarrolladores en países sin laboratorios de frontera, quienes se enfrentarían a regímenes de cumplimiento construidos por otros.
Lo que viene es una lucha prolongada por el diseño institucional. Esperen propuestas para una autoridad internacional de seguridad de la inteligencia artificial, probablemente modelada en parte en el OIEA. Esperen que Estados Unidos resista la supervisión vinculante. Esperen que China proponga marcos alternativos centrados en la soberanía de datos. Esperen que la Unión Europea impulse la reciprocidad regulatoria. Y esperen que los directores generales de Silicon Valley vuelvan a testificar, porque la plataforma es demasiado valiosa para dejarla.
La sesión no fue un punto de inflexión. Fue una señal de que el punto de inflexión ya comenzó. La pregunta es si el resto del mundo tendrá participación en el viraje o simplemente reaccionará ante él.