El momento del Consejo de Seguridad de la IA: ¿quién se sienta a la mesa?
Los CEOs de OpenAI y Anthropic se dirigieron al Consejo de Seguridad de la ONU sobre seguridad de la IA, pero la verdadera historia es lo que su invitación revela sobre quién moldea la gobernanza global de la IA y quién queda excluido.
La invitación que habla más fuerte que los discursos
Cuando Sam Altman y Dario Amodei entraron (o se conectaron) a la sala del Consejo de Seguridad de la ONU esta semana, no eran simplemente dos directores ejecutivos dirigiéndose a líderes mundiales sobre la seguridad de la IA. Estaban ocupando asientos que ninguna empresa tecnológica había sostenido antes. La imagen por sí sola —dos hombres que colectivamente controlan aproximadamente tres billones de dólares en valor de mercado, sentados en una mesa diseñada para jefes de Estado— lo dice todo sobre hacia dónde se dirige la conversación en torno a la inteligencia artificial.
La verdadera pregunta no es qué dijeron. Es quién los invitó.
Una rivalidad por la seguridad con dientes geopolíticos
Altman y Amodei han pasado años posicionándose como los adultos responsables en la habitación de la IA. Sus empresas están inmersas en una feroz competencia comercial —ambas apuntan a ofertas públicas iniciales potencialmente históricas que podrían valorar a cada una por encima de un billón y medio de dólares—, pero encontraron un terreno común en el riesgo existencial. Esa convergencia no es accidental.
Investigadores de Anthropic hicieron titulares a principios de este mes al advertir que la IA podría destruir a la humanidad dentro de la década. En cuestión de días, Altman mismo pidió una desaceleración en el desarrollo de la IA, uniéndose a Google y a Elon Musk en el coro. La coordinación entre estos rivales sugiere algo más profundo que un simple alineamiento de relaciones públicas: ambas compañías se benefician de enmarcar a la IA como una amenaza global urgente que requiere supervisión extraordinaria.
Ese marco sirve bien a sus intereses. La regulación, particularmente la regulación internacional, tiende a favorecer a las empresas con los recursos para cumplir. Crea barreras de entrada que protegen a los incumbentes. Y les otorga a tecnólogos como Altman y Amodei acceso sin precedentes a las palancas del poder estatal.
El déficit democrático en la gobernanza de la IA
El discurso de Altman ante el consejo enfatizó que las decisiones sobre IA no deberían tomarse solo en laboratorios de San Francisco. Abogó por procesos democráticos y gobiernos responsables ante su ciudadanía. Fue un mensaje cuidadosamente calibrado —uno que reconocía la ansiedad pública sobre la concentración de la IA mientras reforzaba simultáneamente la idea de que los gobiernos electos democráticamente, no reguladores ni activistas, deberían ser los árbitros de la política sobre IA.
Existe una brecha notable entre esas palabras y las acciones. El PAC Leading the Future, conectado al presidente de OpenAI Greg Brockman, ya ha reunido más de 100 millones de dólares y gastado millones dirigiéndose a candidatos que apoyan una regulación más fuerte de la industria de la IA. El argumento de Altman a favor de la gobernanza democrática sonó un tanto hueco viniendo de una empresa que ha hecho lobby activamente en contra precisamente del tipo de rendición de cuentas democráticas que él describió.
Amodei tomó un enfoque diferente, apoyándose en la narrativa del riesgo existencial y pidiendo acuerdos internacionales específicos —una prohibición de armas biológicas desarrolladas por IA, estándares globales para probar nuevos modelos. Su empresa, insistió, tiene el mejor historial en la industria para prevenir riesgos. Esa afirmación, como la mayoría de las claims sobre seguridad de la IA, es imposible de verificar de manera independiente y probablemente permanecerá así mientras las empresas que controlan los modelos más poderosos traten su investigación de seguridad como propiedad privada.
Quiénes faltan en la sala
La ausencia más llamativa en los procedimientos del miércoles no fue solo la falta de empresas chinas. Fue la ausencia de voces del Sur global, de organizaciones de la sociedad civil, de los trabajadores cuyos empleos la IA va a transformar. El Consejo de Seguridad de la ONU invitó a dos directores ejecutivos estadounidenses a informarles sobre una tecnología que afectará a todos los países del planeta —pero la lista de invitados lo dice todo sobre qué preocupaciones importan.
Las empresas chinas de IA como Baidu, Alibaba y DeepSeek operan a gran escala y producen modelos que compiten directamente con OpenAI y Anthropic. Su exclusión de esta conversación refleja un patrón más amplio: las instituciones occidentales tienden a definir la gobernanza de la IA de maneras que marginan a los actores chinos, incluso a medida que esos actores se vuelven cada vez más influyentes. El resultado no es una gobernanza más limpia, sino una fragmentación de estándares y una carrera hacia el fondo en materia de seguridad, ya que las empresas fuera del órbita occidental enfrentan menos restricciones.
La exclusión también ignora un hecho simple: la seguridad de la IA no se trata solo de prevenir amenazas hipotéticas de superinteligencia. Se trata de daños inmediatos: sesgo algorítmico, capacidades de vigilancia, desplazamiento laboral, campañas de desinformación. Las voces más afectadas por esos daños rara vez reciben invitaciones a las sesiones informativas del Consejo de Seguridad.
Qué viene después
La decisión del Consejo de Seguridad de la ONU de celebrar una audiencia dedicada sobre IA marca un momento institucional significativo. Señala que la IA ha pasado de ser un debate técnico a uno geopolítico —la misma categoría que la proliferación nuclear, la guerra cibernética y el cambio climático. Esa elevación trae atención y legitimidad, pero también conlleva el riesgo de que la conversación quede dominada por los mismos actores que se han beneficiado del auge desregulado de la IA.
Tanto Altman como Amodei claramente quieren moldear la narrativa sobre el futuro de la IA. Sus discursos revelaron visiones competitivas de cómo debería ocurrir ese moldeo: Altman enfatizando la gobernanza democrática y el control humano, Amodei impulsando acuerdos internacionales vinculantes y estándares de prueba. Ningún enfoque es equivocado. Ambos sirven a los intereses de sus compañías.
Lo que está por verse es si el proceso de la ONU que comenzó esta semana realmente restringirá a las empresas que le informan o simplemente las legitimará. La historia sugiere que el segundo resultado es más probable. Las empresas tecnológicas tienen una capacidad notable para convertir el escrutinio en oportunidad, y el hecho de que dos directores ejecutivos del Valle de Silicio ahora se sienten en la mesa del Consejo de Seguridad de la ONU puede ser la parte más importante de la historia —uno que ni Altman ni Amodei destacarán en sus discursos.
La elección entre renacimiento e interrupción que Altman describió no se trata solo de las capacidades de la IA. Se trata de quién tiene la decisión sobre qué camino tomamos.