¿Puede el mundo realmente controlar la IA? El Tratado Global de Seguridad enfrenta realidades difíciles

El teatro es real. La sustancia aún no lo es.

Cuando Donald Trump recibió a Xi Jinping en Washington para una cumbre de tres días esta semana, la inteligencia artificial se situó firmemente en el centro de la agenda. Eso solo indica cuánto ha cambiado la conversación. Hace un año, la seguridad de la IA era una preocupación de nicho que se susurraba en laboratorios de investigación y mesas redondas en Davos. Ahora es un tema titular que captura la atención de dos potencias nucleares que aún no se confían mutuamente.

La pregunta que importa no es si los líderes mundiales están hablando sobre la seguridad de la IA. Lo están haciendo. La pregunta es si surgirá algo exigible de un paisaje definido por exactamente las condiciones opuestas: cero confianza entre gobiernos, feroz competencia comercial y un conjunto de empresas que tienen cada incentivo para ocultarse en lugar de cooperar.

Dos narrativas, un mismo problema

Mark Scott, escribiendo desde el Atlantic Council, traza una distinción útil. Por un lado, está la alarma genuina que expresan investigadores de inteligencia artificial y ex insiders de la industria. Agentes autónomos que hackean a competidores. Denunciantes corporativos que publican advertencias al estilo Skynet en redes sociales. Los propios CEOs pidiendo ayuda públicamente, lo cual es o notablemente autoconsciente o notablemente teatral — a menudo ambas cosas. Por otro lado, está el reconocimiento de que algunos de estos temores son amplificados por las mismas personas que pueden beneficiarse del ritmo actual de desarrollo. Las empresas que se preparan para ofertas públicas tienen un motivo para sonar más preocupadas de lo que podrían sentirse en privado.

Ambas observaciones son verdaderas simultáneamente. Ese es precisamente el motivo por el que este momento es tan difícil de navegar. Los escándalos son reales. El status quo regulatorio está fallando. Pero los actores más vocales sobre los peligros son también aquellos con más que ganar al mantener las ruedas girando.

Las matemáticas geopolíticas son despiadadas

Cualquier marco serio de gobernanza global de la IA tiene que responder una pregunta simple: ¿quién lo aplica? Estados Unidos y China, los dos ecosistemas de IA más grandes, no son meros competidores. Están inmersos en una guerra fría tecnológica que abarca chips, algoritmos, talento e infraestructura. Ningún lado tiene razón para creer que el otro cumplirá. Ningún lado tiene razón para sacrificar su ventaja competitiva por una promesa que no puede verificar.

Este no es un problema nuevo. Los tratados de control de armamentos siempre han enfrentado la misma imposibilidad — confía en la otra parte o pierde. Lo que hace diferente a la IA es la velocidad. Las armas nucleares tomaron décadas desarrollarse. Los modelos de IA fronterizos pueden iterarse en meses. Un tratado que toma años negociarse y ratificarse puede llegar después de que la tecnología que pretendía gobernar ya haya avanzado.

Lo que Silicon Valley podría perder

Para las compañías tecnológicas estadounidenses, el cálculo es aún más incómodo. Cada requisito para abrir la caja negra — compartir datos de entrenamiento, revelar capacidades del modelo, someterse a auditorías independientes — es un requisito para revelar la salsa secreta. En un mercado donde la diferencia entre el primero y el segundo lugar puede medirse en billones de dólares y billones de parámetros, esa no es una pequeña concesión. Es existencial.

Las compañías más vocales sobre el riesgo de la IA suelen ser las mismas que construyen los modelos más poderosos. Sus advertencias cumplen un doble propósito: justifican la regulación que eleva las barreras de entrada para competidores más pequeños y crean cobertura política para las mismas capacidades que están desarrollando. Esto no es necesariamente cinismo. Es estructura. Quien haya observado la carrera de la IA desarrollarse en tiempo real sabe que las compañías en la frontera corren unas contra otras tanto como corren contra el riesgo.

Qué podría funcionar realmente

Entonces, ¿qué queda? Si descartamos la fantasía de un tratado multilateral vinculante y la comodidad de la autorregulación voluntaria de la industria, nos queda algo más feo y potencialmente más útil: un mosaico de regímenes nacionales que crean estándares globales de facto a través de la presión del mercado.

La Unión Europea ya tiene la Ley de IA. Estados Unidos avanza hacia una regulación sectorial mediante acción ejecutiva. China ha implementado sus propios requisitos de entrenamiento para IA generativa. Estos regímenes no se alinearán perfectamente. Entrarán en conflicto. Pero, de la misma manera que las reglas de privacidad de datos moldearon el comportamiento global de internet sin importar dónde estuvieran basadas las compañías, los marcos de gobernanza de la IA probablemente converjan a través de una combinación de carga de cumplimiento y acceso al mercado.

Mientras más restrictivas sean tus reglas, más costoso resulta para las compañías extranjeras operar en tu mercado. Eso crea un incentivo para que otros países adopten estándares similares, no porque compartan tus valores, sino porque no pueden permitirse quedarse atrás. Es el Efecto Bruselas aplicado a la inteligencia artificial.

La verdadera prueba vendrá después

La conversación Trump-Xi de esta semana es significativa porque reconoce que la IA es un riesgo compartido. Ese reconocimiento es raro entre adversarios de grandes potencias. Pero también está vacío hasta que algo concreto lo siga. Una declaración conjunta. Un grupo de trabajo. Un programa piloto de evaluación de modelos. Algo que demuestre que la conversación puede sobrevivir más allá de la foto de protocolo.

Lo que los observadores deberían vigilar no es el lenguaje en ningún comunicado de cumbre — esos siempre están cuidadosamente elaborados para ser tanto ambiciosos como vagos. La verdadera señal vendrá en los meses siguientes: si se anuncian grupos de trabajo bilaterales, si se acuerdan indicadores específicos de seguridad, si algún lado está dispuesto a compartir información sobre incidentes o cuasi-incidentes en sus propios sistemas de IA.

Esa última pregunta es la más difícil. Requiere que cada gobierno trate al otro no como un adversario a quien superar, sino como un socio en la prevención de un escenario que dañaría a ambos. Es el tipo de cooperación que históricamente solo ha emergido después de que una crisis ya ha ocurrido.

Las apuestas son reales, aunque la diplomacia no lo sea

La preocupación subyacente no es manufacturada. Los sistemas de IA que se construyen hoy son más capaces que cualquier cosa que la humanidad haya producido jamás. Sus trayectorias son poco comprendidas. Su despliegue se acelera. El hecho de que algunas de las advertencias más ruidosas provengan de personas con intereses comerciales no significa que las advertencias estén equivocadas.

Lo que significa es que la comunidad global necesita estructuras de gobernanza que puedan sobrevivir sin confianza perfecta. Eso no se parecerá en nada a los tratados de la era de la Guerra Fría. Será más desordenado, menos formal y más fragmentado. Pero la fragmentación puede ser el único camino realista hacia adelante dado el estado actual de las relaciones entre grandes potencias.

La cumbre de esta semana es un paso. Si es el inicio de algo duradero o solo otro episodio en la larga dramática de la ansiedad techno-política, todavía queda por verse. Las compañías que construyen estos sistemas no esperarán la respuesta. Están corriendo de todos modos. El resto de nosotros debería prestar atención a si alguien está realmente construyendo los frenos mientras aún se necesitan.