El teatro de seguridad de la IA: por qué Washington y Pekín nunca frenarán

La carrera de dos velocidades

Antes de que Donald Trump y Xi Jinping se reúnan el miércoles en Washington, los titulares esperados serán escasos en sustancia sobre IA. Cabe esperar un diálogo. Quizá un mecanismo de notificación para incidentes de seguridad nacional. Lo que no aparecerá en ninguna agenda es la desaceleración coordinada que decenas de investigadores y líderes del sector exigen ahora públicamente.

Esa ausencia no es un descuido. Es el punto.

Estados Unidos y China, que juntos alojan casi todos los laboratorios de IA de frontera y la mayoría de los modelos descargables del mundo, han rechazado firmemente los llamados a desacelerar. La brecha entre su retórica de seguridad y sus acciones competitivas se ha abierto hasta volverse algo más amplio que un desacuerdo de política —es una característica estructural del momento actual.

El desdén de Estados Unidos

Trump ha sido taxativo. Acusó a los temores sobre la seguridad de la IA de ser una “conspiración” ante la Asamblea General de las Naciones Unidas y advirtió que Washington se opondría a cualquier “scheme globalista” para controlar la tecnología. Su enfoque es directo: el dominio de la IA es inseparable del poder estadounidense, y cualquier límite al desarrollo es un límite al liderazgo de EE. UU. Dijo a los reporteros el martes que los controles eran innecesarios bajo su administración.

Esa posición lo enfrenta a algunos de los constructores de IA más prominentes de su propio país. El director ejecutivo de Anthropic, Dario Amodei, y el de OpenAI, Sam Altman, han instado a un desarrollo más pausado y una regulación más fuerte. Jensen Huang, de Nvidia, y Mark Zuckerberg, de Meta, han rebatido, enfatizando los beneficios de la IA sobre sus riesgos. El sector está dividido, y Washington ha elegido bando sin regular apenas ninguno.

El cálculo chino

El enfoque de China es más matizado, pero no menos comprometido con la aceleración. Este mes, Pekín publicó la tercera iteración de su marco de seguridad de IA —un movimiento que señala atención a la gobernanza sin ningún apetito por reducir la producción. Los funcionarios chinos han reconocido riesgos relacionados con la pérdida de control, el mal uso y las ciberamenazas. Pero también han desestimado las alarmas de riesgo existencial del Valle del Silicio como “miedo manipulador”.

El Ministerio de Seguridad del Estado de China emitió este mes un ensayo poco común advirtiendo que “fuerzas hostiles” podrían militarizar la IA para difundir rumores políticos e incitar al desorden. La amenaza que siente China no son máquinas descontroladas, sino potencias rivales que explotan la tecnología. Esa distinción importa. Significa que Pekín ve una desaceleración no como protección compartida, sino como contención estratégica.

Sun Chenghao, de la Universidad de Tsinghua, lo expresó con claridad: China teme que el lenguaje de “seguridad de la IA” se convierta en la justificación para restringir su acceso a chips, computadoras y mercados. Si cada discusión sobre seguridad se vincula a controles de exportación, la cooperación pierde su atractivo.

Quién gana, quién pierde

Los ganadores inmediatos son las compañías que construyen estos sistemas. Los laboratorios de frontera en ambos países siguen vertiendo recursos en modelos cada vez más capaces, con menos restricciones externas. Los inversionistas se benefician. Los trabajadores del sector de IA ven una demanda creciente. Los consumidores obtienen lanzamientos más rápidos de funcionalidades.

Los perdedores son más difíciles de nombrar pero más fáciles de predecir. Son las personas que heredarán sistemas que no ayudaron a diseñar y no pueden controlar del todo. Son las sociedades donde la desinformación fabricada por IA, las armas autónomas o los sistemas desalineados causan daño antes de que cualquier marco de seguridad logre ponerse al día. Y son la población global que carga con riesgo existencial —por improbable que algunos funcionarios lo califiquen— mientras las superpotencias apuestan a que el riesgo es problema de otro.

Alvin Wang Graylin, del Instituto de Política de la Sociedad Asiática, captó la asimetría con crudeza: un régimen de seguridad que cubre solo los modelos de un lado abarca la mitad del problema. La otra mitad se construye en una capital rival con prioridades rivales.

La trampa de la verificación

Incluso si ambos gobiernos quisieran un acuerdo, el camino está bloqueado por una imposibilidad técnica que no pueden admitir fácilmente. Wang Graylin señaló que la verificación es difícil para un software que no puedes ver. Los modelos pueden copiarse, ajustarse en secreto y distribuirse a través de jurisdicciones. Una desaceleración prometida no deja un rastro de auditoría claro.

Otto Barten, del Observatorio de Riesgo Existencial, argumentó que la línea roja crítica es la mejora递归自我提升 —el punto en que los sistemas de IA comienzan a diseñar versiones mejores de sí mismos sin supervisión humana. Solicitó un acuerdo explícito de que ese umbral no será traspasado. Pero también reconoció que cualquier acuerdo es improbable dada la incentivo de una parte infractora por desplazar el equilibrio global de poder.

Este es el dilema central. La misma capacidad que hace útil a la IA —mejora recursiva, aprendizaje rápido, adaptabilidad— es la misma que la vuelve peligrosa sin supervisión. Y la misma competencia que impulsa la innovación es lo que hace casi imposible la supervisión coordinada.

Un paisaje de amenazas desiguado

Henry Gao, de la Universidad de Gestión de Singapur, identificó el problema más hondo: Washington y Pekín ni siquiera están discutiendo el mismo riesgo. Los debates de seguridad estadounidenses se centran en una IA altamente capaz que escapa al control y amenaza a la humanidad. Las preocupaciones chinas son geopolíticas —que EE. UU. obtendrá una ventaja decisiva y la usará.

Estos no son marcos complementarios. Son opuestos. Desde la perspectiva de Pekín, desacelerar el desarrollo cede terreno a Washington. Desde la perspectiva de Washington, desacelerar el desarrollo invita a Beijing a ponerse al día sin control. Ningún lado puede confiar en que el otro se detenga primero. Así que ambos aceleran.

Rui Ma, consultor tecnológico y fundador de Tech Buzz China, argumentó que el foco debería estar en mitigar riesgos existentes en lugar de pausar el desarrollo por completo. Ll a la evolución de salvaguardas, canales de comunicación abiertos y monitoreo constante. Es una posición razonable —si crees que la tecnología puede manejarse más rápido de lo que puede escapar al manejo.

Qué sucede después

La reunión Trump-Xi producirá un diálogo. Eso es algo. Jiang Tianjiao, de la Universidad Fudan, lo llamó una señal positiva y expresó esperanza de que ambos lados puedan encontrar terreno común a pesar de la rivalidad geopolítica. Las grandes potencias llevan responsabilidad por prevenir sistemas 失控 —fuera de control—, como dijo Jiang.

Pero la responsabilidad sin aplicación es actuación. Un mecanismo de notificación es útil hasta que llegue la primera crisis y ningún lado confíe en que el otro lo usará honestamente. Un diálogo solo tiene sentido si ambos lados creen que la alternativa es peor.

Ahora mismo, ninguno de los dos lados lo cree. EE. UU. ve la aceleración como esencial para mantener el liderazgo global. China la ve como esencial para la soberanía y la seguridad. Ambos desestiman las preocupaciones de seguridad del otro como cobertura estratégica. Ambos responden a las advertencias de los expertos con más capacidad de cómputo.

La dinámica nueva y peligrosa no es meramente la competencia. Es la aceleración coordinada —dos superpotencias corriendo en direcciones opuestas mientras fingimos compartir el mismo destino. Ese es el patrón que vale la pena vigilar. No lo que Trump y Xi digan el miércoles, sino lo que construirán el próximo año.