technology 6 min de lectura

Tratado de IA entre Trump y Xi redefine las reglas de guerra

Estados Unidos y China acordaron que los humanos deben controlar las decisiones del campo de batalla con IA —un acuerdo que redibuja la doctrina de disuasión y obliga a toda potencia militar a replantearse su postura.

  • KakaoAI
  • dron con IA
  • Fedorov
  • exportaciones de crudo iraní

El acuerdo que lo cambia todo sobre la guerra moderna

Scott Bessent no dio rodeos al describir el resultado del reciente viaje de Donald Trump a Asia. El secretario del Tesoro estadounidense dijo a CNBC que Trump y Xi Jinping alcanzaron un acuerdo «muy importante»: los seres humanos deben seguir formando parte de la cadena de decisión siempre que se utilicen sistemas de IA con propósitos militares. Los sistemas de armas autónomas no podrán operar sin supervisión humana durante operaciones militares de gran envergadura. No se trata de un borrador de marco ni de un principio vago: es un compromiso bilateral entre las dos potencias militares más grandes del mundo.

Lo que hace significativo a este acuerdo va mucho más allá del simbolismo de Washington y Pekín encontrando terreno común. Golpea la pregunta fundacional de la guerra del siglo XXI: ¿quién detenta la autoridad para tomar decisiones letales cuando las máquinas pueden procesar información más rápido que cualquier comandante humano?

El precedente del ser humano en el bucle

La frase «ser humano en el bucle» ha circulados en círculos de política de defensa durante años, usualmente como una recomendación más que como una regla. ONG internacionales y defensores del control de armas habían argumentado largamente que las armas totalmente autónomas —sistemas que seleccionan y atacan blancos sin control humano significativo— representan riesgos existenciales para poblaciones civiles y desestabilizan la disuasión estratégica. Ningún acuerdo vinculante había surgido jamás de esos debates.

Esta vez es diferente porque las dos partes más capaces de desplegar tales sistemas se han comprometido explícitamente a mantener a los humanos responsables por las decisiones militares impulsadas por IA. Por primera vez, los principales programas de investigación en IA del mundo y sus bases industriales de defensa comparten una restricción públicamente declarada sobre cómo sus sistemas más avanzados pueden operar en combate.

Esa restricción importa enormemente a cada otro país que observa. Israel ha estado probando capacidades de ataque cada vez más autónomas. Rusia ha desplegado enjambres de drones en Ucrania con variados niveles de coordinación algorítmica. India está invirtiendo fuertemente en infraestructura de mando y control asistida por IA. Ninguno de estos programas sería gobernado directamente por el acuerdo Trump-Xi, pero la señal política de que las dos superpotencias consideran inaceptable la autonomía plena crea un nuevo límite normativo.

Quién pierde cuando se restringe la autonomía

Los contratistas de defensa a ambos lados del Pacífico sentirán presión inmediata. La industria de defensa estadounidense ha gastado miles de millones desarrollando algoritmos de apuntado cada vez más sofisticados, plataformas autónomas de vigilancia y sistemas predictivos de logística. Lockheed Martin, Raytheon, Anduril y Palantir venden productos cuya propuesta de valor depende cada vez más de ventajas de velocidad que provienen de reducir la demora humana en el ciclo de decisión. Una limitación formal a la operación autónoma significa que algunos de esos sistemas requerirán rediseño antes de alcanzar umbrales aprobados de despliegue.

China enfrenta restricciones similares. Su estrategia de modernización militar, delineada en documentos como el «Plan de Desarrollo de Inteligencia Artificial de Nueva Generación» de 2017, prevé explícitamente escenarios de guerra dominados por IA. Documentos de reforma de las Fuerzas Armadas Populares de Liberación mencionan lograr una guerra «inteligencializada» —un concepto que implica máquinas tomando decisiones más rápidas y precisas que los operadores humanos pueden igualar. El acuerdo Trump-Xi no borra esa doctrina, pero sí crea costo político para Pekín si las fuerzas chinas son posteriormente encontradas operando fuera del compromiso de supervisión humana.

Las implicaciones del sector privado se extienden aún más lejos. Las empresas de IA que construyen tecnologías de uso dual —las que sirven mercados comerciales y aplicaciones de defensa simultáneamente— ahora enfrentan una capa adicional de riesgo de cumplimiento. Cada algoritmo entrenado para uso en campo de batalla carries exposición legal potencial si sus parámetros operativos derivan hacia la autonomía plena. Esta incertidumbre regulatoria podría ralentizar cronogramas de innovación o redirigir inversión hacia aplicaciones menos sensibles.

Por qué Bessent insiste en que esto es separado de la carrera armamentista de IA

Bessent trazó una línea aguda entre el acuerdo de supervisión humana militar y la competencia económica más amplia por el dominio de IA. Advirtió que modelos de IA chinos «peligrosos» podrían explotarse para ciberataques y argumentó que los laboratorios de IA estadounidenses deben mantener superioridad tecnológica independientemente de qué marcos cooperativos existan. En su marco, la cooperación en seguridad sobre armas autónomas no significa ceder la carrera de innovación más amplia.

Esa distinción revela la tensión subyacente en las relaciones Estados Unidos-China. Ambos gobiernos quieren manejar riesgo catastrófico mientras compiten agresivamente por ventaja económica. El acuerdo reconoce que los sistemas militares de IA descontrolados amenazan a ambas naciones —y potencialmente a todo el orden internacional— más de lo que cualquiera de los lados se beneficia del desarrollo sin trabas.

Pero separar disuasión de competencia es más fácil anunciarlo que sostenerlo. China continúa avanzando sus capacidades de IA a través de múltiples dominios. Estados Unidos mantiene controles de exportación sobre equipo de semiconductores de alta gama destinado a fabricantes chinos. Ningún lado parece dispuesto a comprometerse en supremacía tecnológica esencial. La pregunta es si una restricción militar narrow puede sobrevivir a fricción estratégica más amplia.

Qué pasa después

El acuerdo necesita mecanismos de implementación antes de volverse significativo. Sin protocolos de verificación, marcos de monitoreo y disposiciones de ejecución, ambos lados pueden afirmar cumplimiento mientras expanden discretamente sus capacidades autónomas mediante reinterpretación técnica. Definir qué cuenta como «control humano significativo» requiere estándares técnicos precisos —una tarea notoriamente difícil cuando los sistemas de IA crecen más opacos y adaptables con el tiempo.

Un segundo desafío radica en la expansión del alcance. El acuerdo de hoy aborda toma de decisiones militares. Las negociaciones de mañana pueden necesitar cubrir operaciones cibernéticas defensivas, comunicaciones estratégicas, automatización de sanciones económicas y protección de infraestructura crítica —todos dominios donde los sistemas de IA influyen cada vez más en resultados sin intervención humana directa.

Naciones de terceros enfrentarán sus propios cálculos de cumplimiento. Aliados de Estados Unidos en el Indo-Pacífico, Europa y otros lugares monitorearán si Washington aplica el acuerdo consistentemente —o selectivamente. Si fuerzas americanas reciben exenciones mientras exigen adhesión de otros, el fundamento normativo se erosiona rápidamente.

Mientras tanto, actores no estatales presentan quizás el factor de impredecibilidad más grande. Organizaciones terroristas, sindicatos criminales e ingenieros renegados no firman tratados. Un ataque habilitado por IA orquestado por un grupo fuera del control estatal formal pondría a prueba la relevancia del acuerdo instantáneamente y expondría sus limitaciones de manera dolorosa.

La pregunta más profunda bajo el acuerdo

Toda discusión sobre política de armas de IA regresa a un problema fundamental: ¿quién decide cuándo matar? El acuerdo Trump-Xi afirma, aunque sea tímidamente, que la respuesta sigue siendo humana. Esa afirmación carries peso precisamente porque los dos gobiernos que la hacen poseen los recursos, tecnología e infraestructura militar para tornar la pregunta en gran medida teórica —si deciden honrarla.

La historia sugiere que compromisos como este son frágiles. Acuerdos de control de armas nucleares sobrevivieron la hostilidad de la Guerra Fría a través de verificación rigurosa e interés mutuo en la no proliferación. Restricciones análogas a armas autónomas carecen de apoyo institucional comparable hoy. Construir esa arquitectura requerirá engagement diplomático sostenido, intercambio de experiencia técnica y voluntad política de administraciones a ambos lados del Pacífico.

Si este acuerdo evoluciona hacia algo durable o se disuelve en adorno retórico depende enteramente de qué pasa después —no del anuncio mismo.