Cómo un chatbot de IA casi provocó una guerra entre EE. UU. y China

El casi incidente que podría haber iniciado una guerra

Esta primavera, durante un enfrentamiento militar activo entre Estados Unidos e Irán, las fuerzas estadounidenses se prepararon para interceptar un buque mercante chino que operaba en Medio Oriente. Tropas armadas estaban listas para abordar la nave. Aviones militares ya habían despegado. Entonces, en los minutos previos a la ejecución, alguien volvió al informe de inteligencia original y descubrió que estaba basado en el trabajo de un chatbot de inteligencia artificial.

La IA había identificado erróneamente la carga del buque. El contenido específico sigue sin confirmarse, pero las implicaciones ya eran descomunalmente graves: un barco chino, acusado de transportar componentes vinculados al programa de armas nucleares de Irán, estaba a punto de convertirse en objetivo dentro de un conflicto que ya estaba ardiendo. Un ataque contra un buque con bandera china habría desencadenado una escalada inmediata e impredecible con Pekín. En su lugar, la operación fue abortada. No se disparó nada. El mundo no supo cuán cerca estuvo de algo mucho peor.

La noticia, publicada por CNN el 18 de abril, no ha generado el nivel de alarma que merece en la prensa angloparlante en general. Pero se trata de uno de los incidentes más significativos registrados en materia de seguridad de la inteligencia artificial, no por un fallo en una aplicación de consumo, sino por ocurrir dentro de la maquinaria del poder militar estadounidense, durante una guerra caliente real, contra la bandera de un adversario real.

Cómo ocurrió el error

Según CNN, el informe de inteligencia en cuestión fue elaborado con la ayuda de un chatbot de inteligencia artificial utilizado por un analista militar. El sistema combinó información públicamente disponible con inteligencia de señales clasificada para llegar a su conclusión sobre la carga del buque. El analista luego utilizó la IA para dar formato a la salida como un boletín de inteligencia estándar, el cual se distribuyó a través de canales oficiales.

Ese proceso suena casi banal. El analista escribió el informe. La IA ayudó a compilarlo y darle formato. La cadena de mando militar actuó sobre él. Pero dentro de ese flujo de trabajo rutinario reside todo el problema: no existe ningún paso significativo de verificación humana entre la especulación de una IA y la decisión de lanzar una operación militar.

CNN no confirmó qué es lo que la IA se equivocó respecto a la carga. Esa omisión importa. Sin conocer el error específico, resulta difícil evaluar si la mala identificación fue una alucinación evidente o una inferencia plausible extraída de datos ambiguos. Lo que está claro es que se permitió que la IA se erigiera como fundamento de una decisión de apuntamiento sin el tipo de desafío adversarial que tradicionalmente exige el análisis de inteligencia.

La apuesta por la IA del Pentágono

El incidente no ocurrió en el vacío. En enero, el secretario de Defensa, Pete Hegseth, anunció una “Estrategia de Aceleración de la IA” que llamaba explícitamente a expandir el uso de la inteligencia artificial en toda la milicia, desde el análisis de inteligencia hasta la selección de blancos, con la velocidad como prioridad supremo. La lógica que impulsa esta promoción es sencilla y profundamente peligrosa: si Estados Unidos no lidera en IA militar, teme que China ocupe el vacío, y Washington quedará rezagado en su próximo conflicto potencial.

Ese temor es real. China ha estado invirtiendo agresivamente en sistemas autónomos de apuntamiento, fusión de inteligencia impulsada por IA y automatización de mando y control. El ejército estadounidense es plenamente consciente de que, en un conflicto por Taiwán o el mar de China Meridional, cada segundo cuenta. La automatización promete ganar esos segundos.

Pero la velocidad sin salvaguardas es simplemente la vía rápida hacia el desastre. Según CNN, diferentes organizaciones dentro del gobierno de Estados Unidos despliegan sus propias herramientas de IA bajo sus propios estándares de seguridad, sin un marco unificado para verificar la inteligencia generada por IA. No hay requisito para que los analistas demuestren que las conclusiones de un sistema de IA resisten el escrutinio independiente. No hay disciplina de equipo rojo integrada en el proceso. Simplemente existe una inclinación cultural hacia la adopción antes que la auditoría.

El incidente del barco chino es el primer caso documentado en el que esa inclinación produjo una casi crisis en el mundo real. No será el último.

Quién gana, quién pierde

Para el liderazgo del Pentágono, esto debería ser una alarmante llamada de atención. La estrategia de aceleración de Hegseth ahora está implícitamente en cuestión, no porque la IA no tenga cabida en el ejército, sino porque la implementación actual carece de los controles que impiden que un error de una IA llegue a la línea de disparo. Un solo analista, armado con un chatbot sin supervisión y acceso a datos clasificados de señales, produjo un informe que casi hace chocar a las fuerzas estadounidenses con China. Ningún general lo autorizó. No se activó ningún contraanálisis de la comunidad de inteligencia. El sistema funcionó exactamente como estaba diseñado: rápido, sin fricción y equivocado.

El establecimiento militar y diplomático chino leerá esta historia con extrema atención. Ya sea que haya sido una filtración intencional o simplemente periodismo de fuentes abiertas, el mensaje que envía es claro: las fuerzas americanas están tomando decisiones de apuntamiento respaldadas por herramientas de IA no verificadas. Esa es una oportunidad para que Pekín explote, y ya lo hará.

Los órganos de supervisión civil y los defensores del control de armas tienen aquí un reclamo legítimo. El incidente demuestra que el despliegue de IA en roles de apuntamiento cinético va años, posiblemente décadas, por delante del desarrollo de protocolos de seguridad. Una norma que exigiera la verificación humana de cualquier inteligencia generada por IA antes de que ingrese al tubo de apuntamiento costaría muy poco en velocidad operativa y evitaría catástrofes de esta magnitud.

Qué ocurre a continuación

El Pentágono y el Comando Estratégico de EE. UU. no respondieron a las solicitudes de comentario de CNN. Ese silencio es revelador. Una admisión de culpa podría frenar la agenda de aceleración. La negación o el desvío es el camino político más seguro. Ninguna de las dos opciones sirve a la rendición de cuentas.

Lo que probablemente ocurra es gradualismo. El ejército introducirá nuevas directrices, tal vez un requisito de revisión secundaria de los informes asistidos por IA. Anunciará una nueva oficina de seguridad de IA o un panel de revisión. Estos son pasos significativos, pero serán reactivos y estrechos: abordarán los síntomas en lugar de la estructura de incentivos subyacente que premia la velocidad sobre la verificación.

Hasta que la cultura cambie, ocurrirán más incidentes de este tipo. El barco chino tuvo suerte. No tenía armas. Era un buque mercante sin intención hostil. La próxima identificación errónea por IA podría involucrar a un buque de guerra, un submarino o una unidad en patrulla activa. El margen de error en una región ya volátil —con fuerzas estadounidenses enfrentadas a Irán y China supervisando cada movimiento— es más fino de lo que cualquier funcionario de defensa desea admitir.

La historia de CNN no trata solo sobre un mal informe. Trata sobre un sistema que avanza más rápido que sus propios mecanismos de seguridad pueden alcanzar. El ejército estadounidense no inició una guerra con China esta primavera. Pero estuvo peligrosamente cerca, y la razón por la que no lo hizo es más complicada de explicar de lo que la mayoría de las personas imaginan.