La regulación de armas autónomas se queda atrás frente al despliegue
El CICRE advierte que el mundo está a horas de un punto sin retorno en armas autónomas letales. Un acuerdo débil de la ONU permite que el despliegue supere a la gobernanza, y las bajas civiles ya son prueba de que esto está ocurriendo.
El genio ya ha salido de la botella
El Comité Internacional de la Cruz Roja (CICR) normalmente no emite advertencias dramáticas en conferencias de las Naciones Unidas. Cuando la doctora Cordula Droege abrió sus intervenciones en las conversaciones de esta semana en Ginebra diciendo que regular las armas autónomas antes de que se vuelvan rutinarias sería “mucho más difícil”, no estaba hablando de hipótesis. Estaba describiendo un objetivo en movimiento.
Más de 120 Estados concluyeron su reunión con lo que grupos defensores de derechos humanos calificaron como una medida a medias: un compromiso de analizar un posible instrumento regulatorio durante los próximos dos años. Sin ningún compromiso vinculante. Sin líneas rojas trazadas con tinta. Solo un calendario para debatir si trazarlas más adelante.
Ese retraso, argumentan el CICR y sus aliados, es precisamente el riesgo. Los sistemas autónomos ya se están desplegando en terreno. No prototipos. No ejercicios. Sistemas de armas reales con autonomía de última milla para el puntería operando en Ucrania. Bases de datos de puntería asistidas por inteligencia artificial en Gaza. Enjambres en desarrollo por grandes ejércitos en este momento.
“Estamos comenzando a ver inteligencia artificial siendo empleada en el campo de batalla y quizás también ya en sistemas de armas”, dijo Droege. La措辞 importa. “Tal vez también ya” señala que incluso la evaluación contenida del CICR se detiene antes de confirmar un despliegue masivo sin supervisión humana hoy. Pero las pruebas procedentes de zonas de conflicto sugieren lo contrario.
Tres conflictos, tres bajas
En julio, tres civiles murieron en Zaporiyia cuando un dron ruso guiado por un sistema de inteligencia artificial falló al dar en una gasolinera e impactó contra un muro, lanzando fragmentos hacia una fuente donde la gente se había congregado. El dron era semiautónomo con “capacidad de última milla”, lo que significa que conservaba suficiente autonomía en la guía terminal como para que la supervisión humana efectivamente terminara durante el último acercamiento. Esa distinción, entre un blanco planificado por humanos y uno ejecutado por máquinas, es precisamente lo que el derecho internacional humanitario tropieza al intentar abordar.
Gaza ha producido un tipo diferente de estudio de caso. Las fuerzas israelíes utilizaron inteligencia artificial para generar bancos de blancos a velocidades imposibles para analistas humanos, comprimiendo semanas de trabajo en horas. Grupos defensores de derechos humanos dicen que el volumen provocó errores: civiles y personas con vínculos Militants tenues fueron asesinados porque el sistema no podía distinguir fiablemente la intención de la proximidad.
En Irán, la doctrina de ataques estadounidense colisionó con inteligencia de origen defectuoso procedente de la IA en una escuela primaria, matando a 156 civiles, incluidos 120 niños. Si la inteligencia artificial generó la inteligencia o simplemente aceleró su integración en los ciclos de puntería es un detalle que determinará cualquier marco legal. Ambos escenarios son peligrosos; uno exige responsabilidad algorítmica, mientras que el otro exige estándares de validación de datos.
Anna Hehir, del Instituto Future of Life, advirtió que eventos de víctimas masivas “podrían superar con creces lo que ya ha ocurrido” si las tendencias actuales persisten. Su preocupación gira alrededor de capacidades de enjambre: cientos o miles de drones autónomos actuando simultáneamente. Un único error algorítmico en tal sistema se propaga por toda la formación. Si está programado para apuntar a humanos, ese error se convierte en catástrofe por diseño más que por accidente.
El problema de la proliferación
El hecho más incómodo para los negociadores es que las armas autónomas no permanecen dentro de las fronteras estatales. Actores no estatales ya las están programando.
El movimiento hutí en Yemen reportedly utilizó Claude, un modelo de lenguaje grande de acceso abierto, para “programar por vibe misiles balísticos” —un término que captura tanto la informalidad como la efectividad del enfoque. Grupos armados islámicos en la región saheliense de África han utilizado herramientas similares para mejorar la balística de drones y la planificación operacional. No se necesitan programas clasificados. No contratos de adquisición. Solo ingeniería de prompts y datos de entrenamiento públicamente disponibles.
Esta es la razón por la cual el enfoque del CICR en “líneas rojas” es a la vez estratagicamente preciso y potencialmente insuficiente. Las líneas rojas se aplican a Estados que firman tratados. No Constraint a una milicia en Níger o a una célula insurgente en Mozambique que pueda acceder a las mismas herramientas que los ejércitos de la OTAN. El riesgo de proliferación convierte la regulación previa al despliegue en algo no solo éticamente preferible sino prácticamente urgente.
Quién gana y quién pierde con la demora
Una ventana de discusión de dos años beneficia a fabricantes y militares que actualmente operan sin restricciones vinculantes. Otorga tiempo para probar en terreno, refinar doctrinas y establecer patrones de uso que se endurecen en normas independientemente de si finalmente surge un tratado. Así funciona el control de armamentos al revés: la práctica precede a la prohibición, y la prohibición alcanza solo después de que la conducta sea irreversible.
Las poblaciones civiles en zonas de conflicto pierden inmediatamente. Cada mes sin una prohibición sobre el puntería autónoma de personal aumenta la exposición a errores algorítmicos, discriminación degradada y violencia a escala de enjambre.
Los grupos defensores de derechos pierden palanca con cada año que pasa. Cuanto más se trate a las armas autónomas como tecnología existente en lugar de una categoría que requiere restricción, más probable será que los Estados enmarquen la regulación como respuesta a daños ya cometidos en lugar de prevención de daños aún por venir.
La clase diplomática gana algo más estrecho: un proceso que puede presentarse como progreso incluso cuando los resultados permanecen indefinidos. Un alto diplomático reconoció esto explícitamente, diciendo a Pulse que “la sustancia de las leyes” era secundaria a demostrar voluntad política después de trece años de negociaciones estancadas. Ese marco privilegia el simbolismo sobre el mecanismo.
Qué significa realmente “regulación” aquí
El CICR ha sido específico sobre lo que se opone. Una prohibición de desplegar armas autónomas contra personal. Estándares de comportamiento previsibles para sistemas de armas. Límites duros que restringen el uso a objetivos militares. Estas son proposiciones estrechas según cualquier estándar de control de armamentos: no piden prohibir todos los sistemas autónomos, solo trazar líneas alrededor de las aplicaciones más peligrosas.
Sin embargo, incluso estas propuestas moderadas enfrentan vientos estructurales en contra. Las grandes potencias militares argumentan que restringir el puntería autónomo podría handicapear sistemas defensivos contra amenazas de misiles que operan en escalas de tiempo demasiado rápidas para la reacción humana. Otros sostienen que los marcos actuales —la Convención sobre Ciertas Armas Convencionales, los protocolos adicionales a los Convenios de Ginebra— ya cubren el terreno relevante.
Ambos argumentos merecen escrutinio pero ninguno sostiene limpiamente. Defensa de misiles y puntería autónoma ofensiva no son equivalentes. Los convenios existentes fueron redactados para armas basadas en plataformas, no para bucles de decisión impulsados por algoritmos donde la responsabilidad se dispersa entre programadores, operadores, comandantes y sistemas automatizados.
Qué sigue
Los próximos dos años decidirán si las armas autónomas siguen la trayectoria de las armas nucleares —prohibidas para no poseedores, toleradas por los poseedores— o la trayectoria de la guerra cibernética —desplegadas abiertamente sin ningún marco legal que rija su uso—. La diferencia entre esas vías radica en si la contención se codifica antes de que las capacidades se multipliquen.
El Papa se ha unido al proceso de la ONU. Guterres ha emitido sus propias llamadas por instrumentos vinculantes. La autoridad moral del Vaticano añade peso pero no puede sustituir mecanismos de aplicación. Sin disposiciones de verificación, monitoreo de cumplimiento y consecuencias por violaciones, cualquier instrumento producido en Ginebra se parecerá a tratados anteriores sobre armas químicas y biológicas —universalmente condenados, esporádicamente seguidos—.
La advertencia de la Cruz Roja no es que las armas autónomas sean inevitables. Es que la inacción nos acelera hacia un umbral más allá del cual la regulación se vuelve dramáticamente más difícil. Ese umbral aún no ha sido cruzado, pero las conversaciones en la conferencia de la CCW sugieren que el cruce podría medirse en meses en lugar de años.