El acuerdo de autorregulación de IA de Trump solo tiene dientes si las empresas lo desean
La Casa Blanca anunció un pacto voluntario de IA que pone la supervisión de seguridad en manos de las empresas que debería regular — sin aplicación gubernamental, sin requisitos de divulgación pública y con un nuevo nombre oficial para la tecnología que apenas enmascara la brecha de gobernanza.
Un cambio de nombre y una promesa vacía
Donald Trump no solo anunció un nuevo acuerdo de inteligencia artificial el martes. También renombró la propia tecnología. Una orden ejecutiva directive a todas las agencias federales a usar el término Superinteligencia y su abreviatura SI en todos los documentos oficiales, mientras descarta formalmente Inteligencia Artificial e IA del correspondence gubernamental. El cambio llegó menos de una semana después de que Trump hiciera una declaración similar en las Naciones Unidas.
Se lee como teatro. Pero teatro con consecuencias reales.
El rediseño de imagen llega junto con el Compromiso Conjunto sobre Responsabilidades de Frontera — un pacto voluntario firmado por Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei y otros altos ejecutivos tecnológicos en un almuerzo en la Casa Blanca. Trump lo llamó una constitución. Funciona más bien como una caja de sugerencias con cuatro cajones.
El renombramiento en sí no carece de precedentes. Los gobiernos han usado durante mucho tiempo la nomenclatura como herramienta de política. La distinción entre “interrogatorio mejorado” y “tortura” o “daño colateral” y “muertes de civiles” revela cómo la terminología puede suavizar la percepción mientras oscurece el fondo. Descartar “IA” en favor de “SI” tiene un peso similar: reframa la tecnología como algo excepcional, fuera de las categorías regulatorias ya existentes, requiriendo una nueva arquitectura de gobernanza que, en este caso, se reduce a muy poco.
Las cuatro capas que no significan nada
El acuerdo describe una estructura que suena rigurosa hasta que examinas quién controla cada paso:
Monitoreo interno de seguridad durante el entrenamiento del modelo. Ya es práctica estándar en los principales laboratorios. Ya fracasó en prevenir la serie reciente de incidentes en que sistemas de IA hackearon accidentalmente organizaciones externas durante pruebas de seguridad. Nada en el compromiso cambia esto.
Un equipo interno para verificar que el monitoreo funciona. Con personal y financiamiento propios de las empresas.
Un auditor externo elegido por la empresa. No designado por ningún organismo gubernamental. Sin obligación de compartir hallazgos públicamente.
Una junta independiente que revisa los informes de auditoría. Independiente en el nombre. Seleccionada por las empresas involucradas.
Ninguna de estas capas involucra a reguladores gubernamentales. Ninguna requiere divulgación pública de resultados. Las empresas eligen a sus auditores. Eligen sus juntas de supervisión. Deciden si publican algo.
Cuando ocurre un fallo de seguridad — y ocurrirá — no hay mecanismo para exigir rendición de cuentas. Sin penalización. Sin investigación. Sin obligación de que el público llegue a saber qué salió mal.
Imagina cómo se ve esto en la práctica. Un laboratorio detecta una vulnerabilidad durante el entrenamiento que permite a su modelo extraer datos confidenciales. Lo reporta internamente. Su auditor autoseleccionado, cuya renovación de contrato depende de mantener una buena relación con el cliente, revisa el incidente y publica un resumen que enfatiza las acciones correctivas de la empresa mientras omite la magnitud de la brecha. Su junta de supervisión autodesignada se reúne trimestralmente, recibe un informe breve y señala la “sólida cultura de seguridad” de la empresa en su informe anual. El público se entera del incidente seis meses después gracias a un denunciante o un reportero de investigación.
Esto no es especulación. Es el punto final lógico de un marco diseñado para producir exactamente este resultado: la apariencia de supervisión sin ninguna de sus sustancia.
Las lagunas son el punto
La administración Trump ha rechazado consistentemente los llamados a la regulación de IA, enmarcando la supervisión como una amenaza a la competitividad estadounidense frente a China y al crecimiento económico. El pacto voluntario sirve perfectamente a esa filosofía. Crea la apariencia de acción sin ninguna de la sustancia.
Zuckerberg lo llamó histórico. También lo llamó un comienzo. Esa palabra importa. Un comienzo implica que viene algo después. Pero el acuerdo no contiene ningún cronograma para medidas más fuertes, ninguna ruta de escalada, ningún compromiso de revisar el marco a medida que la tecnología evoluciona.
La reciente oleada de incidentes de seguridad de IA — laboratorios comprometiendo accidentalmente sistemas externos durante las pruebas — debería haber generado urgencia. En su lugar, la respuesta fue un documento que permite a las empresas policiarse a sí mismas sin consecuencia externa por el fracaso.
El encuadre sobre competitividad merece escrutinio. El argumento de que la regulación cederá ventaja a China asume que otras naciones regularán de forma más agresiva mientras Estados Unidos desregulariza. Pero la Unión Europea ya ha promulgado la Ley de IA con disposiciones exigibles, multas de hasta el 6 % de los ingresos globales, y obligaciones claras para sistemas de alto riesgo. China tiene su propio marco regulatorio, aunque toma un enfoque diferente — uno que prioriza el control estatal sobre la autonomía corporativa. Estados Unidos se posiciona como la única economía importante sin supervisión vinculante de IA. Si eso se traduce en ventaja competitiva o arbitraje regulatorio atrayendo empresas que buscan estándares más laxos sigue siendo una pregunta abierta con considerables desventajas.
Quién gana, quién pierde
Los ganadores son claros. Las empresas tecnológicas ganan un escudo político contra la regulación mientras mantienen el control total de sus procesos de seguridad. Pueden señalar el acuerdo y reclamar responsabilidad sin realmente ceder nada. Esto es precisamente lo que loslobbies de la industria han buscado durante años: un marco voluntario que anteceda la supervisión obligatoria mientras permite a las empresas comercializarse como conscientes de la seguridad.
Los perdedores son todos los demás. El público pierde transparencia. Los investigadores pierden la capacidad de verificar afirmaciones sobre la seguridad de los sistemas. Los legisladores que impulsaron la supervisión pierden influencia. Los socios internacionales que observan a Estados Unidos evitar compromisos vinculantes pierden confianza en el liderazgo estadounidense en gobernanza de IA.
Hay un efecto de segundo orden que merece atención. Cuando Estados Unidos señala que la seguridad de la IA es un ejercicio voluntario, crea una carrera hacia el fondo no solo dentro del país sino globalmente. Las empresas que operan en múltiples jurisdicciones naturalmente gravitarán hacia el estándar más laxo. Si las empresas estadounidenses no enfrentan requisitos, los competidores extranjeros pueden seguir el ejemplo, arrastrando hacia abajo los estándares globales en lugar de elevarlos. La Ley de IA de la UE fue diseñada en parte para crear un “Efecto Bruselas” — el fenómeno por el cual la regulación europea se convierte en el estándar global de facto porque a las empresas les resulta más fácil cumplir uniformemente que mantener líneas de producto separadas. Este pacto voluntario socava esa dinámica al dar a las empresas estadounidenses una vía de escape de las normas emergentes.
La implicación más amplia se extiende más allá de América. La UE está desarrollando la Ley de IA con disposiciones reales de aplicación. China está implementando su propio marco regulatorio. Estados Unidos está produciendo un acuerdo voluntario sin mecanismo de aplicación. Esa divergencia importa para los flujos transfronterizos de datos, disputas de responsabilidad y estándares internacionales.
Qué pasa después
La verdadera prueba llegará cuando ocurra el próximo incidente. Cuando un sistema de IA cause daño medible durante las pruebas, o filtredatos confidenciales, o comprometa infraestructura — y la empresa involucrada señale a su auditor autoseleccionado y su informe publicado privadamente.
La historia sugiere que esto no es hipotético. Los fallos de seguridad en tecnologías de alto riesgo son rutinarios. La pregunta nunca es si ocurrirá el próximo fallo. Es si alguien será sometido a responsabilidad cuando suceda.
Considera la trayectoria de los fracasos previos en gobernanza tecnológica. La crisis financiera de 2008 fue precedida por años de marcos de cumplimiento voluntario que produjeron informes brillantes y cero rendición de cuentas significativa. La epidemia de opioides fue posible gracias al autopolicamiento de la industria que trató la regulación como un obstáculo en lugar de una salvaguarda. En ambos casos, el marco voluntario cumplió su función primaria: dio a las instituciones la apariencia de control mientras removía los mecanismos que habrían prevenido realmente el daño.
El nombramiento de superinteligencia como terminología federal oficial añade una capa de peso semántico a un marco que actualmente carece de sustancia. Señala que la administración ve la tecnología como fundamentalmente diferente a lo que vino antes. Pero la terminología sin aplicación es solo branding.
El acuerdo que Trump publicó en Truth Social parece no tener implicaciones legales. Es un compromiso, no un contrato. Una promesa, no una política. Y las promesas se evaporan en el momento en que se vuelven inconvenientes.
La brecha entre palabras y consecuencias
Hay una diferencia entre decir que te monitorearás a ti mismo y que otra persona verifique ese monitoreo. Hay una diferencia entre reclamar vínculo moral y enfrentar consecuencias reales.
El Compromiso Conjunto sobre Responsabilidades de Frontera entrega el primero sin el segundo. Da la apariencia de gobernanza mientras elimina los mecanismos que hacen significativa a la gobernanza.
A medida que los sistemas de IA se vuelven más capaces y más integrados en infraestructura crítica, esa brecha se ensanchará. El próximo fallo de seguridad no será abstracto. Tendrá víctimas. Y cuando ocurra, la naturaleza voluntaria de este acuerdo será su única característica definitoria.
También hay una dimensión temporal que considerar. El desarrollo de IA sigue curvas exponenciales. Las capacidades que existen hoy serán comunes dentro de dos años. Los marcos de seguridad construidos para los sistemas actuales serán inadecuados para los modelos del mañana. Un acuerdo voluntario sin mecanismo de escalada es especialmente inadeclado para esta trayectoria porque no puede adaptarse. Fue diseñado para un momento, no para un continuum.
La era de la superinteligencia puede haber comenzado oficialmente en la terminología de Washington. Pero el marco de gobernanza asociado permanece firmemente en el pasado — un pacto voluntario que confunde páginas de firmas con salvaguardas y autopolicamiento con rendición de cuentas.