California acaba de dar el primer paso real en seguridad de la IA: ¿qué sigue?
La orden ejecutiva del gobernador Gavin Newsom sobre seguridad de la IA es la medida más agresiva a nivel estatal hasta ahora, pero su verdadera prueba está en si el resto del país sigue el ejemplo de California, como siempre hace.
La jugada de ‘velocidad urgente’ de California
El gobernador Gavin Newsom no dio rodeos cuando firmó la orden ejecutiva el viernes. El gobierno federal, afirmó, ha demostrado un “fracaso absoluto” en la supervisión de la inteligencia artificial, y California está dando un paso al frente con lo que él llamó “velocidad meditada pero urgente”.
La orden en sí es contundente: un grupo de expertos tiene dos meses para producir una guía destinada a fortalecer las leyes de seguridad y protección contra riesgos de la IA en el estado. Las posibilidades anunciadas incluyen exigir que terceros independientes elaboren planes de seguridad para las empresas de IA de vanguardia y obligar a esas compañías a desarrollar un “botón de apagado”: un mecanismo para detener sus modelos en caso de emergencia.
Esto no es teatro simbólico. Es un modelo. Y, si la historia sirve de guía, el resto del país seguirá el ejemplo de California, guste o no a Washington.
El detonante de Anthropic
Este movimiento normativo llegó en un momento de tensión, tras la renuncia este mes de un investigador de Anthropic que había publicado en redes sus advertencias sobre las capacidades potencialmente letales de la IA para la humanidad. Su mensaje encendió las alarmas en Washington, donde los legisladores han dado vueltas al tema durante meses sin más resultado que audiencias de comités y comunicados de prensa.
Es poco probable que el Congreso tome acciones legislativas significativas antes de las elecciones de mitad de mandato de 2026. El presidente Donald Trump ha descartado las preocupaciones sobre la seguridad de la IA como un “engaño”. Ese vacío es justo lo que Newsom está aprovechando — y llenando.
La política tiene varias capas. Newsom no ha lanzado formalmente su campaña presidencial para 2028, aunque ha reconocido que la está considerando. Se ha sumado a un grupo de gobernadores y senadores demócratas —como Josh Shapiro de Pensilvania, Mark Kelly de Arizona y Cory Booker de Nueva Jersey— que están convirtiendo la regulación de la IA en un pilar central. Shapiro ha pedido supervisión externa de los modelos de vanguardia. Kelly impulsa una legislación para crear un fondo de compensación para trabajadores desplazados por la IA. Booker quiere que Trump convoque una sesión especial del Congreso sobre los riesgos de la IA.
Lo que los une a todos es un cálculo sencillo: en un país donde la acción federal está estancada, el liderazgo estatal es la única vía para avanzar en el tema —y acumular el capital político que ello conlleva.
La pregunta del botón de apagado
Una obligación de instalar un botón de apagado es un tipo de política que suena decisiva hasta que se le pregunta a un ingeniero qué significa en la práctica. Apagar un modelo de lenguaje grande a mitad de proceso es técnicamente posible en contextos específicos, pero exigir que cada empresa de IA de vanguardia construya uno —y definir qué dispara su activación— es mucho más complejo. ¿Quién decide que existe una emergencia? ¿Un operador humano, un sistema automatizado, un regulador?
Esa ambigüedad es, a la vez, la debilidad y la fortaleza de la orden. El lenguaje vago permite que prospere. Los detalles importarán más adelante, cuando compañías como Anthropic, OpenAI y Google enfrenten plazos de cumplimiento y desafíos legales.
Lo claro es que California ya está construyendo la estructura institucional. A principios de este mes, Newsom firmó una legislación que crea un marco para auditores externos de IA. La orden ejecutiva se apoya directamente en ese cimiento. No se trata de un acto puntual de relaciones públicas —es una arquitectura regulatoria en marcha.
El estándar de sombra de California
La historia más profunda aquí no trata sobre la seguridad de la IA en California. Se trata de si la regulación tecnológica a nivel estatal se convertirá nuevamente en el estándar nacional de facto.
California ya lo ha hecho antes. La Ley de Privacidad del Consumidor de California estableció el estándar de privacidad para todo el país. Las reglas estatales sobre la clasificación de conductores de taxi obligaron a Uber y Lyft a cambiar sus estructuras de empleo en todo Estados Unidos. Los medios en chino pasaron por alto este patrón porque no es llamativo: es estructural.
Si el marco de IA de California se convierte en el estándar de cumplimiento por defecto para cualquier empresa que haga negocios en el estado —y ahí entran todos los grandes desarrolladores de IA—, entonces la inacción de Washington simplemente será un retraso, no un bloqueo. Las compañías diseñarán sus productos conforme a las normas de California. Otros estados adoptarán marcos similares. El mercado hará lo que el Congreso no quiere.
Ese es el argumento implícito en la frase final de Newsom: “California ya ha construido un modelo nacional, y nuestra política debería ser la línea base nacional”.
No está siendo ingenuo. Está describiendo un proceso que ya se ha repetido una docena de veces.
Quién gana, quién pierde
Los ganadores son los reguladores que querían actuar pero no pudieron a nivel federal. Ahora tienen un laboratorio. La política se pondrá a prueba en el mundo real, se perfeccionará mediante litigios e implementación, y se exportará a otros estados.
Los perdedores son las empresas de IA que preferían la autorregulación o ninguna regulación en absoluto. Tendrán que presupuestar auditorías externas, cumplimiento de planes de seguridad e infraestructura de botones de apagado: costes que se multiplican en cada jurisdicción si otros estados adoptan versiones distintas. El riesgo de fragmentación regulatoria es real: la definición del botón de apagado de California podría chocar con la de Texas o la de Nueva York.
El mayor perdedor es probablemente la expectativa del público estadounidense sobre la gobernación federal. Cuando un gobernador puede ir por delante del Congreso en una tecnología que está transformando la economía en tiempo real, la pregunta deja de ser si California está excediéndose y pasa a ser por qué Washington no actúa.
Qué sigue
El plazo de dos meses para la guía de expertos es el primer punto de control real. Lo que surja de allí —lenguaje preciso, requisitos exigibles, excepciones— trazará la trayectoria. Si las directrices son sólidas, la industria recurrirá a los tribunales para impugnirlas. Si son blandas, el impulso por una acción federal se acelerará.
El ciclo electoral de mitad de mandato de 2026 será el punto de inflexión político. Cualquier candidato demócrata que pueda señalar un régimen de seguridad de la IA estatal que funciona contará con un credencial de gestión concreta. Cualquier republicano que se oponga enfrentará una elección: ponerse del lado de los donantes del sector tecnológico o del lado de los votantes que quieren garantías.
Y la negativa continuada de Trump a tomar en serio la seguridad de la IA —calificándola de “engaño”— lo aleja más del centro en este tema que en casi cualquier otra cuestión de política tecnológica. Esa brecha se está ampliando.
La orden de Newsom no resuelve el riesgo de la IA. Resuelve el problema político de no hacer nada mientras la tecnología avanza más rápido que cualquier marco regulatorio. En ese sentido, no es el final del juego —es la jugada inicial.
La verdadera prueba será si el marco de California sobrevive al contacto con las empresas que pretende regular, y si Washington decide finalmente encontrarse a mitad de camino.