Los denunciantes de Anthropic están frenando la carrera de la IA
Las deserciones desde dentro de Anthropic sacuden Silicon Valley y empujan a los legisladores estadounidenses hacia la regulación de la IA: interruptores de apagado, agencias dedicadas y pausas obligatorias. La carrera por controlar la IA podría empezar por quienes la construyen.
Los insiders que decidieron hablar
Dos personas que ayudaron a construir algunos de los sistemas de inteligencia artificial más avanzados del mundo ahora consideran que el trabajo importa menos que detenerlo.
Jacob Coxson, investigador de Anthropic, dejó la empresa en septiembre y publicó una advertencia pública de que la IA podría acabar con la humanidad en una década —y que una pérdida de control podría llegar a finales del próximo año. Cuatro días después, el experto de Anthropic Evan Hubinger replicó la alarma en X.
El patrón es innegable. Ambos hombres no llegaron a esta conclusión desde afuera, observando la IA a distancia. Estuvieron dentro de los laboratorios, leyendo las mismas trayectorias de capacidades, ejecutando las mismas pruebas de estrés —y decidiendo que ya no podían guardar silencio.
La afirmación de Coxson, reportada por Bloomberg y cubierta por Money Today, es lo suficientemente específica como para ser alarmante en lugar de abstracta: dice que los investigadores que construyen estos sistemas creen genuinamente que el riesgo de extinción es probable, no meramente posible. Esa distinción importa. Cuando los propios ingenieros señalan que “el peor caso es probable”, ya no se trata de un ejercicio filosófico para los éticos.
El cambio de rumbo privado de Altman
La respuesta interna en OpenAI ha sido igualmente significativa —y reportada en privado. Según Bloomberg, Sam Altman señaló en una reunión de la empresa esta semana que OpenAI debería reducir su ritmo de desarrollo. Una fuente le dijo al diario que otras firmas podrían sumarse, aunque algunas no lo harían.
Yakub Pachocki, científico jefe de OpenAI, ya había impulsado este argumento públicamente, advirtiendo que nadie está preparado para las consecuencias del rápido desarrollo de la IA y pidiendo tanto autocontención industrial como regulación gubernamental.
Lo notable es la dirección del viaje. Durante años, OpenAI y Anthropic se posicionaron como las alternativas responsables frente a una industria imprudente. Ahora el actor responsable está pidiendo a todos —incluyéndose a sí mismo— que quite el pie del acelerador. Esa no es una narrativa que ninguna empresa elige para sí misma. Es una respuesta a la presión interna.
Washington toma nota
La reacción política ha sido rápida y cruza líneas partidistas.
El senador Ted Cruz, republicano, dijo en ABC que está redactando legislación para regular lo que llamó “riesgo catastrófico” de la IA. El representante Ro Khanna, demócrata, ha impulsado una nueva agencia federal de regulación de IA y apoyado públicamente un “botón de apagado” —un mecanismo para detener forzosamente sistemas de IA considerados peligrosamente desalineados.
El Wall Street Journal reportó que si los demócratas ganan el control del Congreso en las midterm de noviembre, se está considerando un comité especial dedicado a la IA. El plazo es ajustado: estas conversaciones ocurren meses antes de que se resuelva cualquier resultado electoral.
Sam Silverman, asesor de comunicaciones tecnológicas y políticas, le dijo a Money Today que la mayoría de los políticos nunca habían escuchado estas advertencias directamente de un investigador. Esta vez es diferente. “Por primera vez”, dijo, las están escuchando de las personas que realmente están haciendo el trabajo.
Ese encuadre —credibilidad transferida de la autoridad técnica a la voluntad política— es el mecanismo que convierte un debate industrial en un debate de política.
La división dentro de la industria
No todos están de acuerdo en que se deban aplicar los frenos.
Google y Meta continúan invirtiendo fuertemente en infraestructura de centros de datos y compitiendo por talento. Su posición, implícitamente, es que la aceleración de capacidades es la prioridad y que la cautela regulatoria cede terreno a competidores —particularmente China.
Donald Trump ha adoptado una posición mixta. Ha expresado apoyo por un botón de apagado en sistemas peligrosos de IA, pero también ha advertido que la regulación excesiva podría debilitar la ventaja competitiva de Estados Unidos en la carrera de IA contra Pekín.
Esta es la tensión central: la misma lógica geopolítica que impulsó la carrera armamentista actual en computación y modelos ahora se usa para justificar frenar esa misma carrera. La pregunta que enfrentan los reguladores es si una pausa es siquiera factible cuando la alternativa es quedarse atrás.
Qué sigue
Hay tres escenarios que valen la pena observar.
El primero es una pausa voluntaria de la industria —similar a los debates de seguridad en laboratorios durante la pandemia de COVID— donde los principales laboratorios acuerdan ralentizaciones. Esto es lo que Altman parece estar impulsando internamente. Pero sin aplicación legal, solo es tan fuerte como la disposición de las empresas de honrarlo. Google y Meta no han mostrado señal alguna de comprometerse.
El segundo es acción legislativa. Un regulador federal de IA con un botón de apagado representaría el cambio más dramático en la política tecnológica de EE.UU. en décadas. Habría que construir la infraestructura, definir la autoridad legal y establecer el umbral de activación —todo antes de que la próxima generación de modelos llegue al mercado. Las midterm de noviembre podrían determinar si hay un mandato demócrata para actuar rápido.
El tercero es fragmentación. La UE tiene Enforcement del AI Act en curso. China está desarrollando su propio marco de gobernanza de IA, enfocado en control y estabilidad en lugar de seguridad en el sentido occidental. EE.UU., si se mueve lentamente, corre el riesgo de crear un vacío regulatorio que se convierte en una brecha competitiva —exactamente el escenario que tanto Trump como Khanna temen.
Por qué esto importa más allá de Washington
Las advertencias de Coxson-Hubinger tienen peso porque provienen de personas con acceso a información que el público no tiene. No están especulando sobre sistemas hipotéticos del futuro. Están reaccionando a capacidades que ayudaron a crear.
Si su evaluación es correcta —y nadie puede todavía decir definitivamente si lo es—, entonces el marco competitivo actual está estructuralmente desalineado. Recompensa la velocidad y castiga la cautela. Las firmas que retroceden pierden talento, pierden cuota de mercado y pierden influencia geopolítica.
La alternativa es un mecanismo de coordinación —ya sea mediante regulación, acuerdo industrial o tratado internacional— que haga de la lentitud una estrategia creíble.
Esa conversación apenas ha comenzado. Las personas dentro de los laboratorios son las que la empujan hacia adelante.
Si los legisladores escuchan —y si el mercado lo permite— sigue siendo la pregunta abierta.