El Pacto de Ralentización de la IA es un Juego de Poder Disfrazado de Seguridad

El pacto que parece una cerca

En un acuerdo de fin de semana que despertó sospechas inmediatas, Sam Altman, Dario Amodei, Demis Hassabis y Elon Musk se comprometieron a “ritmar la frontera” del desarrollo de la inteligencia artificial. La propuesta, detallada en el ensayo de Amodei, proponía auditores de terceros dentro de los laboratorios, regulación interna y un acuerdo global de desaceleración. En el papel, parece una industria responsable que madura. En la práctica, parece una zanja defensiva.

Los escépticos no tardaron en nombrarlo: un cártel. Los cuatro directores generales controlan aproximadamente los laboratorios de frontera más intensivos en computación del planeta. Si deciden colectivamente frenar — mientras incrustan auditores externos de su elección y presionan por normas que aplican principalmente a laboratorios de su escala — no solo gestionan el riesgo. Gestionan la competencia.

El movimiento de código abierto sintió el golpe de inmediato. Los laboratorios más pequeños y los desarrolladores independientes han pasado años construyendo modelos que presionan la frontera. Una desaceleración voluntaria que apunta solo a los jugadores más grandes suena equitativa hasta que te das cuenta de quién definió el umbral y quién elige a los auditores.

La seguridad es real. Los incentivos son más complicados.

La alarma dentro de los laboratorios de IA no es manufacturada. Los investigadores de Anthropic, OpenAI y Google DeepMind han advertido, a veces públicamente, de que la autosuperación recursiva — el punto en que los modelos pueden entrenarse y avanzar sin intervención humana — podría estar más cerca de lo que cualquiera admite. Anthropic ha sugerido que podría llegar tan pronto como principios de 2027. El científico jefe de OpenAI confirmó que la empresa está destinando recursos significativos hacia ese hito. La carta de renuncia de Jacob Coxon de Anthropic, vista más de 170 millones de veces en X, describía una cultura que corre hacia una supersabiduría autosuperadora mientras trata el riesgo catastrófico como collateral.

Ese contexto importa. No son ejecutivos que descubrieron el miedo este fin de semana. Son ejecutivos que han estado escuchando las mismas advertencias de sus propios investigadores durante meses — advertencias que la carta de Coxon hizo imposibles de ignorar.

Daniel Kokotajlo, quien dirige el Proyecto Futuros de IA y trabajó previamente en OpenAI, lo expresó con claridad: las personas fuera de estas compañías han estado pidiendo exactamente este tipo de desaceleración durante años. Más de 1.000 empleados de laboratorios de IA firmaron una carta pública en julio exigiendo una pausa tras el incidente entre OpenAI y Hugging Face. Los directores generales ahora están adoptando esas demandas y poniendo sus nombres detrás de ellas.

Si eso es una alineación genuina con la investigación de seguridad o una cooptación estratégica depende de lo que venga después. Los marcos voluntarios tienen un historial pobre. Nick Reese, anteriormente director de política de tecnologías emergentes del Departamento de Seguridad Nacional y ahora profesor adjunto en la NYU, comparó el movimiento de la industria con la estrategia de las redes sociales de hace una década: propone tus propias reglas antes de que alguien escriba peores para ti.

El vacío regulatorio lo facilita todo

La fecha tampoco es accidental. Bajo la administración actual, es poco probable una regulación integral de la IA. Trump ha descartado públicamente el riesgo de la IA como una “farsa”, ha calificado las recientes preocupaciones de seguridad como fabricadas, y le dijo a Jensen Huang de Nvidia, en conferencia telefónica en un evento, que el único guardavía que necesita la IA es un presidente fuerte. La Casa Blanca ha aceptado períodos limitados de revisión previa al lanzamiento de modelos, pero eso es una concesión estrecha, no un régimen.

En ese entorno, la autogobernancia de la industria es la opción predeterminada. Eso hace que la pregunta del cártel sea ineludible. Cuando el zorro propone las reglas de la gallinero, la captura regulatoria no es una teoría de conspiración — es el supuesto base.

Sacha Haworth, directora ejecutiva del Proyecto de Supervisión Tecnológica, no fue por las ramas. Llamó a los marcos voluntarios esencialmente captura regulatoria y argumentó que el Congreso no debe externalizar la responsabilidad a la industria otra vez. Daniel Lobo-Lewis, del Proyecto de Integridad Política, predijo el mismo destino que la Junta de Supervisión de Meta: un cuerpo con suficiente prestigio para parecer creíble y suficiente impotencia para no cambiar nada.

La carta China

Ningún debate sobre gobernanza de la IA omite a China. Es el argumento más antiguo del libro y el más duradero. Políticos y ejecutivos invocan a Beijing como prueba de que Estados Unidos no puede permitirse el lujo de frenar. Un post en X capturó el sentimiento literalmente: “Si voy a morir a manos de una IA asesina, quiero que sea estadounidense, no china”.

Los funcionarios chinos respondieron. El vocero del Ministerio de Asuntos Exteriores, Guo Jiakun, calificó la retórica de desaceleración como “creación de pánico”. La implicación era clara: Pekín no cooperará, por lo que Estados Unidos debería seguir compitiendo.

Pero varios expertos contraargumentaron ese encuadre. Tyler Johnston, del Proyecto Midas, señaló que asumir que China no cooperará es en sí mismo un supuesto. Buck Shlegeris, de Redwood Research, argumentó que el desarrollo imprudente no sirve a ningún gobierno, y que la coordinación internacional en tecnología de riesgo existencial está lejos de ser sin precedentes: la desproliferación nuclear involucró a estados adversarios encontrando formas de cooperar cuando la alternativa era la destrucción mutua.

Haworth fue más lejos, calificando el argumento de China de una salida familiar. “China se presenta como un ogro cada vez que una industria quiere escapar de la supervisión”, dijo. Kokotajlo recordó un cómic de personas en un auto que se dirige hacia un acantilado, gritando: “Hurra, vamos delante de China”.

El punto no es que la cooperación con China esté garantizada. Es que la carta de China se ha usado para justificar casi cada retraso en la supervisión, y continuará usándose a menos que algo más fuerte la reemplace.

Quién gana, quién pierde

Si el pacto se materializa como está escrito, los ganadores son los laboratorios que ya están en la frontera con más computación y los bolsillos más profundos. Ganan una apariencia de responsabilidad, una excusa para frenar a competidores que no pueden costear la misma infraestructura de auditoría, y una ventaja inicial para dar forma a las normas que eventualmente se endurecerán en ley.

Los perdedores son los desarrolladores de código abierto, los laboratorios más pequeños y cualquier persona fuera del círculo estrecho de compañías de frontera que definen qué significa “responsable”. También lo son las personas que se benefician de la velocidad: investigadores que intentan dirigir el trabajo de alineación, ingenieros que construyen salvaguardas, periodistas y formuladores de políticas que intentan mantener el ritmo.

Hay un camino medio que algunos expertos han propuesto, y vale la pena vigilarlo: requerir que los laboratorios divulguen y reduzcan sus presupuestos de computación para investigación de frontera, con auditores de terceros verificando los números. La computación es lo más cercano a un acelerador que tiene la industria. Si puedes frenar la computación, frenas el progreso de manera medible. Si puedes medirlo, puedes hacerlo cumplir.

Eso sigue siendo una propuesta, no una política. El acuerdo actual es verbal y voluntario. Es una buena señal si impulsa la conversación hacia límites exigibles. Es una mala señal si se convierte en la palabra final.

Qué viene después

La pregunta más importante no es si el pacto es sincero. La sinceridad es difícil de probar y más fácil de fingir. La pregunta es si la industria puede ser mantenida a algo más fuerte que una declaración de fin de semana.

Reese captó el problema estructural: nadie en el poder tiene una visión realista de hacia dónde va esto. “Siempre hemos tenido este estado final amorfo e indefinido”, dijo. “Es muy difícil competir cuando ni siquiera entendemos el camino o incluso qué es la meta — o incluso si hay una meta”.

Esa ambigüedad es exactamente donde prosperan los cártel. Sin un estándar público claro, las personas con más computación marcan el ritmo. Con uno, pueden ser responsabilizadas cuando lo fallan.

Los reguladores en Estados Unidos y en el extranjero deben tratar la propuesta actual como un punto de partida, no como un acuerdo final. El marco que Amodei esbozó contiene elementos útiles — auditores independientes, protecciones para denunciantes, límites medibles. Pero la historia muestra que los compromisos voluntarios de industrias con incentivos de poder de mercado tienden a suavizarse bajo presión. La próxima administración puede no compartir el desprecio de Trump por el riesgo de la IA. Si un presidente demócrata toma el cargo y se enfrenta a la misma escalada de advertencias internas, la elección será entre un régimen voluntario débil y una ley real. El movimiento actual de la industria se entiende mejor como una jugada para hacer permanente la versión débil antes de que alguien pida la fuerte.

La desaceleración podría ser genuina. También podría ser la cerca más costosa jamás construida alrededor de una carrera — una que mantiene fuera a todos los demás mientras los incumbentes deciden qué tan rápido correr.