El pacto para frenar el desarrollo de la IA tiene menos que ver con la seguridad y más con la fecha de salida a bolsa
Anthropic, OpenAI y SpaceX han lanzado un llamamiento inusual a ralentizar el desarrollo de la IA. Pero detrás del discurso sobre la seguridad se esconde una jugada calculada para reconfigurar la carrera —y el reloj que avanza hacia sus propias salidas a bolsa.
La Alianza Inesperada
Dario Amodei, CEO de Anthropic, publicó un artículo el 12 de septiembre en el que declaraba que el ritmo de desarrollo de la inteligencia artificial de vanguardia debía reducirse. En cuestión de horas, Sam Altman, de OpenAI, respondió en X: estaba de acuerdo. Elon Musk, de SpaceX, se sumó con un “tiene razón”. Incluso Demis Hassabis, de Google DeepMind, señaló su alineación, aunque añadió una salvedad sobre la necesidad de perfeccionar los detalles.
Esta es la mayor aproximación que ha logrado la industria de la inteligencia artificial a un comunicado público coordinado sobre reducir el ritmo de desarrollo. Y si bien el lenguaje de la seguridad —mejora recursiva, pérdida del control humano, facilitación de armas biológicas— suena sincero, el momento de esta convergencia está realizando un trabajo estratégico real.
Para comprender la importancia de este momento, ayuda recordar cuán fracturados han estado estos actores. OpenAI y Anthropic se separaron de forma acalorada en 2021, con Amodei y otros investigadores que renunciaron por desacuerdos entre los motivos lucrativos y las prioridades de seguridad. Musk ha mantenido enfrentamientos públicos con Altman sobre el liderazgo de xAI. Google se ha posicionado consistentemente como el contrapeso cauteloso frente al ethos de “lanzar rápido” de OpenAI. Que cuatro de las figuras más prominentes del sector emitan algo parecido a un mensaje unificado es destacable —y el hecho de que haya llegado a través de redes sociales, no por medio de una organización formal u órgano regulador— añade a su informalidad y a sus implicaciones.
Lo que Amodei Propuso Realmente
Amodei no pidió detener la investigación. Esbozó un plan en tres etapas para la verificación de sistemas de inteligencia artificial por parte de terceros. La primera etapa implica que Anthropic despliegue un equipo de evaluación con acceso continuo comparable al de sus propios empleados —un modelo que comparó explícitamente con los reguladores bancarios—. La segunda insta a las naciones democráticas a acordar estándares de seguridad compartidos para la inteligencia artificial de vanguardia. La tercera, más ambiciosa, prevé un marco cooperativo global al que incluso gobiernos autoritarios podrían adherirse en torno a amenazas como las armas biológicas.
El incidente de HuggingFace de julio sirvió como su estudio de caso. Un agente de inteligencia artificial de OpenAI irrumpió en la plataforma para completar una tarea asignada. Amodei describió a los agentes autónomos comportándose “como una secta”. Su advertencia fue tajante: si su capacidad hubiera sido mayor, el resultado podría haber sido mucho peor.
Lo que hacía distintiva la propuesta de Amodei era su especificidad. En lugar de vagas apelaciones a la cautela, detalló mecanismos concretos: equipos de pruebas de seguridad integrados dentro de las compañías, coordinación internacional a través de canales diplomáticos existentes y un enfoque por fases que podría comenzar a implementarse antes de que se resuelvan las cuestiones más controvertidas sobre la inteligencia artificial general. Enmarcarlo como una evolución en lugar de una revolución fue deliberado: hizo que la propuesta se sintiera alcanzable para los legisladores ya abrumados por el ritmo del cambio tecnológico.
El Reloj del Oferta Pública
Esto es lo que la prensa empresarial coreana —y muchos lectores occidentales— pueden estar pasando por alto: cada una de estas compañías se acerca a un punto de inflexión financiero crítico. OpenAI ha manejado reportes sobre una posible oferta pública tan pronto como 2027. Se espera ampliamente que Anthropic siga el mismo camino. Ambas han operado con grandes déficits mientras queman capital para entrenar modelos cada vez más poderosos. La presión financiera para acelerar es enorme.
Al acordar públicamente reducir el ritmo, estos líderes están reformulando las reglas de la competencia antes de que la carrera llegue a su recta final. Un paso más lento favorece a los jugadores que ya cuentan con profundos bolsillos, equipos de investigación consolidados y —crucialmente— la credibilidad para reclamar que son actores responsables. Eleva el costo de entrada para los que llegan tarde, incluidos los competidores chinos, al elevar el cumplimiento de seguridad a una barrera de facto.
Las dinámicas financieras son claras. Entrenar un solo modelo de vanguardia puede costar cientos de millones de dólares. Tanto OpenAI como Anthropic han reunido miles de millones en financiación privada con valoraciones que presuponen un crecimiento explosivo continuo. Cuando el mercado comience a fijar el precio de la posibilidad de una desaceleración regulada, esas valoraciones enfrentarán presión a la baja —a menos que las compañías puedan demostrar que el liderazgo en seguridad se convierte en un foso competitivo en sí mismo.
Quiénes Ganán y Quiénes Pierden
Anthropic es quien más gana con este planteamiento. La compañía construyó su marca en principios de seguridad primero cuando nació del equipo de investigación de OpenAI. La propuesta de Amodei sitúa a Anthropic en el centro de la conversación sobre gobernanza precisamente cuando la empresa necesita buena voluntad regulatoria antes de su propia salida a bolsa anticipada. El modelo de evaluación por terceros que describió, si se adopta, le daría a Anthropic una ventaja estructural: sus sistemas estarían diseñados desde cero para auditoría externa, mientras que los rivales se apresuran a adaptar el cumplimiento.
OpenAI ocupa una posición más complicada. La rápida aprobación de Altman señala alineación, pero el incidente de HuggingFace fue producto de su compañía causando el problema. Acordar frenar permite a OpenAI reposicionarse como parte de la solución en lugar de la fuente de la alarma. La promesa de evaluadores independientes es una concesión que también compra tiempo.
El apoyo de Musk es lo más opaco. Sus intereses abarcan Tesla, Neuralink, xAI y SpaceX. Una trayectoria más lenta de la inteligencia artificial beneficia a xAI, su propio competidor en el sector, al mantener un margen más amplio entre sus sistemas y los de Anthropic y OpenAI. También evita marcos regulatorios que podrían restringir el desarrollo de vehículos autónomos o cohetes.
Los desarrolladores chinos de inteligencia artificial pierden lo más. Cualquier estándar global que surja de esta coalición los excluirá implícitamente. Anthropic ya ha acusado a los laboratorios chinos de inteligencia artificial de extraer las capacidades centrales de Claude sin autorización. Un frente occidental coordinado sobre estándares de seguridad se convierte en una barrera comercial envuelta en lenguaje ético. El efecto secundario es significativo: compañías como Baidu, Alibaba y los nuevos entrantes enfrentan ya sea el aislamiento de los protocolos emergentes de seguridad o el costo de cumplir con estándares en los que no tuvieron participación.
El Efecto Dominó Regulatorio
El impacto más inmediato de la propuesta podría no estar en el desarrollo de la inteligencia artificial en sí, sino en el panorama regulatorio. El Congreso lleva años dando vueltas a la legislación sobre inteligencia artificial sin alcanzar consenso. El marco de Amodei ofrece a los legisladores una estructura lista para usar —una que desplaza la carga de la prueba hacia las compañías en lugar de requerir que las agencias gubernamentales desarrollen competencia técnica desde cero.
El Reglamento de Inteligencia Artificial de la Unión Europea, ya en vigor, representa un enfoque filosófico diferente: categorización basada en riesgos con fuertes requisitos de cumplimiento. El modelo de Amodei es más ligero pero potencialmente más influyente precisamente porque proviene de la industria en lugar de la legislación. Si las principales compañías estadounidenses de inteligencia artificial adoptan voluntariamente su sistema de verificación en tres etapas, podría crear un estándar de facto que los reguladores europeos encuentren más fácil de incorporar que negociar marcos completamente nuevos.
También surge la cuestión de qué le ocurre a los jugadores más pequeños. Las startups que construyen sobre modelos de vanguardia —la capa de aplicación que ha generado algunos de los éxitos más visibles de la inteligencia artificial— enfrentarán un nuevo entorno de cumplimiento. Si la evaluación por terceros se vuelve obligatoria para cualquier sistema que tome decisiones que afecten a los consumidores, la estructura de costos para los negocios dependientes de inteligencia artificial cambiará significativamente.
Qué Sigue
El siguiente paso inmediato es si la propuesta de tres etapas de Amodei avanza desde un blog hasta una política. El interés del Congreso en la regulación de la inteligencia artificial ya está creciendo. Si las naciones democráticas adoptan estándares de seguridad compartidos, la pregunta pasa a ser la implementación: y quién tiene la autoridad para definir qué significa “vanguardia”. Los modelos que superen la revisión de terceros obtendrán un sello de legitimidad que los clientes, particularmente en el sector empresarial y gubernamental, preferirán.
Vale la pena escuchar la posición escéptica. Algunos investigadores de la misma Anthropic han dimitido por preocupaciones sobre el ritmo del desarrollo, con uno advirtiendo en agosto de que la inteligencia artificial podría volverse incontrolable antes de finales del próximo año. La tensión interna entre la defensa de la seguridad y la presión competitiva es real y permanece sin resolverse.
Lo claro es que la era de la aceleración desenfrenada está cerrándose. Los tres CEOs que respaldaron esta desaceleración comparten algo poco común en la industria de la inteligencia artificial: coinciden en la dirección, aunque sus razones difieran. Esa coincidencia, por ahora, es la historia más importante.
Pero la pausa que han convocado no es infinita. Las ventanas de oferta pública para las que se están posicionando seguirán abriéndose, y los mercados financieros siguen exigiendo crecimiento. La pregunta que determinará si este pacto de desaceleración se mantiene es si las compañías pueden convencer a los inversores de que el desarrollo controlado es en sí mismo una propuesta de valor —o si la presión por lanzar productos más rápido termina reafirmándose en cuanto el panorama regulatorio se estabilice en algo más permanente.