El CEO de Anthropic acaba de admitir que la industria de la IA mintió sobre los riesgos durante años
La poco común revelación de Dario Amodei admite que la industria ha minimizado los peligros de la IA, proponiendo un mecanismo de apagado y auditorías independientes. La verdadera pregunta: ¿quién aplica los frenos cuando los competidores no lo hacen?
Los ingresos que nadie vio venir
Dario Amodei no se contuvo. Al hablar en CBS, el director ejecutivo de Anthropic le dijo a una amplia audiencia estadounidense que la industria de la inteligencia artificial ha estado mintiendo sobre su propio peligro durante demasiado tiempo, y que el ritmo del progreso ha superado genuinamente incluso la expectativa que él mismo tenía sobre hacia dónde llegarían las cosas.
“No quiero mentirle a la gente”, dijo Amodei. “Hay riesgos reales”. Luego añadió lo que resonará en los círculos de política pública mucho más allá de Silicon Valley: “Creo que la industria ha estado mintiéndole a la gente sobre esto durante demasiado tiempo”.
Este es un cambio radical respecto a la postura defensiva que han adoptado la mayoría de los laboratorios de IA. En lugar de eludir las preocupaciones sobre seguridad, Amodei está, en esencia, ofreciendo a su propia compañía para un nuevo régimen de supervisión externa y proponiendo herramientas —un interruptor de apagado, evaluaciones obligatorias por terceros— que limitarían la libertad de acción de todos, incluida la de Anthropic.
La declaración importa porque proviene de un laboratorio que se ha posicionado como el competidor responsable frente a OpenAI y Google. Cuando un insider del sector enmarca el problema con tanta brutalidad, señala que el consenso interno dentro de las principales empresas de IA avanza más rápido que la política pública.
Un interruptor de apagado y otras propuestas incómodas
Amodei describió un “interruptor de apagado” para los modelos de IA como una idea potencialmente buena —no una prohibición, sino un botón de parada—. Estableció un paralelismo directo con las negociaciones de control de armas nucleares entre Estados Unidos y la antigua Unión Soviética, reconociendo que podría ser casi imposible, pero insistiendo en que vale la pena intentarlo.
La metáfora es deliberada y cargada de significado. La disuasión nuclear funcionó porque ambos lados entendían la destrucción mutua. La IA comporta apuestas distintas —perturbación económica, colapso de los sistemas de información, armas autónomas—, pero el desafío estructural es el mismo: ¿cómo coordinas la contención cuando la deserción ofrece una recompensa competitiva tan enorme?
También propuso un nuevo régimen de auditoría. Anthropic, dijo, proporcionará a evaluadores independientes acceso permanente “similar al de un empleado” a sus modelos. Lo comparó con los inspectores de alimentos —personas que pueden entrar sin previo aviso y verificar si las promesas de seguridad coinciden con la realidad.
La analogía con el inspector de alimentos es más reveladora de lo que parece a primera vista. Las regulaciones de inocuidad alimentaria funcionan porque son aplicadas por una autoridad estatal con poder legal para clausurar infracciones. Amodei está proponiendo algo voluntario, lo que lo convierte, bien en un valiente primer paso, o en una manera astuta de dar forma a la regulación antes de que se vuelva obligatoria.
La pregunta de Corea que no formuló directamente
La fuente de este informe —Yonhap News— enmarca los comentarios de Amodei como una señal de advertencia con implicaciones internacionales. Ese mismo encuadre vale la pena observar. El gobierno de Corea del Sur ha estado siguiendo los debates sobre seguridad de la IA con una intensidad inusual, en parte porque el país se ubica en un punto geográfico y económico estratégico entre dos potencias de la IA: Estados Unidos y China.
Seúl tiene toda la razón para prestar mucha atención. El sector tecnológico de Corea del Sur —Samsung, LG, Naver, Kakao— está profundamente integrado en la cadena global de suministro de IA. Un marco liderado por Estados Unidos que ralenticе el desarrollo estadounidense podría crear espacio para una aceleración china. Pero un marco que incluya a China elevaría el listón para todos.
Le preguntaron a Amodei directamente si Estados Unidos debería frenar incluso si China no lo hace. Su respuesta fue honesta e inútil: “Esa es la parte más difícil de la situación en la que nos encontramos”.
No ofreció una solución. Ofreció un argumento moral —que la contención es necesaria incluso cuando es costosa— y luego reconoció que los argumentos morales no construyen tratados.
Quién tiene realmente la capacidad de frenar
La pregunta más profunda que plantea la entrevista de Amodei es sobre arquitectura de gobernanza. Expresó incomodidad porque el desarrollo de la IA está controlado por compañías privadas en lugar de gobiernos, y barajeó la idea de una supervisión gubernamental multilateral. Pero de inmediato la matizó: un gobierno es tan capaz de abuso como una corporación. La salvaguardia, en su visión, requeriría que múltiples gobiernos democráticamente elegidos actuaran juntos.
Esa es una meta ambiciosa. La UE ya avanzó con la Ley de IA. Estados Unidos emitió órdenes ejecutivas sobre seguridad de la IA. China ha impuesto sus propias regulaciones, centradas más en el control de contenido que en límites de capacidad. Japón, Corea del Sur e India están redactando cada uno sus propios marcos. No existe un organismo internacional unificado con poder de aplicación sobre el desarrollo de la IA.
Amodei lo sabe. Su tono durante toda la entrevista fue como el de alguien que expone lo que debería hacerse mientras expresa serias dudas de que se haga bien. “No soy muy optimista”, dijo sobre las perspectivas de un acuerdo modelado en los tratados nucleares. “Pero tenemos que intentarlo”.
Qué sigue
Es probable que tres cosas sigan a declaraciones como las de Amodei.
En primer lugar, la presión regulatoria aumentará. Cuando los directores ejecutivos de los laboratorios más importantes empiezan a decir públicamente que su propio producto es peligroso, se les quita a la industria su principal defensa contra la regulación: que los expertos mejor dejan gobernarse a sí mismos. La narrativa se ha invertido.
En segundo lugar, el debate sobre el interruptor de apagado se intensificará. Es una idea simple con implicaciones enormes. Cualquier mecanismo técnico que permita a partes externas desactivar un modelo en funcionamiento tendría que integrarse en la infraestructura de entrenamiento, despliegue e inferencia —y eso requiere cooperación de empresas que tienen todo el incentivo para resistirse—.
En tercer lugar, la dimensión geopolítica dominará. La analogía nuclear de Amodei seguirá surgiendo en discusiones de política, al igual que el problema central que señala: la cooperación funciona cuando ambos lados creen que la deserción es peor que la cooperación. En IA, el balance actual de incentivos favorece la deserción.
El honesto reconocimiento de riesgo por parte de la industria es una espada de doble filo. Le da munición a los reguladores. También le da al público una razón para exigir acciones —y las acciones, por bien intencionadas que sean— remodelarán quiénes ganan y quiénes pierden en la próxima década del desarrollo de la IA.
La advertencia de Amodei no se trata de pánico. Se trata de ritmo. Y el ritmo es una decisión —quién la decide y a qué costo— que aún no se ha tomado.