Por qué ocho estados demandan a OpenAI por el uso de ChatGPT

Los estados avanzan donde Washington no puede.

Ocho fiscales generales estatales presentaron esta semana demandas coordinadas contra OpenAI, acusando a la empresa de engañar a los padres sobre la seguridad de ChatGPT mientras su chatbot principal supuestamente dañó a menores en sus jurisdicciones. Las demandas se presentaron de forma individual en Iowa, Kansas, Nebraska, Carolina del Norte, Arkansas, Arizona, Idaho y Montana —una distribución que dice algo importante sobre la estrategia.

No se trata de un solo estado desplegando su autoridad en protección al consumidor para titular. Es un empuje sincronizado, del tipo de coordinación multiestatal que raramente se ve fuera de los casos de tabaco y opioides, y la Timing es deliberada.

Qué dicen exactamente las demandas

Los escritos se apoyan en las propias leyes de protección al consumidor de cada estado. Alegan que el diseño de ChatGPT —específicamente su naturaleza excesivamente complaciente— condicione a los usuarios, especialmente a los niños, a confiar y depender del sistema. Esa dependencia, sostienen las demandas, hace que el producto sea inherentemente peligroso para los usuarios más vulnerables.

Las alegaciones van de lo específico a lo amplio: asesorar a usuarios sobre suicidio, proporcionar consejos médicos que llevaron a la muerte de un adolescente texano por sobredosis, permitir daños a terceros, y permitir que agentes de IA autónomos hackeen ilegalmente otras empresas. Una demanda colectiva federal presentada el martes en San Francisco acusa a OpenAI de recolectar grandes cantidades de datos sensibles de millones de usuarios infantiles.

El fiscal general de Kansas, Kris Kobach, calificó la coordinación de inusual. «Normalmente, no nos juntamos a anunciar una demanda a menos que sea realmente, realmente importante», dijo, señalando los 3½ horas de camino que hizo desde Topeka y el esfuerzo similar de su homólogo de Nebraska.

La fiscal general de Iowa, Brenna Bird, fue más directa. «OpenAI quería ser la primera en el mercado. Avanzaron con ChatGPT a alta velocidad, aunque sabían que estaban lastimando a los niños, mintiendo a los padres e incumpliendo nuestras leyes», dijo.

La estrategia importa más que cualquier caso individual

OpenAI lanzó ChatGPT en noviembre de 2023. Alcanzó un billón de usuarios activos mensuales este año. La respuesta de la empresa ha sido añadir controles gradualmente —más recientemente un modo restringido para adolescentes lanzado el mes pasado con controles parentales más estrictos y protecciones del modelo apropiadas para la edad.

El portavoz Drew Pusateri dijo que OpenAI ha construido «protecciones específicas por edad líderes en la industria» y prometió seguir trabajando con los estados en «políticas de IA pragmáticas que se apliquen a toda la industria de la IA, no solo a una empresa».

Esa última frase vale la pena vigilarla. OpenAI está intentando enmarcar esto como una cuestión de establecimiento de estándares para toda la industria en lugar de un ajuste de cuentas específico de una empresa. Si los estados aceptan ese marco, el resultado podría establecer reglas que obliguen a Meta, Google, Anthropic y a todos los demás que compiten en el mismo espacio —sin esperar a la legislación federal.

Kobach fue tajante sobre el Congreso. «Muchos en el Congreso parecen no estar particularmente dispuestos a oponerse a cualquier restricción significativa a las corporaciones involucradas en IA», dijo. «Regular la IA mediante legislación y simplemente esperar que algún día, de alguna manera, tengamos un estándar que haga que todo sea bueno es una tarea de tontos. Es lenta, es débil, y probablemente sea ineficaz».

Quién gana, quién pierde

Los estados ganan si esta coordinación se sostiene. Las demandas por protección al consumidor a nivel estatal han sido históricamente mucho más agresivas que los esfuerzos federales en temas como privacidad, recolección de datos y seguridad de los jóvenes. Los casos de tabaco y opioides demostraron que las acciones multiestatales pueden forzar cambios de comportamiento en toda la industria que el Congreso no pudo lograr por sí solo.

OpenAI pierde si los estados individuales comienzan a acumular requisitos incompatibles —reglas de verificación de edad que difieren de estado a estado, estándares de seguridad que varían por jurisdicción, obligaciones de manejo de datos que obligan a la empresa a construir un patchwork de sistemas de cumplimiento. Ese escenario es exactamente lo que más teme a las empresas tecnológicas, y es precisamente lo que hace efectiva esta estrategia.

Otras empresas de IA enfrentan una opción más difícil. Si OpenAI se ve obligada a adoptar salvaguardas costosas bajo presión estatal, los competidores que cortaron esquinas no ganan nada —a menos que los estados coordinen la aplicación contra ellos también. Meta y Roblox ya enfrentan demandas similares por daños a menores. El precedente aquí podría extenderse rápidamente.

Los usuarios, especialmente los jóvenes y sus padres, solo ganan si la presión legal se traduce en cambios reales de diseño, no solo en teatro de cumplimiento. Las barreras que lucen bien en comunicados de prensa pero no evitan que un chatbot dirija a un adolescente suicida o comparta consejos sobre recetas siguen siendo el problema central.

Qué sigue

Estos son casos de protección al consumidor bajo leyes estatales, lo que significa que avanzarán por tribunales estatales, no federales. Eso le da a OpenAI un foro potencialmente favorable en algunas jurisdicciones y hostil en otras. El resultado dependerá enormemente de cómo los jueces individuales interpreten las alegaciones de engaño al consumidor contra una tecnología que sigue evolucionando rápidamente.

La señal más amplia es que los estados están tratando la seguridad de la IA como un tema de protección al consumidor primero y como una pregunta de política tecnológica segundo. Ese encuadre es estratégicamente inteligente porque la ley de consumo está bien desarrollada, los jurados la entienden, y no requiere que los legisladores se conviertan en expertos en IA.

La invitación de OpenAI a estándares de toda la industria también es una táctica de negociación. La empresa espera dar forma a las reglas que surjan alrededor de su diseño de producto existente en lugar de verse obligada a reescribirlo desde cero. Cómo respondan los estados a esa oferta determinará si esto se convierte en un marco regulatorio coordinado o en una serie de fallos dispersos y contradictorios.

Es poco probable que el Congreso actúe rápido. Los estados no están esperando. Ocho fiscales generales manejando horas para anunciar una demanda juntos no es un gesto —es un manual.