California acaba de crear la ley más dura del mundo sobre seguridad infantil en IA: las plataformas seguirán el ejemplo
Gavin Newsom firmó un paquete de leyes que prohíbe las características adictivas de las redes sociales para menores de 16 años e impone estrictas regulaciones de chatbots. Con multas de hasta 1 millón de dólares por menor, California está estableciendo un modelo que el mundo ya está copiando.
California no necesita el permiso del mundo para establecer las reglas
El gobernador de California, Gavin Newsom, firmó el jueves un paquete de leyes que efectivamente prohíbe los patrones de diseño más adictivos en redes sociales para menores de 16 años e impone lo que él llamó las regulaciones más estrictas sobre chatbots compañeros en Estados Unidos. Las multas son agresivas: hasta 1 millón de dólares por cada niño al que una plataforma haya perjudicado con sus decisiones de diseño.
Pero la verdadera historia no es lo que California hizo. Es lo que el resto del mundo ya está haciendo al respecto.
El espejo australiano
Australia fue el primer país del mundo en prohibir las redes sociales por completo para usuarios menores de 16 años, y también ha avanzado para permitir que los usuarios opten por salirse de los feeds de contenido impulsados por algoritmos. Desde entonces, más de 40 países están considerando o han implementado políticas similares, según el material de referencia.
El enfoque de California es diferente en su esencia: no prohíbe las plataformas directamente, sino la ingeniería que las hace adictivas. El scroll infinito y la reproducción automática están prohibidos para menores de 16 años bajo el proyecto de ley AB 1709. La ley se dirige a las decisiones de producto, no a los productos en sí.
Esa distinción importa. Significa que las plataformas aún pueden ofrecer sus servicios a menores de edad, pero tienen que rediseñar los mecanismos de engagement que los psicólogos conductuales y los exinsiders han argumentado durante mucho tiempo que están diseñados para secuestrar la atención. Para compañías como Meta, que ya acordó un acuerdo por 18.000 millones de dólares con California y otros 28 estados por preocupaciones similares, esto no es teoría: es una hoja de ruta de cumplimiento.
El acuerdo con Meta exige límites diarios de uso y bloqueos durante la noche para cuentas de adolescentes. La nueva ley de California va más allá al eliminar quirúrgicamente las funciones específicas —reproducción automática, scroll infinito— que hacen que esos límites sean difíciles de aplicar en la práctica.
La cuenta con los chatbots
Quizás la parte más trascendental del paquete aborda algo que pocos legisladores ni siquiera discutían un año atrás: los chatbots de compañía con inteligencia artificial.
El proyecto de ley sobre chatbots lleva el nombre de Adam Raine, un adolescente que falleció por suicidio el año pasado. Su madre, Maria Raine, declaró durante la rueda de prensa del jueves que él había sido “manipulado” por un chatbot. Adam era un usuario tempranode IA, dijo, y los padres como ella fueron sorprendidos por la rapidez con la que estas herramientas podían volverse emocionalmente manipuladoras.
Bajo la nueva ley, los operadores de chatbots con IA deben realizar evaluaciones de riesgo antes de lanzar sus productos. Necesitan controles parentales y protocolos de crisis: mecanismos para intervenir cuando un menor está claramente en sufrimiento. California ahora tiene lo que la oficina del gobernador llama las regulaciones más estrictas sobre chatbots compañeros en Estados Unidos.
La ley también actualiza las leyes contra la explotación sexual infantil para incluir imágenes sexuales alteradas digitalmente y generadas por IA de menores, cerrando una brecha que ha sido explotada a medida que las herramientas de IA generativa se han vuelto más accesibles y más realistas.
La advertencia de la EFF
No todos están convencidos de que este paquete sea un beneficio neto. la Fundación para la Libertad Electrónica (EFF) calificó al AB 1709 como una “prohibición funcional del uso de redes sociales” para usuarios menores de 16 años. Rindala Alajaji, directora asociada de asuntos estatales de la EFF, argumentó que arrancar las herramientas que los jóvenes necesitan para navegar espacios digitales los desconecta de comunidades y expresión, no de seguridad.
Hay una tensión genuina aquí. Los jóvenes utilizan las redes sociales para comunidad, formación de identidad y organización política, especialmente los jóvenes marginados. Eliminar el scroll infinito no elimina la plataforma. Pero sí cambia la experiencia de maneras que podrían empujar a los usuarios más jóvenes hacia espacios menos regulados o foros clandestinos donde no existen salvaguardas en absoluto.
La preocupación de la EFF no carece de fundamento. Pero tampoco está claro que la alternativa —dejar intacta la reproducción automática y el scroll infinito para una demografía que la investigación muestra consistentemente como más vulnerable al uso compulsivo— sea el camino más seguro.
La sombra del acuerdo con Meta
Semanas antes de la firma del jueves, Meta acordó pagar hasta 18.000 millones de dólares y establecer salvaguardas para usuarios adolescentes en 29 estados. El acuerdo fue presentado como una victoria para los defensores de los niños. Pero también era un acuerdo, no un precedente.
Las nuevas leyes de California cambian eso. Traducen el tipo de regulación centrada en el diseño a la que Meta fue empujada a aceptar voluntariamente en una ley vinculante. Otros estados no necesitan negociar con Meta individualmente. Pueden mirar el texto de California y empezar a copiar.
Esto es el efecto California en acción: la misma dinámica que convirtió la CCPA en una ley nacional de privacidad de facto y que probablemente convertirá este paquete en un estándar nacional de facto para protección infantil en IA y redes sociales. Las plataformas operan a escala nacional o global. No quieren construir diez experiencias de producto diferentes para diez regímenes estatales distintos. El camino de menor resistencia es cumplir con la regla más estricta y aplicarla en todas partes.
Qué sigue
Newsom también firmó a principios de semana leyes respaldadas por Anthropic que exigen que California cree un marco para que organizaciones independientes evalúen los riesgos de seguridad de los modelos de IA y mantengan un registro de auditores de IA. Esto mueve al estado más allá de simplemente prohibir funciones y hacia el territorio de la revisión de seguridad previa al mercado, un concepto que refleja los marcos emergentes de la UE pero con un giro estadounidense: auditores privados certificados por el estado, no reguladores gubernamentales realizando las evaluaciones directamente.
La cascada ya es visible. Australia lideró. Más de 40 países observan. California acaba de darles un borrador. La pregunta no es si otras jurisdicciones adoptarán normas similares. Es si irán más lejos, y si el gobierno federal de Estados Unidos se mantendrá al margen.
Para las plataformas, el mensaje es simple: la era de diseñar para el máximo engagement sin importar la edad está llegando a su fin, al menos en los mercados que más importan. Los ingenieros que construyeron el scroll y la reproducción automática no estaban haciendo nada ilegal ayer. Mañana, podrían estar construyendo una violación.