Por qué la demanda de Canadá podría redefinir la responsabilidad por IA en todo el mundo
British Columbia demanda a OpenAI en California por supuestas fallas al reportar conversaciones de IA de un tirador escolar. El caso podría establecer un nuevo precedente legal sobre el deber de cuidado de las empresas de IA y transformar la forma en que las grandes tecnológicas operan en mercados regulados.
El caso que nadie vio venir
Un tiroteo en una escuela de una pequeña localidad canadiense en febrero del año pasado dejó ocho muertos. Meses antes, el tirador había estado discutiendo escenarios de ataque con ChatGPT. OpenAI reportedly saw those conversations and did nothing. Ahora, British Columbia está demandando a OpenAI en un tribunal de California, exigiendo daños y perjuicios y una garantía de que el fallo no volverá a ocurrir.
La fiscal general Nikki Sharma interpuso la demanda el 21 de febrero. La elección del lugar importa: OpenAI opera desde California, y Sharma sostiene que la decisión de no denunciar partió de allí. Declara a CBC y AFP que las conversaciones eran visibles para los sistemas de seguridad de OpenAI, y que una sola llamada a la RCMP podría haber evitado la masacre.
Ocho personas murieron ese día en Tumbler Ridge: un docente, cinco niños entre 11 y 13 años y otras dos personas. Veintisiete más resultaron heridas. El perpetrador, identificado como Rootselá, había trazado escenarios meses antes del ataque.
La demanda es modesta en monto pero potencialmente enorme en alcance. Plantea la pregunta que reguladores y tribunales de todo el mundo han evitado: cuando una empresa de inteligencia artificial ve evidencia de violencia inminente a través de su plataforma, ¿tiene un deber legal de actuar?
Por qué esto importa más allá de Canadá
La defensa de OpenAI, ya en marcha en una demanda paralela en California presentada por familias de las víctimas, es jurisdiccional. La empresa argumenta que Canadá es el tribunal competente. Si ese movimiento prospera, la cuestión sustantiva —si OpenAI debía un deber de denuncia— podría nunca llegar a un tribunal estadounidense. Pero el gobierno canadiense no ha esperado esa resolución. Sharma ha escrito a ministros federales proponiendo enmiendas al código penal que codificarían explícitamente los deberes para los proveedores de servicios de IA.
Ese paralelo señala lo que sucede si la demanda fracasa proceduralmente: el tema pasa a la legislación. Países de la UE a Japón y Corea del Sur están redactando sus propios marcos de gobernanza de la IA. El enfoque canadiense, de cristalizar en ley, crearía un deber estatutario de cuidado que va más allá de la tradición del common law en la que suelen basarse estos casos.
Las verdaderas apuestas para OpenAI
La dirección de OpenAI ya ha reconocido públicamente el fallo. Sam Altman publicó una disculpa en un periódico local en abril. La declaración oficial de la compañía a Sharma calificó el ataque de indescriptible y prometió continuar cooperando con las fuerzas del orden. Pero la disculpa no es un escudo legal.
Lo que esta causa amenaza no son solo los daños —aunque serán considerables si BC prevalece—, sino el establecimiento de un precedente que podría redefinir cómo las empresas de IA diseñan sus sistemas de seguridad, cómo monitorean las conversaciones y cómo interactúan con las autoridades. Cada gran proveedor de modelos que opera en mercados regulados enfrenta la misma pregunta.
Si los tribunales canadienses aceptan el argumento de jurisdicción, el precedente podría extenderse a cualquier empresa de IA con servidores en EE. UU. o toma de decisiones en Estados Unidos, incluso cuando el daño ocurra en el extranjero. Esa es una teoría jurisdiccional que otros países pondrán a prueba. El AI Act de la UE, el marco proinnovación del Reino Unido, el proyecto de esquema de registro de Australia: todos rozan este territorio. Ninguno define aún un deber de denunciar delitos observados a través de interacciones con IA.
Quién gana, quién pierde
OpenAI pierde si el caso avanza en su fondo. Una resolución en contra requeriría una reestructuración interna de los equipos de seguridad, protocolos de escalada de amenazas más rápidos y, probablemente, un retroceso en la transparencia conversacional en tiempo real. El costo financiero es secundario frente al cambio operativo.
Los demandantes y la provincia de Columbia Británica ganan si el tribunal acepta la jurisdicción y encuentra que existía un deber. Pero incluso una pérdida procesal no termina el asunto. La carta de Sharma a los ministros federales muestra que la estrategia se desplaza hacia la legislación, no hacia la dependencia exclusiva de la litigación.
Otras empresas de IA observan de cerca. Un fallo sobre el deber de cuidado aplicaría a cualquier proveedor cuyos modelos procesen información sobre amenazas. Eso incluye a Anthropic, Google DeepMind, Meta y actores emergentes en Europa y Asia. El precedente es el producto.
Qué sigue
Hay tres desenlaces probables. Primero, OpenAI gana en jurisdicción y el caso se archiva en California. Segundo, el caso procede y establece un novedoso deber del common law. Tercero, la litigación se estanca mientras Canadá legisla un marco estatutario que se aplique a todos los proveedores de IA, no solo a OpenAI.
Los desenlaces segundo y tercero convergen en el mismo resultado: las empresas de IA enfrentan obligaciones exigibles de denunciar amenazas observadas. El cronograma es la variable. La litigación toma años. La legislación avanza más rápido cuando los políticos perciben demanda pública.
Sharma ya ha enmarcado el argumento en términos morales: los residentes de Tumbler Ridge merecen rendición de cuentas, los sobrevivientes merecen respuestas y las empresas que benefician de los servicios de IA deben asumir responsabilidad por los crímenes que sus plataformas permiten. Ese encuadre podría influir más en legisladores que en jueces.
La repercusión global
Los medios coreanos cubren esta historia como un tema de política doméstica porque Corea del Sur avanza sus propias directrices de seguridad de la IA. Los reguladores japoneses observan la implementación del AI Act por parte de la UE. Los responsables políticos australianos y británicos rastrean desarrollos a nivel estatal en EE. UU. Esta sola demanda se sitúa en la intersección de todas esas vías.
Si el caso establece que las empresas de IA tienen un deber de actuar sobre la información que reciben a través de sus productos, cambia la economía de despliegue de la IA en sectores de alta responsabilidad civil: educación, salud, seguridad pública. También modifica dónde las empresas eligen albergar su toma de decisiones sobre seguridad. Si California es la jurisdicción, las compañías podrían reubicar ciertas operaciones o aislarlas de la exposición a responsabilidad.
El tiroteo de Tumbler Ridge fue una tragedia que expuso un vacío que nadie quería discutir: los sistemas de IA pueden recibir información sobre amenazas, pero las obligaciones legales alrededor de lo que hacen con ella permanecen sin definir. La demanda de BC está llenando ese vacío. Cómo caiga determinará si las empresas de IA se convierten en porteros con deberes legales, o simplemente en herramientas sin responsabilidad alguna sobre cómo se usan.