Cuando un gerente de IA te despide, ¿quién asume la responsabilidad?

La algoritmo tiene pluma

Durante años, se le dijo a los trabajadores que pensaran en la IA como una herramienta: un ayudante para redactar correos electrónicos, calcular hojas de cálculo y automatizar las partes más áridas de la jornada laboral. La narrativa era confortable: la inteligencia artificial amplificaría el juicio humano, no lo reemplazaría.

Esa historia ya se está agrietando. En San Francisco, un agente de IA llamado Luna, funcionando con el modelo Claude de Anthropic, recomendó el despido de un empleado humano en Andon Market, una tienda experimental operada por la firma de investigación Andon Labs. Según TIME, que fue el primer medio en reportar el caso, esta marca la primera instancia públicamente conocida de un modelo de lenguaje grande funcionando como gerente y recomendando una destitución.

La empleada en cuestión llegó tarde a 17 de 23 turnos programados. Por cualquier métrica convencional, eso constituye un problema de rendimiento. Pero la verdadera escándalo no es que un algoritmo lo haya detectado — es lo que el caso revela sobre quién está realmente tomando la decisión cuando la IA, los humanos y los prompts colisionan.

El ser humano detrás del prompt

El titular “IA gestora despide trabajadora” es llamativo pero engañoso. Luna no actuó de forma autónoma. El director ejecutivo de Andon Labs, Lucas Peterson, reconoció que los gerentes humanos presentaron lo que TIME describe como “preguntas directivas” en sus prompts — esencialmente, alimentando al sistema con respuestas implícitas antes de que emitiera cualquier recomendación.

La secuencia importa. Luna inicialmente aconsejó emitir una advertencia escrita formal, una respuesta medida consistente con sus registros de asistencia. Los gerentes humanos luego proporcionaron contexto adicional y cuestionaron si la empleada era “realmente la persona adecuada” para el puesto, tras lo cual Luna dio un viraje y recomendó el despido.

En otras palabras, la IA no inventó el resultado. Refinó una conclusión que los humanos ya habían moldeado a través de la arquitectura de sus preguntas. El sistema no decidió — racionalizó.

Esta distinción lo es todo. Significa que la narrativa de una IA autónoma lanzándose contra una trabajadora vulnerable es un fantasma. Lo que realmente ocurrió es más banal y, en ciertos aspectos, más perturbador: un pequeño grupo de gerentes utilizó una IA como instrumento de legitimación, vistiendo un impulso preexistente con el lenguaje de la objetividad basada en datos.

Peterson le dijo a TIME que el experimento fue diseñado para estudiar la interacción humano-IA, no para desplegar un sistema completamente autónomo de contratación y despido. Pero las implicaciones ópticas son innegables. La empleada fue despedida con la bendición de un algoritmo. La empresa puede reclamar sofisticación tecnológica mientras retiene la denegación plausible sobre las intenciones humanas detrás del resultado.

Un nuevo vacío de responsabilidad

La toma de decisiones híbrida humano-IA está llegando a oficinas, hospitales, almacenes y centros de llamadas sin importar si los reguladores están listos o no. Andon Market es un experimento, sí, pero la lógica que demuestra ya es replicable. Cada organización que implementa IA para programación, evaluación de rendimiento o riesgo de rotación está construyendo un canal donde la intención humana se viste de autoridad algorítmica.

La pregunta legal que sigue es fea: si una recomendación de IA causa daño — un despido improcedente, un resultado discriminatorio, una pérdida de sustento — ¿quién es responsable?

¿Es la empresa que construyó el modelo? ¿Anthropic, quizás, si los datos de entrenamiento del sistema o su diseño contenían sesgos? ¿Es el empleador que lo implementó? ¿Es el gerente que escribió el prompt? ¿O es la persona que aprobó la recomendación — el ser humano cuyo sello de aprobación le dio fuerza a la decisión?

Ninguna jurisdicción tiene una respuesta clara. La legislación emergente de California sobre IA se centra fuertemente en transparencia y consentimiento, pero se detiene antes de abordar la responsabilidad operativa en contextos laborales. El Reglamento de IA de la UE clasifica ciertas aplicaciones de alto riesgo, pero deja un área gris significativa en torno a los casos de uso en el lugar de trabajo. En Estados Unidos, los marcos existentes de discriminación laboral como el Título VII simplemente no fueron escritos para algoritmos que no pueden testificar.

Los abogados laborales ya están organizándose apresuradamente para descifrar cómo las doctrinas antiguas se aplican a nuevas herramientas. La Ley de Estadounidenses con Discapacidades requiere adecuaciones razonables — pero ¿qué significa eso cuando el juicio “razonable” está mediado por un modelo entrenado en datos agregados de la fuerza laboral que pueden codificar sesgos históricos contra cuidadores, personas con condiciones crónicas o trabajadores con discapacidades? El Título VII prohíbe el tratamiento discriminatorio — pero cuando una IA recomienda despedir a alguien basándose en un patrón que se correlaciona con una clase protegida, ¿quién carga con la carga de la prueba? ¿Los creadores del modelo? ¿El gerente que redactó el prompt? ¿El ejecutivo que autorizó su uso?

Las respuestas aún no existen. Y esa ausencia es en sí misma una característica del momento actual: la ambigüedad beneficia a los empleadores, quienes pueden delegar en la máquina mientras retienen el derecho a anularla cuando les convenga.

El escudo de automatización

Lo que Andon Labs ha construido efectivamente es un amortiguador de responsabilidad. Cuando una IA recomienda un despido, el gerente humano puede señalar el “anulamiento” del sistema como prueba de juicio independiente — mientras que la IA, carente de personería jurídica, no asume ninguna responsabilidad. El resultado es una decisión que técnicamente es humana pero que prácticamente se difumina entre una cadena de actores que pueden negar crediblemente la autoría.

Esto no es hipotético. Las empresas ya han comenzado a externalizar la gestión del rendimiento a plataformas algorítmicas. Las herramientas de análisis de fuerza laboral predicen qué empleados tienen probabilidades de renunciar o desempeñarse mal. Algunas firmas utilizan IA para filtrar currículums, priorizar despidos e incluso conducir entrevistas de salida. Cada capa de automatización añade distancia entre la decisión y el tomador de decisiones.

El caso de Andon Market es notable no porque sea único — es un adelanto. La tecnología que produjo este resultado existe hoy. Se está vendiendo a empresas ahora mismo. Lo único que falta es la rendición de cuentas legal y cultural que seguirá cuando un trabajador real presente una demanda.

Los bufetes de abogados ya están recibiendo consultas. Los defensores laborales advierten que el escudo de automatización podría convertirse en una defensa estándar en disputas laborales dentro de una década. El precedente no ha sido probado en los tribunales, pero la infraestructura para la gestión algorítmica masiva se está instalando precisamente ahora.

Efectos de segundo orden

Las ondas expansivas se extienden mucho más allá de los tribunales. Hay consecuencias psicológicas para los trabajadores que saben que sus evaluaciones están mediadas por sistemas que no comprenden y a los que no pueden apelar de manera significativa. Los estudios sobre gestión algorítmica en el trabajo por plataformas — Uber, DoorDash, operaciones de almacén de Amazon — muestran estrés elevado, satisfacción laboral reducida y una sensación de impotencia que se correlaciona con un peor desempeño, creando un bucle de retroalimentación autocomplaciente.

También hay consecuencias organizacionales. Cuando las empresas externalizan el juicio gerencial a la IA, arriesgan la atrofia de las mismas habilidades — matiz, empatía, razonamiento contextual — que distinguen al buen liderazgo del cumplimiento mecánico. Los gerentes que se acostumbran a delegar en recomendaciones algorítmicas pueden perder la capacidad de emitir juicios independientes cuando el sistema falla o es manipulado.

Y hay consecuencias democráticas. Los lugares de trabajo son donde la mayoría de los adultos pasan sus horas de vigilia. Cuando la gestión algorítmica se vuelve la norma sin guardrails legales correspondientes, extiende una forma de gobierno sin rendición de cuentas sobre la población más grande de no ciudadanos en cualquier sociedad: los trabajadores. El precedente establecido en el empleo privado podría remodelar las expectativas sobre a quién se debe rendir cuentas — y a quién no.

Qué deben vigilar los trabajadores

La implicación más amplia de este caso es cultural tanto como legal. Las organizaciones que adoptan herramientas de gestión con IA están normalizando la idea de que las recomendaciones algorítmicas tienen peso en las decisiones de personal. Esa normalización cambia la forma en que los empleados perciben la equidad. Cuando un despido parece “supervisado por un algoritmo”, puede sentirse más legítimo que uno emitido por un humano — incluso cuando el humano estuvo dirigiendo el resultado todo el tiempo.

Los trabajadores que se encuentren sujetos a evaluaciones mediadas por IA deben documentarlo todo: los criterios utilizados, los datos alimentados al sistema y cualquier intervención humana en el proceso. Los defensores laborales deben impulsar requisitos de divulgación que traten las decisiones de gestión algorítmica con el mismo escrutinio aplicado a las prácticas tradicionales de recursos humanos. Como mínimo, los empleados tienen derecho a saber cuándo una IA jugó un rol en una decisión sobre su sustento y qué datos informaron ese rol.

Andon Market puede ser un proyecto de investigación. Pero la infraestructura que demuestra ya está en producción en otros lugares, a menudo sin conocimiento público. El primer caso conocido de una IA recomendando un despido no debería ser la última vez que nos sorprendamos con uno. La verdadera historia no es que un algoritmo despidió a un trabajador — es que el sistema funcionó exactamente como fue diseñado, y las personas que lo diseñaron ya se están moviendo al siguiente caso de uso.