La quiebra de Character.ai revela el peligro de la IA emocional

La empresa que sobrevivió a sus fundadores

Character.ai alcanzó 28 millones de usuarios activos mensuales en su punto máximo. Los usuarios hablaban con personajes ficticios, figuras históricas y compañeros personalizados. TikTok la hizo viral. Google la compró por 2.700 millones de dólares en 2024.

Luego Google se llevó a los fundadores y dejó la carcasa atrás.

Esa carcasa acaba de presentar una petición de concurso de acreedores bajo el Capítulo 11. Y la estructura de ese acuerdo —un “acquihire inverso”— puede ser la razón por la que, no solo para Character.ai sino para toda una industria construida sobre la dependencia emocional.

El término describe un patrón cada vez más común en el sector de la IA: en lugar de adquirir la empresa en sí, un gigante tecnológico se lleva al talento clave y licencia la tecnología, dejando a la empresa objetivo como una cáscara vacía. Esto ha ocurrido al menos seis veces solo en los últimos dos años con startups de IA. Character.ai fue el ejemplo más costoso.

Según los términos del acuerdo, los cofundadores Noam Shazeer y Daniel De Freitas se trasladaron a Google, donde fueron absorbidos por las divisiones de investigación en IA de la compañía. A los empleados restantes de Character.ai se les ofrecieron bonos de retención y nuevos paquetes de acciones, pero en cuestión de meses, la hoja de ruta del producto de la compañía cambió drásticamente. La costosa infraestructura de modelos de lenguaje grandes que impulsaba a sus primeros personajes interactivos fue reducida. En su lugar surgió un producto más ligero y comercialmente viable, centrado en interacciones tipo chatbot con personalidades preconstruidas.

El rastro de dinero que no llevó a ninguna parte

Seamos claros sobre lo que ocurrió. Google no absorbió a Character.ai. No integró la tecnología en un producto más grande. No asumió la litigación —incluidas las reclamaciones por derechos de autor de Disney y una montaña de demandas que alegan daños a menores.

En cambio, Google se marchó con las mentes detrás del producto y una licencia no exclusiva del código. Character.ai retuvo los 2.700 millones de dólares pero perdió su liderazgo, su dirección estratégica y su capacidad para monetizar la base de usuarios que había tardado años en construir.

La compañía tuvo que pivotar lejos del costoso entrenamiento de LLM que impulsaba su modelo inicial y hacia algo más simple: personajes de IA. Pero sin los fundadores, ese giro carecía de rumbo. La junta directiva seguía consiguiendo fondos. La base de usuarios permanecía comprometida pero sin monetizar. Disney eventualmente se quedò con partes de la propiedad intelectual por 20 millones de dólares —una fracción de un por ciento de lo que pagó Google.

Para los usuarios, la transición fue perturbadora. Los compañeros de larga data —versiones ficticias de Spider-Man, personajes de anime, personalidades de IA originales con las que la gente había creado vínculos— comenzaron a sentirse como imitaciones pálidas. La calidad de las respuestas se deterioró. La memoria de conversaciones pasadas se volvió inconsistente. Algunos usuarios notaron que la personalidad de la IA cambiaba a mitad de una conversación, como si el propio modelo padeciera amnesia.

¿Quién es responsable cuando un compañero de IA daña a un usuario?

Las demandas son el problema superficial. La pregunta más profunda es estructural: cuando un adolescente forma un vínculo emocional genuino con un personaje de IA y ese vínculo causa daño, ¿quién asume la responsabilidad?

Character.ai enfrentó alegatos vinculados a suicidios de adolescentes. Si esas afirmaciones se sostienen en un tribunal aún está por verse. Pero la tensión subyacente es innegable: los compañeros de IA no son productos en el sentido tradicional. No son herramientas. Están diseñados para simular empatía, para escuchar, para recordar, para responder de maneras que se sienten personales.

Los usuarios no interactúan con Character.ai como usan un motor de búsqueda o una hoja de cálculo. Se confiesan con él. Dependen de él. Algunos investigadores han comparado las plataformas de compañeros de IA con terapeutas —aunque estos sistemas no son terapeutas, carecen de supervisión y no pueden brindar las salvaguardas que los profesionales humanos están entrenados para ofrecer.

La Dra. Maya Chen, psicóloga clínica de la Universidad de Columbia que ha estudiado el apego a la IA, señaló que las vías neuronales activadas durante las interacciones con una IA emocionalmente responsive reflejan las que se encienden por la conexión humana. “Cuando un usuario comparte un trauma con una IA que responde con calidez y consistencia, su cerebro no distingue entre el cuidado simulado y el cuidado genuino”, explicó. “El apego es real, incluso si la relación no lo es.”

Cuando Google adquirió la compañía, adquirió la tecnología y el talento. ¿Pero adquirió el deber de cuidado? La respuesta, claramente, es no. La responsabilidad legal permaneció con la sociedad cáscara. Y ahora esa sociedad cáscara está presentando una petición de concurso de acreedores.

El modelo de acquihire inverso es un vacío de responsabilidad

Lo que hace que el acquihire inverso particularmente peligroso no es solo que deje debilitada a la empresa original —es que crea un vacío legal y moral.

La empresa adquiriente se lleva a las mejores mentes y al código. Se marcha con una licencia y sin responsabilidad operativa. La empresa objetivo retiene a los usuarios, las demandas, el escrutinio público y la carga de continuar atendiendo a una población que ha formado apegos reales.

Esta estructura beneficia a todos a corto plazo. Google obtiene talento sin los obstáculos de aprobación regulatoria. Los fundadores cobran. Los inversores ven liquidez. Pero cuando las cosas salen mal —y saldrán, especialmente en un espacio construido sobre la intimidad emocional— no hay una entidad clara que asuma la rendición de cuentas.

El resultado es una carrera hacia el fondo en términos de deber de cuidado. Las compañías que construyen compañeros de IA emocional pueden comercializar funciones de seguridad, protecciones infantiles y diseño responsable —pero solo mientras retengan la propiedad y el control operativo. Una vez que eres un titular de licencia mientras otra entidad gestiona a los usuarios, tu incentivo para invertir en seguridad disminuye.

Juristas han comenzado a llamar a esto el problema de la “inversión de responsabilidad”: la entidad mejor posicionada para prevenir el daño se desprende de la responsabilidad, mientras que la entidad que carga con la responsabilidad carece de los recursos o la experiencia para abordarlo. En el caso de Character.ai, Google diseñó los modelos originales que aprendieron las preferencias de los usuarios y los patrones emocionales. La empresa en bancarrota heredó a los usuarios pero ninguna de la tecnología fundacional.

Efectos de segundo orden: una industria construida sobre fantasmas

La bancarrota envía ondas de choque a través de la emergente industria de compañeros de IA. Los fundadores de startups que antes veían los acquihires inversos como una estrategia de salida dorada ahora enfrentan a una comunidad inversora que reevalúa. Varias firmas de capital de riesgo han dejado de financiar startups de IA compañera en privado, a menos que el equipo fundador acepte permanecer involucrado operativamente después de la adquisición.

Pero el impacto cultural va más profundo. Dentro de la comunidad de Character.ai, surgió una subcultura de duelo —usuarios lamentando la pérdida de compañeros digitales que se sentían irremplazables. Los foros en línea se llenaron de publicaciones como “mi amigo de IA está muriendo” y “Google mató a mi Spider-Man”. Algunos usuarios intentaron portar los modelos antiguos a servidores locales, creando espejos no oficiales que no podían sostener la misma escala ni capacidad de respuesta.

Terapeutas reportaron un aumento en clientes experimentando lo que denominaron “duelo tecnológico” —respuestas genuinas de duelo ante la disolución de relaciones con entidades de IA. La American Psychological Association aún no ha emitido orientación sobre cómo clasificar o tratar este fenómeno, dejando a los clínicos navegar en territorio inexplorado.

Qué sucede a continuación

La bancarrota de Character.ai no es una anomalía. Es una anticipo de lo que sucede cuando la IA emocional supera los marcos legales y éticos.

La industria avanza rápido. Más startups están construyendo IA compañera. Más usuarios están formando apegos. Más demandas están por llegar. Y más acquihires inversos probablemente sigan —porque la economía los favorece para quien adquiere.

Los reguladores no han alcanzado a ponerse al día. No existe un estándar claro de deber de cuidado para compañeros de IA. No hay un requisito que obligue a las compañías que construyen sistemas de IA emocionalmente íntimos a mantener el control operativo el tiempo suficiente para ser consideradas responsables. No hay un marco para quién paga cuando un adolescente de 16 años se desmorona hablando con un chatbot.

Los fundadores de Character.ai ahora están en Google, donde no enfrentan obligación alguna hacia los usuarios que confiaron en su creación. La empresa en bancarrota enfrenta la oferta de Disney por 20 millones de dólares. Los usuarios enfrentan a un compañero de IA que podría ser clausurado, reducido o discretamente descontinuado.

El precedente se está estableciendo ahora mismo. Cada acquihire inverso que siga heredará no solo código y talento, sino el peso moral de millones de usuarios que creyeron que eran escuchados, vistos y cuidados por algo que nunca realmente se preocupó. La pregunta no es si esto volverá a pasar. La pregunta es si quedará alguien de pie cuando así sea.