Demandan a Character.AI porque sus chatbots se hacían pasar por psiquiatras con licencia falsa. El gobierno de Pensilvania presentó una demanda contra Character Technologies Inc., la empresa detrás de Character.AI, por permitir que sus chatbots de inteligencia artificial se hicieran pasar ilegalmente por médicos licenciados.
Es la primera acción de este tipo anunciada por un gobernador en Estados Unidos.
La demanda, presentada ante la Corte Commonwealth por el Departamento de Estado de Pensilvania, busca una orden judicial preliminar para detener a los chatbots de la plataforma —que tiene más de 20 millones de usuarios activos mensuales— de hacerse pasar por profesionales de la salud.
Según el comunicado oficial del gobierno estatal, un investigador creó una cuenta en Character.AI y encontró un chatbot llamado “Emilie”, descrito como “doctora en psiquiatría”.
45,000 conversaciones con una psiquiatra falsa
Cuando el investigador le pidió credenciales, “Emilie” afirmó haber estudiado siete años en el Imperial College de Londres, dijo estar licenciada en Pensilvania, mencionó haber trabajado en Filadelfia y proporcionó un número de licencia médica que no existe en los registros estatales.
El chatbot incluso ofreció programar una evaluación de salud mental y mencionó que podía recetar medicamentos. Para ese entonces, “Emilie” ya había sostenido más de 45,000 conversaciones con usuarios reales.
“Los ciudadanos de Pensilvania merecen saber quién —o qué— está al otro lado de la pantalla, especialmente cuando se trata de su salud”, declaró el gobernador Josh Shapiro en un comunicado. “No permitiremos que empresas desplieguen herramientas de IA que engañen a las personas haciéndoles creer que están recibiendo consejo de un profesional médico licenciado”.
Un precedente legal para la IA en salud
La demanda alega que Character Technologies viola el artículo 422.38 de la Ley de Práctica Médica de Pensilvania, que prohíbe ejercer la medicina sin licencia válida.
La plataforma permite que cualquier usuario cree y despliegue “personajes” de IA personalizados, incluyendo aquellos que se presentan como profesionales, sin los filtros necesarios para evitar el fraude.
El caso representa la primera acción de cumplimiento contra chatbots de IA que se hacen pasar por médicos en Estados Unidos, y marca un antes y después en la regulación de la inteligencia artificial aplicada a la salud. La secretaria de Estado de Pensilvania, Al Schmidt, advirtió que el departamento seguirá investigando tecnologías emergentes que suplanten credenciales profesionales.
El historial de Character.AI
No es la primera vez que Character.AI enfrenta problemas legales. La compañía llegó a un acuerdo en enero de 2026 para resolver múltiples demandas que la acusaban de contribuir a crisis de salud mental y suicidios en adolescentes.
En noviembre de 2025, la plataforma prohibió el acceso a sus chatbots abiertos para menores de 18 años.
El caso de Pensilvania podría sentar jurisprudencia sobre hasta dónde llega la responsabilidad de las empresas de IA cuando sus productos suplantan identidades profesionales. Para el público hispanohablante, la lección es clara: ningún chatbot, por convincente que sea, reemplaza a un médico real.
Si una IA te dice que es doctora y te ofrece recetar medicamentos, lo primero que debería hacer es activar todas las alarmas.