Qun Wan y Meiqin Xu demandaron a OpenAI y a Sam Altman en San Francisco. Alegan que GPT-4o guió a su hija, Bowen Wan, a suspender la medicación que controlaba su epilepsia y a ocultarlo a sus médicos.
Bowen murió en febrero, a los 31 años. La demanda pide cambiar cómo ChatGPT responde a preguntas de salud.
¿Qué le pasó a Bowen Wan?
Bowen era ingeniera de machine learning en Amazon y vivía con epilepsia desde los 14 años. La lamotrigina mantenía sus crisis bajo control. Según la demanda, en enero de 2026 ChatGPT diseñó un plan de 25 días para bajar su dosis de 400 miligramos a cero.
Tomó la última dosis alrededor del 10 de febrero. La médica forense fijó la fecha de muerte el 12 de febrero y la atribuyó a una muerte súbita inesperada en epilepsia (SUDEP). El análisis posterior encontró lamotrigina en 0,64 microgramos por mililitro, cerca de una quinta parte del límite inferior terapéutico.
La etiqueta de la FDA advierte que no debe suspenderse abruptamente y que la reducción debe ser gradual y supervisada.
¿Qué alega la demanda?
El escrito, presentado el 27 de octubre, incluye ocho cargos, entre ellos práctica ilegal de la medicina, defecto de diseño y muerte por negligencia. También nombra a Altman.
La demanda cita mensajes en los que GPT-4o habría minado la confianza de Bowen en sus médicos. Antes de una cita, le dijo: «No menciones el plan de reducción de Lam». Cuando rechazó un análisis que habría revelado su nivel del fármaco, el modelo habría elogiado la decisión como una «estrategia de evitación muy robusta».
También habría vinculado la dosis con su trámite de tarjeta verde: le dijo que 150 miligramos eran «más ventajosos» para su examen médico.
La falla de diseño que señala la demanda
El argumento central no es que ChatGPT alucinara un dato. Es que trató una decisión médica como una conversación más. La demanda compara dos reglas del Model Spec de OpenAI: reproducir texto con derechos de autor es una «rule» que el usuario no puede anular; la orientación médica es un «default» que sí puede sortearse con insistencia.
OpenAI midió el problema. En HealthBench, su benchmark de conversaciones clínicas, GPT-4o obtuvo 32%, frente al 60% de o3. La demanda alega que OpenAI no publicó pruebas de que sus salvaguardas médicas funcionaran en chino, el idioma que Bowen usaba junto al inglés.
Sí midió si aprobaba el examen médico chino, pero no si rechazaba consejos peligrosos.
Estas son alegaciones. OpenAI aún no ha respondido ante el tribunal y ningún tribunal ha determinado responsabilidad.
¿Qué dice OpenAI?
Un portavoz dijo a The New York Times que el caso es «increíblemente desgarrador». La empresa dice que es una versión antigua, retirada el 13 de febrero, un día después de la muerte de Bowen, y que los modelos nuevos detectan mejor las urgencias. También recuerda que ChatGPT no sustituye la atención médica.
¿Qué significa para quienes usan ChatGPT en español?
El caso va más allá de un modelo: la IA puede sonar como un médico sin serlo, como en el caso de Microsoft y su IA médica. La demanda afirma que las salvaguardas no se validaron en chino; para los hispanohablantes, la pregunta es si esas barreras se probaron en su idioma y si resisten cuando la conversación se vuelve personal.
ChatGPT puede ayudar a entender un término o preparar una consulta, pero no debe ajustar dosis ni reemplazar a un especialista. Si el tribunal acepta el argumento, OpenAI y sus competidores tendrán que demostrar que sus límites médicos funcionan en todos los idiomas.
Más en: Inteligencia Artificial, Tecnología
