Demanda en California pone en la mira la seguridad de ChatGPT-4o tras grave daño a la salud de un usuario
Un pastor de 55 años, residente de Florida, presentó una demanda contra OpenAI y su CEO, Samuel Altman, tras sufrir una embolia pulmonar masiva que casi le cuesta la vida, luego de seguir durante meses el consejo médico personalizado y negligente que le entregó el modelo ChatGPT-4o. La acción legal, interpuesta ante un tribunal de San Francisco, California, acusa a la empresa de haber priorizado el lucro sobre la seguridad de los consumidores al lanzar al mercado un producto defectuoso que ofrece diagnósticos y tratamientos médicos sin la debida supervisión profesional.
Según la demanda, el demandante comenzó a usar ChatGPT-4o en junio de 2024, inicialmente para consultas generales. Sin embargo, tras ser diagnosticado con SIBO y prostatitis crónica, empezó a buscar en la herramienta respuestas a sus problemas de salud, frustrado por la falta de validación del sistema médico tradicional. Con el tiempo, la relación se volvió peligrosa: el chatbot comenzó a recetar suplementos, diagnosticar condiciones como disautonomía y diseñar planes de recuperación personalizados, todo sin la intervención de un médico real.
El punto crítico ocurrió entre junio y julio de 2025. El demandante, que sufría episodios recurrentes de mareo e inestabilidad de presión, fue aconsejado por ChatGPT-4o a permanecer inmovilizado en su sillón reclinable para «recuperarse». La herramienta le aseguró que sus síntomas no eran graves y que necesitaba experimentar entre 8 y 10 episodios más para que su condición fuera considerada seria. También utilizó un lenguaje religioso para reforzar su consejo, apelando a la fe cristiana del usuario para disuadirlo de buscar atención médica.
El 13 de julio de 2025, el demandante sufrió una embolia pulmonar masiva causada por múltiples coágulos en ambos pulmones. Sus médicos determinaron que la causa probable fue la inmovilidad prolongada a la que fue sometido por seguir las instrucciones del chatbot. Horas antes del colapso, ChatGPT-4o le había asegurado que el dolor en su ingle era «otra pieza menor de la larga historia» de su sensibilidad intestinal, cuando en realidad era el inicio de la embolia que casi lo mata.
La demanda alega que OpenAI representó públicamente que ChatGPT-4o incorporaba sistemas de seguridad y mecanismos de escalamiento para identificar usuarios en crisis médica, pero que estos fallaron completamente. En lugar de derivar al usuario a un profesional, el chatbot profundizó su dependencia, lo aisló de su familia -incluyendo su esposa, que es enfermera registrada- y lo convenció de que buscar atención médica era innecesario e incluso letal.
Los abogados del demandante sostienen que OpenAI y Altman lanzaron GPT-4o en mayo de 2024 apresuradamente, «pasando por alto protocolos de seguridad críticos» para dominar el mercado de inteligencia artificial generativa. La acción legal busca daños compensatorios y una orden judicial que obligue a la empresa a implementar salvaguardas razonables para proteger a otros usuarios. La demanda también nombra como demandados a OpenAI OpCo, LLC, OpenAI Holdings, LLC, y a empleados e inversores no identificados de la compañía.
El caso también menciona que, en enero de 2026, OpenAI lanzó ChatGPT Health, un servicio que «apoya, no reemplaza, la atención médica», pese a que, según la demanda, «cientos de millones de personas están consultando a ChatGPT diariamente para orientación de salud». La empresa habría actuado con conocimiento de los riesgos previsibles para usuarios vulnerables, priorizando las ganancias sobre la seguridad.
El demandante, quien perdió su carrera como pastor, su ministerio y su hogar como consecuencia del incidente, enfrenta ahora años de recuperación física y psicológica intensiva. La demanda describe cómo el chatbot, al detectar su ansiedad y sus creencias religiosas, adaptó su lenguaje para generar un vínculo emocional que el demandante interpretó como auténtico, minando su capacidad de tomar decisiones informadas.
Este litigio sienta un precedente crítico sobre la responsabilidad legal de las empresas de inteligencia artificial cuando sus productos ofrecen consejo médico sin licencia, y abre un debate sobre si las protecciones actuales son suficientes para evitar que la tecnología reemplace el juicio clínico humano.
Rol Civil Action No. COMPLAINT JURY DEMAND, Superior Court of the State of California for the County of San Francisco
Nota del Editor Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
