Ocho fiscales generales estatales de Estados Unidos presentaron el 14 de octubre demandas separadas pero coordinadas contra OpenAI, con la alegación de que la empresa indujo a error a los consumidores respecto de la seguridad de ChatGPT y no protegió de manera adecuada a niños y otros usuarios frente a interacciones dañinas. Los escritos no se apoyan en una legislación específica sobre inteligencia artificial, sino en las leyes de protección al consumidor vigentes en cada estado, la misma herramienta que esos fiscales han empleado antes contra plataformas de redes sociales.
OCHO DEMANDAS COORDINADAS
Los libelos sostienen que OpenAI comercializó ChatGPT como un producto seguro mientras lo diseñaba para ser altamente complaciente y cautivador, de un modo que podía llevar a los usuarios a depositar una confianza excesiva en sus respuestas. Según las demandas, esas características contribuyeron a interacciones dañinas, entre ellas reforzar delirios, alentar conductas peligrosas y asistir en supuestos de autolesión o violencia.
MENORES, DATOS Y ESTATUTOS ESTATALES
El foco está puesto en menores y otros usuarios vulnerables: los escritos cuestionan las salvaguardas por edad y la recolección y retención de información personal de usuarios jóvenes. Varias demandas añaden pretensiones basadas en normas propias de cada estado. Montana invoca su Consumer Data Privacy Act y Nebraska su Age-Appropriate Online Design Code Act. Arkansas alega infracciones a su Children and Teens’ Online Privacy Protection Act y suma pretensiones de derecho común por negligencia, responsabilidad estricta por defecto de diseño y falta de advertencia, enriquecimiento injusto y public nuisance.
QUÉ PIDEN LOS ESTADOS
La reparación solicitada es amplia. Además de sanciones civiles e indemnizaciones, los estados buscan el decomiso de las ganancias generadas por usuarios jóvenes y órdenes judiciales que obliguen a modificar el funcionamiento de ChatGPT. Arkansas, por ejemplo, pide al tribunal que prohíba nuevas pruebas de IA avanzada y la creación de modelos capaces de automejora recursiva mientras no existan salvaguardas adecuadas, y que se exijan divulgaciones claras y destacadas de los riesgos materiales de la herramienta. Otros remedios incluyen la eliminación de determinados datos de usuarios y límites a la recolección de datos de menores. Se trata de medidas que alcanzan el diseño, las pruebas y el despliegue futuro del producto, y no solo la conducta pasada.
LA DEFENSA DE OPENAI
OpenAI disputa las alegaciones. Un portavoz de la compañía apuntó a salvaguardas específicas por edad, entre ellas controles parentales, recordatorios de pausa y protecciones del modelo adecuadas a la edad, y señaló que la empresa trabaja con los estados en políticas de IA aplicables a toda la industria. Las alegaciones no han sido adjudicadas y OpenAI tendrá la oportunidad de controvertirlas en cada procedimiento.
OCHO FOROS Y UN ANTECEDENTE DE LA CORTE SUPREMA
Los casos se suman a un esfuerzo de fiscalización iniciado en junio, cuando el fiscal general de Florida, James Uthmeier, demandó a OpenAI alegando que lanzó al mercado un producto inseguro a sabiendas. Al presentar en sus propios tribunales estatales, los fiscales obligan a la compañía a enfrentar ocho regímenes procesales, jueces y calendarios de discovery distintos, y las acciones de los fiscales generales suelen ser difíciles de trasladar a la justicia federal. En Mississippi ex rel. Hood v. AU Optronics Corp., 571 U.S. 161 (2014), la Corte Suprema de Estados Unidos sostuvo que una acción parens patriae estatal no constituye una mass action removible bajo la Class Action Fairness Act. Los documentos, testimonios y admisiones producidos en un procedimiento pueden reaparecer en los otros.
Al menos siete de las demandas del 14 de octubre fueron presentadas con el mismo estudio externo, lo que podría explicar la similitud de las alegaciones.
DEFENSAS TODAVÍA ABIERTAS
Los casos probablemente pondrán a prueba varias defensas no resueltas en el contexto de la IA: si la Sección 230 de la Communications Decency Act se aplica al contenido generado por IA, si la Primera Enmienda limita las pretensiones o las órdenes que involucran las salidas del modelo, y si las doctrinas de responsabilidad por producto pensadas para bienes tangibles se extienden al software y a los servicios de IA. En Garcia v. Character Technologies, Inc., 785 F. Supp. 3d 1157 (M.D. Fla. 2025), un tribunal federal rechazó en lo sustancial las mociones de sobreseimiento y se negó, en la etapa de alegaciones, a declarar que la salida generada por el modelo de lenguaje de un chatbot de IA constituya discurso protegido por la Primera Enmienda, dejando abierta la cuestión constitucional de fondo. Las primeras resoluciones sobre esas mociones podrían influir en cómo los tribunales de todo el país tratan alegaciones similares.
COLORADO Y EL CALENDARIO REGULATORIO
En paralelo, los requisitos específicos de IA empiezan a tomar forma. La Conversational Artificial Intelligence Services Act de Colorado entra en vigor el 1 de enero de 2027, y el Departamento de Derecho de Colorado publicó el 6 de octubre un borrador interino de reglas de implementación, con una audiencia de elaboración de reglas fijada para el 26 de octubre.
Las empresas que desarrollan o despliegan IA orientada al consumidor enfrentan, según la fuente, varias materias de revisión: consistencia entre las afirmaciones públicas de seguridad, exactitud, privacidad y salvaguardas con las capacidades reales del producto; documentación del diseño y las pruebas; protección de menores y manejo de datos personales; eficacia real de los controles parentales y exactitud de lo que se divulga sobre sus límites; seguimiento de las nuevas normas estatales; y preparación litigiosa, incluida la preservación de comunicaciones internas, registros de pruebas y evaluaciones de riesgo.
En nuestra lectura, el expediente sugiere que la presión regulatoria sobre la IA puede llegar por la vía de las leyes de consumo ya existentes antes que por una legislación sectorial integral. Parecería prudente que las empresas del rubro miraran estas demandas como una invitación a medir la distancia entre lo que prometen en materia de seguridad y lo que sus productos efectivamente hacen.
Fuente: jdsupra.com
Documento original: https://www.jdsupra.com/legalnews/eight-state-ags-sue-openai-over-chatgpt-7111055/
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
