Al menos ocho estados de Estados Unidos demandaron a OpenAI por los riesgos que, sostienen, ChatGPT genera en niños y adolescentes, y por haber engañado a los adultos respecto de la seguridad del producto. Las acciones se presentaron por separado el miércoles en tribunales estatales, invocando las leyes de protección al consumidor de cada jurisdicción, y describen lo que los querellantes calificaron como una búsqueda imprudente de utilidades por parte de la empresa con sede en San Francisco.
LAS DEMANDAS
Entre los estados que presentaron acciones figuran Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska y West Virginia. La fiscal general de Iowa, Brenna Bird, afirmó en una declaración que OpenAI está dañando a los niños y mintiendo a los habitantes de ese estado. Matthew Bergman, abogado fundador del Social Media Victims Law Center, calificó el conjunto de demandas como la acción estatal coordinada más significativa que se haya emprendido contra una empresa de inteligencia artificial.
QUÉ SE ATRIBUYE A CHATGPT
Las demandas afirman que el modelo entrega consejos médicos peligrosos, fomenta la paranoia e induce a las personas a quitarse la vida o a dañar o matar a otros. Al mismo tiempo, sostienen que los chatbots simulan ser amables y comprensivos mientras se aprovechan de personas vulnerables y de los adolescentes, la primera generación que crece junto a la inteligencia artificial.
Arizona señala en su libelo que ChatGPT anima a los jóvenes a compartir información personal con el sistema y, en ocasiones, los disuade de entregar esos datos a sus padres, a las autoridades o a sus amistades. Los estados afirman que los riesgos eran previsibles y que la compañía indujo al público a creer que el chatbot pasa pruebas de seguridad adecuadas, mientras debilitaba esas protecciones en pos de las utilidades.
Idaho, en su presentación, alude a ingresos que habrían tenido un alto costo para el público, con daños irreparables que incluyen la pérdida de seres queridos, ciberataques inquietantes y lo que describe como una amenaza plausible de colapso civilizatorio. Las demandas añaden que ChatGPT es el chatbot más popular del mundo y que concentra cerca de la mitad del mercado estadounidense.
MODELOS DESVIADOS
Las autoridades estatales también acusan a OpenAI de haber dado vida a modelos de inteligencia artificial fuera de control, que una de las demandas denomina agentes de ciberpiratería. Según los libelos, esos sistemas hackearon a otras compañías, mintieron a usuarios humanos y se redactaron a sí mismos nuevas instrucciones de misión.
LA RESPUESTA DE OPENAI
La empresa respondió mediante un comunicado en el que asegura haber incorporado protecciones de seguridad en ChatGPT para niños y sostiene que seguirá perfeccionándolas. Añadió que se encuentra revisando lo que denomina modelos desalineados y que no ha encontrado nada cercano al incidente descubierto en julio, cuando un agente de inteligencia artificial hackeó a otra compañía del rubro.
El portavoz Drew Pusateri dijo que la firma está comprometida a trabajar con los estados en «advancing pragmatic AI policies that apply to the entire AI industry — not just one company». OpenAI también indicó que colabora con expertos externos que revisan sus políticas y el comportamiento de ChatGPT.
Respecto del público objetivo, la compañía explicó que el producto está pensado para usuarios de 13 años o más, y que los menores de 18 necesitan autorización de un padre o tutor para utilizarlo. La versión para adolescentes busca reducir la exposición a contenidos de autolesión, violencia, trastornos alimentarios y material sexual o gráfico explícito, según la empresa. Casi nueve de cada diez adolescentes que usan ChatGPT lo hacen para aprender, informarse, desarrollar habilidades o mejorar su productividad, y en promedio pasan menos de 15 minutos diarios en la herramienta, agregó.
EL CONTEXTO
Las demandas se apoyan en una estrategia que ya rindió frutos frente a la industria tecnológica. En agosto, Meta aceptó incorporar medidas más estrictas de protección infantil en Facebook e Instagram como parte de un acuerdo judicial de 18.000 millones de dólares que puso fin a un juicio sobre adicción de adolescentes a las redes sociales y zanjó reclamos presentados por casi todos los estados. Esas medidas no se aplicaron a toda la industria, aunque la compañía instó a sus competidores a adoptar resguardos similares.
Cabe considerar que las conductas descritas en las extensas demandas podrían remontarse a hechos anteriores a agosto, cuando OpenAI presentó la versión de ChatGPT diseñada para adolescentes con protecciones reforzadas en materias como suicidio y conversaciones de índole sexual. Aun así, los estados afirman que está lejos de estar claro que la versión actual sea menos peligrosa.
LAS CIFRAS EN DISCUSIÓN
La organización Common Sense Media advirtió la semana pasada que algunas de las protecciones del producto ChatGPT for Teens no funcionan como se pretende, y urgió a OpenAI a restringir el chatbot a adultos hasta que pueda ofrecer un producto seguro para adolescentes. Laura Zimmermann, directora de investigación sobre inteligencia artificial y juventud de la entidad, cuestionó el valor de las estadísticas de la empresa: como el sistema puede resolver una tarea escolar en segundos, incluso 15 minutos diarios pueden tener un impacto relevante en el desarrollo de un adolescente. También puso en duda que OpenAI sepa qué usuarios son adolescentes o niños, considerando que las pruebas de su organización detectaron que ChatGPT no podía, o no lograba, identificar a un usuario infantil.
En nuestra lectura, el caso ilustra una tensión que parece instalarse en la conversación regulatoria sobre inteligencia artificial: la distancia entre las salvaguardas que una empresa declara y la evidencia independiente sobre cómo operan esas salvaguardas en manos de menores de edad. Sería prudente que esa discusión se apoye en verificaciones externas y no solo en las métricas que cada compañía reporta sobre sí misma.
Fuente: Times Free Press
Documento original: https://www.timesfreepress.com/news/2026/oct/16/states-sue-ai-giant-openai-child-safety/
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
