EL CERCO SE CIERRA SOBRE LOS CHATBOTS DE COMPAÑÍA
Nueva York dio un paso más en la disputa por cómo regular la inteligencia artificial. La gobernadora Kathy Hochul firmó el miércoles una ley que enumera una docena de definiciones de funciones de compañía de IA consideradas inseguras y que prohíbe esas conductas cuando un chatbot de compañía interactúa con un menor de 18 años. La norma entra en vigencia el 1 de enero y convierte al estado en uno de los dos polos de una avanzada regulatoria que también encabeza California, y que apunta tanto a los asistentes conversacionales como a las plataformas de redes sociales.
El incumplimiento podría exponer al desarrollador del chatbot a una demanda del fiscal general estatal. Las sanciones contempladas incluyen indemnizaciones pecuniarias, el apagado del chatbot y la destrucción de sus datos.
QUÉ QUEDA PROHIBIDO
El texto legal detalla las conductas vedadas en la interacción con menores. Entre ellas figura que el sistema sugiera que se trata de una persona real, con emociones, opiniones o una relación efectiva con el niño. También quedan fuera de la ley los mensajes que recurran a la adulación, que incluyan material sexualmente explícito o que fomenten el secreto o comportamientos nocivos.
La firma se produjo en plena campaña de Hochul por su reelección y en medio de advertencias crecientes sobre los riesgos que el desarrollo acelerado de la IA plantea, junto con reclamos para que Washington actúe con decisión.
EL PULSO FEDERAL
Con el Congreso legislando poco en la materia, las legislaturas estatales acumulan iniciativas para usar las leyes de protección al consumidor como herramienta: buscan hacer más transparente el uso de IA y contener a los chatbots y a los modelos de frontera que operan fuera de control. Nueva York y California marchan a la vanguardia de ese tipo de leyes, que además apuntan a las plataformas de redes sociales.
Los propios gobernadores reconocen que el Congreso y el gobierno federal tienen capacidades de mayor alcance para frenar las amenazas que plantea la IA, aun cuando el presidente Donald Trump ha minimizado las preocupaciones y ha advertido a los estados que no regulen la inteligencia artificial.
CALIFORNIA Y LA OFENSIVA CONJUNTA
En septiembre, el gobernador de California, Gavin Newsom, firmó una ley que obliga a los desarrolladores de chatbots a evaluar el riesgo que un modelo representa para los niños, a mostrar cómo intentaron eliminar esos riesgos y a someterse a una auditoría independiente que determine si cumplen la norma. También suscribió una iniciativa para prohibir que las plataformas de redes sociales desplieguen funciones adictivas entre usuarios menores de 16 años.
A ello se suma una acción judicial: ocho estados demandaron a la empresa de IA OpenAI este mes, sosteniendo que su popular modelo de chatbot infringió las leyes estatales de protección al consumidor al perjudicar a niños y engañar a adultos. Un activista la describió como la acción estatal coordinada más significativa jamás emprendida contra una compañía de inteligencia artificial.
LAS DUDAS SOBRE LA REDACCIÓN
Jim Steyer, fundador y director ejecutivo de Common Sense Media, calificó la ley neoyorquina como la norma de seguridad de IA para niños más sólida del país, según consigna la información difundida por Spectrum News.
Justine Gluck, analista de políticas del Future of Privacy Forum, organización sin fines de lucro centrada en protección de datos y gobernanza de la IA, sostuvo que los enfoques regulatorios distintos de California y Nueva York podrían servir de modelo a otros estados una vez que las legislaturas vuelvan a sesionar el próximo año. A su juicio, la ley neoyorquina subraya la velocidad con que evoluciona la regulación de los chatbots, en la medida en que los estados dejan atrás las meras obligaciones de divulgación y los protocolos de respuesta ante crisis para pasar a regular el diseño y la operación misma de los sistemas.
Gluck advirtió, sin embargo, que varias categorías de la ley neoyorquina están redactadas en términos amplios o quedan sin definir. Eso, dijo, plantea interrogantes sobre dónde termina la capacidad de respuesta conversacional ordinaria y dónde empieza la conducta prohibida, y podría complicar la manera en que la norma se fiscaliza.
En nuestra lectura, el caso neoyorquino confirma que la conversación regulatoria sobre la IA se está desplazando desde las obligaciones de informar hacia el diseño mismo de los sistemas, un terreno que parece bastante más difícil de fiscalizar que las declaraciones de transparencia. Sería prudente observar cómo las autoridades estatales traducen esas categorías todavía abiertas en casos concretos, porque allí se jugará buena parte de la eficacia de este modelo.
Fuente: spectrumlocalnews.com
Documento original: https://spectrumlocalnews.com/nys/central-ny/news/2026/10/30/new-york-enacts-ban-on–unsafe–chatbot-behavior-with-kids-as-states-push-ai-regulation-boundaries
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
