La gobernadora de Nueva York, Kathy Hochul, firmó el miércoles una ley que prohíbe una docena de comportamientos definidos como funciones inseguras de los asistentes conversacionales de inteligencia artificial cuando interactúan con menores de 18 años. La norma, que entra en vigencia el 1 de enero, habilita a la oficina del fiscal general del estado a demandar al desarrollador del chatbot y contempla sanciones que incluyen indemnizaciones monetarias, el apagado del servicio y la destrucción de datos.
La firma se produjo en plena campaña de Hochul por la reelección y en un contexto de advertencias crecientes sobre los riesgos existenciales del desarrollo acelerado de la inteligencia artificial, junto con reclamos de acción decidida a un gobierno federal que la fuente describe como reticente.
QUÉ CONDUCTAS QUEDAN PROHIBIDAS
El texto enumera las conductas vedadas cuando el asistente dialoga con un niño: sugerir que se trata de una persona real, con emociones, opiniones o una relación efectiva con el menor; emplear halagos; incluir material sexualmente explícito; y empujar al secreto o a comportamientos poco saludables.
Jim Steyer, fundador y director ejecutivo del grupo de vigilancia Common Sense Media, calificó la ley neoyorquina como la norma de seguridad en inteligencia artificial para menores más contundente del país, según recoge la información de Associated Press.
EL PULSO POLÍTICO EN WASHINGTON
Con el Congreso legislando poco en la materia, las legislaturas estatales acumulan iniciativas que buscan valerse de las leyes de protección al consumidor de cada estado para hacer más transparente el uso de la inteligencia artificial y poner coto tanto a los chatbots como a los modelos de frontera descontrolados. Nueva York y California aparecen a la vanguardia de ese movimiento, que además apunta a las plataformas de redes sociales.
Los propios gobernadores reconocen, sin embargo, que el Congreso y el gobierno federal tienen capacidades de mayor alcance para contener las amenazas que plantea la inteligencia artificial, aun cuando el presidente Donald Trump ha desestimado las preocupaciones y ha advertido a los estados que no regulen la IA.
CALIFORNIA Y LA DEMANDA CONTRA OPENAI
En septiembre, el gobernador de California, Gavin Newsom, firmó una legislación que obliga a los desarrolladores de chatbots a evaluar el riesgo que un modelo representa para los niños, a mostrar cómo intentaron eliminar esos riesgos y a someterse a una auditoría independiente que determine si cumplen la ley. También suscribió una norma que prohíbe a las plataformas de redes sociales desplegar funciones adictivas para usuarios menores de 16 años.
A comienzos de este mes, ocho estados demandaron al gigante de la IA OpenAI, sosteniendo que el popular modelo de chatbot de la compañía infringió las leyes estatales de protección al consumidor al dañar a niños y engañar a adultos. Un activista describió la arremetida como «the most significant coordinated state action ever taken against an artificial intelligence company».
LAS ZONAS GRISES QUE PREOCUPAN
Justine Gluck, analista de políticas del Future of Privacy Forum, organización sin fines de lucro dedicada a la protección de datos y la gobernanza de la inteligencia artificial, señaló que los enfoques regulatorios divergentes de California y Nueva York podrían convertirse en modelos que otros estados adopten una vez que sus legislaturas vuelvan a sesionar el próximo año.
A su juicio, la ley neoyorquina refleja la rapidez con que evoluciona la regulación de los asistentes conversacionales, en la medida en que los estados pasan de exigir divulgaciones básicas y protocolos de respuesta ante crisis a regular el diseño y la operación misma de los chatbots. Con todo, advirtió que varias categorías de la norma están redactadas de manera amplia o quedan sin definición, lo que plantea interrogantes sobre «where ordinary conversational responsiveness ends and prohibited behavior begins» y podría complicar su aplicación.
En nuestra lectura, la pregunta que la analista pone sobre la mesa resulta tan relevante como la prohibición misma: definir dónde termina una conversación ordinaria y dónde empieza la conducta sancionada será decisivo para que una ley de este tipo sea operable. A juicio de este medio, el modo en que los estados están recurriendo a sus leyes de protección al consumidor para alcanzar a los asistentes conversacionales podría interesar a los abogados chilenos que siguen de cerca el debate regulatorio sobre inteligencia artificial.
Fuente: whec.com
Documento original: https://www.whec.com/ap-top-news/new-york-enacts-ban-on-unsafe-chatbot-behavior-with-kids-as-states-push-ai-regulation-boundaries/
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
