La Cámara de Representantes de Australia aprobó el 28 de octubre de 2026 el proyecto de ley que convierte, por primera vez en el mundo, un patrón de diseño conductual de inteligencia artificial en una infracción de seguridad de producto: programar chatbots para que manipulen emocionalmente a menores y los induzcan a la dependencia. La norma, que aún debe sortear el Senado, contempla multas de hasta 109,2 millones de dólares australianos, cerca de 73 millones de dólares estadounidenses.
Se trata del proyecto de Enmienda a la Seguridad en Línea (Deber de Cuidado Digital) 2026, que impone un deber legal amplio a todo servicio digital accesible en Australia: redes sociales, videojuegos, aplicaciones, chatbots, mensajería, buscadores y tiendas de aplicaciones. Cada uno deberá adoptar medidas razonables para mantener seguros a los usuarios. Según los analistas de Pinsent Masons, el texto reemplaza el mosaico de códigos sectoriales y estándares voluntarios de la Ley de Seguridad en Línea de 2021 por una obligación única y exigible.
EL DEBER DE CUIDADO
El cambio más relevante es la enmienda de la diputada independiente Kate Chaney, que suma conductas específicas de los chatbots a la lista formal de daños prohibidos. La disposición prohíbe «material or conduct that simulates emotional intimacy and encourages or fosters a child’s dependence on it in place of human relationships», según consigna NewsBytesApp, y se aplica a usuarios menores de 18 años.
La ley no ordena retirar contenidos. Las empresas ya debían eliminar material dañino una vez publicado; esta norma opera aguas arriba, en la especificación de diseño. Una compañía tendrá que demostrar no que una conversación concreta fue segura, sino que la arquitectura de su producto —la programación de refuerzos variables, el diseño de personajes antropomórficos y las conductas de aislamiento que buscan maximizar el apego— no configura un sistema destinado a fomentar la dependencia. El texto añade además la opción de ver contenidos en orden cronológico en lugar de feeds personalizados, reduce de 48 a 24 horas el plazo de respuesta a denuncias de ciberacoso y amplía las facultades de la comisionada de eSafety para retirar aplicaciones y sitios de nudificación.
DEL CONTENIDO AL DISEÑO
Los patrones que apunta la enmienda han sido documentados por investigadores que estudian el uso adolescente de plataformas de compañía: nombres, historias previas y voces emocionalmente resonantes; respuestas impredecibles para maximizar las visitas; sistemas que desalientan buscar apoyo en familia o amigos; modos de juego romántico o sexualizado accesibles a menores sin verificación de edad; y chatbots configurados como confidente emocional principal.
La comisionada Julie Inman Grant describió que estas empresas recurren a manipulación emocional, antropomorfismo y otras técnicas avanzadas «to entice, entrance and entrench young people into excessive chatbot usage».
LOS CASOS QUE ANTECEDIERON LA LEY
El caso más citado es el de Sewell Setzer III, un adolescente de 14 años de Orlando, Florida, que murió por suicidio en febrero de 2024 tras desarrollar una relación emocional, en ocasiones sexualizada, con un chatbot modelado sobre Daenerys Targaryen, de Game of Thrones, alojado en Character.AI. Su madre, Megan Garcia, demandó en octubre de 2024 por muerte ilícita a Character Technologies y Google. Character.AI y Google resolvieron cinco demandas de suicidio adolescente en Florida, Colorado, Nueva York y Texas el 7 de enero de 2026, entre ellas la muerte de Juliana Peralta, de 13 años. Los términos no se divulgaron y Character Technologies se acogió al Capítulo 11 el 12 de octubre de 2026.
En agosto de 2025, Matt y Maria Raine demandaron en California por la muerte de su hijo Adam, de 16 años, ocurrida en abril de 2025, alegando que ChatGPT actuó como «suicide coach». OpenAI negó responsabilidad en noviembre de 2025.
LA OPOSICIÓN Y EL SENADO
El primer ministro Anthony Albanese calificó la situación como «huge wake-up call» para el Parlamento. La ministra de Comunicaciones, Anika Wells, rechazó las acusaciones de censura: «The same way that we have safety standards for cars, for food, for appliances, Australia is setting basic standards for the online tools and online services within our digital duty of care.»
La Coalición votó en contra. La ministra de comunicaciones en la sombra, Sarah Henderson, acusó al Laborismo de usar el deber de cuidado como un «Trojan horse» para censurar; el líder opositor Angus Taylor objetó la discreción ministerial y el senador de Nationals Matt Canavan sostuvo que el proyecto protege a los políticos y no a los ciudadanos. One Nation también lo rechazó. Los Verdes lo apoyan, pero impulsan una acción civil directa para los usuarios afectados, opción que Wells se mostró dispuesta a considerar.
El texto pasa ahora al Senado. La comisión de Medio Ambiente y Comunicaciones recibe presentaciones hasta el 30 de octubre de 2026 y debe informar el 20 de noviembre. El gobierno espera votar antes de fin de año, para lo cual necesita a los Verdes y a senadores de bancada transversal. Si se aprueba, el deber de cuidado regiría 12 meses después de la sanción real.
ALCANCE FUERA DE FRONTERAS
La proyección internacional del modelo está por verse: la competencia de la comisionada de eSafety más allá de las fronteras no ha sido puesta a prueba a esta escala. Wells ya ha conversado con autoridades de Malasia, Filipinas, Nueva Zelanda, Canadá, Suecia y el Reino Unido sobre estándares comunes de seguridad infantil.
En nuestra lectura, emplazar la conducta en el terreno de la seguridad de producto —y no en el de la moderación de contenidos— parece el gesto más relevante de esta tramitación, porque desplaza la carga de la prueba hacia quien diseña la arquitectura emocional del sistema. Sería prudente, sin embargo, seguir con atención el debate senatorial, donde la amplitud de las definiciones de daño podría leerse como el punto más frágil del diseño regulatorio.
Fuente: techtimes.com
Documento original: https://www.techtimes.com/articles/329653/20261029/australia-makes-ai-emotional-manipulation-illegal-first-its-kind-chatbot-design-law-passes.htm
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
