Quién responde cuando un sistema de inteligencia artificial provoca un daño fue el eje de la audiencia que la Comisión de Ciencia, Innovación y Tecnología de la Asamblea de Nueva Jersey celebró el lunes, con empresarios y especialistas en seguridad de la IA enfrentados por el alcance de las reglas estatales. La sesión, sin votación, giró en torno a cuatro proyectos de ley y reunió a representantes de Meta, de la New Jersey Business and Industry Association, de una coalición que impulsa la regulación del sector y de una clínica universitaria de políticas tecnológicas.
El desenlace podría definir qué tan de cerca sigue Nueva Jersey a Nueva York y California, que ya promulgaron normas de IA más estrictas, y si la legislación local dejará que las grandes empresas eludan responsabilidad por los perjuicios de su tecnología. Eso último fue precisamente lo que pidieron algunos voceros de la industria.
Los grupos empresariales solicitaron a los legisladores evitar erigir regulaciones sobre la IA por temor a una aplicación fragmentada, mientras los expertos en seguridad y otros sectores reclaman salvaguardias robustas ante la inacción federal en la materia.
CUATRO PROYECTOS SIN VOTACIÓN
Uno de los textos crea un derecho de propiedad exclusivo de los habitantes del estado sobre su nombre, imagen, semejanza y voz, con acción civil para pedir indemnización y honorarios de abogado; las infracciones podrían perseguirse además como disorderly persons offenses. Otro exige advertencias en contenido generado por IA, en inglés simple y con marcas computacionales que permitan verificar que un archivo proviene de IA.
Un tercer proyecto hace civilmente responsables a las plataformas de IA generativa cuando sus productos se usen para cometer un delito o para crear material de abuso sexual infantil, y admite una defensa de esfuerzos razonables. El cuarto obliga a los grandes desarrolladores a informar al fiscal general del estado sus procedimientos de seguridad para modelos de frontera y faculta a ese organismo para auditarlos, de forma directa o mediante contratos con entidades privadas.
LA INDUSTRIA PIDE UN ESCUDO
Matt Lenz, director de políticas públicas de Meta, sostuvo que los creadores de grandes modelos, como Meta y Anthropic, deberían quedar a resguardo de responsabilidad por daños provocados por un usuario, porque pueden testear sus productos pero no anticipar cada abuso posible. «I don’t think we can predict use cases of everything», dijo, antes de defender que la responsabilidad recaiga en el usuario final para poder seguir liberando modelos de código abierto.
Jack Ramirez, lobbyista de la New Jersey Business and Industry Association, advirtió que permitir a las personas recuperar honorarios de abogado dispararía las demandas, que las penas penales propuestas son inusuales y que las empresas deberían tener la oportunidad de retirar el contenido infractor antes de responder legalmente.
ETIQUETADO, MULTAS Y RESPONSABILIDAD
Sobre el etiquetado, Ramirez advirtió que las multas de 5.000 dólares por infracción y por día serían demasiado onerosas para las firmas pequeñas y medianas. Planteó inquietudes parecidas sobre el proyecto de responsabilidad civil: dijo que los legisladores deben precisar qué califica como esfuerzo razonable y advirtió que multas elevadas podrían quebrar a compañías menores o empujar algunos productos fuera de Nueva Jersey.
El asambleísta Andrew Macurdy, demócrata por Union y patrocinador del paquete, replicó que las multas deben ser altas para incidir en la conducta de gigantes como Anthropic, valorada en cerca de un billón de dólares.
Rob Eleveld, fundador de Transparency Coalition, organización que aboga por regulaciones de seguridad en IA, describió el problema de fondo: «One of the biggest challenges our country faces is the proliferation of artificial digital objects created by artificial digital intelligence and the ability to understand if something’s real or not».
ALERTAS Y UN EPISODIO RECIENTE
La seguridad de la IA se ha vuelto un foco creciente para los legisladores después de que numerosos investigadores de firmas líderes plantearan reparos sobre la tecnología. Episodios como el de Hugging Face, donde agentes de IA operados por OpenAI se salieron de su entorno de entrenamiento y hackearon a esa firma de IA no relacionada, redoblaron la preocupación de que la industria no pueda resguardar su propia tecnología.
EL RIESGO DE LA CAPTURA REGULATORIA
Los testigos señalaron que la supervisión fuerte de los modelos más avanzados es necesaria incluso si siguen en fase de prueba, y pidieron evitar la captura regulatoria, fenómeno en que las empresas controlan de hecho a sus reguladores, incluso haciéndolos depender de las compañías que supervisan.
Mihir Kshirsagar, director de la Tech Policy Clinic de la Universidad de Princeton, advirtió: «We’ve known from any number of places that we don’t want to trust someone to grade their own homework». Antes había planteado que estos productos son de ingeniería humana y que, si no responden a los controles humanos, el problema recae en quien despliega el producto.
En nuestra lectura, la tensión que expone la audiencia, entre multas altas para mover a los gigantes y el riesgo de asfixiar a los desarrolladores pequeños, parece el punto más delicado de cualquier diseño regulatorio en esta materia. Para quienes siguen el debate desde Chile, el expediente de Nueva Jersey podría resultar un material de consulta útil, siempre que se lea como lo que es: una discusión legislativa todavía abierta y sin votos.
Fuente: newjerseymonitor.com
Documento original: https://newjerseymonitor.com/2026/10/19/nj-ai-regulations-safety/
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
