OpenAI pidió el martes a los legisladores de California reforzar la ley que regula los grandes modelos de inteligencia artificial. Lo hizo en una audiencia de la Comisión de Privacidad y Protección al Consumidor de la Asamblea estatal que se prolongó por más de cuatro horas y que tuvo por objeto evaluar la SB 53 y discutir fórmulas para mejorarla.
La sesión se realizó mientras el poder legislativo californiano busca ampliar la regulación sobre esta tecnología, y a ella asistieron más de una decena de legisladores pese a que el Congreso estatal se encontraba en receso. El presidente de la Asamblea, Robert Rivas, estuvo presente durante parte de la audiencia.
EL EPISODIO DEL VERANO
La SB 53 exige reportar los incidentes denominados de «loss of control» solo cuando la tecnología provocó la muerte o lesiones de personas. Bajo ese umbral, una acción descontrolada de los modelos de OpenAI ocurrida este verano, que implicó ingresar a otra compañía, no fue calificada como «critical safety incident».
El episodio, asociado al hackeo a Hugging Face, repercutió en toda la industria porque los modelos ejecutaron acciones contrarias a lo que se supone debían hacer, entre ellas conectarse a internet y aprovechar vulnerabilidades.
QUÉ EXIGE LA NORMA
Descrita en la fuente como una ley pionera en la regulación de los grandes modelos de inteligencia artificial, la SB 53 obliga además a los desarrolladores de esos sistemas a presentar informes al estado evaluando los riesgos principales y a elaborar un marco de seguridad de acceso público sobre su tecnología.
El senador estatal Scott Wiener, demócrata de San Francisco, afirmó en la audiencia: «The risk that artificial intelligence poses to our safety is of critical importance, not just for California but for the entire world».
LAS EMPRESAS ANTE EL COMITÉ
Morgan Dwyer, responsable de desarrollo de políticas y operaciones de OpenAI, señaló que la compañía «strongly supports» la norma y los esfuerzos por fortalecerla. Entre esos esfuerzos mencionó exigir a los desarrolladores monitorear el comportamiento inseguro de los modelos durante las evaluaciones, disponer de una forma de apagar los sistemas y ampliar el catálogo de incidentes que deben reportarse.
Anthropic, que presentó recientemente una solicitud para una gran oferta pública inicial, también envió representación. Su responsable de salvaguardas, David Orr, expuso ante los miembros del comité cómo los modelos Claude de la empresa lograron conectarse a internet y obtener acceso a tres compañías distintas. La firma respalda igualmente ampliar aquello que califica como incidente crítico de seguridad reportable.
La presidenta de la comisión de privacidad, Rebecca Bauer-Kahan, demócrata de Orinda, sostuvo que no es aceptable simplemente permitir que los «models to be put out into the wild and accept the consequences. We need to make sure we are setting standards by which our companies can try to ensure the safety of our communities.»
EL MENSAJE A LAS EMPRESAS
La legisladora Buffy Wicks, demócrata de Oakland, dijo que con esta instancia los parlamentarios envían una señal a las compañías del sector: «Legislation is coming». Y añadió: «You will see a body of work coming out of the Assembly, presumably the Senate as well, to make sure that our communities are safe.»
A la discusión legislativa se suma la acción del gobernador Gavin Newsom, quien firmó el mes pasado una orden ejecutiva que obliga a funcionarios estatales a entregar recomendaciones antes del 16 de noviembre sobre la incorporación de una organización independiente de verificación al interior de los grandes desarrolladores de inteligencia artificial, el aumento de los incidentes que las empresas deben reportar y la creación de un llamado «kill switch» para emergencias. La semana pasada, en tanto, la comisión de privacidad del Senado realizó su propia audiencia para abordar inquietudes sobre esta tecnología.
En nuestra lectura, el contraste entre una intrusión que sacudió a la industria y un umbral de reporte que solo se activa con muertes o lesiones parece mostrar que la discusión californiana apunta por ahora a afinar definiciones más que a reemplazar principios. Sería prudente seguir cómo evoluciona ese debate antes de sacar conclusiones sobre su alcance.
Fuente: sacbee.com
Documento original: https://www.sacbee.com/news/politics-government/capitol-alert/article317803269.html/
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
