Un escrito judicial presentado ante un tribunal en Brasil contenía algo más que argumentos: incluía instrucciones dirigidas al sistema de inteligencia artificial que revisa los documentos del caso. Según la información difundida por Tom’s Hardware, los abogados responsables buscaban manipular de ese modo la herramienta del tribunal y terminaron con una multa de USD 16.000.
EL MECANISMO
De acuerdo con el relato del medio, los letrados escondieron dentro del escrito un texto con una orden concreta dirigida al sistema: que el examen jurídico del asunto se hiciera de manera superficial. La maniobra se enmarca en lo que se denomina prompt injection, esto es, la incorporación de instrucciones ocultas en un contenido que, a la vista, parece un documento judicial ordinario.
El objetivo, siempre según la fuente, era que la herramienta informática del tribunal procesara el expediente con un estándar de revisión menor al que correspondería.
LA DETECCIÓN
El sistema de inteligencia artificial del tribunal advirtió la presencia del texto escondido y lo dejó en evidencia. Ese hallazgo derivó en la sanción pecuniaria para los abogados involucrados, cifrada en USD 16.000.
El episodio pone sobre la mesa el uso de herramientas automatizadas al interior de los tribunales y la posibilidad de que los escritos que se les presentan contengan elementos diseñados para alterar su funcionamiento.
LOS LÍMITES DE LA INFORMACIÓN DISPONIBLE
La fuente consultada no precisa el tribunal ante el cual se presentó el escrito, la fecha del episodio, la identidad de los abogados sancionados ni el detalle del procedimiento que concluyó con la multa. Tampoco indica si la resolución se encuentra firme o si admite algún tipo de revisión posterior por parte de los afectados.
A JUICIO DE ESTE MEDIO
Desde nuestra mirada editorial, el caso podría interesar a abogados y abogadas chilenos en la medida en que ilustra un riesgo concreto del trabajo con sistemas de inteligencia artificial en sede judicial, aunque cualquier lectura sobre su alcance general debería hacerse con cautela, dado lo acotado de la información disponible. Parece prudente, en todo caso, seguir prestando atención a cómo los tribunales enfrentan este tipo de conductas.
Fuente: tomshardware.com
Documento original: https://www.tomshardware.com/tech-industry/artificial-intelligence/brazilian-lawyers-busted-for-attempting-to-manipulate-courts-ai-with-prompt-injection-hidden-in-filing-courts-ai-flags-hidden-text-that-demanded-superficial-legal-scrutiny-lawyers-fined-usd16-000
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
