La Defensoría Penal Pública resolvió poner por escrito los límites del uso de la inteligencia artificial en su trabajo cotidiano. La institución aprobó una política que veda entregar a sistemas automatizados las decisiones jurídicas centrales de una defensa y que será presentada el martes 27 de octubre, en una actividad a la que asistirán altas autoridades y los defensores regionales.
El documento se denomina Política de Uso Responsable de Inteligencia Artificial en la Defensa Penal. Su regla central apunta a que la estrategia jurídica permanezca en manos de quien ejerce la defensa y no en un programa informático, según lo que la propia institución comunicó al dar a conocer la medida.
QUÉ QUEDA PROHIBIDO
La normativa impide delegar en sistemas automatizados la teoría del caso, la adopción de acuerdos y la decisión de presentar recursos judiciales. La restricción alcanza a la totalidad de los abogados de la Defensoría, tanto institucionales como licitados.
A esas prohibiciones se suman dos encargos que tampoco pueden quedar en manos de una máquina: la evaluación de credibilidad y el consejo jurídico definitivo. Con eso, ningún defensor ni defensora podrá traspasar su estrategia judicial a una herramienta de inteligencia artificial.
EL LÍMITE QUE LA DEFENSORA CONSIDERA IRRENUNCIABLE
La Defensora Nacional, Verónica Encina, explicó el proceso al diario El Mercurio, en una nota publicada este fin de semana. Allí sostuvo que «hemos establecido un límite que es irrenunciable: ninguna tecnología puede reemplazar el criterio profesional, la independencia técnica ni la responsabilidad de quien ejerce la defensa».
En la misma línea, agregó que «la estrategia jurídica siempre será definida por el defensor o defensora, considerando los derechos y la voluntad informada de la persona representada». El texto del periódico consigna además una idea previa de la autoridad: «ninguna tecnología puede reemplazar el criterio profesional».
USOS PERMITIDOS Y RESGUARDO DE DATOS
La política no cierra la puerta a la herramienta. Autoriza emplear inteligencia artificial para preparar escritos e interrogatorios, aunque exige revisar los resultados y verificar las referencias legales que arroje el sistema antes de utilizarlos.
También fija un resguardo sobre la información del caso. Restringe el ingreso de carpetas investigativas, declaraciones, peritajes y datos personales a plataformas externas.
CUATRO NIVELES DE RIESGO Y GOBERNANZA
El documento clasifica los usos en cuatro niveles de riesgo, desde bajo hasta inadmisible. Para sostener esa escala contempla un Comité de Gobernanza, auditorías y mecanismos para reportar incidentes.
Con esos instrumentos, la institución busca ordenar el empleo de la herramienta en toda la defensa penal, tanto en los abogados de planta como en quienes ejercen bajo el sistema de licitación.
Desde la propia Defensoría afirman que no han detectado usos indebidos y que la regulación tiene carácter preventivo.
APLICABILIDAD PARA ABOGADOS
Para quienes ejercen la defensa penal, la política ordena qué parte del trabajo intelectual queda reservada al abogado y cuáles son las tareas de apoyo donde la herramienta puede colaborar bajo revisión obligatoria. El texto distingue así entre el criterio jurídico, que permanece en la persona, y la producción de insumos, que admite asistencia automatizada.
El otro eje práctico es el tratamiento de los antecedentes del caso. La restricción sobre el ingreso de carpetas investigativas, declaraciones, peritajes y datos personales a plataformas externas obliga a revisar por dónde circula la información de las causas antes de usar cualquier sistema.
A ello se suma la estructura de control que acompaña al documento: los cuatro niveles de riesgo, el Comité de Gobernanza, las auditorías y los mecanismos para reportar incidentes. La presentación pública quedó fijada para el martes 27 de octubre, con altas autoridades y defensores regionales convocados.
En nuestra lectura, la aprobación de esta política parece relevante porque la propia institución reconoce que no ha detectado usos indebidos y que la regulación es preventiva. Sería prudente observar cómo operan en la práctica el Comité de Gobernanza, las auditorías y los mecanismos de reporte de incidentes que el documento contempla.
Fuente: Defensoría Penal Pública
Documento original: https://www.dpp.cl/sala_prensa/noticias_detalle/17167/defensoria-presenta-politica-de-uso-responsable-de-inteligencia-artificial
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
