Los jueces plantean cambios para el uso responsable de la IA en la Justicia
El Colegio de magistrados provincial pidió flexibilizar la anonimización de datos sensibles, entre otras modificaciones.
Periodista especializado en temas judiciales y policiales de alto impacto social, con más de 20 años de trayectoria en La Nueva.
Si bien hay consenso sobre que la Inteligencia Artificial puede ayudar en la administración de justicia pero no decidir por los jueces, eje rector del reglamento elaborado por la Corte bonaerense para el uso responsable de esta herramienta, magistrados de la provincia propusieron algunas modificaciones al proyecto.
En un documento interno que por ahora no habría sido elevado al máximo tribunal provincial, el Colegio de Magistrados y Funcionarios del Poder Judicial de la provincia de Buenos Aires planteó que no sería necesario que el juez explique el funcionamiento técnico del algoritmo, sino los motivos por los que usa, descarta o modifica lo que sugiere la IA.
Esa exigencia debería ser mayor cuanto más impacto tenga la herramienta sobre los derechos de la víctima o el acusado de un delito.
Cuanto más pesa la decisión, más tiene que explicar el juzgador por qué decidió como decidió, pero siempre sobre su propio razonamiento.
Es la misma lógica que rige para cualquier otra fuente que un juez consulta.
Por ejemplo, si un perito le da un informe, el magistrado no debe explicar la metodología científica del peritaje, pero sí fundamentar por qué la valoró (o no) para su fallo.
Con la IA proponen aplicar el mismo principio.
Otro cambio sugerido por la comisión de innovación tecnológica del colegio es prohibir “inducir” a la IA, es decir sumar al artículo 26 del reglamento (deberes de los usuarios de IA) la prohibición expresa de dar instrucciones pensadas para forzar a la herramienta a adoptar una postura jurídica ya decidida de antemano.
En la jerga técnica esta acción se conoce en inglés como prompt injection (métodos de inducción de respuesta).
Los magistrados colegiados recomiendan además anonimizar solo la información sensible que consta en una causa, a diferencia de la proposición de la Corte que exige hacer anónimos los datos delicados cuando sea posible.
O sea, que el deber de eliminar datos personales en expedientes judiciales se limite a los datos sensibles que marca la ley 25.326 y a la protección de menores o personas vulnerables, sin exigir una depuración total.
Su argumento es que los modelos de lenguaje de la IA necesitan contexto, para no "alucinar", y una exigencia más estricta haría inviable su uso en fueros como Familia o de Responsabilidad Penal Juvenil.
La entidad provincial que nuclea al Colegio de Magistrados bahiense también propuso ajustar el artículo 29 de la reglamentación (informar a las partes del proceso sobre el uso de IA), para que puedan cuestionar los fundamentos de una resolución, pero no excusarse en la utilización de esta herramienta como argumento de impugnación de la sentencia.
La idea es que si una de las partes no está de acuerdo con un fallo, tiene que cuestionar el contenido de la decisión (los argumentos jurídicos, la interpretación de la ley y la valoración de la prueba), no el método que se usó para llegar a esa decisión.
Además, la comisión de innovación tecnológica se ofreció a colaborar con la Corte bonaerense en mesas de trabajo y guías de buenas prácticas.
Mientras no haya una versión definitiva, la reglamentación es orientadora y no obligatoria.
Entre el 8 de junio y ayer, el proyecto tuvo una etapa de consulta dirigida a diferentes actores de la Justicia, quienes pudieron proponer modificaciones y hacer observaciones al texto original.
Ahora, la Comisión de gobernanza y uso de IA de la Corte tiene hasta el lunes 31 para elevar al máximo tribunal bonaerense un informe con los cambios propuestos.
Ayudar, no decidir
El reglamento que proyecta la Corte provincial, compuesto por 33 artículos, se basa en un principio que se repite en el documento: la IA puede ayudar, pero nunca reemplazar la decisión del juez.
La responsabilidad final siempre es del humano que la usó y, sobre esa base, organiza el uso de IA en tres niveles de riesgo.
El riesgo "bajo" hace referencia a tareas administrativas como armar expedientes y transcribir audiencias, que solo requieren una auditoría anual.
El riesgo "alto" alude a todo lo relacionado con la función jurisdiccional, como interpretar normas, valorar pruebas y redactar borradores de sentencias.
Para usarse es necesario cumplir con seis requisitos previos: estudio de impacto, aval de la comisión de gobernanza de la Corte y del propio máximo tribunal, supervisión humana real, forma de impugnar, registro público y un plan de monitoreo.
Por último, en su artículo 19, el reglamento hace alusión a los usos "prohibidos" o "restringidos".
Se trata de ocho prácticas vedadas, entre ellas automatizar decisiones judiciales, usar IA sin supervisión humana real, fabricar prueba sintética, o que un perito delegue su dictamen en la IA sin intervención propia.
El control del cumplimiento de estas condiciones queda a cargo de la comisión de gobernanza, que clasifica sistemas, aprueba o rechaza su uso y publica un informe anual.
Esta comisión es la autoridad de aplicación del reglamento.
Sobre las obligaciones concretas de jueces y empleados, la Corte bonaerense hace hincapié en no utilizar chatbots gratuitos para tareas judiciales, no basar una decisión solo en lo que dice la IA, no cargar datos de causas en herramientas comerciales que puedan reentrenarse con esa información, y verificar siempre las citas o jurisprudencia que genere.
En tanto, el artículo 29 de la reglamentación exige transparencia: si la IA participó en una decisión relevante, hay que dejar constancia de qué herramienta se usó, cuándo y para qué, el mismo punto que la comisión del Colegio de magistrados provincial pidió atenuar.
Contrapunto
El abogado Ignacio Lerer, investigador independiente especializado en la aplicación de IA al ejercicio del Derecho, también participó en la consulta pública de la Suprema Corte e hizo aportes técnico-jurídicos al proyecto.
A diferencia del planteo del Colegio de Magistrados bonaerense, que sugiere flexibilizar la explicabilidad y la anonimización, el análisis del letrado graduado por la Universidad de Buenos Aires (UBA) pone el foco en reforzar los estándares de supervisión humana, porque el reglamento -afirma- no define operativamente cuándo esa supervisión es real, pese a exigirla como principio rector.
Respecto de los peritajes con IA, Lerer solicitó que la versión definitiva del inciso 7 del artículo 19 exija que el perito pueda exponer y defender el razonamiento técnico esencial de sus conclusiones sin asistencia del sistema durante el interrogatorio en audiencia.
Acerca de la implementación del reglamento, el profesional aconsejó incorporar una disposición "transitoria" con un plazo no menor a 6 meses desde la vigencia del texto definitivo, para que la comisión de gobernanza clasifique los sistemas de IA en uso y arme el catálogo de herramientas autorizadas.
El autor de la nota de opinión, publicada en la web abogados.com.ar, coincidió con el Colegio de Magistrados provincial en que la "arquitectura general" del proyecto es "acertada".
Sin embargo, Lerer discrepó en el énfasis: mientras el colegio requiere aliviar cargas para no trabar la operatividad del servicio de justicia, su análisis se enfoca en la precisión normativa para que la supervisión humana se materialice.
Mirada local
En una nota publicada por La Nueva., el juez Eduardo d'Empaire, presidente del Colegio de magistrados e integrante del Tribunal en lo Criminal Nº 3 bahienses, enfatizó que el uso de IA sin verificación humana vulnera el debido proceso, porque las decisiones -sostuvo- les corresponden a los jueces, no a la herramienta.
El juzgador coincidió con el artículo 29 del reglamento en cuanto a que debe quedar constancia en el expediente de cuándo se usó IA.
Agregó que la supervisión permanente que exige el proyecto no es solo un control externo, sino también un "reaseguro" para el propio juez en el ejercicio de su función.