La Corte consulta a jueces para saber cómo abordar el desafío de la IA
El Colegio de Magistrados local evalúa el proyecto publicado por el máximo tribunal bonaerense para regular esta herramienta.
Negligencias como la de un juez de Chubut que utilizó Inteligencia Artificial para redactar fundamentos sobre la validez de la prueba y condenar al acusado de un robo, son las que la Corte bonaerense pretende prevenir mediante su proyecto para regular el uso responsable de esta herramienta en el ámbito judicial.
Con el convencimiento de que en las sentencias debe primar el razonamiento humano y no el de una IA, el máximo tribunal de la provincia de Buenos Aires abrió una consulta para que magistrados y funcionarios propongan posibles cambios al reglamento.
Según el juez bahiense Eduardo d'Empaire, el uso de IA sin control ni responsabilidad humana vulnera las garantías del debido proceso, por eso -agregó- este recurso digital procura acelerar las gestiones previas a los fallos sin reemplazar la función jurisdiccional del juzgador.
En este sentido la postura del entrevistado es que la IA "nunca podría utilizarse para el proceso de toma de decisiones".
El reglamento publicado por la Corte prohíbe expresamente la automatización de las sentencias, y así garantiza que la resolución de conflictos esté a cargo de seres humanos y no de una máquina.
"Las decisiones las tienen que tomar las personas que están designadas por la Constitución para tal fin, o sea los jueces", explicó d'Empaire, presidente del Colegio de Magistrados de Bahía Blanca.
"La Inteligencia Artificial es una herramienta valiosa para mejorar la administración de justicia, pero nunca podrá suplir la decisión del juez", enfatizó.
El plan de la Corte tiene como ejes la transparencia y la auditoría de la labor de los operadores judiciales que emplean la tecnología.
La fiabilidad que se logra gracias a la "supervisión permanente" de las tareas hechas con IA "es un reaseguro para el juez en el ejercicio de su función".
En el marco de este proyecto, el operador del servicio de justicia es siempre responsable de los resultados finales, independientemente de que la información aportada por la IA y utilizada en una resolución sea potencialmente errónea o inexacta.
Por otra parte, el representante del Poder Judicial está de acuerdo con la obligación de informar en el expediente cuándo y cómo se usó una IA, tal como prevé el borrador presentado por la Corte.
Capacitación
El proyecto prevé la creación de una comisión de gobernanza que definirá y dictará las capacitaciones obligatorias a magistrados, funcionarios y agentes judiciales.
Para d'Empaire, la formación constante es una "obligación ética de quienes integramos el Poder Judicial", más allá de lo que establece este reglamento.
"Este proceso de innovación debe estar centrado en las personas que interactúan en el ámbito de la función judicial. Hoy por hoy se están utilizando herramientas de IA aplicadas a procesos de gestión que facilitan el trabajo diario y el acceso a la justicia. Hay iniciativas particulares creadas por distintos operadores", dijo el juez.
"Ahora aparece la necesidad de este reglamento para el desarrollo y uso responsable de la IA; es necesario establecer reglas que determinen su ámbito de aplicación. Los jueces saben que deben tomar las decisiones por ellos mismos y que siempre tienen que rendir cuentas", continuó el profesional del Derecho.
En la medida en que la IA no se use para la toma de decisiones -acotó-, "cualquier error" en su utilización implica "cuestiones de gestión que pueden reconducirse, como hacemos a diario".
"Cuando la IA se usa para facilitar el trabajo, como la búsqueda de jurisprudencia o la sistematización de fuentes, el operador judicial es quien lo chequea", indicó el juez del Tribunal en lo Criminal Nº 3.
La comisión estará integrada por las secretarías de Planificación, Tecnología informática y Servicios jurisdiccionales, que actuará como autoridad de aplicación.
Entre otras funciones, deberá autorizar sistemas de alto riesgo, ordenar auditorías periódicas (semestrales para alto riesgo y anuales para bajo riesgo) y publicar un informe anual.
Innovación
Desde la pandemia se implementa una política de innovación tecnológica en el trabajo del Poder Judicial de la provincia de Buenos Aires.
A entender de D'Empaire, la IA es una herramienta más de este proceso de modernización.
"Actualmente trabajamos con actuaciones digitales; las presentaciones de los abogados son electrónicas y las notificaciones también, lo que redunda en una mayor celeridad", señaló el vocero.
"En este contexto la aparición de herramientas como la IA es un desafío en el proceso permanente de innovación que propone el presidente de la Corte, Sergio Torres".
De hecho, ya se ven avances tecnológicos en las tareas diarias de los actores de la justicia.
Por ejemplo, en el juzgado Civil y Comercial Nº 2 bahiense, a cargo de la jueza María Selva Fortunato, se creó una aplicación para hacer "determinados cálculos" correspondientes a procesos de sucesiones.
En el fuero penal de Bahía también se emplea IA para investigar, por caso, delitos cometidos con criptoactivos.
Según d'Empaire, las instrucciones (prompts) que el usuario le da a la IA permiten obtener resultados "más precisos y rápidos" para sistematizar fuentes o buscar jurisprudencia.
El Colegio de Magistrados local estudia el reglamento para hacer aportes que aseguren un "debido proceso", que respete la "imparcialidad y el derecho de las partes a ser oídas".
El proceso de regulación del uso de IA permanecerá en etapa de consulta hasta el 7 de agosto. El formulario está dirigido también a instituciones académicas, colegios profesionales y "demás interesados".
La resolución de la Corte provincial estipula que la función jurisdiccional es "indelegable e insustituible".
"Bajo ninguna circunstancia se puede delegar en una IA la toma de decisiones judiciales que impliquen la resolución del proceso o procedimiento administrativo, la valoración de pruebas o la construcción del razonamiento jurídico que fundamenta una resolución o sentencia", advierte la disposición.
"El uso de herramientas de IA no exime de su plena responsabilidad al operador judicial, por el contenido, validez y legalidad de los actos en los que aquellas hubieren intervenido, debiendo en todos los casos ejercer un control sustantivo, efectivo y documentado sobre los resultados producidos por dichos sistemas, sin perjuicio de la responsabilidad que pudiere corresponder al proveedor de la herramienta", sigue el documento.
El tratamiento de datos personales mediante sistemas de IA debe ajustarse a lo dispuesto por la Ley de protección de los datos personales, asegurando la "confidencialidad, integridad y seguridad" de la información.
Riesgos
La incorporación de IA a la resolución de disputas y al apoyo de decisiones judiciales conlleva "riesgos estructurales" inevitables.
"Lejos de ser neutrales u objetivos, los sistemas de IA pueden reproducir -e incluso amplificar- sesgos, errores y patrones discriminatorios presentes en los datos con los que fueron entrenados", se aclara en el reglamento.
También pueden "debilitar el juicio crítico" de los operadores por medio del "sesgo de automatización, que lleva a otorgar confianza excesiva a las recomendaciones algorítmicas".
"Estas circunstancias exigen una estratificación clara de los usos según su nivel de afectación potencial a los derechos fundamentales, aplicando criterios de proporcionalidad en la gestión", acota la resolución.
La Corte clasificó tres categorías de sistemas de IA según su nivel de riesgo.
Uno de bajo riesgo para la gestión administrativa, que prevé tareas como la organización de expedientes, transcripción de audiencias, traducción, chatbots de información general y la corrección de textos, entre otras. Su uso está permitido y no tiene mayores restricciones.
Otro de los sistemas se considera de alto riesgo y se lo vincula con labores de la función jurisdiccional, como análisis de jurisprudencia, valoración de pruebas y propuestas de sentencia.
Este tipo de herramientas requiere autorización expresa de la Corte, análisis de impacto previo, supervisión humana y mecanismos de impugnación para las partes.
Por otra parte, se prohíben la automatización total de decisiones judiciales con IA, los sistemas sin supervisión humana efectiva y el uso de esta herramienta para producir prueba pericial sin participación activa del perito, entre otras restricciones.
El proyecto contempla además la creación de un "repositorio público" con información sobre cada sistema de IA en uso, como proveedor, propósito, datos de entrenamiento y resultados de auditorías.
Los operadores judiciales estarán obligados a informar expresamente cuándo usaron IA generativa en una decisión, identificando la herramienta y el modo de uso.
Hasta que se apruebe su versión definitiva, el reglamento tiene carácter "orientador y no vinculante".
Opiniones divididas
Una fuerte controversia se generó el año pasado en la justicia de Chubut, donde un juez olvidó eliminar de su sentencia una cita textual suministrada por la IA.
Por tal motivo, con un fallo inédito, la Cámara Penal de Esquel anuló el decisorio del magistrado de primera instancia que había sido confeccionado, al menos parcialmente, mediante el uso de un asistente de IA generativa, y ordenó la realización de un nuevo juicio.
El órgano revisor entendió que el juez vulneró los principios de "fundamentación, control humano y transparencia en la elaboración de su fallo", al incorporar "textualmente" una respuesta del sistema "sin supervisión adecuada ni comunicación a las partes".
Sin embargo, el Superior Tribunal de Justicia de Chubut revocó el fallo de la Cámara al argumentar que "el proceso penal no controla los métodos que utiliza un juez para elaborar su razonamiento, sino el contenido final de la sentencia y la solidez de sus fundamentos".
El máximo tribunal chubutense planteó además que el uso de estas herramientas "no invalida por sí mismo una sentencia si no se demuestra un perjuicio concreto en la decisión".
El expediente se había originado a raíz de una condena dictada el 4 de junio de 2025, cuando el juzgador le impuso al acusado la pena de dos años y medio de prisión efectiva por un robo.