Jueces no pueden dejar que la IA dicte las resoluciones, según reglamento dictado por la Corte

Los ministros del Máximo Tribunal dictaron la Resolución N° 12.677, del 4 de marzo pasado, que determina directrices para el uso de sistemas de inteligencia artificial, aplicables a magistrados y funcionarios del Poder Judicial, según informó en su portal web.

La normativa establece criterios para su uso en actividades vinculadas al procesamiento de datos, la gestión de la información y la toma de decisiones asistidas.

Lo que se quiere es orientar la utilización de estas herramientas en el ámbito judicial, estableciendo criterios de carácter ético, responsable y transparente para su aplicación por parte de magistrados y funcionarios.

La resolución cuenta con un anexo con 20 artículos donde se definen los objetivos generales y específicos, el marco legal, y su ámbito de aplicación.

Luego tiene un artículo que define los términos desde lo más amplio al más específico. Cita algoritmo, inteligencia artificial, sistemas de inteligencia artificial, principios rectores de IA, entre otros términos.

Posteriormente, habla de los principios rectores, tales como el principio de la supervisión humana y toma de decisiones.

“El uso de IA no reemplaza a los magistrados y funcionarios en sus funciones, debiendo mantener un nivel adecuado de control y participación humana en todos los procesos donde se utilicen estos sistemas…” indica.

Explica que no “sustituyen el análisis independiente, la legislación vigente, las pruebas y cualquier otro aspecto relevante que deba ser considerado por el magistrado en la toma de decisiones”.

También da las reglas del principio de la supervisión humana y toma de decisiones, con lo que permite su uso, siempre que sean revisados, verificados y contrastados con fuentes confiables.

Igualmente, están las prohibiciones para los magistrados, tales como determinar la culpabilidad o inocencia en los juicios, establecer penas o medidas cautelares sin intervención humana, utilizarlos sin revisión para el cálculo de la pena o indemnizaciones, entre otros.

Otro de los principios claves es la transparencia y justicia abierta, respecto a que se debe informar de manera adecuada y oportuna cuándo y cómo se implementan, adquieren, despliegan y utilizan los sistemas de IA y cómo funcionan.

Dentro de ese marco, está la información a las partes sobre su uso, revelar la utilización de la IA generativa para redactar textos, entre otros.

También señala que se debe distinguir mediante el uso de comillas u otros signos idóneos los textos que sean directamente extraídos de IA generativa y documentar toda interacción que se produjo, explicar las limitaciones y los riesgos, etc.

Además, están las prohibiciones sobre la transparencia, la no discriminación e igualdad, el principio de protección de datos y privacidad, el desarrollo de capacidades digitales y los roles.

En ese sentido, se prevé la obligación de informar sobre su implementación y uso, especialmente en aquellos casos en que su aplicación pudiera incidir en derechos o garantías.

Según indica la web judicial, la elaboración de esta política contó con cooperación técnica en el marco de la Carta Acuerdo suscrita entre la Corte Suprema de Justicia y la Oficina Regional de Unesco en Montevideo, de fecha 5 de diciembre de 2024, con la participación del consultor internacional Juan David Gutiérrez.

Prohibiciones para los jueces

Las prohibiciones para los jueces en la toma de decisiones en el uso de la IA son:

• Delegar la toma de decisiones en cualquier tipo de resoluciones judiciales y administrativas.
• Automatizar completamente procesos que pudieran afectar derechos fundamentales o respecto de los cuales esté en juego algún derecho fundamental.
• Utilizar sin supervisión humana en la generación y valoración de pruebas, o la argumentación de las partes o la fundamentación de resoluciones judiciales.
• Determinar IA culpabilidad o inocencia en los juicios.
• Establecer penas o medidas sin intervención humana.
• Utilizar sin revisión humana meticulosa para el cálculo de la pena o de montos de indemnización, compensación, daños u otros.
• Utilizar para sustituir la realización de dictámenes periciales.

ultimahora.com