Anularon una condena porque el juez usó ChatGPT para redactar el fallo

La Justicia de Chubut revocó la sentencia a dos años y medio de prisión dictaminada el 4 de junio contra un hombre acusado de robo simple luego de que se descubriera que el juez involucrado en el caso utilizó la herramienta de inteligencia artificial ChatGPT para la redacción del fallo condenatorio. 

En tanto, se deberá realizar un nuevo juicio contra el imputado, pero, en esta oportunidad, con otro juez, según destaca la publicación del Ministerio Público Fiscal provincial.

Quien usó ChatGPT para redactar el fallo, fue el juez Carlos Rogelio Richeri quien debía analizar el caso de Raúl Amelio Payalef, un hombre acusado por el delito de robo simple.

Según los integrantes de la Cámara Penal de Esquel Carina Estefanía, Martín Zacchino y Hernán Dal Verme, cuando revisaron la sentencia y las justificaciones, encontraron una oración llamativa que demostraba que el profesional no había ejercido correctamente la “supervisión y el control humano obligatorio” del juicio.

En rigor, acusaron a Richeri de haber incluído “accidentalmente una frase que revela el uso de un asistente de Inteligencia Artificial (IA) generativa para redactar la resolución de puntos decisorios”.

La prueba más contundente del uso del ChatGPT fue que en la sentencia se encuentra parte de la conversación que el juez mantuvo con el asistente artificial. Por ejemplo, en uno de los párrafos, se puede leer: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”.

Los jueces de la Cámara advirtieron que esta evidencia (“copiar y pegar”) deja una “brecha demasiado amplia” para determinar cuánto texto es atribuible a la IA Generativa (IAGen) y cuánto al juez, lo que tensiona la prohibición de delegar decisiones judiciales a sistemas automáticos”.

“El error demostró, a los ojos del tribunal revisor, que el juez no ejerció correctamente la supervisión y el control humano obligatorio, suscribiendo la sentencia con la cita de la IA. La omisión de dejar constancia del uso de la IA, así como de lo requerido al asistente, impide controlar la trazabilidad del razonamiento del juez, haciendo que la decisión se pueda equiparar a una respuesta meramente dogmática o inmotivada”, manifestaron.

Por esto, los jueces ordenaron remitir “las presentes actuaciones al Superior Tribunal de Justicia con competencia para investigar y determinar el alcance de las graves consecuencias producidas en este proceso en virtud del uso incorrecto de la IA, que motivó la declaración de nulidad de la sentencia y del juicio que la precede, con todo lo que ello significa para los justiciables, para la ciudadanía toda y para el Estado, responsable de garantizar el acceso a la justicia y la tutela judicial efectiva”.

Fuente: diario Página 12