IA en la Justicia argentina: qué puede hacer un algoritmo y qué decisión le corresponde solo a un juez

Análisis · Proceso judicial e Inteligencia Artificial

La Justicia argentina ya empezó a usar inteligencia artificial: hay juzgados que la usan para resumir expedientes, buscar jurisprudencia o armar borradores de resoluciones. Pero, ¿qué pasa si la máquina se equivoca? ¿Puede una IA decidir por un juez? Europa acaba de fijar unas reglas claras al respecto, y en Argentina ya empiezan a aplicarse.

¿De qué hablamos cuando decimos «IA generativa»?

Cuando se habla de inteligencia artificial generativa (o «IAGen», como la llaman los especialistas) nos referimos a programas del estilo de ChatGPT: sistemas que no solo buscan información, sino que además la redactan. Le pedís un resumen de un expediente de trescientas páginas y en segundos te devuelve un texto prolijo, armado con la seguridad de alguien que escribe rápido y sin dudar. Ahí está la ventaja… y también, como vamos a ver, el problema.

En los tribunales del mundo esto dejó de ser ciencia ficción. Brasil tiene asistentes de IA que analizan jurisprudencia y colaboran en la redacción; India usa sistemas que traducen documentos y leen expedientes enteros. Argentina tampoco se quedó afuera: en Córdoba funciona el Dacia (Despacho Automatizado con Inteligencia Artificial) y en San Juan se habla de la «JusticIA». Frente a este avance, la Comisión Europea para la Eficiencia de la Justicia (CEPEJ), un organismo del Consejo de Europa dedicado a mejorar el funcionamiento de los tribunales, publicó en diciembre de 2025 un conjunto de directrices para ordenar esta transición. El abogado Marcelo C. Quaglia analizó ese documento y lo cruzó con la realidad argentina en un trabajo publicado por Rubinzal – Culzoni Editores. Te lo contamos en simples palabras.

La regla de oro: la máquina ayuda, pero no decide

Si hay una idea que se repite en todo el documento es esta: la IA puede asistir, pero nunca reemplazar el criterio de un juez o una jueza. Pensalo como el GPS del auto: te sugiere el camino, te avisa si hay tráfico, pero si te indica doblar hacia un lago, el que frena sos vos. La decisión final —y la responsabilidad— siguen siendo humanas.

Esto no es solo una buena intención: en Argentina ya hay una base legal concreta. El artículo 20 de la Ley 25.326, de Protección de Datos Personales, prohíbe que una decisión sobre la conducta de una persona se tome únicamente en base a un procesamiento informático de datos, sin intervención humana. Es decir: ni un banco te puede negar un crédito solo porque lo dijo un algoritmo, ni un juez puede fallar solo porque la IA se lo sugirió.

Hay un riesgo, además, que las directrices llaman «sesgo de automatización»: la tendencia humana a confiar ciegamente en lo que dice una máquina, sobre todo cuando el resultado parece prolijo y eficiente. De ahí nace el llamado «efecto burbuja»: un juez que, deslumbrado por la rapidez del sistema, deja de chequear las fuentes originales y termina repitiendo un error sin darse cuenta, como quien confía tanto en el GPS que ni siquiera mira si el semáforo está en rojo.

No es de un día para el otro: cuatro escalones antes de confiar en la IA

Las directrices proponen que los tribunales no salten directamente a que la IA participe en la redacción de sentencias. Recomiendan avanzar de a poco, como quien aprende a nadar primero en la parte baja de la pileta:

1. Preparación: antes de usar cualquier herramienta, hay que ordenar la casa: capacitar al personal, definir protocolos de seguridad y armar bases de datos confiables en cada juzgado.
2. Tareas de oficina: que la IA transcriba audiencias, organice la carga de trabajo o extraiga datos de formularios (nombres, fechas, montos), sin tocar todavía el contenido de ninguna decisión.
3. Redacción asistida: generar actas automáticas, ordenar expedientes voluminosos por tema y ayudar a redactar resoluciones de rutina, siempre con revisión humana.
4. Análisis más complejo: preparar resúmenes de demandas y contestaciones, sugerir jurisprudencia relacionada o ayudar a armar borradores, bajo un control humano estricto. En temas sensibles —menores de edad, personas con discapacidad, privación de la libertad— la IA solo puede cumplir un rol de soporte técnico, nada más.

El talón de Aquiles: cuando la IA «inventa» jurisprudencia

Acá está, según el propio trabajo analizado, el riesgo más grave: las llamadas «alucinaciones». No es que la IA se equivoque de vez en cuando por un desperfecto: está en su naturaleza. Estos sistemas están armados para generar un texto que suene bien y fluya, no necesariamente para decir la verdad. Es como ese compañero de trabajo que, cuando no se acuerda un dato, en vez de decir «no sé» prefiere inventar una respuesta con total seguridad, y lo dice tan convencido que le creemos.

El problema es que, en el terreno judicial, esa «invención» puede tomar la forma de un fallo, una ley o un artículo doctrinario que directamente no existen. Ya pasó en Estados Unidos, Brasil y Sudáfrica, donde abogados y hasta jueces presentaron escritos citando jurisprudencia inventada por la IA.

Por eso las directrices insisten en algo que debería ser una regla básica para cualquier profesional: toda cita legal que sugiera una IA tiene que chequearse contra la fuente oficial antes de usarla. Nunca hay que copiar y pegar a ciegas.

¿A quién le pertenecen tus datos cuando pasan por un tribunal?

Un expediente judicial tiene de todo: domicilios, situación económica, datos de salud, de familia. Las directrices son categóricas en este punto: esa información no debería terminar en los servidores de una empresa privada que la use para entrenar sus propios productos comerciales. Es la diferencia entre guardar tus documentos en una caja fuerte del Estado o dejárselos fotocopiados a un desconocido que promete cuidarlos «bien».

Por eso se recomienda que, en lo posible, el propio Poder Judicial desarrolle sus herramientas de IA o que, si contrata un proveedor externo, se reserve siempre la posibilidad de cambiar de proveedor sin perder funcionalidad y de auditar cómo funciona el sistema y con qué datos fue entrenado. También se mencionan certificaciones de calidad como la ISO 27001 (seguridad de la información) y la ISO 27701 (protección de datos): algo parecido a esos sellos de control que buscás en un producto alimenticio antes de comprarlo, pero aplicado a un software.

Lo que la Justicia te tiene que garantizar a vos

Más allá de la letra chica técnica, el corazón del documento pasa por algo muy concreto: proteger tus derechos cuando un algoritmo participa, aunque sea de lejos, en un proceso que te involucra.

• Nada de «cajas negras»: ninguna decisión —ni siquiera las intermedias, no solo la sentencia final— puede tomarse de un modo tan opaco que ni las partes ni sus abogados puedan entender por qué se llegó a esa conclusión. Si no se puede explicar, no se puede usar.
• Previsibilidad: las fuentes y los criterios que usa la IA tienen que quedar documentados, para que dos casos parecidos no terminen con resultados distintos según qué versión del sistema los procesó.
• El juez sigue siendo el responsable: por más que use IA para organizarse, investigar o redactar un borrador, quien firma la resolución responde con su nombre y su criterio, no el programa.
• El juez puede decir que no: ninguna herramienta tecnológica puede presionar, ni siquiera indirectamente, a que un magistrado acepte lo que la IA le sugirió.
• Siempre existe la salida hacia una persona humana: aun en trámites simples que en el futuro puedan automatizarse (por ejemplo, reclamos chicos de consumidores), tiene que quedar abierta la puerta para pedir que un juez de carne y hueso revise el caso. Es como cuando llamás a una línea de atención al cliente: podés hablar primero con el bot, pero siempre tiene que existir la opción de decir «quiero hablar con una persona».
• Cuidado con los sesgos escondidos: un algoritmo entrenado con datos históricos puede terminar repitiendo, o incluso empeorando, discriminaciones que ya existían. En Estados Unidos, por ejemplo, se detectó que un sistema pensado para reducir penas de prisión a infractores de bajo riesgo seguía sugiriendo condenas más duras para acusados afrodescendientes. Y en el sistema financiero se comprobó algo parecido con solicitudes de crédito de madres solteras o de personas con apellidos no anglosajones. La respuesta frente a esto son auditorías periódicas que revisen si el sistema está tratando distinto a personas que deberían ser tratadas igual.

Un ejemplo bien nuestro: la avanzada de Santa Fe

El caso más concreto que trae el análisis es el de la Constitución de la Provincia de Santa Fe, reformada en 2025, que en su artículo 29 consagra directamente el derecho de toda persona a que intervenga un ser humano cuando una decisión automatizada pueda afectarla, en especial si hay inteligencia artificial de por medio. Es, hoy, una de las normas más claras que existen en el país sobre este tema. En paralelo, distintos tribunales superiores provinciales —Santa Fe, San Juan, Tucumán— ya dictaron sus propias guías internas para que jueces y empleados sepan qué pueden y qué no pueden hacer con estas herramientas.

El «checklist» que debería exigirse antes de usar IA en un juzgado

El trabajo cierra con una propuesta muy concreta: una lista mínima de control para saber si el uso de la IA en un caso está siendo responsable. Dicho en simples palabras, sería algo así:

• ¿Hacía falta usar IA para esto, o se podía resolver igual sin ella?
• ¿Los datos sensibles están protegidos, con acceso restringido?
• ¿Queda registro de qué se le pidió a la IA, qué fuentes usó y quién verificó el resultado?
• ¿Se contrastó cada cita legal con una fuente oficial antes de usarla?
• ¿Se avisó, de alguna forma, que ese documento tuvo asistencia de IA?
• ¿Se revisa periódicamente si el sistema trata peor a algunos grupos que a otros?
• ¿Queda claro quién es la persona responsable de lo que finalmente se decidió?