Justicia y tecnología: una relación transformadora inevitable

Vivimos en tiempos de profunda transformación en todos los ámbitos, y la tecnología es un motor central de estos cambios. Históricamente, la tecnología siempre ha transformado la sociedad, y hoy asistimos a una revolución que también se está produciendo en los sistemas jurídicos, impulsada por la digitalización y, fundamentalmente, por la inteligencia artificial generativa (IAG). Si bien todavía se habla mucho de la "transición digital", la realidad exige que nos centremos en la "transformación tecnológica". Esta conciencia transformadora es vital para abordar los desafíos críticos y complejos del presente. Esta realidad presiona a las instituciones públicas, incluido el sistema judicial, para que sean más eficientes, resilientes y adaptables, lo que hace que la adopción de soluciones digitales e inteligencia artificial (IA) no sea una conveniencia, sino un imperativo.

La tecnología trasciende la mera función de una herramienta; se integra profundamente en el derecho, influyendo en las dimensiones organizativas, procesales e institucionales de las interacciones humanas. Esta perspectiva redefine la concepción, la producción y la aplicación del derecho, lo que exige una transición de una epistemología puramente antropocéntrica a una que considere la capacidad de las máquinas para crear conocimiento y apoyar, o incluso reemplazar, las decisiones humanas en la aplicación del derecho y la administración de justicia.

Las herramientas tecnológicas aplicables al ámbito jurídico y judicial se adaptan al desarrollo de los sistemas de información y la IA. Los sistemas digitales y de IA más relevantes en los tribunales incluyen los siguientes:

• IAG: Genera nuevo contenido (imágenes, vídeos, texto) a partir de datos existentes, como chatbots y asistentes virtuales. En el ámbito legal, IAG puede crear textos y documentos legales.
• OCR (Reconocimiento óptico de caracteres): Convierte imágenes con texto en formatos legibles y editables, permitiendo la búsqueda y edición en documentos escaneados o PDF.
• RPA (Automatización Robótica de Procesos): Automatiza procesos basados en reglas utilizando robots virtuales para tareas manuales y repetitivas.
• API (Interfaz de Programación de Aplicaciones): Conjunto de reglas que permite la comunicación entre diferentes aplicaciones de software.
• Aprendizaje automático: Un subconjunto de la IA que aprende de los datos para mejorar el rendimiento con el tiempo, sin intervención humana. Se utiliza en análisis predictivo.
• E-Discovery: Prácticas de investigación y obtención de datos e información electrónica en procedimientos judiciales, con herramientas que automatizan esta búsqueda.

Los sistemas de IA pueden clasificarse por su tecnología, estructura, complejidad, calidad de los datos y funcionalidades. La IA ha evolucionado desde sistemas más simples hasta sistemas cada vez más autónomos y complejos, culminando en los Agentes de IA y los Sistemas Multiagente. En el ámbito legal, los mejores ejemplos incluyen clasificadores deductivos para la organización de datos, redes neuronales para el análisis predictivo y la toma de decisiones, y aprendizaje profundo para el aprendizaje a partir de grandes volúmenes de datos. Los Modelos de Lenguaje Grande (LLM) comprenden y generan texto similar al humano, mientras que los Modelos de Lenguaje Pequeño (SLM) son más especializados y eficientes en el uso de recursos y contexto. Otras funcionalidades incluyen el Procesamiento del Lenguaje Natural (PLN) para comprender el lenguaje humano y los sistemas expertos para la resolución de problemas. Los asistentes y agentes de IA asisten en tareas complejas, y los sistemas de Recuperación-Generación Aumentada (RAG) combinan la recuperación de información con capacidades generativas.

Es crucial distinguir entre los Agentes de IA y la IA de Agencia para el desarrollo responsable de sistemas autónomos. Los Agentes de IA son herramientas monotarea con baja autonomía y un perfil de riesgo predecible (p. ej., los chatbots). En cambio, la IA de Agencia, basada en la multiagencia, persigue objetivos, colabora, se adapta y opera con creciente independencia en dominios complejos. Presenta mayores riesgos debido a su comportamiento abierto y requiere nuevos mecanismos de control.

En el sistema judicial debemos diferenciar entre las herramientas de IA aplicadas a la gestión de los tribunales y la administración de justicia y aquellas que apoyan o redactan decisiones judiciales.

La evolución de la tecnología en el derecho plantea preocupaciones que se enmarcan en tres ejes interconectados: la ciberseguridad se centra en la defensa del sistema tecnológico frente a intervenciones maliciosas; la ciberdemocracia pretende defender los derechos fundamentales de los usuarios (como la protección de datos personales) y la autonomía de las autoridades frente al sistema tecnológico; por último, la cibergobernanza se refiere a la regulación del propio sistema tecnológico para asegurar la integridad de las instituciones públicas y la calidad de las funciones que desempeñan.

Existe un creciente debate sobre los aspectos éticos y sociales de la IA, centrado en las políticas y la ciencia de datos. Entre las preocupaciones se incluyen las violaciones de la privacidad, la desinformación, los sesgos y la discriminación, las alucinaciones (errores de la IA), los costes ambientales y la creación de burbujas epistémicas. También existe un problema económico intrínseco a la evolución tecnológica y la reinvención de la economía a través de los datos.

La preparación y la calidad de los datos son cruciales para la digitalización y automatización de la justicia. Es esencial inventariar, analizar la calidad de los datos (ROT) y evaluar su estructura y gobernanza. La gestión del acceso, la auditoría, la seguridad y el mapeo de flujos de trabajo para identificar el potencial de automatización son cruciales. La colaboración en la gestión de datos y las acciones posteriores al descubrimiento son esenciales para una digitalización responsable y eficiente en el ámbito legal.

Europa ha sido proactiva en el desarrollo de marcos jurídicos y éticos para la IA en la justicia, como la Carta Ética del Consejo de Europa sobre el uso de la IA en los sistemas judiciales (2018) y el Reglamento (UE) 2024/1689, que establece normas armonizadas sobre inteligencia artificial en la Unión Europea. El Consejo de Europa, a través de la Comisión para la Eficiencia de la Justicia (CEPEJ), ha sido fundamental en la integración ética y técnica de las tecnologías digitales y la IA en los sistemas judiciales europeos.

La automatización y la IA exigen mayores esfuerzos regulatorios, organizativos y de gestión por parte de las estructuras de gobernanza para establecer mecanismos robustos de evaluación y certificación de soluciones tecnológicas. Adoptar estas herramientas implica transferir las regulaciones normativas a las máquinas y los códigos informáticos. La evaluación de los sistemas tecnológicos debe ser multidisciplinaria e interinstitucional, considerando su compatibilidad con los criterios exigentes del sistema judicial. Este mecanismo de evaluación debe analizar el impacto de los sistemas de IA en los derechos fundamentales (acceso a la justicia, datos personales), los principios del proceso judicial, las garantías del Estado de derecho (independencia e imparcialidad de los jueces) y el razonamiento de las decisiones. La consideración del derecho a un tribunal y a un juicio justo y equitativo, así como la coherencia del sistema con el derecho a la privacidad y la protección de datos personales, son estándares normativos cruciales.

Niveles de enfoque

El cambio tecnológico tiene implicaciones en varios ámbitos de la justicia, en particular la gobernanza, la administración y gestión de tribunales, la gestión procesal (en el proceso tecnológico) y la toma de decisiones judiciales.

El contexto de la digitalización y la IA influye en la dinámica institucional y la implementación de los principios del Estado de derecho, en particular la independencia judicial. Esta debe conceptualizarse desde la perspectiva de la transparencia y la rendición de cuentas, y en consonancia con las nuevas demandas sistémicas de la tecnología. Las plataformas digitales se han convertido en el soporte tecnológico estándar para todas las actividades judiciales, lo que permite la automatización y las aplicaciones inteligentes. Es crucial que los órganos de gobernanza judicial coordinen la certificación y la adopción de herramientas, en particular la IA. El debate central se extiende ahora al uso de herramientas digitales y de automatización en la propia toma de decisiones, incluyendo la posible generación automática de decisiones judiciales.

El nivel de administración judicial y los procesos tecnológicos es crucial, ya que conecta la gobernanza general con la gestión diaria de los tribunales. La gestión de casos está vinculada al uso de tecnologías para su procesamiento, digitalización y circulación de información. Las nuevas alternativas incluyen la tramitación de casos en línea, la gestión electrónica, la videoconferencia y la desmaterialización de los servicios judiciales mediante plataformas de resolución de litigios en línea (ODR). Sin embargo, estas innovaciones plantean objeciones como la posible desaparición del espacio físico del tribunal, la deshumanización de la justicia, la pérdida de la sincronía del proceso, la dependencia del acceso tecnológico y la alfabetización digital, y la posible incompatibilidad con la independencia judicial y la pérdida de la intervención humana en el juicio.

El nivel de toma de decisiones judiciales es el más sensible a la integración de nuevas herramientas tecnológicas, especialmente la IA. La transición de la IA como asistente judicial al reemplazo efectivo del juez humano (por agencia) plantea importantes preocupaciones éticas, filosóficas, políticas y constitucionales. Se destacan los riesgos del desarrollo de la IA en las decisiones judiciales, como la opacidad (incomprensibilidad de los sistemas), la "datificación" (minimización del contexto, sesgos, distorsión de los juicios morales) y la pérdida de responsabilidad tanto para la institución como para el ser humano. Existe el riesgo de dejar a los responsables de la toma de decisiones judiciales en manos de los creadores y administradores de los sistemas de procesamiento de datos inherentes a la codificación predictiva, especialmente si se asume como el estándar preferido. Si bien el grado de automatización puede variar, la integridad fundamental del juicio humano sigue siendo primordial.

En este punto, la cuestión de si la IA puede realizar interpretación jurídica cobra especial relevancia. La interpretación jurídica es un proceso hermenéutico arraigado en contextos sociales, valores éticos y la dinámica de una comunidad jurídica humana, que implica el diálogo entre jueces, abogados y académicos. Estas características plantean serias dudas sobre la capacidad de la IA para reproducir la interpretación jurídica de forma completa y adecuada, debido a su naturaleza profundamente contextual e intencional. La interpretación humana no es una mera deducción técnica y lógica de normas, sino un proceso que implica intuición ética e intencionalidad humana e institucional. Esto establece un límite inherente, y quizás insuperable, al papel de la IA en las funciones judiciales fundamentales.

En este punto, destaca el debate sobre los sistemas críticos que deberían introducirse en los tribunales y la adopción de los denominados Sistemas de Agente Humano Basados en LLM (LLM-HAS). Esta tipología se basa en el concepto de colaboración entre humanos e IA, con el objetivo de superar las limitaciones de los modelos de IA autónomos. Los LLM-HAS enfatizan el papel esencial de la interacción humana en la mejora de la fiabilidad, la seguridad y el rendimiento de la IA. La colaboración humana puede conducir a una mayor precisión en la toma de decisiones, la conformidad con los estándares éticos y el mantenimiento de la rendición de cuentas, especialmente en sectores críticos.

La transformación tecnológica en el sector judicial genera tensiones que exigen nuevos equilibrios entre los recursos tecnológicos y los valores fundamentales del sistema judicial. Si bien el impulso hacia la eficiencia digital es necesario, puede comprometer principios judiciales esenciales si no se gestiona con cuidado. La gobernanza de la tecnología jurídica no se limita a la adopción de tecnología, sino a cómo hacerlo sin socavar los pilares fundamentales de la justicia.

Es fundamental preservar y fortalecer la integridad de la jurisdicción, comprendiendo mejor su estructura, incluyendo sus aspectos tecnológicos. Lo instrumental debe transformarse y lo esencial debe preservarse. La resiliencia de nuestros valores más importantes solo puede lograrse fortaleciendo sus aspectos de gobernanza, organización y procedimientos. Si estos planes no se fortalecen y transforman, la humanidad, la justicia y la democracia no sobrevivirán a los tiempos turbulentos que se avecinan.

La relación transformadora entre justicia y tecnología es por tanto inevitable y requiere un enfoque cuidadoso y continuo, para garantizar que el progreso tecnológico sirva a los principios más profundos de la administración de justicia, y no al revés.