Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
cferreyros@ferreyros-ferreyros.com
RESUMEN
Los sistemas de IA pueden mejorar la productividad en la administracion de justicia en juzgados y tribunales pero igualmente, afectar la equidad procesal si introducen sesgos en la evaluación de hechos o en la predicción de resultados, especialmente para grupos vulnerables o marginados. Además, cuando la lógica del sistema no es explicable, las partes pueden no entender ni impugnar adecuadamente decisiones influenciadas por la IA, debilitando el derecho a un juicio justo.
La integración de IA en la decisión judicial plantea el riesgo de que los magistrados deleguen de facto parte de su función, confiando en propuestas automatizadas en lugar de realizar un análisis independiente de hechos, derecho y pruebas. El documento insiste en que la IA debe ser solo herramienta de asistencia y que el uso que sustituya la racionalidad humana es incompatible con la independencia e imparcialidad exigidas por los Principios de Bangalore*.
En el caso de IA generativa, se han documentado escritos y decisiones con citas inexistentes u errores graves, lo que demuestra el riesgo de “alucinaciones” si se confía en estos sistemas. El documento íntegro de 45 páginas, en inglés se encuentra en el siguiente enlace: https://www.unesco.org/en/articles/guidelines-use-ai-systems-courts-and-tribunals
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com
* Los Principios de Bangalore fueron propuestos por la Oficina de las Naciones Unidas en el seno del Grupo Judicial de Reforzamiento de la Integridad Judicial, quien en su segunda reunión, en Bangalore (India), determinó la necesaria elaboración de una forma aceptable de evaluar a los jueces, estableciendo estándares para la conducta ética de los jueces y respetando la independencia de los mismos. En esa reunión se definieron seis valores básicos de la propuesta, formulados para servir de guía a los jueces: Valor 1: Independencia; Valor 2: Imparcialidad; Valor 3: Integridad; Valor 4: Corrección; Valor 5: Igualdad, y Valor 6: Competencia y Diligencia.
________________________________________________________
Artificial Intelligence in courts: from idea to reality
Artificial Intelligence is transforming justice systems worldwide, offering new possibilities to improve ac-cess to justice, streamline case management, and assist judicial decision-making. Yet, these innovations also bring complex ethical and human rights challenges. UNESCO’s Guidelines for the Use of AI in Courts and Tribunals present the first global ethical and operational framework to ensure that AI serves justice while upholding the rule of law and fundamental rights.
Built around fifteen universal principles—from transparency, accountability, and human oversight to human rights protection and multistakeholder governance—the Guidelines provide practical orientation for judges, court administrators, and policymakers exploring AI adoption. They advocate for AI as an assistive, not substitutive, tool—used responsibly and always under meaning-ful human supervision.
Complemented by a capacity-building toolkit, the Guidelines draw on consultations with experts from over 160 countries, engaging more than 36,000 ju-dicial actors. As AI becomes integral to judicial sys-tems, this publication offers timely guidance to en-sure technology strengthens justice, transparency, and trust—constructing the defences of peace in the minds of men and women.
Traducción
Inteligencia Artificial en los tribunales: de la idea a la realidad
La Inteligencia Artificial está transformando los sistemas judiciales en todo el mundo, ofreciendo nuevas posibilidades para mejorar el acceso a la justicia, agilizar la gestión de casos y asistir en la toma de decisiones judiciales. Sin embargo, estas innovaciones también plantean complejos desafíos éticos y de derechos humanos. Las Directrices de la UNESCO para el Uso de la IA en Juzgados yTribunales y presentan el primer marco ético y operativo global para garantizar que la IA sirva a la justicia, a la vez que defiende el estado de derecho y los derechos fundamentales.
Construidas en torno a quince principios universales —desde la transparencia, la rendición de cuentas y la supervisión humana hasta la protección de los derechos humanos y la gobernanza multisectorial—, las Directrices ofrecen orientación práctica a jueces, administradores judiciales y responsables políticos que exploran la adopción de la IA. Abogan por la IA como una herramienta de asistencia, no sustitutiva, utilizada de forma responsable y siempre bajo una supervisión humana significativa.
Complementadas con un conjunto de herramientas para el desarrollo de capacidades, las Directrices se basan en consultas con expertos de más de 160 países, en las que participan más de 36.000 actores judiciales. A medida que la IA se vuelve parte integral de los sistemas judiciales, esta publicación ofrece orientación oportuna para garantizar que la tecnología fortalezca la justicia, la transparencia y la confianza, construyendo las defensas de la paz en las mentes de hombres y mujeres.
RESUMEN EJECUTIVO
El documento ofrece directrices éticas y operativas para que los poderes judiciales adopten sistemas de IA como herramientas de apoyo, maximizando beneficios en eficiencia y acceso a la justicia sin sustituir el razonamiento judicial humano ni vulnerar derechos fundamentales.
Las Directrices de la UNESCO pretenden orientar a juzgados, tribunales y operadores jurídicos en el desarrollo, adquisición, despliegue y uso de sistemas de IA, incluida la IA generativa, en la administración de justicia. Aunque se dirigen principalmente al poder judicial, muchas recomendaciones son adaptables a fiscales, abogados, colegios profesionales y otros actores del ecosistema jurídico.
El marco se articula en 15 principios que deben aplicarse a lo largo de todo el ciclo de vida de los sistemas de IA. Se subraya especialmente la no discriminación, la igualdad de acceso a la justicia, la protección de datos personales y el derecho a impugnar decisiones apoyadas en IA.
Para las organizaciones, el texto propone: preservar independencia e imparcialidad judicial, establecer estrategias y órganos de gobernanza de la IA, integrar transparencia y explicabilidad desde el diseño y optar por sistemas auditables. Se recomiendan evaluaciones de impacto ético y de derechos humanos, auditorías algorítmicas continuas, marcos de gestión de riesgos y la facultad de suspender o desmantelar sistemas que generen violaciones de derechos. Además, se insiste en normas internas claras, protección reforzada de datos personales, ciberseguridad, accesibilidad y repositorios públicos de los sistemas de IA utilizados en la justicia.
En materia de capacidades, se pide revisar los currículos de Escuelas Judiciales, ofrecer formación continua en alfabetización en IA y estudiar periódicamente su uso y efectos en la práctica judicial. Respecto de la IA generativa, se exigen directrices específicas sobre funciones y límites, etiquetado claro de los textos asistidos por IA, trazabilidad de modificaciones, esquemas de certificación y prohibición de ciertos usos, como decisiones vinculantes totalmente automatizadas o generación de pruebas falsificadas.
A nivel individual, se recomienda que jueces y personal judicial conozcan las capacidades y riesgos de la IA, utilicen solo herramientas sometidas a debida diligencia en derechos humanos y eviten depender de la IA para el contenido sustantivo de las decisiones. Deben garantizar transparencia sobre el uso de IA, facilitar la impugnación de decisiones apoyadas en sistemas automatizados, informar incidentes y dejar de usar la herramienta cuando detecten posibles daños a derechos. Para IA generativa se subraya: no introducir datos personales o confidenciales en sistemas públicos, no usar LLM como motor de búsqueda jurídico ni sustituto del perito, verificar siempre resultados y asumir la responsabilidad última de cualquier texto que se integre en actuaciones o resoluciones.
Los 15 principios rectores que recoge el documento son los siguientes:
Protección de los derechos humanos.
Proporcionalidad.
Viabilidad de los beneficios.
Seguridad.
Seguridad de la información.
Precisión y fiabilidad.
Explicabilidad.
Auditabilidad.
Justicia transparente y abierta (transparencia).
Concienciación y uso informado.
Responsabilidad.
Rendición de cuentas e impugnabilidad.
Supervisión humana y toma de decisiones humanas.
Diseño participativo y centrado en el ser humano.
Gobernanza de múltiples partes interesadas y colaboración.
Las Directrices concluyen que la IA puede contribuir a la eficiencia y al acceso a la justicia, pero también pueden amenazar el debido proceso, la igualdad y la independencia judicial si se diseña o usa de manera negligente. La idea central es que las herramientas de IA deben mejorar pero no reemplazar el proceso judicial calificado, de modo que la tecnología fortalezca el Estado de derecho y la protección de los derechos humanos.
