Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@ferreyros-ferreyros.com

RESUMEN

La Carta ética europea sobre el uso de la inteligencia artificial (IA) en los sistemas judiciales fue adoptada por la CEPEJ en 2018 basada en cinco principios para orientar su diseño y aplicación.

Su propósito es aprovechar la IA para mejorar la eficiencia y calidad de la justicia, sin menoscabar los derechos fundamentales ni la independencia judicial.

Establece cinco principios: respeto de los derechos fundamentales; prevención de la discriminación; calidad y seguridad; transparencia, neutralidad e integridad intelectual; y control efectivo por parte del usuario.

El documento destaca que las herramientas de análisis judicial identifican principalmente patrones estadísticos en datos históricos: no reproducen el razonamiento jurídico ni sustituyen la valoración judicial. También advierte sobre sesgos, errores de correlación, riesgos de perfilamiento, afectaciones a la privacidad y posibles desigualdades en el acceso a herramientas avanzadas. En particular, recomienda extrema cautela en materia penal y frente a sistemas que puedan influir de manera prescriptiva en decisiones judiciales.

En conclusión, la IA puede apoyar tareas como la búsqueda jurídica, la gestión de información y el análisis de tendencias, pero sus resultados no deben confundirse con decisiones jurídicas válidas ni con predicciones ciertas. Su empleo exige preservar el acceso a la justicia, el debido proceso, la igualdad de armas, la protección de datos personales y la autonomía del juez.

Se incluye una parte del documento en francés de 84 páginas, traducido por el suscrito al castellano con la ayuda del aplicativo Google Translator. El enlace al documento original se encuentra en: https://www.coe.int/fr/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment

La presente Carta ética podria ser concordada con los recientes “Lineamientos de Política Institucional para el uso seguro, responsable y ético de los sistemas basados en inteligencia artificial en el Ministerio de Salud” en el Perú.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com

________________________________________________________

COMISIÓN EUROPEA PARA LA EFICACIA DE LA JUSTICIA (CEPEJ)

Carta ética europea de uso de la inteligencia artificial en los sistemas judiciales y su entorno.

Adoptada en la 31ª reunión plenaria de la CEPEJ (Estrasburgo, 3-4 de diciembre de 2018)

Consejo de Europa

Introducción

Constatando la importancia creciente de la inteligencia artificial (IA) en nuestras sociedades modernas y los beneficios que cabe esperar cuando se utilice plenamente al servicio de la eficacia y la calidad de la justicia[1], la CEPEJ adopta solemnemente los 5 principios fundamentales siguientes, denominados «Carta ética europea de uso de la IA en los sistemas judiciales y su entorno».

Esta Carta se dirige a los actores públicos y privados encargados de la concepción y el despliegue de herramientas y servicios de inteligencia artificial basados, en particular, en el tratamiento de las decisiones jurisdiccionales y de los datos judiciales (aprendizaje automático o cualquier otro método proveniente de las ciencias de la información).

Se dirige igualmente a los responsables públicos encargados del encuadre legislativo o reglamentario, del desarrollo, de la auditoría o del uso de dichas herramientas y servicios.

La utilización de tales herramientas y servicios en los sistemas judiciales tiene por vocación mejorar la eficacia y la calidad de la justicia y merece ser fomentada. No obstante, debe producirse de manera responsable, en el respeto de los derechos fundamentales de las personas enunciados por el Convenio Europeo de Derechos Humanos y por el Convenio para la protección de datos de carácter personal, así como de los demás principios fundamentales enunciados a continuación, que deberían orientar la definición de políticas públicas de justicia en este ámbito.

El tratamiento de las decisiones jurisdiccionales por la IA es susceptible, según sus conceptores, de contribuir, en materia civil, mercantil y administrativa, a mejorar la previsibilidad de la aplicación de la ley y la coherencia de las decisiones judiciales, con reserva del respeto de los principios enunciados a continuación. En materia penal, su utilización debe ser considerada con las más extremas reservas, a fin de prevenir discriminaciones sobre datos sensibles, en conformidad con las garantías del proceso equitativo.

Sean cuales sean los fines perseguidos – apoyo a una consulta jurídica, ayuda a la redacción o a la decisión, u orientación de los justiciables -, es esencial que dichos tratamientos se efectúen en condiciones de transparencia, neutralidad y lealtad certificadas por una pericia exterior al operador e independiente.

Aplicación de la Carta

Los principios de la Carta deberían poder ser objeto de una aplicación, un seguimiento y una evaluación regulares por parte de los actores públicos y privados, para mejorar constantemente las herramientas.

A este respecto, es deseable que un balance regular de la aplicación de los principios de la Carta sea efectuado por estos actores, explicando en su caso las razones de no realización o de realización parcial, acompañado de un plan de acción para introducir las medidas adecuadas.

Las autoridades independientes mencionadas en la Carta podrían ser encargadas de evaluar periódicamente el nivel de adhesión a los principios de esta Carta de todos los actores y de proponer mejoras para adaptarla a la evolución de las tecnologías y de los usos de estas herramientas.

LOS 5 PRINCIPIOS DE LA CARTA ÉTICA DE USO DE LA INTELIGENCIA ARTIFICIAL EN LOS SISTEMAS JUDICIALES Y SU ENTORNO

1. Principio de respeto de los derechos fundamentales: asegurar una concepción y una aplicación de las herramientas y de los servicios de inteligencia artificial compatibles con los derechos fundamentales.
2. Principio de no discriminación: prevenir específicamente la creación o el refuerzo de discriminaciones entre individuos o grupos de individuos.
3. Principio de calidad y seguridad: en lo que respecta al tratamiento de las decisiones jurisdiccionales y de los datos judiciales, utilizar fuentes certificadas y datos intangibles con modelos concebidos de una manera multidisciplinar, en un entorno tecnológico seguro.
4. Principio de transparencia, neutralidad e integridad intelectual: hacer accesibles y comprensibles las metodologías de tratamiento de los datos, autorizar las auditorías externas.
5. Principio de dominio por el usuario: desterrar un enfoque prescriptivo y permitir que el usuario sea un actor ilustrado y dueño de sus opciones.
6. Principio de respeto de los derechos fundamentales: asegurar una concepción y una aplicación de las herramientas y de los servicios de inteligencia artificial compatibles con los derechos fundamentales

• El tratamiento de decisiones jurisdiccionales y de datos judiciales debe responder a fines claras, en el respeto de los derechos fundamentales garantizados por el Convenio Europeo de Derechos Humanos (CEDH) y del Convenio para la protección de datos de carácter personal (Convenio para la protección de las personas respecto al tratamiento automatizado de datos de carácter personal, STCE n. º 108, según fue enmendado por el Protocolo de enmienda STCE n. º 108+).
• Cuando las herramientas de inteligencia artificial se utilizan para resolver un litigio o como herramientas de ayuda a la decisión judicial o de orientación del justiciable, no deben atentar contra las garantías del derecho de acceso al juez y del proceso equitativo (igualdad de armas y respeto del contradictorio).
• Deberían asimismo ser utilizadas en el pleno respeto de los principios del Estado de Derecho y de la independencia de los jueces en su proceso de decisión.
• Los enfoques denominados de «ética[2] desde la concepción» (ethical-by-design) o de «derechos humanos desde la concepción» (human rights by design) serían así los que habría que privilegiar. Consisten en integrar desde la fase de concepción y de aprendizaje reglas que prohíban atentar directa o indirectamente contra los valores fundamentales protegidos por los derechos humanos.

2. Principio de no discriminación: prevenir específicamente la creación o el refuerzo de discriminaciones entre individuos o grupos de individuos

• Conscientes de la capacidad de estos tratamientos para revelar discriminaciones existentes, mediante agrupamiento o clasificación de datos relativos a individuos o grupos de individuos, los actores públicos y privados deben asegurarse de que estos no reproducen ni agravan dichas discriminaciones y de que no conducen a análisis o usos discriminatorios.
• Debe prestarse una vigilancia particular tanto en la fase de elaboración como en la de utilización, tanto más cuanto que estos tratamientos se fundan de manera directa o indirecta en datos «sensibles». Pueden considerarse como tales el origen supuestamente racial o étnico, las condiciones socioeconómicas, las opiniones políticas, las convicciones religiosas o filosóficas, la afiliación sindical, así como los datos genéticos, los datos biométricos, los datos relativos a la salud o a la vida sexual o a la orientación sexual. Deben plantearse intervenciones correctoras encaminadas a limitar y, si es posible, neutralizar estos riesgos, así como una sensibilización de los actores, cuando estas discriminaciones se manifiesten.
• En cambio, el uso del aprendizaje automático y la realización de análisis científicos pluridisciplinares encaminados a luchar contra tales discriminaciones deberían ser fomentados.

3. Principio de calidad y seguridad: en lo que respecta al tratamiento de las decisiones jurisdiccionales y de los datos judiciales, utilizar fuentes certificadas y datos intangibles con modelos concebidos de una manera multidisciplinar, en un entorno tecnológico seguro

• Los conceptores de modelos a partir del aprendizaje automático deben poder recoger de manera amplia la pericia de los profesionales de la justicia concernidos (jueces, fiscales, abogados, etc.) y de los investigadores/docentes en derecho y en ciencias sociales (economistas, sociólogos, filósofos, por ejemplo).
• La constitución de equipos de proyecto mixtos en ciclos de concepción cortos para producir maquetas funcionales es uno de los modos de organización que permite sacar el mejor partido de esta pluridisciplinariedad.
• Las medidas éticas existentes deberían poder ser compartidas constantemente por estos equipos de proyecto y enriquecidas sobre la base de los retornos de experiencia.
• Los datos derivados de las decisiones jurisdiccionales e integrados en un software que ejecuta un algoritmo de aprendizaje automático deben provenir de fuentes certificadas y no deben poder ser alterados hasta su utilización efectiva por el mecanismo de aprendizaje. El conjunto del proceso debe así poder ser trazado para asegurarse de que no ha intervenido ninguna alteración, de naturaleza a modificar el contenido o el sentido de la decisión tratada.
• Los modelos y los algoritmos creados deberían poder ser igualmente almacenados y ejecutados en entornos protegidos, garantizando la integridad y la intangibilidad del sistema.

4. Principio de transparencia, neutralidad e integridad intelectual: hacer accesibles y comprensibles las metodologías de tratamiento de los datos, autorizar las auditorías externas

• Debe encontrarse un equilibrio[3] entre la propiedad intelectual de ciertos métodos de tratamiento y las exigencias de transparencia (acceso al enfoque de concepción), de neutralidad (ausencia de sesgos[4]), de lealtad y de integridad intelectual (hacer prevalecer el interés de la justicia), en razón de los efectos jurídicos o de las incidencias que estos métodos pueden tener sobre las personas. Conviene precisar que toda la cadena de concepción y de funcionamiento se ve afectada por estas medidas, puesto que la metodología de selección, la calidad y la organización de los datos influyen directamente en la fase de aprendizaje.
• La transparencia técnica total (por ejemplo, código abierto del código y de la documentación) es una primera posibilidad, limitada a veces por la protección de los secretos industriales. El sistema podría ser también explicable en un lenguaje claro y vulgarizado a fin de describir la manera en que produce sus resultados, comunicando, por ejemplo, sobre la naturaleza de las prestaciones propuestas, las herramientas desarrolladas, las prestaciones y los riesgos de error. Unas autoridades o unos expertos independientes podrían encargarse de la certificación y de la auditoría de los tratamientos o proporcionar, de antemano, asesoramiento. Unas etiquetas renovadas regularmente podrían ser expedidas por las autoridades públicas.

5. Principio de dominio por el usuario: desterrar un enfoque prescriptivo y permitir que el usuario sea un actor ilustrado y dueño de sus opciones

• La autonomía del usuario debe ser reforzada y no ser restringida por la utilización de herramientas y servicios de inteligencia artificial.
• El profesional de la justicia debería poder en todo momento volver a las decisiones y datos judiciales que hubieran sido utilizados para producir un resultado y seguir teniendo la posibilidad de apartarse de ellos a la vista de las especificidades del asunto.
• El justiciable debería ser informado en un lenguaje claro y comprensible del carácter vinculante o no de las soluciones propuestas por las herramientas de inteligencia artificial, de las diferentes opciones posibles, así como de su derecho a una asistencia jurídica y a recurrir a un tribunal. El justiciable debería asimismo ser informado de manera clara de cualquier recurso a un tratamiento previo de un asunto por inteligencia artificial antes o durante un proceso judicial, y estar en condiciones de oponerse a ello para que su asunto sea examinado directamente por un tribunal en el sentido del artículo 6 del Convenio.
• De manera general, deberían llevarse a cabo acciones de alfabetización digital de los usuarios y debates con la participación de los profesionales de la justicia con ocasión de la aplicación de todo sistema de información basado en inteligencia artificial.

ANEXO II — ¿QUÉ USOS TIENE LA IA EN LOS SISTEMAS JUDICIALES EUROPEOS?

Este Anexo de la Carta pasa revista a diferentes usos de la IA en los sistemas europeos y fomenta en distinto grado su aplicación a la luz de los principios y de los valores enunciados en la Carta ética.

La utilización del aprendizaje automatizado (Machine Learning) para constituir motores de búsqueda que valoricen el patrimonio jurisprudencial es una oportunidad a desarrollar para el conjunto de los profesionales del derecho. Otros usos (constitución de baremos, apoyo a medidas alternativas de resolución de litigios) deben ser considerados tomando precauciones (calidad de la fuente de los datos, en particular, y no tratamiento masivo de la totalidad del contenido concernido). Los demás usos («justicia denominada predictiva») deberían ser devueltos al campo de la investigación y de un desarrollo ulterior (en consultación con los profesionales de la justicia a fin de asegurar una plena correspondencia con las necesidades), antes de considerar una explotación pública seria de los mismos.

En materia penal, la cuestión aparece como extremadamente sensible pero no debe ser ignorada. A la luz de los numerosos cuestionamientos existentes en cuanto a su compatibilidad con un cierto número de derechos fundamentales, la utilización de algoritmos de cálculo de potenciales riesgos de reincidencia de un individuo procesado debería ser considerada con las más extremas reservas. El tratamiento de datos cuantitativos globales para la prevención de la delincuencia es, en cambio, una pista a profundizar con estas técnicas nuevas, teniendo en cuenta los sesgos conocidos (efecto performativo, calidad de los datos). Del mismo modo, la utilización de algoritmos para hacer mejor el enlace entre la oferta de trabajo de interés general y la personalidad de un individuo constituiría quizá un factor de eficacia de este tipo de medida.

Usos que deben fomentarse

• Valorización del patrimonio jurisprudencial: las técnicas de Machine Learning se han utilizado cada vez más en el ámbito del tratamiento del lenguaje natural en los últimos años (lo cual comprende los esfuerzos iniciales de comprensión del lenguaje natural) y constituyen un activo considerable para construir soluciones de búsqueda complementarias de las actuales palabras clave o búsqueda «texto completo». Estas herramientas podrían enlazar varias fuentes (Constitución y convenciones, leyes, jurisprudencia, doctrina). Unas técnicas de visualización de datos podrían ilustrar el resultado de las búsquedas.
• Acceso al derecho: sin sustituir una intervención humana, podrían implantarse chatbots para facilitar el acceso, en lenguaje natural, a las diferentes fuentes de información existentes. Unos modelos de actos (decisiones de un tribunal, contrato de arrendamiento, por ejemplo) podrían también ser generados en línea.
• Construcción de nuevas herramientas de pilotaje: la utilización de las técnicas de ciencia de los datos y de inteligencia artificial sobre los datos de actividad de las jurisdicciones puede contribuir a mejorar la eficacia de la justicia permitiendo, en particular, proceder a evaluaciones cuantitativas y cualitativas y construir proyecciones (anticipación de los medios humanos y presupuestarios). Unos indicadores clave de rendimiento podrían constituirse sobre esta base. Se recomienda la implicación de los profesionales de la justicia, y en particular de los jueces, en la puesta en marcha de estas herramientas, tanto en el plano de la apropiación de las mismas como en el del análisis de los resultados y su ponderación con elementos relativos a las especificidades de la jurisdicción o de la calidad de la justicia (por ejemplo, la necesidad de preservar el acceso a la justicia).

Usos que deben considerarse con fuertes precauciones metodológicas

• Ayuda a la construcción de baremos/escalas en ciertos contenidos civiles: el análisis de la masa total de las decisiones judiciales no tiene estadísticamente gran sentido si no se identifican todos los factores causativos (explícitos e implícitos en las decisiones). Saber que la media de la prestación compensatoria en una determinada zona geográfica es más alta que en otra es explicable no por el comportamiento de los jueces, sino a la vista de las características del territorio. El Machine Learning puede ser útil para identificar decisiones (cf. valorización del patrimonio jurisprudencial supra), pero el tratamiento automatizado no puede por solo producir sentido. La construcción de una muestra pertinente de decisiones a tratar (cf. técnica de sondeos, por ejemplo) es un preliminar indispensable.
• Apoyo a medidas alternativas de resolución de litigios en materia civil: en ciertos países europeos, unas herramientas de justicia denominada «predictiva» son utilizadas por compañías de seguros para evaluar las posibilidades de éxito de un contenido y desviar al justiciable hacia otro modo de resolución de su litigio cuando las posibilidades de éxito son consideradas débiles. Por otra parte, ciertos sistemas en el extranjero proponen unos importes de indemnización sin real transparencia de las reglas de cálculo. Sin embargo, la evaluación de estos sistemas no puede ser considerada como imparcial y fiable: se hace tomar una decisión al ciudadano sobre bases truncadas. En otros casos, una medida alternativa de resolución de litigio puede ser aconsejada al justiciable por un agente relacional (chatbot) tras un examen preliminar de los criterios facilitados por el propio justiciable, cuando este se presenta en el sitio de una jurisdicción o busca en la web una información jurídica. Este agente relacional puede, en su caso, recomendar asimismo al justiciable que solicite el consejo de un abogado o de un servicio de mediación. En todas estas hipótesis, la presencia de un tercero formado (mediador apoyándose no solo en técnicas sino quizá en baremos como los calculados más arriba, o un abogado) parece ser la solución más apropiada en esta fase.
• Resolución de litigios en línea: cuando se presenta en una plataforma de resolución de litigio en línea, el justiciable debería ser informado de manera clara y comprensible si el tratamiento de su litigio se hace de manera totalmente automatizada o con la implicación de un mediador o de un árbitro. Por otra parte, la información al justiciable debería también ser leal, y evitar darle la impresión de incoar un requerimiento a un tribunal (a este respecto, se observa que la denominación «tribunal en línea» es a menudo utilizada para este tipo de plataformas, cuando técnicamente se proponen servicios de resolución alternativa de litigios). Se trata de dos elementos esenciales para permitir al justiciable hacer una opción ilustrada y decidir eventualmente oponerse a ello y recurrir a un verdadero tribunal, en el sentido del artículo 6 del CEDH. Asimismo, en atención a las exigencias de los artículos 6 y 13 del CEDH, habría que considerar siempre formas de control del procedimiento de resolución de litigios en línea y de su resultado por las jurisdicciones del Estado, sobre todo cuando el justiciable ha consentido la resolución de litigios en línea en forma totalmente automatizada.
• Utilización de algoritmos en materia de investigación penal a fin de identificar lugares de comisión de infracciones: este tipo de aplicación podría concernir no solo a la policía sino también a las fiscalías en el marco de las instancias de prevención de la delincuencia en las que participan. Aquí también se han utilizado sistemas en los Estados Unidos a fin de dirigir en tiempo real patrullas de policía hacia lugares posibles de comisión de infracciones. Este tipo de enfoque cuantitativo es, sin embargo, susceptible de generar un fuerte efecto «performativo» (en un lugar, se tiene más posibilidad de descubrir una infracción y se autoalimenta así el sistema). El análisis criminal por enfoques combinados entre sistemas de información geográfica (SIG) y masas de datos de los procedimientos podría ser mejor compartido con las fiscalías y beneficiarse ciertamente de un fuerte aporte del Machine Learning. Unas unidades de lucha contra el blanqueo utilizan ya sistemas «predictivos» para identificar flujos financieros sospechosos, pero tratándose de información cuantitativa (monetaria), las máquinas están más en condiciones de producir análisis fiables. La investigación debería tener también un mejor acceso a estos datos para producir estudios pertinentes destinados a los responsables de la toma de decisiones.

Usos que deben considerarse al término de trabajos científicos complementarios

• Perfilado de los jueces: la cuantificación de la actividad de un juez dará cuenta menos de sus posibles sesgos de razonamiento que de factores externos que han pesado sobre su decisión. La actividad jurisdiccional en un territorio empobrecido no produce los mismos resultados que en otro territorio, y ello con independencia de la personalidad del juez. Cuando la decisión es dictada de manera colegiada y sin posibilidad de que un juez exprese una opinión divergente, es en vano perfilar a cada uno de los jueces de la sala. Ofrecer, en cambio, a los jueces una evaluación cuantitativa y cualitativa más fina de sus actividades, gracias a nuevas herramientas, pero con un fin puramente informativo de ayuda a la decisión y para su uso exclusivo, podría, en cambio, ser considerado.
• Anticipación de las decisiones de justicia: el solo tratamiento estadístico de grupos léxicos revela la frecuencia de la utilización de ciertos grupos de palabras pero no identifica las causas reales de una decisión, pues no procede de un razonamiento jurídico (cf. estudio conducido sobre las decisiones del TEDH por el University College of London, que obtiene resultados mejores sobre la parte de hechos que sobre la parte de análisis del derecho). Unos sistemas híbridos, fundados en la construcción de modelos matemáticos que se supone representan la diversidad de razonamiento de los jueces, no son más eficaces porque siguen limitados a los sesgos de la muestra de datos que han tratado y necesitan ser totalmente reescritos en caso de modificación de la ley o de cambio de jurisprudencia.

Usos que deben considerarse con las más extremas reservas

• Utilización de algoritmos en materia penal a fin de perfilar a los individuos: las experiencias extranjeras (COMPAS en los Estados Unidos y HART en Gran Bretaña) han sido denunciadas por ONG (cf. trabajos de ProPublica en los Estados Unidos o de Big Brother Watch en Gran Bretaña). En razón de los límites de los métodos empleados, este enfoque puramente estadístico ha conducido a resultados erróneos: del constato de que ciertos individuos afroamericanos estarían más a menudo implicados en hechos criminales, se dedujo un factor de riesgo más elevado para toda la población afroamericana. Así, incluso por hechos menores, estos sistemas han ponderado negativamente a acusados afroamericanos y han conducido a un injusto agravamiento del quantum de sus penas. Una orientación diferente, más respetuosa de los estándares europeos concernientes a la sanción penal, y que debe ofrecer posibilidades de rehabilitación y de reintegración a todo individuo, debe sustituir a este enfoque de efectos discriminatorios y deterministas. Si unos sistemas algorítmicos logran contribuir a una mejor recogida de información en beneficio de los servicios de libertad condicional, por ejemplo, y a ofrecerles de manera más rápida la información pertinente para un tratamiento respetuoso de los derechos humanos, tales iniciativas pueden ser útiles (en particular para los procedimientos de juicio rápido). Cualquier otro uso es, en cambio, sujeto a sesgos que chocarán con numerosos principios fundamentales nacionales y supranacionales.
• «Norma surgida del número»: no se trata solo de producir baremos, lo cual podría ser legítimo, sino de facilitar a cada juez el contenido de las decisiones producidas por el conjunto de los demás jueces y de pretender encerrar su futura opción en la masa de esos «precedentes». Pues el número no puede añadirse a la ley ni sustituirla. Por las razones evocadas más arriba, la masa no hace necesariamente sentido. El estudio de la CEPEJ ha señalado asimismo los riesgos existentes en materia de cristalización de la jurisprudencia y de sus efectos potencialmente negativos sobre la imparcialidad y la independencia de los jueces.

ANEXO III — GLOSARIO

Este glosario apunta a definir los términos empleados por la  carta ética y el documento de estudio. Se ha preferido una interpretación estricta al conjunto del vocabulario utilizado. El conjunto de los documentos deben leerse y entenderse a la luz de estas definiciones.

• ALGORITMO: sucesión finita de reglas formales (operaciones lógicas, instrucciones) que permite obtener un resultado a partir de elementos facilitados como entrada. Esta sucesión puede ser objeto de un proceso automatizado de ejecución y apoyarse en modelos concebidos mediante aprendizaje automático.
• APRENDIZAJE AUTOMÁTICO (machine learning): permite construir un modelo matemático a partir de datos, incluyendo un gran número de variables que no se conocen de antemano. Los parámetros se configuran a lo largo de una fase de aprendizaje, que utiliza juegos de datos de entrenamiento para encontrar vínculos y clasificarlos. Las diferentes modalidades se clasifican en 3 categorías: aprendizaje supervisado por un humano, aprendizaje no supervisado y aprendizaje por refuerzo.
• ANONIMIZACIÓN: proceso consistente en tratar datos de carácter personal a fin de impedir totalmente y de manera irreversible la identificación de una persona física o moral.
• BASE DE DATOS: «contenedor» que almacena datos (cifras, fechas o palabras) susceptibles de ser retratados por medios informáticos para producir una información.
• BIG DATA (megadatos): gran conjunto de datos de fuente heterogénea (open data, datos propietarios, datos comprados comercialmente).
• CHATBOT (agente conversacional): agente que dialoga con su usuario.
• DATAMINING: permite analizar un gran volumen de datos y hacer surgir de ellos modelos, correlaciones, patrones.
• DEEP LEARNING (aprendizaje profundo): véase Aprendizaje automático y Redes de neuronas.
• DATOS DE CARÁCTER PERSONAL: toda información relativa a una persona física identificada o identificable. Entre ellos, los datos sensibles: genéticos, biométricos, relativos a infracciones, procedimientos y condenas penales, origen racial o étnico, opiniones políticas, afiliación sindical, convicciones religiosas, salud o vida sexual.
• INTELIGENCIA ARTIFICIAL (IA): conjunto de ciencias, teorías y técnicas cuyo fin es reproducir por una máquina capacidades cognitivas de un ser humano. Los desarrollos actuales son IA «débiles» o «moderadas»; las IA «fuertes» (contextualización autónoma de problemas) siguen siendo teóricas.
• JUSTICIA «PREDICTIVA»: análisis de grandes masas de decisiones de justicia por tecnologías de IA a fin de construir, para ciertos tipos de contenido especializados, previsiones sobre el resultado de los litigios (importe de indemnizaciones por despido o de pensiones alimenticias, por ejemplo).
• LEGALTECH: empresas que explotan las tecnologías de la información en el ámbito del derecho para proponer servicios jurídicos innovadores (startups especializadas).
• OPEN DATA: puesta a disposición pública, por descarga, de bases de datos estructuradas, re-empleables de manera no onerosa bajo licencia específica. No debe confundirse con información pública unitaria disponible en sitios web.
• PERFILADO: técnica de tratamiento automatizado que consiste en aplicar un «perfil» a una persona física, en particular para tomar decisiones sobre ella o analizar o prever sus preferencias, comportamientos y actitudes.
• PSEUDONIMIZACIÓN: tratamiento de datos de carácter personal de tal modo que ya no puedan atribuirse a una persona determinada sin información adicional, conservada separadamente y protegida técnicamente.
• SISTEMA EXPERTO: herramienta capaz de reproducir los mecanismos cognitivos de un experto en un dominio particular: base de hechos, base de reglas y motor de inferencia.
• TRATAMIENTO DE DATOS DE CARÁCTER PERSONAL: toda operación o conjunto de operaciones efectuadas sobre datos de carácter personal (recogida, registro, conservación, modificación, extracción, comunicación, puesta a disposición, supresión, destrucción).

[1]Para la definición de inteligencia artificial, véase el Glosario [1]

[2]  La elección ética se realiza de antemano por los conceptores del programa y no queda, pues, librada al algoritmo.

[3]  Resulta interesante la propuesta formulada en el estudio del MSI-NET del Consejo de Europa titulado «Algoritmos y derechos humanos» (página 46): «La solución consistente en exigir la divulgación pública de algoritmos completos o de su código fuente resulta utópica en este contexto, dado que las empresas privadas consideran sus algoritmos como software propietario estratégico y, por tanto, los protegen en consecuencia. En cambio, parece factible exigir la publicación de información parcial pero significativa, como las variables utilizadas, los objetivos perseguidos mediante la optimización de los algoritmos, los conjuntos de datos de entrenamiento, los valores medios y las desviaciones típicas de los resultados obtenidos, o la cantidad y el tipo de datos procesados ​​por el algoritmo». Cabe citar también las sugerencias del informe titulado «IA para la humanidad», elaborado por el diputado Cédric Villani en el marco de una misión encomendada por el Primer Ministro de la República Francesa (página 144): «los auditores podrían comprobar la equidad y la integridad de un programa (verificar que hace lo que se supone que debe hacer), por ejemplo, mediante la introducción de múltiples datos de entrada ficticios o la creación de numerosos perfiles de usuario con características específicas»… Se observan conclusiones similares en el informe de la Cámara de los Lores titulado «IA en el Reino Unido: ¿preparados, dispuestos y capaces?» (párrafos 92 y 96-99).

[4]  Las soluciones consideradas de manera general para garantizar la neutralidad de los algoritmos en el mencionado informe de la House of Lords (§114, 115, 116, 119, 120) son interesantes: más datos diversificados, más diversidad y transdisciplinariedad, más auditoría sobre aspectos como el tratamiento de los datos o la manera en la que la máquina es entrenada.