MARCO JURIDICO EUROPEO PARA LA IA EN CINCO PREGUNTAS.

Facebook
Twitter
Reddit
LinkedIn
Telegram
WhatsApp

MARCO JURIDICO EUROPEO PARA LA IA EN CINCO PREGUNTAS.

Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@hotmail.com

RESUMEN

El equipo editorial de la plataforma Vie Publique, publicó en francés un artículo sobre “Inteligencia artificial: el marco jurídico europeo para la IA en 5 preguntas”, cuya última modificación data del  día de hoy, 11 de diciembre de 2023.

El íntegro del artículo original en francés se encuentra en el siguiente enlace: https://www.vie-publique.fr/questions-reponses/292157-intelligence-artificielle-le-cadre-juridique-europeen-de-lia, y fue traducido al castellano por el suscrito con la ayuda del aplicativo Google Translate.

Las cinco preguntas absueltas son las siguientes:

1 ¿Existe legislación europea sobre IA?

2 ¿Cuál es la definición de inteligencia artificial que ofrece la propuesta de reglamento sobre IA

3 ¿Qué prácticas de IA están prohibidas por el reglamento propuesto?

4 ¿Cómo apoyará la innovación el Reglamento sobre IA propuesto?

5 ¿Cómo tiene en cuenta la UE la cuestión y los desafíos de la inteligencia artificial?

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías 

____________________________________________________

“INTELIGENCIA ARTIFICIAL: EL MARCO JURÍDICO EUROPEO PARA LA IA EN 5 PREGUNTAS”

 

Con el despliegue de ChatGPT y, más recientemente, de Gemini, la Unión Europea (UE) pondrá en marcha un reglamento sobre inteligencia artificial (IA) para regular su desarrollo, entre la necesidad de prevenir los peligros vinculados a esta tecnología y el deseo de no quedarse atrás. El punto en cinco preguntas con la plataforma Vie-publique.

1 ¿Existe legislación europea sobre IA?

Actualmente no hay ningún Reglamento promulgado que aborde específicamente la cuestión de la IA en la UE.

En este contexto político, en 2021 la Comisión presentó una propuesta de reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial. El 8 de diciembre de 2023, el Parlamento Europeo y el Consejo de la Unión Europea alcanzaron un acuerdo sobre este texto que será la primera ley sobre inteligencia artificial del mundo. Esta propuesta de marco regulatorio persigue los siguientes objetivos:

  • Velar porque los sistemas de IA comercializados sean seguros y respeten la legislación vigente sobre derechos fundamentales, valores de la UE, el Estado de Derecho, pero también sostenibilidad medioambiental;
  • garantizar la seguridad jurídica para facilitar las inversiones y la innovación en el ámbito de la IA;
  • fortalecer la gobernanza y la aplicación efectiva de la legislación existente en materia de requisitos de seguridad aplicables a los sistemas de IA y de derechos fundamentales;
  • facilitar el desarrollo de un mercado único para aplicaciones de IA legales y seguras y evitar la fragmentación del mercado.

Más específicamente, la propuesta de reglamento establece:

  • la prohibición de ciertas prácticas;
  • requisitos específicos aplicables a sistemas de IA de alto riesgo;
  • reglas armonizadas en materia de transparencia aplicables a:
    • los sistemas de IA destinados a interactuar con personas;
    • los sistemas de reconocimiento de emociones y de categorización biométrica;
    • los sistemas de IA generativa utilizados para generar o manipular imágenes o contenido de audio o vídeo.

Este enfoque debe tener en cuenta los resultados benéficos sobre los planes sociales y ambientales que la IA puede aportar, pero también los nuevos riesgos o consecuencias negativas que esta tecnología puede generar.

Se garantiza la coherencia con la Carta de Derechos Fundamentales de la UE, pero también con el derecho derivado de la UE en materia de protección de datos, de protección del consumidor, de no discriminación e igualdad entre mujeres y hombres. La propuesta complementa la ley de no discriminación existente al proporcionar requisitos que apuntan a minimizar el riesgo de discriminación algorítmica, acompañados de obligaciones en materia de ensayosgestión de riesgos, la documentación y el control humano durante todo el ciclo de vida de los sistemas de IA.

El texto aprobado por el Parlamento y los Estados miembros ahora tendrá que ser adoptado formalmente por el Parlamento y el Consejo para ser integrado a la legislación de la UE. La Comisión de Mercado Interior y Libertades Civiles del Parlamento votará sobre el acuerdo en una sesión futura.

2 ¿Cuál es la definición de inteligencia artificial que ofrece la propuesta de reglamento sobre IA?

Un sistema de inteligencia artificial es un programa informático (software) que se desarrolla utilizando una o más de las siguientes técnicas:

  • enfoques de aprendizaje automático, incluido el aprendizaje supervisado, el aprendizaje no supervisado y el aprendizaje por refuerzo, utilizando una amplia variedad de métodos, incluido el aprendizaje profundo;
  • enfoques basados ​​en la lógica y los conocimientos, incluida la representación de conocimientos, la programación inductiva (lógica), las bases de conocimiento, los motores de inferencia y de deducción, el razonamiento (simbólico) y los sistemas expertos;
  • enfoques estadísticos, estimación bayesiana, métodos de búsqueda y optimización.

Un sistema de IA de este tipo puede, para un conjunto determinado de objetivos definidos por el hombre, generar resultados tales como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.

La propuesta de reglamento sobre IA también define:

  • un sistema de identificación biométrica remota como «un sistema de IA destinado a identificar a personas físicas de forma remota comparando los datos biométricos de una persona con los contenidos en una base de datos de referencia, y sin que el usuario del sistema de IA no sepa de antemano si la persona será presente y podrá ser identificada.
  • un sistema de identificación biométrica remota en tiempo real como «un sistema de identificación biométrica remota en el que la adquisición de datos biométricos, su comparación y su identificación se realizan sin retrasos significativos. Esto incluye no sólo la identificación instantánea, sino también con un ligero retraso para evitar cualquier elusión de las normas.

3 ¿Qué prácticas de IA están prohibidas por el reglamento propuesto?

La propuesta de Reglamento sobre la IA prohíbe las prácticas siguientes de inteligencia artificial:

  • sistema de inteligencia artificial que utiliza técnicas subliminales por debajo del umbral de conciencia de una persona para alterar sustancialmente su comportamiento y de manera a causar un daño físico o psicológico (manipulación del comportamiento humano para eludir el libre albedrío);
  • sistema de IA que aproveche las eventuales vulnerabilidades debidas a la edad o discapacidad para alterar sustancialmente su comportamiento y de tal manera que cause daño físico o psicológico;
  • sistemas de inteligencia artificial destinados a evaluar o establecer una clasificación de la confiabilidad de las personas en función de su comportamiento social o características personales y que pueden resultar un trato dañino injustificado o desproporcionado de las personas en ciertos contextos. El acuerdo alcanzado entre el Parlamento y los Estados miembros especifica la prohibición de los sistemas de categorización biométrica que utilicen características sensibles (opiniones políticas, religiosas, filosóficas, orientación sexual, etc.) y de clasificación social basada en el comportamiento social o características personales;
  • reconocimiento de emociones en la sede laboral y en las instituciones educativas;
  • sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público para fines represivos, salvo en los siguientes casos:
  • búsqueda específica de víctimas potenciales específicas de delitos (niños desaparecidos, trata, explotación sexual);
  • prevención de una amenaza específica, sustancial e inminente a la vida o la seguridad de las personas o prevención de un ataque terrorista;
  • identificación, localización o enjuiciamiento de los autores o sospechosos de determinadas infracciones penales punibles con una pena máxima de al menos tres años.

El uso de sistemas de identificación biométrica debe:

  • tener en cuenta la situación que dio lugar al uso del sistema y la gravedad o la amplitud del daño en caso de no uso;
  • tener en cuenta las consecuencias para los derechos y libertades de todas las personas afectadas (gravedad, probabilidad, magnitud);
  • estar sujeto a una autorización previa otorgada por una autoridad judicial o administrativa competente.

El anexo III del reglamento propuesto ofrece una lista de sistemas de IA de alto riesgo. Los eurodiputados incluyeron en el reglamento una evaluación de impacto obligatoria sobre los derechos fundamentales, aplicable también al sector bancario y de seguros. Los sistemas de inteligencia artificial utilizados para influir en el resultado de las elecciones y el comportamiento de los votantes se clasifican como de alto riesgo.

Los ciudadanos tendrán derecho a:

  • presentar quejas sobre sistemas de IA;
  • recibir explicaciones sobre decisiones basadas en sistemas de IA de alto riesgo que tengan una incidencia sobre sus derechos.

El incumplimiento de las normas puede dar lugar a multas que oscilan, según el tamaño de la empresa y la infracción, entre 7,5 millones de euros o el 1,5% de la facturación (CA) y 35 millones de euros o el 7% de la facturación global.

4 ¿Cómo apoyará la innovación el Reglamento sobre IA propuesto?

Los sistemas de inteligencia artificial están experimentando una rápida evolución que requiere el establecimiento de nuevas formas de control regulatorio y un espacio seguro para la experimentación. La propuesta de  reglamento debe garantizar la innovación responsable y la integración de garantías  y de medidas de mitigación de riesgos apropiados. Para garantizar un marco jurídico propicio a la innovación, los Estados miembros deberían establecer «zonas de pruebas reglamentarias» de IA para facilitar la innovación bajo un estricto control regulatorio antes de comercializarlas o ponerlas en servicio.

El objetivo es:

  • favorecer la innovación mediante la creación de un entorno controlado para la experimentación en la fase de desarrollo con el fin de garantizar la conformidad de los sistemas de IA innovadores con la propuesta de reglamento;
  • reforzar la seguridad jurídica para los innovadores, así como el control y la comprensión de las posibilidades, los riesgos emergentes y las consecuencias del uso de la IA;
  • acelerar el acceso al mercado eliminando barreras para las pequeñas y medianas empresas (PYME) y las jóvenes empresas.

5 ¿Cómo tiene en cuenta la UE la cuestión y los desafíos de la inteligencia artificial?

La UE no esperó a que la propuesta de reglamento sobre IA se interesara por esta cuestión y sus desafíos.

En 2017, el Consejo Europeo subrayó  la necesidad de expresar un sentido de urgencia frente a las tendencias emergentes, incluida la IA [Reunión del Consejo Europeo (19 de octubre de 2017) – Conclusiones].

En 2018, la Comisión presenta un primer plan coordinado sobre inteligencia artificial (Comunicación de la Comisión). Se trata de un compromiso común destinado a reforzar el potencial europeo para ser competitivo a escala mundial, en particular a través de estrategias nacionales de los Estados miembros.

En sus conclusiones de 2019 sobre el Plan Coordinado, el Consejo de la UE subraya la necesidad de garantizar el pleno respeto de los derechos de los ciudadanos europeos. El Consejo demanda que la legislación vigente sea objeto de una revisión [Inteligencia artificial b) Conclusiones sobre el plan coordinado en el ámbito de la inteligencia artificial – Adopción].

El Parlamento Europeo ha trabajado en varias resoluciones relacionadas con la IA en diversas áreas:

  • aspectos éticos [2020/2012(INL)];
  • régimen de responsabilidad civil (resolución del Parlamento Europeo de 20 de octubre de 2020);
  • derechos de propiedad intelectual (resolución del Parlamento Europeo del 20 de octubre de 2020);
  • derecho penal y su utilización por las autoridades policiales y judiciales en casos penales [2020/2016(INI)];
  • educación, cultura y audiovisual [2020/2017(INI)].

Estos textos contienen recomendaciones para la Comisión, pero también propuestas legislativas sobre los diferentes temas tratados.

El 19 de febrero de 2020, la Comisión publicó un Libro Blanco sobre la Inteligencia Artificial que reafirma el doble objetivo europeo de promover la adopción de la IA y tener en cuenta los riesgos asociados a determinados usos de esta tecnología.

En 2020, el Consejo Europeo pide a la Comisión de «presentar una definición clara y objetiva de los sistemas de inteligencia artificial de alto riesgo» [Reunión extraordinaria del Consejo Europeo (1-2 de octubre de 2020) – Conclusiones].

En unas conclusiones publicadas en octubre de 2020, el Consejo de la UE recuerda que «si bien las tecnologías digitales, incluida la IA, presentan oportunidades y beneficios cada vez mayores, su diseño, desarrollo, implementación y uso abusivo también podrían plantear riesgos para los derechos fundamentales, la democracia y el Estado de derecho” [Conclusiones de la Presidencia – La Carta de los Derechos Fundamentales en el contexto de la inteligencia artificial y el cambio digital].

En abril de 2021, la Comisión presentó medidas sobre IA:

  • una comunicación sobre la promoción de un enfoque europeo;
  • una revisión del plan coordinado en materia de inteligencia artificial;

una propuesta de marco regulatorio sobre IA y un análisis

El Estudio Jurídico FERREYROS&FERREYROS es una firma especializada en aspectos legales y regulatorios relacionados con las Nanotecnologías, materia transversal, relacionada con la integración y convergencia de tecnologías (Nanotecnologías, Biotecnologías, Tecnologías de la Información y ciencias Cognitivas) (NBIC).

El Estudio realiza asesorías, consultorías, auditorías, formaciones, investigaciones y defensas en favor de agentes públicos y empresas privadas en Contenidos y Servicios vinculados con las NBIC, en todas las fases y etapas del negocio jurídico.

Desde la concepción, elaboración de proyectos, estudio de impacto, gestión, declaraciones y obtención de las autorizaciones y licencias, incluyendo negociación y ejecución de contratos y resolución de conflictos

Facebook
Twitter
Reddit
LinkedIn
Telegram
WhatsApp

Carlos Ferreyros

Doctor en Derecho. Magister en Informática Jurídica y Derecho Informático

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Te puede interesar