Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
La Comisión Nacional de Informática y Libertades, CNIL, autoridad francesa de protección de datos personales al someter a consulta pública nuevas fichas prácticas relacionadas con el desarrollo de sistemas de inteligencia artificial, muestra cómo el Reglamento General de Protección de Datos Personales, RGPD de la Unión Europea sensibiliza y promueve una Inteligencia Artificial innovadora y responsable.
El presente artículo ha sido traducido del francés al castellano por el suscrito con la ayuda del aplicativo Google Traductor, el texto íntegro, y original se encuentran el siguiente enlace: https://www.cnil.fr/fr/intelligence-artificielle-la-cnil-poursuit-ses-travaux
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico: cferreyros@hotmail.com
___________________________________________________________________
Inteligencia artificial: la CNIL continúa sus trabajos por una IA innovadora que respete la privacidad
10 de junio de 2024
Al presentar a consulta pública nuevas fichas prácticas relacionadas con el desarrollo de sistemas de inteligencia artificial , la CNIL muestra cómo el Reglamento general de protección de datos (RGPD) promueve una IA innovadora y responsable.
Respondiendo a las preguntas que plantea el desarrollo de la IA sobre la protección de datos y la privacidad
El año 2022 estuvo marcado por el despliegue y uso de sistemas de IA por y para el público en general. Desde entonces, la CNIL ha observado una aceleración del deseo de adoptar estas tecnologías, en todos los sectores de actividad: salud, servicios públicos, seguridad pública, etc. Es consciente de que la adopción de esta tecnología es, para Francia, un factor importante de competitividad, innovación y soberanía para los próximos años.
De otro lado, la legislación europea garantiza un alto nivel de protección de los derechos fundamentales y de muchas cuestiones que quedan por resolver en relación con la supervisión de estas tecnologías y sus efectos sobre las personas. Por lo tanto, la necesidad de respuestas es cada vez más urgente para permitir el desarrollo de la IA en un marco de confianza.
Construir la conexión entre el RGPD y la regulación de la IA
Mientras el reglamento europeo sobre la IA acaba de ser adoptado y entrará en vigor de forma escalonada en los próximos meses, la CNIL desea aportar seguridad jurídica a los actores del sector anticipando la conexión entre el reglamento sobre la IA y el RGPD. En efecto, el RGPD se aplica a los proveedores de sistemas, independientemente del reglamento de la IA, cuando estos utilizan datos personales para su desarrollo.
Es en este contexto que la CNIL abre, por segunda vez, una consulta ante todas las partes interesadas para elaborar sus recomendaciones:
- Las fichas propuestas a consulta abordan varias cuestiones importantes de innovación y protección: el uso del web scraping, ampliamente utilizado en particular para los modelos de legunaje, la publicación de modelos de IA en código abierto (“open source”) pero también la gestión de los derechos de las personas, que constituye la piedra angular del marco jurídico en materia de datos personales;
- La CNIL propone igualmente un cuestionario sobre la aplicación del RGPD a los modelos de IA entrenados con datos personales.
Esta implementación de la consulta sigue las recomendaciones iniciales publicadas recientemente tras una consulta pública.
Participar en la consulta pública
Consultar e intercambiar para construir una IA innovadora y responsable
Empresas, laboratorios, autoridades públicas, colegios profesionales, federaciones profesionales… la CNIL tuvo la oportunidad de mantener numerosos debates con los agentes implicados en el diseño y desarrollo de los sistemas de IA. Estos pusieron de relieve la necesidad de aclarar el marco jurídico aplicable a las prácticas más extendidas en el sector con el fin de construir IAs innovadoras y responsables.
El interés legítimo es la base jurídica más utilizada para el desarrollo de sistemas de IA.
Si bien pueden utilizarse varias bases jurídicas para justificar el tratamiento de datos personales con el fin de desarrollar un sistema de IA, la base del “interés legítimo” de la organización que lleva a cabo el entrenamiento es lo más frecuente que parece retenerse. Esta base requiere la implementación de una evaluación de riesgos para las personas y puede requerir condiciones de implementación específicas destinadas a proteger a las personas y sus datos. La CNIL ofrece elementos concretos para los responsables del tratamiento de datos , en particular cuando se utilizan técnicas de web scraping o la publicación de IA de código abierto.
La cosecha “ web scraping ” de datos debe ser especialmente supervisada
El desarrollo de sistemas de IA necesita, en ciertos casos, el acceso a grandes bases de datos de gran tamaño que pueden constituirse a partir de datos recopilados en línea. Importantes garantías técnicas y organizativas son fundamentales para garantizar el respeto de los derechos, porque en la mayoría de los casos, las personas cuyos datos se utilizan no están informadas de la existencia de estos tratamientos. Para mejorar la información y facilitar el ejercicio de los derechos de las personas, la CNIL propone centralizar un registro voluntario de estas prácticas.
La distribución de código abierto suele ser una práctica positiva también para la protección de datos.
El ecosistema de IA se ha construido históricamente en torno al intercambio y la colaboración comunitaria. Este movimiento es beneficioso porque mejora la transparencia sobre cómo funcionan los modelos y sistemas de IA y permite la discusión, la revisión por pares y la mejora de estos modelos. Sin embargo, puede acentuar ciertos riesgos, como los de uso malicioso o relacionados con la seguridad.
La CNIL considera que la difusión de código abierto es beneficiosa para la protección de datos porque proporciona, en particular, una mayor transparencia para los individuos. Esta práctica supone, sin embargo, que la apertura sea real y que se implementen las garantías necesarias, en particular en lo que respecta a las posibilidades de reutilización ofrecidas, así como al seguimiento de los modelos y su evolución en el tiempo, con el fin de permitir la información y el ejercicio. de derechos efectivos.
La información y el ejercicio de los derechos de las personas deben ser centrales en la reflexión de los actores.
Informar y permitir el ejercicio efectivo de los derechos son esenciales para la conformidad de los sistemas de IA desarrollados a partir de datos personales. La CNIL ofrece claves de lectura sobre los medios que se deben implementar para cumplir estas obligaciones frente a los interesados e indica en qué casos se podrían aplicar exenciones. También ofrece algunas respuestas sobre determinados derechos que entran en conflicto con el carácter estadístico de la IA: el derecho de rectificación y el derecho de supresión, en particular.
Cuestionamientos a la aplicabilidad del RGPD a los modelos de IA
El aprendizaje automático o machine learning se basa en la creación de modelos. Estas son representaciones aprendidas de los datos de entrenamiento. Desde aproximadamente 2010, ha surgido un campo de investigación en informática sobre la protección de los modelos de IA y, en particular, las posibilidades de memorizar, extraer o regurgitar la información resultante del entrenamiento. Estos pueden tener importantes repercusiones para la confidencialidad de los datos personales y la cuestión de la aplicación del RGPD a los propios modelos, cuando no se consideran anónimos.
A través de un cuestionario específico accesible en la página de consulta pública, la CNIL solicita a los profesionales afectados por esta cuestión que le ayuden a elaborar su posición futura.
El desarrollo de sistemas de IA es conciliable con cuestiones de protección de la privacidad. Más aun, tener en cuenta este imperativo permitirá el surgimiento de dispositivos, herramientas y aplicaciones éticas respetuosas de los derechos y libertades fundamentales. Es a esta condición que los los ciudadanos confiarán en estas tecnologías.
Ver las recomendaciones de la CNIL
Texto de referencia
Para ir más profundo
- IA: la CNIL publica sus primeras recomendaciones sobre el desarrollo de sistemas de inteligencia artificial
- Desarrollo de sistemas de IA: recomendaciones de la CNIL para cumplir con el RGPD
- #InteligenciaArtificial (IA) #Algoritmos #Consulta
