IA: la CNIL publica sus primeras recomendaciones sobre el desarrollo de sistemas de inteligencia artificial
8 de abril de 2024
Tras una consulta pública, la CNIL publica sus primeras recomendaciones sobre el desarrollo de sistemas de inteligencia artificial. Ellas deben ayudar a los profesionales a conciliar la innovación y el respeto de los derechos de las personas para el desarrollo innovador y responsable de sus sistemas de IA.
Conciliar el desarrollo de sistemas de IA con los desafíos de protección de la vida privada
Numerosos actores han participado a la CNIL de ciertos cuestionamientos concernientes a la aplicación del Reglamento General de Protección de Datos (RGPD) a la Inteligencia Artificial (IA) en particular después de la emergencia de sistemas de IA generativas «. En mayo de 2023, la CNIL publicó su “plan IA” y lanzó un importante trabajo de clarificación del marco legal con el fin de proteger a las partes interesadas.
El análisis de estos sistemas muestra que su desarrollo es compatible con las cuestiones de protección de la privacidad. Es más, tener en cuenta este imperativo permitirá el surgimiento de sistemas, herramientas y aplicaciones éticos fieles a los valores europeos.
Con esta condición los ciudadanos confiarán en estas tecnologías. Para ello, es importante que las partes interesadas cuenten con elementos claros y prácticos para informar las decisiones estratégicas sobre el desarrollo o uso de la IA que deberán tomar en los próximos meses.
Las primeras recomendaciones de la CNIL
Por un uso de la IA respetuoso de los datos personales
Para clarificar las normas aplicables en la materia, la CNIL publica hoy una primera serie de recomendaciones para el uso de la IA que respete los datos personales.
Estas recomendaciones de la CNIL sirven para acompañar los actores del ecosistema de la IA en sus esfuerzos por cumplir con la legislación sobre protección de datos personales. Ellas permiten de proporcionar respuestas concretas, ilustradas con ejemplos, a las cuestiones legales y técnicas relacionadas con la aplicación del RGPD a la IA. Los puntos abordados en estas primeras recomendaciones permiten en particular:
- determinar el régimen jurídico aplicable;
- definir un propósito;
- determinar la calificación jurídica de los actores;
- definir una base jurídica ;
- realizar pruebas y verificaciones en caso de reutilización de datos;
- realizar un análisis de impacto si es necesario;
- tener en cuenta la protección de datos al elegir el diseño del sistema;
- tener en cuenta la protección de datos en la recogida y gestión de datos.
7 fichas de recomendaciones oficiales
La CNIL también ofrece un resumen de sus recomendaciones para recordar los principios fundamentales y permitir que todos los interesados los apliquen a sus proyectos.
Ver el resumen de recomendaciones
Un documento para entenderlo todo.
Recomendaciones elaboradas en consulta con las partes interesadas en la IA
Estas recomendaciones han sido elaboradas después de una serie de reuniones con actores públicos y privados para recoger sus interrogantes sobre el tema, así como de una consulta pública de dos meses. De este modo, las partes interesadas (empresas, investigadores, académicos, asociaciones, asesorías jurídicas y técnicas, sindicatos, federaciones, etc.) pudieron expresarse y permitir a la CNIL de proponer recomendaciones lo más cercanas posible a sus interrogantes y de la realidad sobre los usos de la IA.
Durante la consulta pública, la CNIL recibió 43 contribuciones de varios actores del ecosistema de IA:
- 29 organizaciones con fines de lucro en diversos sectores (IA, finanzas, salud, aeronáutica, operadores de plataformas online, publicidad online, videojuegos, etc.);
- 7 organizaciones sin fines de lucro (asociación que representa a la sociedad civil, instituto de investigación, grupo de expertos, etc.);
- 4 personas;
- 3 establecimientos públicos.
Las contribuciones recibidas por la CNIL permitieron enriquecer y consolidar las recomendaciones, publicadas en su versión final. Por lo tanto, se han realizado varias aclaraciones y modificaciones, por ejemplo sobre el alcance de las recomendaciones y su articulación con el proyecto de reglamento sobre IA, el uso de herramientas de recolección (web scraping), la realización de un análisis de impacto en la protección de datos (AIPD) , etc.
También plantearon interrogantes estructurantes (información de las personas, condiciones que deben cumplirse para movilizar la base jurídica del interés legítimo, ejercicio de los derechos de las personas, etc.) que la CNIL abordará en futuras publicaciones.
La CNIL proporciona un resumen de las contribuciones, así como elementos de respuesta a las preguntas planteadas por los contribuyentes.
Leer la síntesis de los aportes
Las próximas etapas
En los próximos meses, la CNIL completará estas primeras recomendaciones con otras fichas relativas, en particular, sobre la base legal del interés legítimo, la gestión de los derechos, la información de los interesados, la anotación y la seguridad durante la fase de desarrollo. Este trabajo también estará sujeto a consulta pública.
Texto de referencia
Texto de referencia
Texto de referencia
Para profundizar
