Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
Uno de los subconjuntos de la inteligencia artificial (IA), se centra en el diseño de sistemas de aprendizaje a través de datos con el objetivo de automatizar y acelerar el tiempo de decisión y el tiempo de rentabilidad.
La Comisión Nacional de Informática, y Libertades (CNIL) de Francia publica sus primeras fichas prácticas sobre la creación de bases de datos de aprendizaje, sometiendo éstas a Consulta pública hasta el 13 de noviembre de 2023.
El presente documento fue publicado en francés y ha sido traducido por el suscrito con la ayuda del aplicativo Google Translator. En el documento y al final, anexo al mismo, se incluyen enlaces a otros recursos y a las Fichas respectivas.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@hotmail.com
__________________________________________________________
Inteligencia artificial: la CNIL abre una consulta sobre la creación de bases de datos de aprendizaje
11 de octubre de 2023
La CNIL publica sus primeras fichas prácticas sobre la creación de bases de datos de formación para los sistemas de inteligencia artificial . Estas fichas deberían ayudar a los profesionales a conciliar la innovación y el respeto de los derechos de las personas. Ellas están sujetas a consulta pública hasta el 16 de noviembre de 2023.
Muchos actores interesados han requerido a la CNIL sobre la aplicación del Reglamento General de Protección de Datos (RGPD) a la inteligencia artificial ( IA), en particular desde la aparición de los sistemas generativos de IA.
El análisis de estos sistemas muestra que su desarrollo es compatible con las cuestiones de protección de la privacidad . Aún más, tener en cuenta este imperativo permitirá el surgimiento de dispositivos, herramientas y aplicaciones éticas fieles a los valores europeos.
Con esta condición los ciudadanos confiarán en estas tecnologías . Para ello, es importante que las partes interesadas tengan elementos de análisis claros y prácticos para informar las decisiones estratégicas sobre el desarrollo o uso de la IA que muchas organizaciones deben tomar en los próximos meses.
¿Cuáles son los objetivos de las fichas sometidas a consulta pública?
Las fichas prácticas de la CNIL sirven para apoyar a los actores del ecosistema de la IA en sus esfuerzos por cumplir la legislación sobre protección de datos personales.
Proporcionan respuestas concretas, ilustradas con ejemplos, a las cuestiones legales y técnicas relacionadas con la aplicación del RGPD a la IA.
Responden, en particular, a cuestiones relativas a la aplicación de los principios de finalidad, minimización y período de retención de las bases de datos de aprendizaje. También aclaran las normas aplicables a la investigación científica y a la reutilización de bases de datos.
¿Cuál es el alcance de las fichas prácticas?
Las fichas prácticas se refieren únicamente a:
- la fase de desarrollo, excluida la fase de implementación;
- los sistemas que implican el tratamiento de datos personales sujetos al RGPD.
Las fichas se dividen en 9 documentos distribuidos de la siguiente manera:
- En la introducción se especifica el alcance de las fichas prácticas;
- La ficha 1 se refiere al régimen jurídico aplicable al procesamiento de datos durante la fase de desarrollo del sistema de IA;
- La ficha 2 trata de determinar el propósito del procesamiento para crear una base de datos de capacitación para un sistema de IA;
- La ficha 3 analiza la calificación legal de los proveedores de sistemas de IA;
- La ficha 4 recuerda cómo elegir la base jurídica para el tratamiento y los controles adicionales que deben realizarse en función del método de recogida o reutilización de los datos;
- La ficha 5 se refiere a la realización de un análisis de impacto en materia de protección de datos;
- Las fichas 6 y 7 ayudan a las partes interesadas a tener en cuenta la protección de datos en las elecciones de diseño del sistema de IA, así como durante la recopilación y gestión de datos;
- En el apéndice se proporciona un modelo de documentación estándar.
Cuál fue el proceso de elaboración de estas fichas?
Para desarrollar estas fichas prácticas, la CNIL organizó una serie de reuniones con actores públicos y privados para recoger sus observaciones o preguntas sobre la creación de bases de datos de formación para sistemas de IA.
El 27 de julio de 2023 también lanzó una convocatoria de contribuciones para informar su reflexión, cuyo resumen se publica. La CNIL recibió 8 respuestas de empresas privadas, un instituto de investigación, un sindicato profesional de empleados y un particular.
¿Cuál es el calendario de la consulta y quién puede contribuir a la consulta?
Esta consulta pública finalizará el 16 de noviembre de 2023.
La CNIL desea permitir que el mayor número posible de personas, ya sean físicas o jurídicas, públicas o privadas, participen en esta consulta pública. En particular, quiere movilizar a todos los actores de la IA (empresas, investigadores, académicos, asociaciones, asesoramiento jurídico y técnico, etc.) en torno a las cuestiones de protección de los derechos y libertades que implica su uso.
Las respuestas a la consulta pública pueden ser colectivas y realizarse a través de federaciones, asociaciones, etc.
Las contribuciones deben realizarse descargando y completando el formulario. No es necesario realizar observaciones en todas las hojas para responder a la consulta pública.
Las contribuciones deberán enviarse a la siguiente dirección: ia@cnil.fr
Cuáles son los siguientes pasos ?
Las contribuciones se analizarán al final de la consulta pública para permitir la publicación de las fichas finales, en el sitio web de la CNIL, a principios de 2024.
Estas primeras fichas prácticas se completarán, antes de finales de 2023, con otras fichas relativas, en particular, a la base jurídica del interés legítimo, a la gestión de los derechos y a la información de los interesados durante la fase de desarrollo.
Referencia de documento
Descargar la sintesis de las contribuciones
Convocatoria a contribuciones para la concepción de sistemas de inteligencia artificial – Síntesis desde contribuciones
[PDF -223,37 KB]
Texto de referencia
Para profundizar
Fichas
CUÁL ES EL ALCANCE DE LAS FICHAS PRÁCTICAS SOBRE IA?
La CNIL proporciona respuestas concretas para la creación de bases de datos utilizadas para el aprendizaje de sistemas de inteligencia artificial (IA), que involucran datos personales.
Ficha 1
DETERMINAR EL RÉGIMEN JURÍDICO APLICABLE
La CNIL le ayuda a determinar el régimen jurídico aplicable al tratamiento de datos personales en la fase de desarrollo.
Ficha 2
DEFINIR UNA FINALIDAD
La CNIL le ayuda a definir las finalidades teniendo en cuenta las especificidades del desarrollo de los sistemas de IA.
Ficha 3
DETERMINAR LA CALIFICACIÓN LEGAL DE LOS PROVEEDORES DE SISTEMAS DE IA
Responsable del tratamiento, co-responsable o subcontratista: la CNIL ayuda a los proveedores de sistemas de IA a determinar su cualificación.
Ficha 4
ASEGURAR QUE EL TRATAMIENTO ES LÍCITO
La CNIL le ayuda a determinar sus obligaciones en función de su responsabilidad y de los métodos de colecta o reutilización de datos.
Ficha 5
REALIZAR UN ANÁLISIS DE IMPACTO SI ES NECESARIO
La CNIL explica cómo y en qué casos realizar un análisis de impacto de la protección de datos (AIPD) teniendo en cuenta los riesgos específicos del desarrollo de modelos de IA.
Ficha 6
CONSIDERAR LA PROTECCIÓN DE DATOS EN EL DISEÑO DEL SISTEMA
Para asegurar el desarrollo de un sistema de IA que respete la protección de datos, es necesario realizar una reflexión previa a la hora de diseñar el sistema. La CNIL detalla los pasos.
> Saber más
Ficha 7
TENER EN CUENTA LA PROTECCIÓN DE DATOS EN LA COLECTA Y GESTIÓN DE DATOS
La CNIL proporciona mejores prácticas para seleccionar datos y limitar su procesamiento con el fin de entrañar un modelo eficiente respetando los principios de protección de datos desde el diseño y por defecto.
Introduction
QUEL EST LE PÉRIMÈTRE DES FICHES PRATIQUES SUR L’IA ?
La CNIL apporte des réponses concrètes pour la constitution de bases de données utilisées pour l’apprentissage des systèmes d’intelligence artificielle (IA), qui impliquent des données personnelles.
Fiche 1
DÉTERMINER LE RÉGIME JURIDIQUE APPLICABLE
La CNIL vous aide à déterminer le régime juridique applicable aux traitements de données personnelles en phase de développement.
Fiche 2
DÉFINIR UNE FINALITÉ
La CNIL vous aide à définir la ou les finalités en tenant compte des spécificités du développement de systèmes d’IA.
Fiche 3
DÉTERMINER LA QUALIFICATION JURIDIQUE DES FOURNISSEURS DE SYSTÈMES D’IA
Responsable de traitement, responsable conjoint ou sous-traitant : la CNIL aide les fournisseurs de systèmes d’IA à déterminer leur qualification.
Fiche 4
ASSURER QUE LE TRAITEMENT EST LICITE
La CNIL vous aide à déterminer vos obligations en fonction de votre responsabilité et des modalités de collecte ou de réutilisation des données.
Fiche 5
RÉALISER UNE ANALYSE D’IMPACT SI NÉCESSAIRE
La CNIL vous explique comment et dans quels cas réaliser une analyse d’impact sur la protection des données (AIPD) en tenant compte des risques spécifiques au développement de modèles d’IA.
Fiche 6
TENIR COMPTE DE LA PROTECTION DES DONNÉES DANS LA CONCEPTION DU SYSTÈME
Pour assurer le développement d’un système d’IA respectueux de la protection des données, il est nécessaire de mener une réflexion préalable lors de la conception du système. La CNIL en détaille les étapes.
Fiche 7
TENIR COMPTE DE LA PROTECTION DES DONNÉES DANS LA COLLECTE ET LA GESTION DES DONNÉES
La CNIL donne les bonnes pratiques pour sélectionner les données et limiter leur traitement afin d’entraîner un modèle performant dans le respect des principes de protection des données dès la conception et par défaut.
