INTELIGENCIA ARTIFICIAL: LA CNIL PROPONE FICHAS Y CONSULTA SOBRE BASE DE DATOS DE APRENDIZAJE.

Facebook
Twitter
Reddit
LinkedIn
Telegram
WhatsApp

INTELIGENCIA ARTIFICIAL: LA CNIL PROPONE FICHAS Y CONSULTA SOBRE BASE DE DATOS DE APRENDIZAJE.

Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@hotmail.com

RESUMEN

Uno de los subconjuntos de la inteligencia artificial (IA), se centra en el diseño de sistemas de aprendizaje a través de datos con el objetivo de automatizar y acelerar el tiempo de decisión y el tiempo de rentabilidad.

La Comisión Nacional de Informática, y Libertades (CNIL) de Francia publica sus primeras fichas prácticas sobre la creación de bases de datos de aprendizaje, sometiendo éstas a Consulta pública hasta el 13 de noviembre de 2023.

El presente documento fue publicado en francés y ha sido traducido por el suscrito con la ayuda del aplicativo Google Translator. En el documento y al final, anexo al mismo, se incluyen enlaces a otros recursos y a las Fichas respectivas.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@hotmail.com

__________________________________________________________

Inteligencia artificial: la CNIL abre una consulta sobre la creación de bases de datos de aprendizaje

11 de octubre de 2023

La CNIL publica sus primeras fichas prácticas sobre la creación de bases de datos de formación para los sistemas de inteligencia artificial . Estas fichas deberían ayudar a los profesionales a conciliar la innovación y el respeto de los derechos de las personas. Ellas están sujetas a consulta pública hasta el 16 de noviembre de 2023.

Muchos actores interesados han requerido a la CNIL sobre la aplicación del Reglamento General de Protección de Datos (RGPD) a la inteligencia artificial ( IA), en particular desde la aparición de los sistemas generativos de IA.

El análisis de estos sistemas muestra que su desarrollo es compatible con las cuestiones de protección de la privacidad . Aún más, tener en cuenta este imperativo permitirá el surgimiento de dispositivos, herramientas y aplicaciones éticas fieles a los valores europeos.

Con esta condición los ciudadanos confiarán en estas tecnologías . Para ello, es importante que las partes interesadas tengan elementos de análisis claros y prácticos para informar las decisiones estratégicas sobre el desarrollo o uso de la IA que muchas organizaciones deben tomar en los próximos meses.

¿Cuáles son los objetivos de las fichas sometidas a consulta pública?

Las fichas prácticas de la CNIL sirven para apoyar a los actores del ecosistema de la IA en sus esfuerzos por cumplir la legislación sobre protección de datos personales.

Proporcionan respuestas concretas, ilustradas con ejemplos, a las cuestiones legales y técnicas relacionadas con la aplicación del RGPD a la IA.

Responden, en particular, a cuestiones relativas a la aplicación de los principios de finalidad, minimización y período de retención de las bases de datos de aprendizaje. También aclaran las normas aplicables a la investigación científica y a la reutilización de bases de datos.

¿Cuál es el alcance de las fichas prácticas?

Las fichas prácticas se refieren únicamente a:

  •     la fase de desarrollo, excluida la fase de implementación;
  •     los sistemas que implican el tratamiento de datos personales sujetos al RGPD.

Las fichas se dividen en 9 documentos distribuidos de la siguiente manera:

  •     En la introducción se especifica el alcance de las fichas prácticas;
  •     La ficha 1 se refiere al régimen jurídico aplicable al procesamiento de datos durante la fase de desarrollo del sistema de IA;
  •     La ficha 2 trata de determinar el propósito del procesamiento para crear una base de datos de capacitación para un sistema de IA;
  •     La ficha 3 analiza la calificación legal de los proveedores de sistemas de IA;
  •    La ficha 4 recuerda cómo elegir la base jurídica para el tratamiento y los controles adicionales que deben realizarse en función del método de recogida o reutilización de los datos;
  •   La ficha 5 se refiere a la realización de un análisis de impacto en materia de protección de datos;
  •   Las fichas 6 y 7 ayudan a las partes interesadas a tener en cuenta la protección de datos en las elecciones de diseño del sistema de IA, así como durante la recopilación y gestión de datos;
  •  En el apéndice se proporciona un modelo de documentación estándar.

Consultar las fichas 

Cuál fue el proceso de elaboración de estas fichas?

Para desarrollar estas fichas prácticas, la CNIL organizó una serie de reuniones con actores públicos y privados para recoger sus observaciones o preguntas sobre la creación de bases de datos de formación para sistemas de IA.

El 27 de julio de 2023 también lanzó una convocatoria de contribuciones para informar su reflexión, cuyo resumen se publica. La CNIL recibió 8 respuestas de empresas privadas, un instituto de investigación, un sindicato profesional de empleados y un particular.

¿Cuál es el calendario de la consulta y quién puede contribuir a la consulta?

Esta consulta pública finalizará el 16 de noviembre de 2023.

La CNIL desea permitir que el mayor número posible de personas, ya sean físicas o jurídicas, públicas o privadas, participen en esta consulta pública. En particular, quiere movilizar a todos los actores de la IA (empresas, investigadores, académicos, asociaciones, asesoramiento jurídico y técnico, etc.) en torno a las cuestiones de protección de los derechos y libertades que implica su uso.

Las respuestas a la consulta pública pueden ser colectivas y realizarse a través de federaciones, asociaciones, etc.

Las contribuciones deben realizarse descargando y completando el formulario. No es necesario realizar observaciones en todas las hojas para responder a la consulta pública.

Las contribuciones deberán enviarse a la siguiente dirección: ia@cnil.fr

Descargar el formulario

Cuáles son los siguientes pasos ?

Las contribuciones se analizarán al final de la consulta pública para permitir la publicación de las fichas finales, en el sitio web de la CNIL, a principios de 2024.

Estas primeras fichas prácticas se completarán, antes de finales de 2023, con otras fichas relativas, en particular, a la base jurídica del interés legítimo, a la gestión de los derechos y a la información de los interesados durante la fase de desarrollo.

Referencia de documento

Descargar la sintesis de las contribuciones

Convocatoria a contribuciones para la concepción de sistemas de inteligencia artificial  Síntesis desde contribuciones

[PDF -223,37 KB]

Texto de referencia

Para profundizar

Fichas

CUÁL ES EL ALCANCE DE LAS FICHAS PRÁCTICAS SOBRE IA?

La CNIL proporciona respuestas concretas para la creación de bases de datos utilizadas para el aprendizaje de sistemas de inteligencia artificial (IA), que involucran datos personales.

Saber más

Ficha 1

DETERMINAR EL RÉGIMEN JURÍDICO APLICABLE

La CNIL le ayuda a determinar el régimen jurídico aplicable al tratamiento de datos personales en la fase de desarrollo.

Saber más

Ficha 2

DEFINIR UNA FINALIDAD

La CNIL le ayuda a definir las finalidades teniendo en cuenta las especificidades del desarrollo de los sistemas de IA.

Saber más

Ficha 3

DETERMINAR LA CALIFICACIÓN LEGAL DE LOS PROVEEDORES DE SISTEMAS DE IA

Responsable del tratamiento, co-responsable o subcontratista: la CNIL ayuda a los proveedores de sistemas de IA a determinar su cualificación.

Saber más

Ficha 4

ASEGURAR QUE EL TRATAMIENTO ES LÍCITO

La CNIL le ayuda a determinar sus obligaciones en función de su responsabilidad y de los métodos de colecta o reutilización de datos.

Saber más

Ficha 5

REALIZAR UN ANÁLISIS DE IMPACTO SI ES NECESARIO

La CNIL explica cómo y en qué casos realizar un análisis de impacto de la protección de datos (AIPD) teniendo en cuenta los riesgos específicos del desarrollo de modelos de IA.

Saber más

Ficha 6

CONSIDERAR LA PROTECCIÓN DE DATOS EN EL DISEÑO DEL SISTEMA

Para asegurar el desarrollo de un sistema de IA que respete la protección de datos, es necesario realizar una reflexión previa a la hora de diseñar el sistema. La CNIL detalla los pasos.

> Saber más

Ficha 7

TENER EN CUENTA LA PROTECCIÓN DE DATOS EN LA COLECTA Y GESTIÓN DE DATOS

La CNIL proporciona mejores prácticas para seleccionar datos y limitar su procesamiento con el fin de entrañar un modelo eficiente respetando los principios de protección de datos desde el diseño y por defecto.

Saber más

Introduction

QUEL EST LE PÉRIMÈTRE DES FICHES PRATIQUES SUR L’IA ?

La CNIL apporte des réponses concrètes pour la constitution de bases de données utilisées pour l’apprentissage des systèmes d’intelligence artificielle (IA), qui impliquent des données personnelles.

> En savoir plus

Fiche 1

DÉTERMINER LE RÉGIME JURIDIQUE APPLICABLE

La CNIL vous aide à déterminer le régime juridique applicable aux traitements de données personnelles en phase de développement.

> En savoir plus

Fiche 2

DÉFINIR UNE FINALITÉ

La CNIL vous aide à définir la ou les finalités en tenant compte des spécificités du développement de systèmes d’IA.

> En savoir plus

Fiche 3

DÉTERMINER LA QUALIFICATION JURIDIQUE DES FOURNISSEURS DE SYSTÈMES D’IA

Responsable de traitement, responsable conjoint ou sous-traitant : la CNIL aide les fournisseurs de systèmes d’IA à déterminer leur qualification.

> En savoir plus

Fiche 4

ASSURER QUE LE TRAITEMENT EST LICITE

La CNIL vous aide à déterminer vos obligations en fonction de votre responsabilité et des modalités de collecte ou de réutilisation des données.

> En savoir plus

Fiche 5

RÉALISER UNE ANALYSE D’IMPACT SI NÉCESSAIRE

La CNIL vous explique comment et dans quels cas  réaliser une analyse d’impact sur la protection des données (AIPD) en tenant compte des risques spécifiques au développement de modèles d’IA.

> En savoir plus

Fiche 6

TENIR COMPTE DE LA PROTECTION DES DONNÉES DANS LA CONCEPTION DU SYSTÈME

Pour assurer le développement d’un système d’IA respectueux de la protection des données, il est nécessaire de mener une réflexion préalable lors de la conception du système. La CNIL en détaille les étapes.

> En savoir plus

Fiche 7

TENIR COMPTE DE LA PROTECTION DES DONNÉES DANS LA COLLECTE ET LA GESTION DES DONNÉES

La CNIL donne les bonnes pratiques pour sélectionner les données et limiter leur traitement afin d’entraîner un modèle performant dans le respect des principes de protection des données dès la conception et par défaut.

> En savoir plus

El Estudio Jurídico FERREYROS&FERREYROS es una firma especializada en aspectos legales y regulatorios relacionados con las Nanotecnologías, materia transversal, relacionada con la integración y convergencia de tecnologías (Nanotecnologías, Biotecnologías, Tecnologías de la Información y ciencias Cognitivas) (NBIC).

El Estudio realiza asesorías, consultorías, auditorías, formaciones, investigaciones y defensas en favor de agentes públicos y empresas privadas en Contenidos y Servicios vinculados con las NBIC, en todas las fases y etapas del negocio jurídico.

Desde la concepción, elaboración de proyectos, estudio de impacto, gestión, declaraciones y obtención de las autorizaciones y licencias, incluyendo negociación y ejecución de contratos y resolución de conflictos

Facebook
Twitter
Reddit
LinkedIn
Telegram
WhatsApp

Carlos Ferreyros

Doctor en Derecho. Magister en Informática Jurídica y Derecho Informático

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Te puede interesar