Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
cferreyros@ferreyros-ferreyros.com
RESUMEN
La CNIL actualizó, el 26 de agosto de 2026, su demostrador Genmod, destinado a rastrear la genealogía de los modelos de IA publicados en código abierto y sus derivados.
La herramienta identifica los “ascendientes” – modelos de los que procede uno dado – y los “descendientes” – modelos derivados de él -, dado que un modelo puede ser descargado, modificado, especializado o combinado y redistribuido. Su utilidad principal es evaluar la propagación de datos de entrenamiento memorizados: sí un modelo contiene datos personales, permite identificar modelos de su linaje que podrían conservarlos, con relevancia para el ejercicio de los derechos del RGPD.
La nueva versión incorpora interfaz en francés e inglés, búsquedas más rápidas, indicadores de progreso, actualización semanal automatizada a partir de datos públicos de Hugging Face – plataforma y comunidad de código abierto centrada en inteligencia artificial y aprendizaje automático – y mejoras de navegación.
En conclusión, la iniciativa refuerza la trazabilidad como instrumento de rendición de cuentas en la IA de código abierto y facilita el análisis de riesgos de protección de datos a lo largo de la cadena de derivación de modelos. La herramienta no constituye por sí misma una obligación regulatoria, sino un instrumento experimental de la CNIL y de su laboratorio de innovación numérica, LINC.
Entre las recomendaciones, la CNIL insta a los desarrolladores y desplegadores de modelos abiertos de documentar su procedencia, datos de entrenamiento y transformaciones. Las autoridades podrían emplear mecanismos análogos para supervisión y atención de derechos; y conviene vigilar su evolución como referencia para el cumplimiento del RGPD y de la Ley de IA.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com
________________________________________________________
IA: La CNIL actualiza su herramienta de trazabilidad de los modelos publicados en código abierto.
26 de agosto de 2026
La CNIL (Autoridad Nacional de Informática y Libertades de Francia) ha publicado una nueva versión de su herramienta de demostración para explorar la genealogía de los modelos de IA publicados en código abierto. Esta actualización mejora notablemente el rendimiento y la facilidad de uso de la herramienta, además de automatizar la actualización de datos. Ya está disponible una versión en inglés.
Explorando la genealogia de los modelos de IA.
Los modelos de IA publicados en código abierto pueden ser descargados, modificados, especializados con nuevos datos o combinar con otros modelos antes de volver a estar disponibles. De este modo, un único modelo (por ejemplo, Kimi K3, Mistral Medium, LLaMa, etc.) puede dar lugar a numerosos modelos derivados.
El demostrador Genmod, desarrollado por el servicio de IA de la CNIL en colaboración con el Laboratorio de Innovación Digital (LINC) de la CNIL, y publicado inicialmente en noviembre de 2025, nos permite explorar estos vínculos y encontrar los ascendientes de un modelo (los modelos de los que proviene), así como sus descendientes (los modelos a los cuales ha contribuido).
Esta trazabilidad resulta especialmente útil para estudiar las consecuencias de la memorización de datos de entrenamiento en los modelos de IA. Se trata de identificar, a partir de un modelo que ha memorizado datos personales, otros modelos de su “genealogía” que también podrían haber conservado dicha información. Esto permite, en particular, estudiar las condiciones para el ejercicio de los derechos previstos en el RGPD .
Una nueva versión más rápida y simple de utilizar.
Esta nueva versión incorpora varias mejoras al programa de demostración.
Un interfaz disponible en francés e inglés.
Ahora, la aplicación completa se puede usar en ambos idiomas mediante un botón situado en la esquina superior derecha de la ventana.
Búsquedas más rápidas
El motor de exploración de grafos se ha optimizado para reducir significativamente el tiempo necesario incluso para las búsquedas más exhaustivas. Como resultado, una búsqueda sin límite de profundidad tarda aproximadamente veinte segundos en promedio.
Mayor visibilidad sobre el avance de las investigaciones.
El interfaz muestra ahora la progresión de la búsqueda y, cuando es posible, el tiempo restante para su finalización. También se pueden procesar varias búsquedas simultáneamente. En momentos de alta demanda, los usuarios pueden ver su posición en la cola, así como el número de búsquedas en curso.
Datos actualizados periódicamente
Un nuevo procedimiento permite reconstruir la base de datos utilizada por el demostrador a partir de datos públicos relacionados con los modelos y conjuntos de datos disponibles en HuggingFace. Este procedimiento automatiza las actualizaciones semanales de los grafos para un mejor seguimiento de la rápida evolución del ecosistema de modelos de código abierto. La fecha de actualización de los datos ahora se muestra en la aplicación.
Mejora de navegación y visualización de resultados
Ahora, los modelos más descargados tienen prioridad en las sugerencias de búsqueda, y los resultados detallados se ordenan por número de descargas de forma predeterminada. Además, se ha añadido acceso directo a la página de inicio en varias secciones de la aplicación.
Por último, se ha revisado el diseño para garantizar una visualización más uniforme en los principales navegadores modernos (Firefox, Chrome, Edge y Safari), así como en diferentes tamaños de pantalla.
Esta nueva versión prosigue así la experimentación llevada a cabo por la CNIL en torno a la trazabilidad de los modelos de IA de código abierto, al mismo tiempo que facilita y agiliza la actualización de la exploración de sus genealogías.
Texto de referencia
Para profundizar
- Resumen del proyecto: experimentación con escenarios para el ejercicio de derechos con el fin de fundamentar la postura de la CNIL.
- La CNIL publica una herramienta para la trazabilidad de los modelos de IA publicados en código abierto.
- [EN] IA: la CNIL actualiza su herramienta de trazabilidad para modelos de IA de ponderación abierta.
