Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
La reciente exposición de la Política General del nuevo Primer Ministro francés Michel Barnier ante la Asamblea General de los Diputados ha generado dudas respecto a generalizar la videovigilancia algorítmica, experimentada durante los Juegos Olímpicos mientras el Ministerio del Interior aseguraba hasta ahora que el experimento no iría más allá de la duración de los Juegos Olímpicos, aunque el texto de la ley ya preveía una prórroga hasta el 31 de marzo de 2025.
Dos artículos al respecto intentan informar como analizar sobre su aplicación y desafíos de la videovigilancia algorítmica. Según el Primer Ministro al momento de evocar las cuestiones de seguridad, se inclina por una «generalización del método probado durante los Juegos Olímpicos«. Del lado de la Asociación «La Quadrature du Net» en marzo de 2023, transmitieron ya a la CNIL su posición sobre la videovigilancia llamada “algorítmica”, así como más de 170 contribuciones que les dirigieron algunas personas en el marco de una contra-consulta popular.
Las críticas se basan principalmente en el enorme mercado que representa la Video vigilancia algorítmica y que a través de esta automatización, las empresas privadas adquieren poder policial y el establecimiento de normas y comportamientos en el espacio público, encajando perfectamente en discutibles ampliaciones de políticas de seguridad. Incluso, se cuestiona la relación entre la videovigilancia algorítmica y la Smart City (Ciudades Inteligentes) quienes alimentan la misma ficción: la de una ciudad cuyos sensores recopilan datos, donde los algoritmos clasifican y detectan y donde una plataforma central permitiría a la policía gestionar la ciudad de forma remota.
Estas reflexiones nos interrogan sobre la viabilidad de Proyectos que se implementan en Perú sobre Video vigilancia algorítmica, Ciudades Inteligentes y las altas tasas de criminalidad.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico: cferreyros@hotmail.com
_______________________________________________________
El gobierno (francés) prevé generalizar la videovigilancia algorítmica experimentada durante los Juegos Olímpicos.
El Ministerio del Interior ha asegurado hasta ahora que el experimento no iría más allá de la duración de los Juegos Olímpicos, aunque el texto de la ley ya preveía una prórroga hasta el 31 de marzo de 2025. Matignon (Sede del Primer Ministro) precisa esperar hasta el informe de una evaluación El comité prometió para finales de diciembre.
Artículo escrito por Yannick Falt
Radio France
Publicado el 10/02/2024 06:00 Actualizado el 10/02/2024 13:16
Tiempo de lectura: 2 min
Una cámara de vigilancia en París, 7 de septiembre de 2023. Foto ilustrativa. (VICENTE ISORE / MAXPPP)
PRECISIÓN. Luego de la publicación de este artículo, Matignon pidió a France Info que esperara el informe de un Comité de Evaluación prometido para finales de diciembre 2024.
El gobierno prevé generalizar la videovigilancia algorítmica, experimentada durante los Juegos Olímpicos, según supo France Info por una fuente gubernamental el miércoles 2 de octubre. Y esto, mientras el Ministerio del Interior aseguraba hasta ahora que el experimento no iría más allá de la duración de los Juegos Olímpicos, aunque el texto de la ley ya preveía una prórroga hasta el 31 de marzo de 2025. Matignon precisa que está a la espera del Informe de un Comité de Evaluación prometido para tomar su decisión a finales de diciembre.
A leer también: Paris 2024 : ces questions éthiques qui se posent avec les caméras «intelligentes» installées pour les Jeux olympiques
El martes por la tarde, en su declaración de política general, el Primer Ministro Michel Barnier afirmó que le gustaría, al momento de evocar las cuestiones de seguridad, una «generalización del método probado durante los Juegos Olímpicos«. Según las informaciones de Franceinfo, el gobierno está considerando desarrollar el uso de videovigilancia algorítmica.
Esta videovigilancia algorítmica fue probada en Francia en el marco de la ley de los Juegos Olímpicos de París adoptada en abril de 2023, durante los Juegos pero también para conciertos (Dépêche Mode, Black Eyed Peas, Taylor Swift) e incluso para Roland-Garros. Esta consiste en un software asociado a cámaras de vigilancia para identificar eventos considerados sospechosos o de riesgo, antes de alertar a un operador en tiempo real. Durante los Juegos Olímpicos, la Prefectura de Policía de París habló de 185 cámaras fijas movilizadas en la región parisina en el marco de este dispositivo durante los Juegos Olímpicos.
El jefe de policía de París, favorable a la generalización
Hasta ahora, el Ministerio del Interior aseguraba que el experimento no iría más allá de la duración de los Juegos Olímpicos, aunque en realidad el texto de la ley ya preveía una prórroga hasta el 31 de marzo de 2025. Sin embargo, la idea ahora en estudio es incorporar este uso a la ley de forma permanente. Una generalización que favorece especialmente a Laurent Núñez, Prefecto de Policía de París.
Según las autoridades, los resultados de este experimento son positivos, aunque es necesario mejorar el sistema en materia de detección de armas, inicio de incendio o detección de objetos abandonados. El Comité de Evaluación de las cámaras algorítmicas deberá presentar un informe a finales de 2024. Las asociaciones que defienden las libertades, por su parte, temen una vigilancia generalizada a pesar de la línea roja marcada hasta ahora por el gobierno: el uso del reconocimiento facial.
La Quadrature du Net
¿Qué es la videovigilancia algorítmica?
Https://www.laquadrature.net/2022/03/23/quest-ce-que-la-videosurveillance-algorithmique/
La Quadrature du Net[1] en marzo de 2023, transmitía ya a la CNIL su posición sobre la videovigilancia llamada “algorítmica”, así como más de 170 contribuciones que nos dirigieron algunas personas en el marco de una contra-consulta popular. A la espera de la respuesta de la CNIL, es esencial detallar los argumentos que, en nuestra opinión, conducen a combatir cualquier legitimación de estos dispositivos. Mientras tanto, es esencial volver a lo que significa este término y a la naturaleza exacta de estas tecnologías implementadas desde hace varios años en Francia. ¿Entonces, de qué estamos hablando?
Definiciones
Según la CNIL, la “vídeo aumentada se refiere aquí a dispositivos de vídeo a los que se asocia un procesamiento algorítmico implementado por software, que permite el análisis automático, en tiempo real y de forma continua, de las imágenes captadas por la cámara. »
Videovigilancia/videoprotección “aumentada” o “inteligente”, como la describen instituciones y fabricantes, o incluso videovigilancia “algorítmica” o “automatizada” (VSA), como preferimos llamarla. Todos estos términos cubren la misma realidad con contornos más o menos vagos y promesas más o menos concretas. Se trata de añadir una capa de algoritmo a las llamadas cámaras de videovigilancia “clásicas”. Y ello, con el objetivo de automatizar el análisis de las imágenes captadas por las cámaras, hasta ahora realizado por humanos, video operadores dentro de los Centros de Supervisión Urbana (CSU). Entonces, ¿por qué estas diferencias de lenguaje?
Como las nociones tienen mucho peso, preferimos “automatización” – este término deconstruye la noción de inteligencia que supuestamente aporta la tecnología. La automatización no es un procedimiento neutral fuera del mundo social, sino que lleva consigo[2] las representaciones y normas de este último. Y “algorítmico” para visibilizar la incorporación de este software fabricado por start-ups y multinacionales de las que no sabemos mucho.
Esta superposición algorítmica tiene como objetivo realizar análisis de vídeo, ya sea en tiempo real o a posteriori, e identificar… lo que la policía quiere identificar. Esto va desde la “detección de comportamientos sospechosos”, hasta “merodeo” (el hecho de estar estático en un espacio público), pasando por “cruzar una línea”, el seguimiento de personas, detectar objetos abandonados, peleas, robos, etc.
El despliegue de VSA en las ciudades
Ya sea en Toulouse en 2016 con IBM (proyecto abandonado en 2019), en Nimes desde 2015 con Briefcam, en Marsella a partir de 2018 con SNEF, en París con la RATP que autoriza a las empresas a probar sus algoritmos en los usuarios de los metros, o con el municipio de Suresnes que pone a su población a disposición de la start-up parisina XXII, la videovigilancia algorítmica se está implementando en casi todas partes de Francia. Aunque sigue siendo complicado cuantificar el número de ciudades que utilizan el VSA, debido a la evidente falta de transparencia de este último, es posible identificar al menos cincuenta, aunque el número real lamentablemente debe superar el centenar, sólo en Francia.
Desde hace varios años seguimos este despliegue, a menudo muy opaco (no todos los municipios son tan locuaces como el de Estrosi). Si bien VSA fue objeto hasta hace poco de numerosos experimentos salvajes, la CNIL pidió explícitamente en enero de 2022 a los fabricantes del sector que proporcionaran observaciones sobre el uso de estas tecnologías “para apoyar su implementación”, tomando claramente partido: aquel de la industria de la seguridad. La VSA parece preparada para inundar el mercado de la seguridad urbana digital.
Y este mercado de la VSA está tomando forma: si actores como IBM en Toulouse no han logrado hacer efectivo su producto y parecen haberse retirado, la empresa israelí Briefcam (entidad del grupo Canon) pretende dominar el mercado en Francia mientras las ciudades firman asociaciones con empresas o start-ups francesas, apoyadas por responsables políticos, para hacer competitivas a las industrias francesas en el mercado internacional de la seguridad urbana digital.
Los Ejemplos de Briefcam y Two-I
Briefcam es una empresa que produce software de videovigilancia algorítmica, muy establecida en Francia, Estados Unidos y una cuarentena de países. En 2020, más de 35 ciudades francesas ya utilizaban su software, del que aquí ofrecemos una demostración bastante reveladora.
En este vídeo, la empresa afirma ser capaz de condensar horas de vídeos en unos pocos minutos, para poder rastrear a las personas en función de sus atributos (mujer, hombre, bolso, sombreros, colores de ropa, etc.). También sabemos que el software de Briefcam tiene una opción de reconocimiento facial, que los funcionarios de seguridad están ansiosos por activar.
Two-I, por su parte, es una start-up francesa con sede cerca de Metz, que tras haber intentado primero encontrar un lugar en la detección de emociones (en particular, el experimento abortado en Niza para detectar emociones en los tranvías), finalmente se lanzó a la videovigilancia algorítmica y al diseño de lo que los fabricantes llaman una “plataforma de hipervisión”. Estas plataformas mapean y traducen los numerosos datos recopilados por cámaras y algoritmos, con el objetivo de “optimizar la gestión de la ciudad”. En definitiva, estas plataformas permiten hacer utilizable la videovigilancia algorítmica, mediante el mapeo de los datos y alertas captados por las cámaras y los algoritmos.
Hyperviseur de Two-I, vea el vídeo de presentación aquí.
El ejemplo de los softwares de Briefcam o Two-I (que son sólo dos ejemplos entre una decena de empresas de seguridad del mismo tipo) es indicativo de este nuevo mercado de seguridad, pero también de un cambio en el concepto de seguridad. En adelante, son las empresas privadas las que, diseñando los algoritmos vendidos a las autoridades locales, deciden qué hay detrás de una alerta de “comportamiento anormal o sospechoso”. A través de la automatización, las empresas adquieren poder policial y el establecimiento de normas y comportamientos en el espacio público, encajando perfectamente en la ampliación de las políticas de seguridad.
Los efectos de la videovigilancia algorítmica
Añadir un algoritmo a la videovigilancia “clásica” no es insignificante. Esto atestigua un cambio de escala en la vigilancia con cámaras que, hasta ahora, como la describe Tanguy Le Goff[3], era “un trabajo de vigilancia […] considerado aburrido y monótono” dentro del cual los operadores de vídeo pusieron en marcha estrategias para realizar este trabajo parcialmente.
La automatización de esta vigilancia debería aumentar el número de ojos detrás de la pantalla de la cámara. Y esto se refleja en particular en la criminalización de conductas hasta entonces inofensivas o casi inofensivas, como tirar basura, no llevar mascarilla o incluso excrementos de perro. La automatización permite a la policía extender su capacidad de acción a nuevas áreas en las que ahora tiene poder represivo. La policía puede multiplicar por diez su capacidad de normalizar los espacios públicos: si el merodeo, es decir el hecho de permanecer estático durante más de 300 segundos, alerta a la policía, podemos temer por las personas que no pueden ver la calle como un “mero lugar de paso”, porque viven allí o lo convierten en un hito social necesario. Volveremos en un artículo futuro sobre el hecho de que los algoritmos de las cámaras aumentan la represión policial sobre poblaciones que ya son un objetivo particular de las fuerzas del orden.
Otro aspecto de VSA es la creciente tendencia a colectar datos. Más allá de la vigilancia del espacio público y la normalización de comportamientos que acentúa el VSA, todo un mercado de datos económicos se frota las manos. La pretendida “supervisión” de los sistemas prometida por la CNIL permitiría a las empresas Tecno policía utilizar los espacios públicos y a las personas que pasan por ellos o viven como “datos con patas”. Y que las industrias de seguridad ganen dinero con nosotros, mejoran sus algoritmos de represión y luego los vendan en el mercado internacional. Esto es lo que está haciendo la multinacional francesa Idémia, que perfecciona sus dispositivos de reconocimiento facial en los aeropuertos franceses con los dispositivos PARAFE o MONA para luego vender equipos de reconocimiento facial a China y así participar en la vigilancia masiva y el genocidio de los Ouïghours, o aun ganar licitaciones de la Unión Europea para realizar biometría en las fronteras de la UE.
¿Cuál es la denominación VSA?
La videovigilancia automatizada y la Smart City alimentan la misma ficción: la de una ciudad cuyos sensores recopilan datos, donde los algoritmos clasifican y detectan y donde una plataforma central permitiría a la policía gestionar la ciudad de forma remota.
La videovigilancia algorítmica es un mercado de la seguridad que intenta de crecer volviéndose “digital”, es decir con IA y algoritmos. Y como muestra Myrtille Picaud[4], los industriales y los responsables políticos franceses están presionando para estructurar un sector industrial de seguridad fuerte para ser competitivos en el mercado internacional, que representa un mercado económico enorme. Los grandes acontecimientos deportivos, como los Juegos Olímpicos de París en 2024 o la Copa del Mundo de Rugby en 2023, han supuesto una gran ayuda para acelerar el desarrollo de las tecnologías de seguridad, ofrecer una vitrina a los fabricantes franceses y normalizar estos dispositivos.
Para los fabricantes, el VSA representa la posibilidad de justificar el despliegue de cientos de miles de cámaras en Francia. Un despliegue ampliamente criticado[5] incluso por las instituciones públicas, pero que, por arte de magia, adquiriría todo su sentido con la adición de algoritmos (argumento absurdo, volveremos sobre él en un próximo artículo). La VSA permitiría aprovechar todo el potencial de las cámaras e incluso acelerar su implementación: se necesitarán más y también será necesario sustituir las antiguas que no tendrían la calidad suficiente para los algoritmos; y sobre todo garantizar que sigamos con la instalación excesiva de cámaras que seguirán aportando mucho dinero a las empresas del sector.
Además de constituir una justificación para la multiplicación de las cámaras de videovigilancia, la VSA constituye un recurso rentable[6] políticamente, lo que explica el entusiasmo desmesurado de los funcionarios locales por la videovigilancia. La VSA es una medida a corto plazo que los funcionarios locales pueden movilizar para demostrar que están tomando medidas. La seguridad digital también constituye[7] una fuente de atractividad y de distinción en la competencia territorial, en la búsqueda de capital simbólico para atraer el turismo y la clase creativa.
La videovigilancia algorítmica supone una renovación de la creencia en la “profecía tecnológica[8]” integrada en la Smart City. Esta creencia permite seguir desplegando cámaras y, sobre todo, encontrar cada vez más oportunidades económicas.
Para concluir:
En suma, la videovigilancia algorítmica es una tecnología a punto de ser ampliamente implementada en Francia y que quizás ya lo sea mucho más de lo que podemos dudar, lo que sirve para justificar la existencia del inmenso parque de videovigilancia francés, intentando hacerlo más eficiente, mediante la automatización de la detección de delitos. Esta tecnología forma parte de la ficción más amplia de la Smart City, que basa la gestión de la ciudad en la IA y representa un enorme mercado económico. Estas tecnologías de automatización reducen aún más los espacios de libertad en las calles y plazas de las ciudades, aumentando la represión sobre las poblaciones que ya son el blanco de la policía. Volveremos con más detalle sobre por qué estamos en contra de esta tecnología y cómo es posible luchar contra su implementación.
Referencias
[1] La Quadrature du Net promueve y defiende las libertades fundamentales en el entorno digital. La asociación lucha contra la censura y la vigilancia, ya sea por parte del Estado o de empresas privadas. Cuestiona la forma en que la tecnología digital y la sociedad se influyen mutuamente. Trabaja por una Internet libre, descentralizada y emancipadora.
[2] Florent Castagnino, Rendre « intelligentes » les caméras : déplacement du travail des opérateurs de vidéosurveillance et redéfinition du soupçon, Sciences Po, 2019.
[3] Tanguy Le Goff, « Dans les « coulisses » du métier d’opérateur de vidéosurveillance », Criminologie, vol. 46, n°2, 2013, p. 91-108.
[4] Myrtille Picaud Peur sur la ville. La sécurité numérique pour l’espace urbain en France [Rapport de recherche] 01/2021, Chaire « Villes et numérique », École urbaine de Sciences Po, 2021.
[5] Ver estos tres estudioss : celle de Guillaume Gormand solicitado por el CREOGN, el estudio sobre la vidéosurveillance dans les villages, novembre 2021 et le rapport sur les polices municipales, de octubre 2020.
[6] Laurent Mucchielli, Vous êtes filmés, Armand Colin, 2018, page 80.
[7] Guillaume Faburel, Les métropoles barbares, Paris, Le passager clandestin, 2020 [2018], page 46.
[8] Ibid.
