Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
cferreyros@ferreyros-ferreyros.com
RESUMEN
El presente artículo es la versión en castellano del discurso que pronunciara Michael O’Flaherty, Comisario de Derechos Humanos del Consejo de Europa en el evento “Digitalización de los sistemas de protección social en Europa: la promesa de eficiencia frente a la realidad de la exclusión”, en la Conferencia de Alto Nivel sobre Derechos Sociales, en Chisináu, República de Moldavia, 18 de marzo de 2026.
El discurso se acompaña de algunas reflexiones sobre: “La digitalización de los sistemas de protección social”: Riesgos principales para los derechos humanos y Garantías y principios de proteccion. El discurso se focaliza en el equilibrio entre la libertad de expresión (art. 10 CEDH) y las posibles restricciones legítimas para proteger otros derechos y valores fundamentales, especialmente frente al discurso del odio y la discriminación.
El Consejo de Europa ha construido un Marco normativo básico, bajo el modelo de “democracia militante”: la libertad de expresión se protege, pero puede ser limitada cuando se vulneran derechos a la dignidad, igualdad y no discriminación, así como la integridad de grupos protegidos.
La Convención Europea de Derechos Humanos (art. 10) reconoce la libertad de expresión, pero permite restricciones necesarias en una sociedad democrática para proteger reputaciones, seguridad nacional, el orden público o los derechos de otros.
Para el Consejo de Europa y el Tribunal Europeo de Derechos Humanos, el discurso del odio (racismo, xenofobia, misoginia, homofobia, etc.) puede ser objeto de sanción si incita al odio, la violencia o la discriminación grave, siempre que la medida sea legal, necesaria y proporcional.
El Consejo ha adoptado recomendaciones y estándares (por ejemplo, del Comité contra la Discriminación “ECRI”) para que los Estados criminalicen y prevengan expresiones de odio, incorporando la noción de “discurso de odio” y “negacionismo” en su marco penal y de protección de víctimas.
Los Estados miembros deben establecer límites y obligaciones, prohibiendo expresamente el discurso de odio en su ordenamiento penal o de protección de víctimas, al mismo tiempo que garantizan el debido proceso y el respeto al principio de legalidad y proporcionalidad en las sanciones.
El Consejo exige también mecanismos de protección para las personas afectadas (accesibilidad para las denuncias, atención a víctimas, educación y sensibilización), articulando así una respuesta jurídica integral que combina prevención, represión y reparación.
En conclusión, jurídicamente el Consejo de Europa entiende el discurso como un derecho fundamental regulable, en el que el Estado tiene la obligación positiva de proteger a grupos vulnerables frente al odio y la discriminación, dentro de un marco constitucional y convencional de brecha mínima a la libertad de expresión.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privadas interesadas en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@ferreyros-ferreyros.com
_______________________________________________
Protección de los derechos humanos en la digitalización de los sistemas de bienestar social.
francés
Chisináu, República de Moldavia 18 de marzo de 2026
Discurso pronunciado con motivo del evento paralelo: «Digitalización de los sistemas de protección social en Europa: la promesa de eficiencia frente a la realidad de la exclusión», de la Conferencia de Alto Nivel sobre Derechos Sociales, Chișinău , República de Moldavia.
Esta semana, centraremos nuestra atención en la Carta de los Derechos Sociales. Nos centraremos en las cuestiones sociales como derechos humanos y, por lo tanto, como obligaciones vinculantes para los Estados.
Obviamente, esto es muy bienvenido, pero resulta vacío si no prestamos la misma atención a la aplicación efectiva de esos derechos. ¿Cómo pasamos del principio bien fundamentado en el papel al cambio en la experiencia vivida por el ser humano? Es en este contexto que celebro enormemente este debate, ya que los sistemas de bienestar social se encuentran entre los principales garantes del cumplimiento del deber formal de los derechos humanos.
¿En qué sentido? Obviamente, prestan los servicios que ofrecen. Tenemos derecho a la atención médica al más alto nivel posible. Tenemos derecho a prestaciones por desempleo. Tenemos derecho a todo tipo de derechos en el ámbito social. Los sistemas de bienestar social garantizan estos derechos, pero, igual de importante, posibilitan todo lo demás. Empoderan a quienes los poseen para que disfruten de todos sus derechos humanos. Y, por cierto, no solo de los derechos sociales, sino también de sus derechos civiles, de todos los derechos humanos.
En ese contexto, celebro la digitalización de los sistemas de bienestar social.
Ya hemos visto cómo la IA puede fortalecer la prestación de servicios. Lo observamos, al menos en algunos ámbitos, en la mejora de la atención al cliente, la automatización de la gestión administrativa y la detección de fraudes. Además, la OCDE, en un estudio muy interesante del año pasado, identificó nuevas áreas para la digitalización del bienestar social, como el análisis predictivo, la previsión de la demanda y las crisis, el análisis predictivo para mejorar la identificación de los beneficiarios, una mayor difusión de información y la reducción de la falta de acceso a los servicios sociales.
Pero, por supuesto, junto con todas las ventajas que la digitalización aporta a los sistemas de bienestar social, también es una tarea muy arriesgada. Esto nos quedó muy claro, al menos a quienes viven en la UE, por la forma en que la Ley de IA de la UE califica los algoritmos de bienestar como de “alto riesgo”.
El alto riesgo de los algoritmos de asistencia social y de la digitalización de la asistencia social quedó bien ilustrado en el famoso caso de los Países Bajos sobre las ayudas para el cuidado infantil. Un escándalo tan grande que, como recordarán, provocó la caída de un gobierno.
Más recientemente, volvemos a observar en toda Europa numerosos casos de problemas derivados de la digitalización del bienestar social. Vemos, por ejemplo, denuncias relacionadas con los sistemas de asistencia social en Serbia, Francia, Dinamarca y otros países.
Aprendiendo de este tipo de situaciones y de investigaciones empíricas recientes, sugiero que los niveles de riesgo asociados a la digitalización del bienestar social pueden clasificarse, a grandes rasgos, en cinco categorías.
La primera cuestión tiene que ver con el motivo mismo de la digitalización. La investigación empírica revela que, al preguntar a los usuarios y a quienes aplican la tecnología, el principal factor determinante no es la calidad del servicio, sino su velocidad y eficiencia. Si bien la velocidad y la eficiencia no tienen nada de malo, cuando se priorizan sobre la calidad, es evidente el peligro.
En segundo lugar, y basándonos en los ejemplos que he dado, hemos visto cómo la tecnología puede generar resultados discriminatorios. Y, aún más evidente en los últimos años, cómo la aplicación de mecanismos de retroalimentación puede agravar progresivamente dichos resultados discriminatorios.
La tercera de las cinco investigaciones, bastante recientes e interesantes, realizadas en los últimos años, ha identificado el llamado “sesgo de automatización”. Este se da cuando el supervisor humano de la tecnología confía en que esta realizará un mejor trabajo que él. Por lo tanto, ante un conflicto entre la evaluación humana y la de la máquina, el humano optará por la evaluación de la máquina.
En cuarto lugar, están los desafíos del acceso a los servicios digitalizados y el grado de analfabetismo digital que experimentamos en nuestra sociedad. La Agencia de los Derechos Fundamentales identificó en 2023, a través de una de sus encuestas a gran escala, que solo una de cada cuatro personas mayores de 65 años posee habilidades digitales básicas. Tan solo una cuarta parte de las personas mayores de 65 años. Esto, obviamente, es una señal de alarma en lo que respecta a la necesidad de que las personas accedan a sus servicios de bienestar social de forma digital. Y, por cierto, he dado un ejemplo de personas mayores, pero podemos pensar en muchísimas personas marginadas en los márgenes de nuestras sociedades y en hasta qué punto un servicio digitalizado se convierte en algo remoto e inaccesible. Pienso, por ejemplo, en los romaníes en asentamientos irregulares donde ni siquiera tienen electricidad, y mucho menos acceso a servicios digitales.
La quinta y última preocupación respecto a la digitalización del bienestar social es su implementación poco transparente. La mayoría de las personas desconocen hasta qué punto sus prestaciones sociales se han digitalizado, o si algún aspecto del proceso de evaluación se ha trasladado a internet. Los gobiernos no han informado adecuadamente a la población sobre el grado de automatización de estos servicios esenciales. Esto, a su vez, plantea serios problemas en cuanto al acceso a recursos legales cuando algo falla. ¿Cómo se puede acceder a un recurso legal si no se sabe con exactitud cómo ni dónde se produjo el error?
¿Qué podemos hacer para abordar estas cinco categorías y asegurarnos de tener un futuro de bienestar social digitalizado que esté realmente al servicio de nuestra gente? Una vez más, me gustaría sugerir solo algunas cosas.
La primera cuestión concierne a quienes pertenecen a la UE y, en particular, a quienes trabajan en gobiernos de la UE.
Les animo a defender la legislación europea fundamental que rige el espacio digital. Me refiero a la Ley de IA y la Ley de Servicios Digitales. No son instrumentos perfectos, pero probablemente sean los mejores modelos del mundo para la supervisión del despliegue de la inteligencia artificial y todos los aspectos relacionados con la digitalización, incluido el ámbito del bienestar social. Así pues, a quienes representen a gobiernos de la UE, les ruego que transmitan este mensaje. Existe un proceso de simplificación en curso que, de adoptarse todas sus propuestas, debilitaría estas dos leyes esenciales.
En segundo lugar, necesitamos que nuestros gobiernos adopten las medidas necesarias para firmar y ratificar el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial. Este convenio ha sido descuidado. Todavía no contamos con las firmas ni las ratificaciones suficientes. Solo cuando entre en vigor dispondremos de la herramienta normativa que nos permitirá colaborar con los Estados miembros del Consejo de Europa para establecer sistemas nacionales de supervisión eficaces basados en los derechos humanos, incluso en el ámbito del bienestar social.
En tercer lugar, necesitamos que nuestros estados participen y adopten las herramientas que les permitan realizar pruebas de derechos humanos y evaluar los algoritmos para la prestación de servicios de bienestar social.
Quisiera destacar la excelente herramienta del Consejo de Europa, la denominada HUDERIA (Herramienta de Evaluación de los Derechos Humanos), por su idoneidad para el uso y la colaboración. Creo que podríamos aplicarla en nuestros contextos nacionales específicos.
Otros puntos importantes a considerar son: por un lado, debemos asegurarnos de que los humanos sigan al mando y que nunca cedamos la toma de decisiones a la máquina; por otro, debemos abordar el sesgo de automatización. Es fundamental capacitar a quienes supervisan las herramientas técnicas para que reconozcan que probablemente son más inteligentes que la herramienta, que la aplicación digital, y que deben vigilarla con suma atención.
Por supuesto, resulta obvio que es necesario invertir en alfabetización digital y en la mejora del acceso efectivo al espacio digital, especialmente para las personas mayores y para quienes se encuentran en los márgenes de la sociedad.
Para concluir, me gustaría mencionar dos roles que considero imprescindibles en nuestra colaboración de cara al futuro.
Me refiero a la importancia de incorporar a un lugar central en nuestro trabajo a nuestras instituciones nacionales de derechos humanos y organizaciones de la sociedad civil.
En primer lugar, consideremos las instituciones nacionales de derechos humanos. En los últimos años, han avanzado con gran rapidez en toda Europa al asumir su responsabilidad en el contexto de la inteligencia artificial. Y lo hacen gracias a su amplia experiencia en derechos humanos. Debemos asegurarnos de que se las consulte de forma integral, integrándolas, como ya he mencionado, en el proceso.
En segundo lugar, la sociedad civil. ¿Con qué frecuencia es la sociedad civil la que nos alerta sobre los fallos tecnológicos? Y, ¿con qué frecuencia, tras alertarnos sobre dichos fallos, es la sociedad civil, y no los gobiernos, la que encuentra la solución? Necesitamos una colaboración sólida.
Y mi último punto, queridos amigos, tiene que ver con la confianza. La prestación de servicios sociales seguros y eficaces es una de las dimensiones más delicadas e importantes de la gobernanza en cualquiera de nuestros países. Solo funcionará si se confía en ella. Hemos visto con qué facilidad las cosas pueden salir mal, y de hecho salen mal. Por eso, quisiera invitarlos a reflexionar sobre cómo pueden construir, mejorar y fortalecer la confianza entre los sistemas de bienestar social y la ciudadanía mediante la colaboración con la sociedad civil y las instituciones nacionales de derechos humanos, y avanzando de la manera más transparente y consultiva posible.
Gracias por su atención.
_______________________________________________
DIGITALIZACIÓN DE LOS SISTEMAS DE PROTECCIÓN SOCIAL EN EUROPA
La protección de los derechos humanos en la digitalización de los sistemas de bienestar social se centra en garantizar que la introducción de tecnologías digitales (registros electrónicos, IA, decisiones automatizadas y sistemas biométricos, entre otros) no socave el acceso efectivo a la seguridad social ni refuerce la discriminación y la exclusión de las personas más vulnerables.
Riesgos principales para los derechos humanos
Discriminación y profundización de desigualdades: la automatización y la toma de decisiones algorítmica suelen reproducir sesgos estructurales (por raza, origen, discapacidad, género, etc.), como ha ocurrido en Serbia, Países Bajos o India, donde comunidades marginadas fueron excluidas indebidamente de prestaciones vitales.
Vulneración del derecho a la privacidad y a la protección de datos: la “datificación” de la vida de las personas (acopio masivo de datos) aumento de la vigilancia estatal, obligando muchas veces a ceder el derecho a la privacidad como condición para acceder a ayudas.
Errores algorítmicos y falta de corrección: datos erróneos, modelos defectuosos o sistemas de “puntuación de riesgo” han llevado a denegar prestaciones, declarar personas fallecidas o agravar deudas, con procesos de recursos opacos y poco accesibles.
Acceso y no discriminación digital: la obligación de usar canales digitales (apps, registros biométricos o plataformas online) puede excluir a personas sin conectividad, escasa alfabetización digital, con discapacidad o en pobreza extrema, convirtiendo la tecnología en barrera antes que en facilitador.
Garantías y principios de protección
Evaluación de impacto en derechos humanos: los Estados deben realizar evaluaciones previas, independientes y contínuas sobre cómo afectan estas tecnologías al derecho a la seguridad social, a la privacidad, a la no discriminación y al debido proceso.
Transparencia, explicación y recurso efectivo: las personas tienen derecho a saber qué datos se usan, qué criterios se aplican y cómo impugnar decisiones automatizadas; debe existir revisión humana real y acceso a recursos legales sin discriminación.
Participación y diseño inclusivo: los sistemas deben diseñarse con la participación de comunidades vulnerables y organizaciones de derechos humanos, adoptando estándares de accesibilidad y evitando la “carga de prueba” sobre quien ya está en situación de pobreza.
Neutralidad, proporcionalidad y necesidad: cualquier sistema digital debe ser legítimo, necesaria y proporcionado, y no debe ser implementado cuando supone daños irreversibles a derechos fundamentales que no puedan mitigarse.
En síntesis, la digitalización de los sistemas de bienestar social solo es compatible con los derechos humanos si se articula en un marco de transparencia, control democrático, igualdad material y rendición de cuentas, y si su objetivo central es ampliar el acceso a la protección social, no restringirlo o automatizar la exclusión.
