Por: Carlos A. FERREYROS SOTO

Doctor en Derecho

Universidad de Montpellier I Francia.

cferreyros@hotmail.com

RESUMEN

La vicepresidenta de Valores y Transparencia de la Comisión Europea, Věra Jourová, firmó el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho en nombre de la Unión Europea. El Consejo Europeo tiene entre sus funciones definir las orientaciones y las prioridades políticas generales de la UE. La suscripción del Convenio Marco se realizó durante la conferencia informal de Ministros de Justicia de los Estados miembros del Consejo de Europa en Vilnus, Lituania. Este Convenio es el primer instrumento internacional jurídicamente vinculante sobre inteligencia artificial. Es plenamente compatible con el Derecho de la Unión en general y con la Ley de IA de la UE en particular, primer Reglamento global sobre IA a escala mundial.

La Unión Europea, representada por la Comisión y con el apoyo de los Estados miembros, participó activamente en las negociaciones de este Convenio. El Convenio incluye una serie de conceptos clave de la Ley de IA, como:

• Un enfoque en la IA centrada en el ser humano, coherente con los derechos humanos, la democracia y el Estado de Derecho
• Un enfoque basado en el riesgo
• Principios claves para una IA fiable (por ejemplo, transparencia, solidez, seguridad, gobernanza y protección de datos)
• Transparencia para el contenido generado por la IA y en las interacciones con los sistemas de IA
• Refuerzo de la documentación, la rendición de cuentas y las vías de recurso
• Apoyo a la innovación segura a través de espacios controlados de pruebas
• Obligaciones de gestión de riesgos
• Obligaciones de documentación
• Mecanismos de supervisión para la supervisión de las actividades de IA

El Convenio proporciona un marco eficaz de protección a nivel internacional para abordar los riesgos que plantea la IA para los derechos humanos, la democracia y el estado de Derecho. Se incluye al final el texto íntegro del Convenio traducido del inglés al castellano por el suscito con la ayuda del aplicativo Google Traductor y el texto oficial en inglés.

A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@hotmail.com

_______________________________________________________________

DECISIÓN (EU) 2024/2218 DEL CONSEJO

de 28 de agosto de 2024

relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho

EL CONSEJO DE LA UNIÓN EUROPEA,

Visto el Tratado de Funcionamiento de la Unión Europea, y en particular su artículo 114, en relación con su artículo 218, apartado 5,

Vista la propuesta de la Comisión Europea,

Considerando lo siguiente:

HA ADOPTADO LA PRESENTE DECISIÓN:

Artículo 1

Se autoriza la firma, en nombre de la Unión, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho (en lo sucesivo, «Convenio»), a reserva de la celebración de dicho Convenio (9).

Artículo 2

La Comisión garantizará la firma del Convenio, a reserva de su celebración.

Artículo 3

La presente Decisión entrará en vigor el día de su adopción.

Hecho en Bruselas, el 28 de agosto de 2024.

Por el Consejo

El Presidente

BÓKA J.

(1)  Decisión (UE) 2022/2349 del Consejo, de 21 de noviembre de 2022, por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (DO L 311 de 2.12.2022, p. 138).

(2)  Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial) (DO L, 2024/1689, de 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(3)  Directiva 2000/43/CE del Consejo, de 29 de junio de 2000, relativa a la aplicación del principio de igualdad de trato de las personas independientemente de su origen racial o étnico (DO L 180 de 19.7.2000, p. 22).

(4)  Directiva 2000/78/CE del Consejo, de 27 de noviembre de 2000, relativa al establecimiento de un marco general para la igualdad de trato en el empleo y la ocupación (DO L 303 de 2.12.2000, p. 16).

(5)  Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento General de Protección de Datos) (DO L 119 de 4.5.2016, p. 1).

(6)  Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales) (DO L 277 de 27.10.2022, p. 1).

(7)  Reglamento (UE) 2024/900 del Parlamento Europeo y del Consejo, de 13 de marzo de 2024, sobre transparencia y segmentación en la publicidad política (DO L, 2024/900, 20.3.2024, ELI: http://data.europa.eu/eli/reg/2024/900/oj).

(8)  Directiva 85/374/CEE del Consejo, de 25 de julio de 1985, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos (DO L 210 de 7.8.1985, p. 29).

(9)  El texto del Convenio se publicará junto con la decisión relativa a su celebración.

ELI: http://data.europa.eu/eli/dec/2024/2218/oj

ISSN 1977-0685 (electronic edition)

____________________________________________________________

DECISIÓN (UE) 2022/2349 DEL CONSEJO

de 21 de noviembre de 2022

por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho

EL CONSEJO DE LA UNIÓN EUROPEA,

Visto el Tratado de Funcionamiento de la Unión Europea, y en particular su artículo 114, en relación con su artículo 218, apartados 3 y 4,

Vista la recomendación de la Comisión Europea,

Considerando lo siguiente:

HA ADOPTADO LA PRESENTE DECISIÓN:

Artículo 1

1. Se autoriza a la Comisión a entablar negociaciones, en nombre de la Unión, en lo que respecta a los ámbitos que sean competencia exclusiva de la Unión, para un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho.
2. Las negociaciones se llevarán a cabo sobre la base de las directrices de negociación del Consejo que figuran en la adenda de la presente Decisión, que podrán someterse a revisión y a ulterior desarrollo según convenga, en función de la evolución de las negociaciones.

Artículo 2

Las negociaciones a que se refiere el artículo 1 se llevarán a cabo en consulta con el Grupo «Telecomunicaciones y Sociedad de la Información», que queda designado comité especial en el sentido del artículo 218, apartado 4, del TFUE.

La Comisión informará periódicamente al Grupo a que se refiere el párrafo primero sobre los pasos emprendidos en virtud de la presente Decisión y consultará periódicamente a dicho Grupo.

Siempre que lo solicite el Consejo, la Comisión le informará sobre el desarrollo y el resultado de las negociaciones, también por escrito.

En la medida en que el contenido de las negociaciones se refiera en parte a ámbitos de competencia de la Unión y en parte a ámbitos de competencia de sus Estados miembros, la Comisión y los Estados miembros cooperarán estrechamente a lo largo del proceso de negociación, con el fin de garantizar la unidad de la representación exterior de la Unión.

Artículo 3

El destinatario de la presente Decisión es la Comisión.

Hecho en Bruselas, el 21 de noviembre de 2022.

Por el Consejo

El Presidente

1. NEKULA

(1)  Directiva 85/374/CEE del Consejo, de 25 de julio de 1985, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos (DO L 210 de 7.8.1985, p. 29); Directiva 2001/95/CE del Parlamento Europeo y del Consejo, de 3 de diciembre de 2001, relativa a la seguridad general de los productos (DO L 11 de 15.1.2002, p. 4); Directiva 2006/42/CE del Parlamento Europeo y del Consejo, de 17 de mayo de 2006, relativa a las máquinas y por la que se modifica la Directiva 95/16/CE (refundición) (DO L 157 de 9.6.2006, p. 24); Directiva 2009/48/CE del Parlamento Europeo y del Consejo, de 18 de junio de 2009, sobre la seguridad de los juguetes (DO L 170 de 30.6.2009, p. 1); Directiva 2014/53/UE del Parlamento Europeo y del Consejo, de 16 de abril de 2014, relativa a la armonización de las legislaciones de los Estados miembros sobre la comercialización de equipos radioeléctricos, y por la que se deroga la Directiva 1999/5/CE (DO L 153 de 22.5.2014, p. 62); Reglamento (UE) 2017/745 del Parlamento Europeo y del Consejo, de 5 de abril de 2017, sobre los productos sanitarios, por el que se modifican la Directiva 2001/83/CE, el Reglamento (CE) n.o 178/2002 y el Reglamento (CE) n.o 1223/2009 y por el que se derogan las Directivas 90/385/CEE y 93/42/CEE del Consejo (DO L 117 de 5.5.2017, p. 1); Reglamento (UE) 2019/2144 del Parlamento Europeo y del Consejo, de 27 de noviembre de 2019, relativo a los requisitos de homologación de tipo de los vehículos de motor y de sus remolques, así como de los sistemas, componentes y unidades técnicas independientes destinados a esos vehículos, en lo que respecta a su seguridad general y a la protección de los ocupantes de los vehículos y de los usuarios vulnerables de la vía pública, por el que se modifica el Reglamento (UE) 2018/858 del Parlamento Europeo y del Consejo y se derogan los Reglamentos (CE) n.o 78/2009, (CE) n.o 79/2009 y (CE) n.o 661/2009 del Parlamento Europeo y del Consejo y los Reglamentos (CE) n.o 631/2009, (UE) n.o 406/2010, (UE) n.o 672/2010, (UE) n.o 1003/2010, (UE) n.o 1005/2010, (UE) n.o 1008/2010, (UE) n.o 1009/2010, (UE) n.o 19/2011, (UE) n.o 109/2011, (UE) n.o 458/2011, (UE) n.o 65/2012, (UE) n.o 130/2012, (UE) n.o 347/2012, (UE) n.o 351/2012, (UE) n.o 1230/2012 y (UE) 2015/166 de la Comisión (DO L 325 de 16.12.2019, p. 1).

(2)  Directiva 2000/31/CE del Parlamento Europeo y del Consejo, de 8 de junio de 2000, relativa a determinados aspectos jurídicos de los servicios de la sociedad de la información, en particular el comercio electrónico en el mercado interior (Directiva sobre el comercio electrónico) (DO L 178 de 17.7.2000, p. 1); Directiva 2006/123/CE del Parlamento Europeo y del Consejo, de 12 de diciembre de 2006, relativa a los servicios en el mercado interior (DO L 376 de 27.12.2006, p. 36); Directiva 2008/48/CE del Parlamento Europeo y del Consejo, de 23 de abril de 2008, relativa a los contratos de crédito al consumo y por la que se deroga la Directiva 87/102/CEE del Consejo (DO L 133 de 22.5.2008, p. 66).

(3)  Directiva 2000/43/CE del Consejo, de 29 de junio de 2000, relativa a la aplicación del principio de igualdad de trato de las personas independientemente de su origen racial o étnico (DO L 180 de 19.7.2000, p. 22); Directiva 2000/78/CE del Consejo, de 27 de noviembre de 2000, relativa al establecimiento de un marco general para la igualdad de trato en el empleo y la ocupación (DO L 303 de 2.12.2000, p. 16); Directiva 2002/58/CE del Parlamento Europeo y del Consejo, de 12 de julio de 2002, relativa al tratamiento de los datos personales y a la protección de la intimidad en el sector de las comunicaciones electrónicas (Directiva sobre la privacidad y las comunicaciones electrónicas) (DO L 201 de 31.7.2002, p. 37); Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos) (DO L 119 de 4.5.2016, p. 1); Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por parte de las autoridades competentes para fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, y a la libre circulación de dichos datos y por la que se deroga la Decisión Marco 2008/977/JAI del Consejo (DO L 119 de 4.5.2016, p. 89).

(4)  Carta de los Derechos Fundamentales de la Unión Europea (DO C 326 de 26.10.2012, p. 391).

(5)  Reglamento (UE) 2018/1725 del Parlamento Europeo y del Consejo, de 23 de octubre de 2018, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por las instituciones, órganos y organismos de la Unión, y a la libre circulación de esos datos, y por el que se derogan el Reglamento (CE) n.o 45/2001 y la Decisión n.o 1247/2002/CE (DO L 295 de 21.11.2018, p. 39).

(6)  Dictamen 20/2022 del Supervisor Europeo de Protección de Datos sobre la Recomendación de Decisión del Consejo por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en inglés) (pendiente de publicación en el Diario Oficial).

________________________________________________________________________

Convenio Marco del Consejo de Europa sobre la Inteligencia Artificial y los Derechos Humanos, la Democracia y el Estado de Derecho

Vilnus, 5.IX.2024

Preámbulo

Los Estados miembros del Consejo de Europa y los demás signatarios del presente Convenio,

Considerando que el objetivo del Consejo de Europa es lograr una mayor unidad entre sus miembros, basada en particular en el respeto de los derechos humanos, la democracia y el Estado de Derecho;

 Reconociendo el valor de fomentar la cooperación entre las Partes en el presente Convenio y de ampliar dicha cooperación a otros Estados que compartan los mismos valores;

 Conscientes de los avances acelerados en ciencia y tecnología y de los profundos cambios producidos por las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, que tienen el potencial de promover la prosperidad humana, así como el bienestar individual y social, el desarrollo sostenible, la igualdad de género y el empoderamiento de todas las mujeres y niñas, así como otros objetivos e intereses importantes, al mejorar el progreso y la innovación;

Reconociendo que las actividades que se realizan en el marco del ciclo de vida de los sistemas de inteligencia artificial pueden ofrecer oportunidades sin precedentes para proteger y promover los derechos humanos, la democracia y el estado de derecho;

 Preocupados por el hecho de que determinadas actividades que se realizan en el marco del ciclo de vida de los sistemas de inteligencia artificial pueden socavar la dignidad humana y la autonomía individual, los derechos humanos, la democracia y el estado de derecho;

Preocupados por los riesgos de discriminación en los contextos digitales, en particular los que involucran sistemas de inteligencia artificial, y su posible efecto de crear o agravar desigualdades, incluidas las que experimentan las mujeres y las personas en situaciones de vulnerabilidad, en lo que respecta al disfrute de sus derechos humanos y su participación plena, igualitaria y efectiva en los asuntos económicos, sociales, culturales y políticos;

 Preocupados por el uso indebido de los sistemas de inteligencia artificial y opuestos al uso de esos sistemas con fines represivos en violación del derecho internacional de los derechos humanos, incluso mediante prácticas de vigilancia y censura arbitrarias o ilegales que erosionan la privacidad y la autonomía individual;

Conscientes del hecho de que los derechos humanos, la democracia y el estado de derecho están intrínsecamente interrelacionados;

Convencidos de la necesidad de establecer, con carácter prioritario, un marco jurídico aplicable a nivel mundial que establezca principios y normas generales comunes que rijan las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, que preserven eficazmente los valores compartidos y aprovechen los beneficios de la inteligencia artificial para la promoción de esos valores de una manera que favorezca la innovación responsable;

Reconociendo la necesidad de promover la alfabetización digital, el conocimiento y la confianza en el diseño, desarrollo, uso y desmantelamiento de los sistemas de inteligencia artificial;

Reconociendo el carácter marco de la presente Convención, que puede complementarse con otros instrumentos para abordar cuestiones específicas relacionadas con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial;

Subrayando que la presente Convención tiene por objeto abordar los desafíos específicos que surgen a lo largo del ciclo de vida de los sistemas de inteligencia artificial y fomentar la consideración de los riesgos e impactos más amplios relacionados con esas tecnologías, incluidos, entre otros, la salud humana y el medio ambiente, y los aspectos socioeconómicos, como el empleo y el trabajo;

Tomando nota de los esfuerzos pertinentes para promover la comprensión y la cooperación internacionales en materia de inteligencia artificial por parte de otras organizaciones y foros internacionales y supranacionales;

Teniendo presentes los instrumentos internacionales de derechos humanos aplicables, como la Declaración Universal de Derechos Humanos de 1948, el Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales de 1950 (STE n.º 5), el Pacto Internacional de Derechos Civiles y Políticos de 1966, el Pacto Internacional de Derechos Económicos, Sociales y Culturales de 1966, la Carta Social Europea de 1961 (STE n.º 35), así como sus respectivos protocolos, y la Carta Social Europea (revisada) de 1996 (STE n.º 163);

Teniendo presentes también la Convención de las Naciones Unidas sobre los Derechos del Niño de 1989 y la Convención de las Naciones Unidas sobre los Derechos de las Personas con Discapacidad de 2006;

Teniendo presentes también los derechos de privacidad de las personas y la protección de los datos personales, según corresponda y se confiera, por ejemplo, en el Convenio para la protección de las personas con respecto al tratamiento automatizado de datos de carácter personal de 1981 (STE n.º 108) y sus protocolos;

Afirmando el compromiso de las Partes de proteger los derechos humanos, la democracia y el estado de derecho, y de fomentar la fiabilidad de los sistemas de inteligencia artificial mediante la presente Convención,

Han convenido en lo siguiente:

 Capítulo I – Disposiciones generales

 Artículo 1 – Objeto y finalidad

1. Las disposiciones de la presente Convención tienen por objeto garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente compatibles con los derechos humanos, la democracia y el estado de derecho.
2. Cada Parte adoptará o mantendrá medidas legislativas, administrativas o de otra índole que sean adecuadas para dar efecto a las disposiciones establecidas en la presente Convención. Estas medidas serán graduales y diferenciadas según sea necesario en vista de la gravedad y probabilidad de que se produzcan efectos adversos sobre los derechos humanos, la democracia y el estado de derecho a lo largo del ciclo de vida de los sistemas de inteligencia artificial. Esto podrá incluir medidas específicas u horizontales que se apliquen independientemente del tipo de tecnología utilizada.
3. A fin de garantizar la aplicación efectiva de sus disposiciones por las Partes, la presente Convención establece un mecanismo de seguimiento y prevé la cooperación internacional.

 Artículo 2 – Definición de sistemas de inteligencia artificial

 A los efectos de la presente Convención, se entiende por «sistema de inteligencia artificial» un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar resultados tales como predicciones, contenido, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales. Los distintos sistemas de inteligencia artificial varían en sus niveles de autonomía y adaptabilidad después de su implementación.

 Artículo 3 – Ámbito de aplicación

1. El ámbito de aplicación del presente Convenio abarca las actividades que se realizan durante el ciclo de vida de los sistemas de inteligencia artificial y que pueden interferir en los derechos humanos, la democracia y el Estado de derecho, de la siguiente manera:

a) Cada Parte aplicará el presente Convenio a las actividades que se realizan durante el ciclo de vida de los sistemas de inteligencia artificial por parte de autoridades públicas o agentes privados que actúen en su nombre.

b) Cada Parte abordará los riesgos e impactos derivados de las actividades que se realizan durante el ciclo de vida de los sistemas de inteligencia artificial por parte de agentes privados en la medida en que no estén contempladas en el apartado a) de una manera que se ajuste al objeto y propósito del presente Convenio.

Cada Parte especificará en una declaración presentada al Secretario General del Consejo de Europa en el momento de la firma o al depositar su instrumento de ratificación, aceptación, aprobación o adhesión, cómo se propone implementar esta obligación, ya sea aplicando los principios y obligaciones establecidos en los Capítulos II a VI del presente Convenio a las actividades de agentes privados o adoptando otras medidas apropiadas para cumplir la obligación establecida en este apartado. Las Partes podrán, en cualquier momento y de la misma manera, modificar sus declaraciones.

 Al implementar la obligación establecida en este apartado, una Parte no podrá derogar ni limitar la aplicación de sus obligaciones internacionales contraídas para proteger los derechos humanos, la democracia y el estado de derecho.

2. No se exigirá a una Parte que aplique la presente Convención a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial relacionadas con la protección de sus intereses de seguridad nacional, en el entendido de que dichas actividades se realizan de manera compatible con el derecho internacional aplicable, incluidas las obligaciones en materia de derecho internacional de los derechos humanos, y con respeto por sus instituciones y procesos democráticos.

3. Sin perjuicio de lo dispuesto en el artículo 13 y el artículo 25, párrafo 2, la presente Convención no se aplicará a las actividades de investigación y desarrollo relativas a sistemas de inteligencia artificial que aún no se hayan puesto a disposición para su uso, a menos que se realicen pruebas o actividades similares de tal manera que tengan el potencial de interferir con los derechos humanos, la democracia y el estado de derecho.

4. Las cuestiones relacionadas con la defensa nacional no entran en el ámbito de aplicación de la presente Convención.

 Capítulo II – Obligaciones generales

 Artículo 4 – Protección de los derechos humanos

 Cada Parte adoptará o mantendrá medidas para garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean compatibles con las obligaciones de protección de los derechos humanos, consagradas en el derecho internacional aplicable y en su derecho interno.

 Artículo 5 – Integridad de los procesos democráticos y respeto del Estado de derecho

1 Cada Parte adoptará o mantendrá medidas que busquen garantizar que los sistemas de inteligencia artificial no se utilicen para socavar la integridad, independencia y eficacia de las instituciones y los procesos democráticos, incluido el principio de separación de poderes, el respeto a la independencia judicial y el acceso a la justicia.

2 Cada Parte adoptará o mantendrá medidas que busquen proteger sus procesos democráticos en el contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, incluido el acceso justo de las personas al debate público y su participación en él, así como su capacidad para formar libremente opiniones.

 Capítulo III – Principios relacionados con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial

 Artículo 6 – Enfoque general

 Este capítulo establece los principios generales comunes que cada Parte aplicará en relación con los sistemas de inteligencia artificial de una manera adecuada a su ordenamiento jurídico interno y a las demás obligaciones de esta Convención.

 Artículo 7 – Dignidad humana y autonomía individual

 Cada Parte adoptará o mantendrá medidas para respetar la dignidad humana y la autonomía individual en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

 Artículo 8 – Transparencia y supervisión

 Cada Parte adoptará o mantendrá medidas para garantizar que se establezcan requisitos adecuados de transparencia y supervisión adaptados a los contextos y riesgos específicos con respecto a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, incluso con respecto a la identificación de contenido generado por sistemas de inteligencia artificial.

 Artículo 9 – Rendición de cuentas y responsabilidad

 Cada Parte adoptará o mantendrá medidas para garantizar la rendición de cuentas y la responsabilidad por los impactos adversos en los derechos humanos, la democracia y el estado de derecho resultantes de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

 Artículo 10 – Igualdad y no discriminación

1 Cada Parte adoptará o mantendrá medidas con miras a garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial respeten la igualdad, incluida la igualdad de género, y la prohibición de la discriminación, según lo dispuesto en el derecho internacional y nacional aplicable.

2 Cada Parte se compromete a adoptar o mantener medidas destinadas a superar las desigualdades para lograr resultados justos y equitativos, de conformidad con sus obligaciones nacionales e internacionales aplicables en materia de derechos humanos, en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

Artículo 11 – Privacidad y protección de datos personales

 Cada Parte adoptará o mantendrá medidas para garantizar que, con respecto a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial:

a) los derechos de privacidad de las personas y sus datos personales estén protegidos, incluso mediante leyes, normas y marcos nacionales e internacionales aplicables; y

b) se hayan establecido garantías y salvaguardas efectivas para las personas, de conformidad con las obligaciones legales nacionales e internacionales aplicables.

 Artículo 12 – Fiabilidad

 Cada Parte adoptará, según corresponda, medidas para promover la fiabilidad de los sistemas de inteligencia artificial y la confianza en sus resultados, que podrían incluir requisitos relacionados con la calidad y la seguridad adecuadas durante todo el ciclo de vida de los sistemas de inteligencia artificial.

 Artículo 13 – Innovación segura

 Con miras a fomentar la innovación y evitar efectos adversos sobre los derechos humanos, la democracia y el estado de derecho, cada Parte está llamada a permitir, según corresponda, el establecimiento de entornos controlados para el desarrollo, la experimentación y el ensayo de sistemas de inteligencia artificial bajo la supervisión de sus autoridades competentes.

 Capítulo IV – Recursos

Artículo 14 – Recursos

1 Cada Parte, en la medida en que sus obligaciones internacionales exijan recursos y sean compatibles con su ordenamiento jurídico interno, adoptará o mantendrá medidas para garantizar la disponibilidad de recursos accesibles y efectivos para las violaciones de los derechos humanos resultantes de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

2 Con el objetivo de apoyar el párrafo 1 anterior, cada Parte adoptará o mantendrá medidas que incluyan:

a) medidas para garantizar que la información pertinente sobre los sistemas de inteligencia artificial que tengan el potencial de afectar significativamente a los derechos humanos y su uso pertinente se documente, se proporcione a los organismos autorizados para acceder a esa información y, cuando sea apropiado y aplicable, se ponga a disposición o se comunique a las personas afectadas;

b) medidas para garantizar que la información a que se refiere el apartado a) sea suficiente para que las personas afectadas impugnen las decisiones adoptadas o fundamentadas sustancialmente en el uso del sistema y, cuando sea pertinente y adecuado, el uso del propio sistema; y

c) una posibilidad efectiva para que las personas afectadas presenten una reclamación ante las autoridades competentes.

Artículo 15 – Garantías procesales

1. Cada Parte garantizará que, cuando un sistema de inteligencia artificial afecte significativamente al disfrute de los derechos humanos, las personas afectadas dispongan de garantías, salvaguardas y derechos procesales efectivos, de conformidad con el derecho internacional y nacional aplicable.
2. Cada Parte procurará garantizar que, según corresponda al contexto, se notifique a las personas que interactúen con sistemas de inteligencia artificial que están interactuando con dichos sistemas y no con un ser humano.

Capítulo V – Evaluación y mitigación de riesgos e impactos adversos

 Artículo 16 – Marco de gestión de riesgos e impactos

1. Cada Parte, teniendo en cuenta los principios establecidos en el Capítulo III, adoptará o mantendrá medidas para la identificación, evaluación, prevención y mitigación de los riesgos que planteen los sistemas de inteligencia artificial, considerando los impactos reales y potenciales para los derechos humanos, la democracia y el estado de derecho.
2. Dichas medidas serán graduales y diferenciadas, según corresponda, y:

a) tendrán debidamente en cuenta el contexto y el uso previsto de los sistemas de inteligencia artificial, en particular en lo que respecta a los riesgos para los derechos humanos, la democracia y el estado de derecho;

b) tendrán debidamente en cuenta la gravedad y la probabilidad de los posibles impactos;

c) considerarán, cuando corresponda, las perspectivas de las partes interesadas pertinentes, en particular las personas cuyos derechos puedan verse afectados;

d) se aplicarán de forma iterativa a lo largo de las actividades dentro del ciclo de vida del sistema de inteligencia artificial;

e) incluirán el seguimiento de los riesgos y los impactos adversos para los derechos humanos, la democracia y el estado de derecho;

f) incluirán la documentación de los riesgos, los impactos reales y potenciales y el enfoque de gestión de riesgos; y

g) exigirán, cuando corresponda, la realización de pruebas de los sistemas de inteligencia artificial antes de ponerlos a disposición para su primer uso y cuando se modifiquen significativamente.

3. Cada Parte adoptará o mantendrá medidas que busquen garantizar que se aborden adecuadamente los impactos adversos de los sistemas de inteligencia artificial para los derechos humanos, la democracia y el estado de derecho. Tales efectos adversos y las medidas para abordarlos deben documentarse y fundamentarse en las medidas de gestión de riesgos pertinentes descritas en el párrafo 2.

4. Cada Parte evaluará la necesidad de una moratoria o prohibición u otras medidas apropiadas con respecto a determinados usos de los sistemas de inteligencia artificial cuando considere que tales usos son incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el estado de derecho.

Capítulo VI – Aplicación de la Convención

Artículo 17 – No discriminación

La aplicación de las disposiciones de la presente Convención por las Partes se garantizará sin discriminación de ningún tipo, de conformidad con sus obligaciones internacionales en materia de derechos humanos.

Artículo 18 – Derechos de las personas con discapacidad y de los niños

Cada Parte, de conformidad con su derecho interno y las obligaciones internacionales aplicables, tendrá debidamente en cuenta las necesidades y vulnerabilidades específicas en relación con el respeto de los derechos de las personas con discapacidad y de los niños.

Artículo 19 – Consulta pública

 Cada Parte procurará garantizar que las cuestiones importantes planteadas en relación con los sistemas de inteligencia artificial se examinen debidamente, según corresponda, mediante debate público y consultas con múltiples partes interesadas a la luz de las implicaciones sociales, económicas, jurídicas, éticas, ambientales y otras implicaciones pertinentes.

Artículo 20 – Alfabetización y habilidades digitales

Cada Parte fomentará y promoverá una alfabetización y habilidades digitales adecuadas para todos los segmentos de la población, incluidas las habilidades especializadas específicas para los responsables de la identificación, evaluación, prevención y mitigación de los riesgos planteados por los sistemas de inteligencia artificial.

 Artículo 21 – Salvaguardia de los derechos humanos existentes

Nada de lo dispuesto en la presente Convención se interpretará en el sentido de que limita, deroga o afecta de otro modo los derechos humanos u otros derechos y obligaciones legales conexos que puedan garantizarse en virtud de las leyes pertinentes de una Parte o de cualquier otro acuerdo internacional pertinente del que sea parte.

 Artículo 22 – Protección más amplia

 Ninguna de las disposiciones de la presente Convención se interpretará en el sentido de que limita o afecta de otro modo la posibilidad de que una Parte conceda un grado de protección más amplio que el estipulado en la presente Convención.

Capítulo VII – Mecanismo de seguimiento y cooperación

Artículo 23 – Conferencia de las Partes

1. La Conferencia de las Partes estará integrada por representantes de las Partes en la presente Convención.

2. Las Partes se consultarán periódicamente con miras a:

a)  facilitar la aplicación y ejecución efectivas de la presente Convención, incluida la identificación de los problemas y los efectos de cualquier reserva formulada de conformidad con el artículo 34, párrafo 1, o cualquier declaración formulada en virtud de la presente Convención;

 b) considerar la posibilidad de complementar o enmendar la presente Convención;

 c) considerar cuestiones y hacer recomendaciones específicas sobre la interpretación y aplicación de la presente Convención;

d) facilitar el intercambio de información sobre avances jurídicos, normativos o tecnológicos importantes que sean pertinentes, incluso para la consecución de los objetivos definidos en el artículo 25, para la aplicación de la presente Convención;

e) facilitar, cuando sea necesario, la solución amistosa de las controversias relacionadas con la aplicación de la presente Convención; y

 f) facilitar la cooperación con las partes interesadas pertinentes en relación con los aspectos pertinentes de la aplicación de la presente Convención, incluso mediante audiencias públicas cuando proceda.

3. La Conferencia de las Partes será convocada por el Secretario General del Consejo de Europa siempre que sea necesario y, en todo caso, cuando una mayoría de las Partes o el Comité de Ministros solicite su convocatoria.
4. La Conferencia de las Partes adoptará su propio reglamento interno por consenso dentro de los doce meses siguientes a la entrada en vigor del presente Convenio.
5. Las dos Partes contarán con la asistencia de la Secretaría del Consejo de Europa para el desempeño de sus funciones de conformidad con el presente artículo.
6. La Conferencia de las Partes podrá proponer al Comité de Ministros formas adecuadas de contratar a expertos pertinentes en apoyo de la aplicación efectiva del presente Convenio.
7. Toda Parte que no sea miembro del Consejo de Europa contribuirá a la financiación de las actividades de la Conferencia de las Partes. La contribución de un no miembro del Consejo de Europa será establecida conjuntamente por el Comité de Ministros y ese no miembro.
8. La Conferencia de las Partes podrá decidir restringir la participación en su labor de una Parte que haya dejado de ser miembro del Consejo de Europa en virtud del artículo 8 del Estatuto del Consejo de Europa (STE n.º 1) por una infracción grave del artículo 3 del Estatuto. De manera similar, se pueden adoptar medidas respecto de cualquier Parte que no sea un Estado miembro del Consejo de Europa mediante una decisión del Comité de Ministros de poner fin a sus relaciones con ese Estado por motivos similares a los mencionados en el artículo 3 del Estatuto.

Artículo 24 – Obligación de presentar informes

1. Cada Parte presentará un informe a la Conferencia de las Partes dentro de los dos primeros años siguientes a su incorporación, y luego periódicamente a partir de entonces, con detalles de las actividades realizadas para dar efecto al artículo 3, párrafo 1, incisos a) y b).
2. La Conferencia de las Partes determinará el formato y el proceso para el informe de conformidad con su reglamento.

 Artículo 25 – Cooperación internacional

1. Las Partes cooperarán en la realización del propósito de la presente Convención. Se alienta además a las Partes, según corresponda, a ayudar a los Estados que no son Partes en la presente Convención a actuar de manera coherente con los términos de la misma y convertirse en Partes en la misma.
2. Las Partes intercambiarán, según corresponda, información pertinente y útil entre ellas sobre aspectos relacionados con la inteligencia artificial que puedan tener efectos positivos o negativos significativos en el disfrute de los derechos humanos, el funcionamiento de la democracia y la observancia del estado de derecho, incluidos los riesgos y efectos que hayan surgido en contextos de investigación y en relación con el sector privado. Se alienta a las Partes a que involucren, según corresponda, a las partes interesadas pertinentes y a los Estados que no sean Partes en la presente Convención en dichos intercambios de información.
3. Se alienta a las Partes a que fortalezcan la cooperación, incluso con las partes interesadas pertinentes cuando corresponda, para prevenir y mitigar los riesgos y los efectos adversos sobre los derechos humanos, la democracia y el estado de derecho en el contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

 Artículo 26 – Mecanismos de supervisión eficaces

1. Cada Parte establecerá o designará uno o más mecanismos eficaces para supervisar el cumplimiento de las obligaciones de la presente Convención.
2. Cada Parte garantizará que dichos mecanismos ejerzan sus funciones de manera independiente e imparcial y que tengan las facultades, la experiencia y los recursos necesarios para cumplir eficazmente sus tareas de supervisión del cumplimiento de las obligaciones de la presente Convención, tal como las Partes las hayan dado efecto.
3. Si una Parte ha previsto más de un mecanismo de este tipo, adoptará medidas, cuando sea factible, para facilitar la cooperación efectiva entre ellos.
4. Si una Parte ha previsto mecanismos distintos de las estructuras de derechos humanos existentes, adoptará medidas, cuando sea factible, para promover la cooperación efectiva entre los mecanismos a que se refiere el párrafo 1 y las estructuras nacionales de derechos humanos existentes.

 Capítulo VIII – Cláusulas finales

 Artículo 27 – Efectos de la Convención

1. Si dos o más Partes ya han celebrado un acuerdo o tratado sobre las materias tratadas en la presente Convención, o han establecido de otro modo relaciones sobre esas materias, también tendrán derecho a aplicar ese acuerdo o tratado o a regular esas relaciones en consecuencia, siempre que lo hagan de una manera que no sea incompatible con el objeto y el propósito de la presente Convención.
2. Las Partes que sean miembros de la Unión Europea aplicarán, en sus relaciones mutuas, las normas de la Unión Europea que rijan las materias comprendidas en el ámbito de aplicación de la presente Convención sin perjuicio del objeto y el propósito de la misma y sin perjuicio de su plena aplicación con otras Partes. Lo mismo se aplica a otras Partes en la medida en que estén vinculadas por esas normas.

 Artículo 28 – Enmiendas

1. Cualquier Parte, el Comité de Ministros del Consejo de Europa o la Conferencia de las Partes podrán proponer enmiendas al presente Convenio.
2. El Secretario General del Consejo de Europa comunicará a las Partes cualquier propuesta de enmienda.
3. Toda enmienda propuesta por una Parte o por el Comité de Ministros se comunicará a la Conferencia de las Partes, que presentará al Comité de Ministros su dictamen sobre la enmienda propuesta.
4. El Comité de Ministros examinará la enmienda propuesta y la opinión presentada por la Conferencia de las Partes y podrá aprobar la enmienda.
5. El texto de cualquier enmienda aprobada por el Comité de Ministros de conformidad con el párrafo 4 se enviará a las Partes para su aceptación.
6. Toda enmienda aprobada de conformidad con el párrafo 4 entrará en vigor el trigésimo día después de que todas las Partes hayan informado al Secretario General de su aceptación.

 Artículo 29 – Solución de controversias

 En caso de controversia entre las Partes sobre la interpretación o aplicación del presente Convenio, dichas Partes procurarán resolver la controversia mediante la negociación o cualquier otro medio pacífico de su elección, incluida la Conferencia de las Partes, según lo previsto en el artículo 23, párrafo 2, inciso e).

 Artículo 30 – Firma y entrada en vigor

1. El presente Convenio estará abierto a la firma de los Estados miembros del Consejo de Europa, de los Estados no miembros que hayan participado en su elaboración y de la Unión Europea.
2. El presente Convenio está sujeto a ratificación, aceptación o aprobación. Los instrumentos de ratificación, aceptación o aprobación se depositarán en poder del Secretario General del Consejo de Europa.
3. El presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha en que cinco signatarios, incluidos al menos tres Estados miembros del Consejo de Europa, hayan expresado su consentimiento en obligarse por el presente Convenio de conformidad con el apartado 2.
4. Respecto de cualquier signatario que exprese posteriormente su consentimiento en obligarse por el mismo, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha del depósito de su instrumento de ratificación, aceptación o aprobación.

 Artículo 31 – Adhesión

1. Tras la entrada en vigor del presente Convenio, el Comité de Ministros del Consejo de Europa, tras consultar a las Partes en el presente Convenio y obtener su consentimiento unánime, podrá invitar a cualquier Estado no miembro del Consejo de Europa que no haya participado en la elaboración del presente Convenio a adherirse al mismo mediante decisión adoptada por la mayoría prevista en el artículo 20.d del Estatuto del Consejo de Europa y por unanimidad de los representantes de las Partes con derecho a formar parte del Comité de Ministros.
2. Respecto de cualquier Estado que se adhiera, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un plazo de tres meses a partir de la fecha de depósito del instrumento de adhesión ante el Secretario General del Consejo de Europa.

 Artículo 32 – Aplicación territorial

1. Cualquier Estado o la Unión Europea podrá, en el momento de la firma o del depósito de su instrumento de ratificación, aceptación, aprobación o adhesión, especificar el territorio o los territorios a los que se aplicará el presente Convenio.
2. Cualquier Parte podrá, en una fecha posterior, mediante una declaración dirigida al Secretario General del Consejo de Europa, ampliar la aplicación del presente Convenio a cualquier otro territorio especificado en la declaración. Respecto de dicho territorio, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de recepción de la declaración por el Secretario General.
3. Cualquier declaración hecha en virtud de los dos párrafos anteriores podrá, respecto de cualquier territorio especificado en dicha declaración, ser retirada mediante una notificación dirigida al Secretario General del Consejo de Europa. La retirada surtirá efecto el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de recepción de dicha notificación por el Secretario General.

 Artículo 33 – Cláusula federal

1. Un Estado federal podrá reservarse el derecho de asumir obligaciones en virtud del presente Convenio que sean compatibles con sus principios fundamentales que rijan la relación entre su gobierno central y los estados constituyentes u otras entidades territoriales similares, siempre que el presente Convenio se aplique al gobierno central del Estado federal.
2. En lo que respecta a las disposiciones del presente Convenio, cuya aplicación sea competencia de los Estados integrantes o de otras entidades territoriales similares que no estén obligadas por el sistema constitucional de la federación a adoptar medidas legislativas, el Gobierno federal informará a las autoridades competentes de dichos Estados de dichas disposiciones con su opinión favorable y las instará a adoptar las medidas adecuadas para darles efecto.

 Artículo 34 – Reservas

1. Mediante notificación escrita dirigida al Secretario General del Consejo de Europa, cualquier Estado podrá declarar, en el momento de la firma o del depósito de su instrumento de ratificación, aceptación, aprobación o adhesión, que se acoge a la reserva prevista en el artículo 33, párrafo 1.
2. No podrá formularse ninguna otra reserva con respecto al presente Convenio.

Artículo 35 – Denuncia

1. Dirigida al Secretario General del Consejo de Europa.
2. La denuncia surtirá efecto el primer día del mes siguiente a la expiración de un plazo de tres meses a partir de la fecha de recepción de la notificación por el Secretario General.

 Artículo 36 – Notificación

 El Secretario General del Consejo de Europa notificará a los Estados miembros del Consejo de Europa, a los Estados no miembros que hayan participado en la elaboración del presente Convenio, a la Unión Europea, a cualquier signatario, a cualquier Estado contratante, a cualquier Parte y a cualquier otro Estado que haya sido invitado a adherirse al presente Convenio:

 a) toda firma;

b) el depósito de cualquier instrumento de ratificación, aceptación, aprobación o adhesión;

c) la fecha de entrada en vigor del presente Convenio, de conformidad con el artículo 30, párrafos 3 y 4, y el artículo 31, párrafo 2;

d) cualquier enmienda adoptada de conformidad con el artículo 28 y la fecha en que dicha enmienda entre en vigor;

e) cualquier declaración hecha de conformidad con el artículo 3, párrafo 1, apartado b);

f) cualquier reserva y retirada de una reserva hecha de conformidad con el artículo 34;

g) cualquier denuncia hecha de conformidad con el artículo 35;

h) cualquier otro acto, declaración, notificación o comunicación relativo al presente Convenio.

En testimonio de lo cual, los abajo firmantes, debidamente autorizados para ello, firman el presente Convenio.

Hecho en Vilnius, el 5 de septiembre de 2024, en francés e inglés, siendo ambos textos igualmente auténticos, en un solo ejemplar que se depositará en los archivos del Consejo de Europa. El Secretario General del Consejo de Europa enviará copias certificadas a cada Estado miembro del Consejo de Europa, a los Estados no miembros que hayan participado en la elaboración del presente Convenio, a la Unión Europea y a cualquier Estado invitado a adherirse al presente Convenio.

_________________________________________________________________________

Council of Europe Treaty Series – No. 225

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law

Vilnius, 5.IX.2024

Preamble

 The member States of the Council of Europe and the other signatories hereto,

 Considering that the aim of the Council of Europe is to achieve greater unity between its members, based in particular on the respect for human rights, democracy and the rule of law;

 Recognising the value of fostering co-operation between the Parties to this Convention and of extending such co-operation to other States that share the same values;

 Conscious of the accelerating developments in science and technology and the profound changes brought about through activities within the lifecycle of artificial intelligence systems, which have the potential to promote human prosperity as well as individual and societal well-being, sustainable development, gender equality and the empowerment of all women and girls, as well as other important goals and interests, by enhancing progress and innovation;

 Recognising that activities within the lifecycle of artificial intelligence systems may offer unprecedented opportunities to protect and promote human rights, democracy and the rule of law;

 Concerned that certain activities within the lifecycle of artificial intelligence systems may undermine human dignity and individual autonomy, human rights, democracy and the rule of law;

 Concerned about the risks of discrimination in digital contexts, particularly those involving artificial intelligence systems, and their potential effect of creating or aggravating inequalities, including those experienced by women and individuals in vulnerable situations, regarding the enjoyment of their human rights and their full, equal and effective participation in economic, social, cultural and political affairs;

 Concerned by the misuse of artificial intelligence systems and opposing the use of such systems for repressive purposes in violation of international human rights law, including through arbitrary or unlawful surveillance and censorship practices that erode privacy and individual autonomy;

 Conscious of the fact that human rights, democracy and the rule of law are inherently interwoven;

Convinced of the need to establish, as a matter of priority, a globally applicable legal framework setting out common general principles and rules governing the activities within the lifecycle of artificial intelligence systems that effectively preserves shared values and harnesses the benefits of artificial intelligence for the promotion of these values in a manner conducive to responsible innovation;

 Recognising the need to promote digital literacy, knowledge about, and trust in the design, development, use and decommissioning of artificial intelligence systems;

 Recognising the framework character of this Convention, which may be supplemented by further instruments to address specific issues relating to the activities within the lifecycle of artificial intelligence systems;

 Underlining that this Convention is intended to address specific challenges which arise throughout the lifecycle of artificial intelligence systems and encourage the consideration of the wider risks and impacts related to these technologies including, but not limited to, human health and the environment, and socio-economic aspects, such as employment and labour;

 Noting relevant efforts to advance international understanding and co-operation on artificial intelligence by other international and supranational organisations and fora;

 Mindful of applicable international human rights instruments, such as the 1948 Universal Declaration of Human Rights, the 1950 Convention for the Protection of Human Rights and Fundamental Freedoms (ETS No. 5), the 1966 International Covenant on Civil and Political Rights, the 1966 International Covenant on Economic, Social and Cultural Rights, the 1961 European Social Charter (ETS No. 35), as well as their respective protocols, and the 1996 European Social Charter (Revised) (ETS No. 163);

 Mindful also of the 1989 United Nations Convention on the Rights of the Child and the 2006 United Nations Convention on the Rights of Persons with Disabilities;

 Mindful also of the privacy rights of individuals and the protection of personal data, as applicable and conferred, for example, by the 1981 Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (ETS No. 108) and its protocols;

 Affirming the commitment of the Parties to protecting human rights, democracy and the rule of law, and fostering trustworthiness of artificial intelligence systems through this Convention,

Have agreed as follows:

Chapter I – General provisions

Article 1 – Object and purpose

1. The provisions of this Convention aim to ensure that activities within the lifecycle of artificial intelligence systems are fully consistent with human rights, democracy and the rule of law.
2.  Each Party shall adopt or maintain appropriate legislative, administrative or other measures to give effect to the provisions set out in this Convention. These measures shall be graduated and differentiated as may be necessary in view of the severity and probability of the occurrence of adverse impacts on human rights, democracy and the rule of law throughout the lifecycle of artificial intelligence systems. This may include specific or horizontal measures that apply irrespective of the type of technology used.
3. In order to ensure effective implementation of its provisions by the Parties, this Convention establishes a follow-up mechanism and provides for international co-operation.

 Article 2 – Definition of artificial intelligence systems

 For the purposes of this Convention, «artificial intelligence system» means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations or decisions that may influence physical or virtual environments. Different artificial intelligence systems vary in their levels of autonomy and adaptiveness after deployment.

 Article 3 – Scope

 1.        The scope of this Convention covers the activities within the lifecycle of artificial intelligence systems that have the potential to interfere with human rights, democracy and the rule of law as follows:

a.  Each Party shall apply this Convention to the activities within the lifecycle of artificial intelligence systems undertaken by public authorities, or private actors acting on their behalf.

b. Each Party shall address risks and impacts arising from activities within the lifecycle of artificial intelligence systems by private actors to the extent not covered in subparagraph a in a manner conforming with the object and purpose of this Convention.

 Each Party shall specify in a declaration submitted to the Secretary General of the Council of Europe at the time of signature, or when depositing its instrument of ratification, acceptance, approval or accession, how it intends to implement this obligation, either by applying the principles and obligations set forth in Chapters II to VI of this Convention to activities of private actors or by taking other appropriate measures to fulfil the obligation set out in this subparagraph. Parties may, at any time and in the same manner, amend their declarations.

 When implementing the obligation under this subparagraph, a Party may not derogate from or limit the application of its international obligations undertaken to protect human rights, democracy and the rule of law.

2.          A Party shall not be required to apply this Convention to activities within the lifecycle of artificial intelligence systems related to the protection of its national security interests, with the understanding that such activities are conducted in a manner consistent with applicable international law, including international human rights law obligations, and with respect for its democratic institutions and processes.

3 .         Without prejudice to Article 13 and Article 25, paragraph 2, this Convention shall not apply to research and development activities regarding artificial intelligence systems not yet made available for use, unless testing or similar activities are undertaken in such a way that they have the potential to interfere with human rights, democracy and the rule of law.

4.          Matters relating to national defence do not fall within the scope of this Convention.

Chapter II – General obligations

 Article 4 – Protection of human rights

 Each Party shall adopt or maintain measures to ensure that the activities within the lifecycle of artificial intelligence systems are consistent with obligations to protect human rights, as enshrined in applicable international law and in its domestic law.

 Article 5 – Integrity of democratic processes and respect for the rule of law

1       Each Party shall adopt or maintain measures that seek to ensure that artificial intelligence systems are not used to undermine the integrity, independence and effectiveness of democratic institutions and processes, including the principle of the separation of powers, respect for judicial independence and access to justice.

2       Each Party shall adopt or maintain measures that seek to protect its democratic processes in the context of activities within the lifecycle of artificial intelligence systems, including individuals’ fair access to and participation in public debate, as well as their ability to freely form opinions.

 Chapter III – Principles related to activities within the lifecycle of artificial intelligence systems

 Article 6 – General approach

 This chapter sets forth general common principles that each Party shall implement in regard to artificial intelligence systems in a manner appropriate to its domestic legal system and the other obligations of this Convention.

 Article 7 – Human dignity and individual autonomy

 Each Party shall adopt or maintain measures to respect human dignity and individual autonomy in relation to activities within the lifecycle of artificial intelligence systems.

 Article 8 – Transparency and oversight

 Each Party shall adopt or maintain measures to ensure that adequate transparency and oversight requirements tailored to the specific contexts and risks are in place in respect of activities within the lifecycle of artificial intelligence systems, including with regard to the identification of content generated by artificial intelligence systems.

 Article 9 – Accountability and responsibility

 Each Party shall adopt or maintain measures to ensure accountability and responsibility for adverse impacts on human rights, democracy and the rule of law resulting from activities within the lifecycle of artificial intelligence systems.

 Article 10 – Equality and non-discrimination

1      Each Party shall adopt or maintain measures with a view to ensuring that activities within the lifecycle of artificial intelligence systems respect equality, including gender equality, and the prohibition of discrimination, as provided under applicable international and domestic law.

2          Each Party undertakes to adopt or maintain measures aimed at overcoming inequalities to achieve fair, just and equitable outcomes, in line with its applicable domestic and international human rights obligations, in relation to activities within the lifecycle of artificial intelligence systems.

Article 11 – Privacy and personal data protection

 Each Party shall adopt or maintain measures to ensure that, with regard to activities within the lifecycle of artificial intelligence systems:

1.  privacy rights of individuals and their personal data are protected, including through applicable domestic and international laws, standards and frameworks; and
2.  effective guarantees and safeguards have been put in place for individuals, in accordance with applicable domestic and international legal obligations.

 Article 12 – Reliability

 Each Party shall take, as appropriate, measures to promote the reliability of artificial intelligence systems and trust in their outputs, which could include requirements related to adequate quality and security throughout the lifecycle of artificial intelligence systems.

 Article 13 – Safe innovation

 With a view to fostering innovation while avoiding adverse impacts on human rights, democracy and the rule of law, each Party is called upon to enable, as appropriate, the establishment of controlled environments for developing, experimenting and testing artificial intelligence systems under the supervision of its competent authorities.

 Chapter IV – Remedies

   Article 14 – Remedies

1          Each Party shall, to the extent remedies are required by its international obligations and consistent with its domestic legal system, adopt or maintain measures to ensure the availability of accessible and effective remedies for violations of human rights resulting from the activities within the lifecycle of artificial intelligence systems.

2          With the aim of supporting paragraph 1 above, each Party shall adopt or maintain measures including:

a. measures to ensure that relevant information regarding artificial intelligence systems which have the potential to significantly affect human rights and their relevant usage is documented, provided to bodies authorised to access that information and, where appropriate and applicable, made available or communicated to affected persons;

b.  measures to ensure that the information referred to in subparagraph a is sufficient for the affected persons to contest the decision(s) made or substantially informed by the use of the system, and, where relevant and appropriate, the use of the system itself; and

         c. an effective possibility for persons concerned to lodge a complaint to competent authorities.

 Article 15 – Procedural safeguards

 1 Each Party shall ensure that, where an artificial intelligence system significantly impacts upon the enjoyment of human rights, effective procedural guarantees, safeguards and rights, in accordance with the applicable international and domestic law, are available to persons affected thereby.

2 Each Party shall seek to ensure that, as appropriate for the context, persons interacting with artificial intelligence systems are notified that they are interacting with such systems rather than with a human.

 Chapter V – Assessment and mitigation of risks and adverse impacts

 Article 16 – Risk and impact management framework

 1 Each Party shall, taking into account the principles set forth in Chapter III, adopt or maintain measures for the identification, assessment, prevention and mitigation of risks posed by artificial intelligence systems by considering actual and potential impacts to human rights, democracy and the rule of law.

 2       Such measures shall be graduated and differentiated, as appropriate, and:

 a .   take due account of the context and intended use of artificial intelligence systems, in particular as concerns risks to human rights, democracy, and the rule of law;

 b.    take due account of the severity and probability of potential impact 

 c.  consider, where appropriate, the perspectives of relevant stakeholders, in particular persons whose rights may be impacted;

d.  apply iteratively throughout the activities within the lifecycle of the artificial intelligence system;

 e .   include monitoring for risks and adverse impacts to human rights, democracy, and the rule of law;

 f .    include documentation of risks, actual and potential impacts, and the risk management approach; and

g. require, where appropriate, testing of artificial intelligence systems before making them available for first use and when they are significantly modified.

3          Each Party shall adopt or maintain measures that seek to ensure that adverse impacts of artificial intelligence systems to human rights, democracy, and the rule of law are adequately addressed. Such adverse impacts and measures to address them should be documented and inform the relevant risk management measures described in paragraph 2.

4          Each Party shall assess the need for a moratorium or ban or other appropriate measures in respect of certain uses of artificial intelligence systems where it considers such uses incompatible with the respect for human rights, the functioning of democracy or the rule of law.

 Chapter VI – Implementation of the Convention

 Article 17 – Non-discrimination

 The implementation of the provisions of this Convention by the Parties shall be secured without discrimination on any ground, in accordance with their international human rights obligations.

Article 18 – Rights of persons with disabilities and of children

 Each Party shall, in accordance with its domestic law and applicable international obligations, take due account of any specific needs and vulnerabilities in relation to respect for the rights of persons with disabilities and of children.

Article 19 – Public consultation

 Each Party shall seek to ensure that important questions raised in relation to artificial intelligence systems are, as appropriate, duly considered through public discussion and multistakeholder consultation in the light of social, economic, legal, ethical, environmental and other relevant implications.

 Article 20 – Digital literacy and skills

 Each Party shall encourage and promote adequate digital literacy and digital skills for all segments of the population, including specific expert skills for those responsible for the identification, assessment, prevention and mitigation of risks posed by artificial intelligence systems.

 Article 21 – Safeguard for existing human rights

 Nothing in this Convention shall be construed as limiting, derogating from or otherwise affecting the human rights or other related legal rights and obligations which may be guaranteed under the relevant laws of a Party or any other relevant international agreement to which it is party.

 Article 22 – Wider protection

 None of the provisions of this Convention shall be interpreted as limiting or otherwise affecting the possibility for a Party to grant a wider measure of protection than is stipulated in this Convention.

Chapter VII – Follow-up mechanism and co-operation Article 23 – Conference of the Parties

1    The Conference of the Parties shall be composed of representatives of the Parties to this Convention.

2    The Parties shall consult periodically with a view to:

a. facilitating the effective application and implementation of this Convention, including the identification of any problems and the effects of any reservation made in pursuance of Article 34, paragraph 1, or any declaration made under this Convention;

b. considering the possible supplementation to or amendment of this Convention;

c. considering matters and making specific recommendations concerning the interpretation and application of this Convention;

d. facilitating the exchange of information on significant legal, policy or technological developments of relevance, including in pursuit of the objectives defined in Article 25, for the implementation of this Convention; 

e. facilitating, where necessary, the friendly settlement of disputes related to the application of this Convention; and

f.    facilitating co-operation with relevant stakeholders concerning pertinent aspects of the implementation of this Convention, including through public hearings where appropriate.

3          The Conference of the Parties shall be convened by the Secretary General of the Council of Europe whenever necessary and, in any case, when a majority of the Parties or the Committee of Ministers requests its convocation.

4          The Conference of the Parties shall adopt its own rules of procedure by consensus within twelve months of the entry into force of this Convention.

5          The Parties shall be assisted by the Secretariat of the Council of Europe in carrying out their functions pursuant to this article.

6          The Conference of the Parties may propose to the Committee of Ministers appropriate ways to engage relevant expertise in support of the effective implementation of this Convention.

7          Any Party which is not a member of the Council of Europe shall contribute to the funding of the activities of the Conference of the Parties. The contribution of a non-member of the Council of Europe shall be established jointly by the Committee of Ministers and that non-member.

8          The Conference of the Parties may decide to restrict the participation in its work of a Party that has ceased to be a member of the Council of Europe under Article 8 of the Statute of the Council of Europe (ETS No. 1) for a serious violation of Article 3 of the Statute. Similarly, measures can be taken in respect of any Party that is not a member State of the Council of Europe by a decision of the Committee of Ministers to cease its relations with that State on grounds similar to those mentioned in Article 3 of the Statute. 

Article 24 – Reporting obligation

1          Each Party shall provide a report to the Conference of the Parties within the first two years after becoming a Party, and then periodically thereafter with details of the activities undertaken to give effect to Article 3, paragraph 1, sub-paragraphs a and b.

2          The Conference of the Parties shall determine the format and the process for the report in accordance with its rules of procedure. 

Article 25 – International co-operation

1          The Parties shall co-operate in the realisation of the purpose of this Convention. Parties are further encouraged, as appropriate, to assist States that are not Parties to this Convention in acting consistently with the terms of this Convention and becoming a Party to it.

2          The Parties shall, as appropriate, exchange relevant and useful information between themselves concerning aspects related to artificial intelligence which may have significant positive or negative effects on the enjoyment of human rights, the functioning of democracy and the observance of the rule of law, including risks and effects that have arisen in research contexts and in relation to the private sector. Parties are encouraged to involve, as appropriate, relevant stakeholders and States that are not Parties to this Convention in such exchanges of information.

3    The Parties are encouraged to strengthen co-operation, including with relevant stakeholders where appropriate, to prevent and mitigate risks and adverse impacts on human rights, democracy and the rule of law in the context of activities within the lifecycle of artificial intelligence systems.

Article 26 – Effective oversight mechanisms

1          Each Party shall establish or designate one or more effective mechanisms to oversee compliance with the obligations in this Convention.

2          Each Party shall ensure that such mechanisms exercise their duties independently and impartially and that they have the necessary powers, expertise and resources to effectively fulfil their tasks of overseeing compliance with the obligations in this Convention, as given effect by the Parties.

3          If a Party has provided for more than one such mechanism, it shall take measures, where practicable, to facilitate effective cooperation among them.

4          If a Party has provided for mechanisms different from existing human rights structures, it shall take measures, where practicable, to promote effective cooperation between the mechanisms referred to in paragraph 1 and those existing domestic human rights structures.

Chapter VIII – Final clauses

 Article 27 – Effects of the Convention

1          If two or more Parties have already concluded an agreement or treaty on the matters dealt with in this Convention, or have otherwise established relations on such matters, they shall also be entitled to apply that agreement or treaty or to regulate those relations accordingly, so long as they do so in a manner which is not inconsistent with the object and purpose of this Convention.

2          Parties which are members of the European Union shall, in their mutual relations, apply European Union rules governing the matters within the scope of this Convention without prejudice to the object and purpose of this Convention and without prejudice to its full application with other Parties. The same applies to other Parties to the extent that they are bound by such rules.

Article 28 – Amendments

1          Amendments to this Convention may be proposed by any Party, the Committee of Ministers of the Council of Europe or the Conference of the Parties.

2          Any proposal for amendment shall be communicated by the Secretary General of the Council of Europe to the Parties.

3          Any amendment proposed by a Party, or the Committee of Ministers, shall be communicated to the Conference of the Parties, which shall submit to the Committee of Ministers its opinion on the proposed amendment.

4          The Committee of Ministers shall consider the proposed amendment and the opinion submitted by the Conference of the Parties and may approve the amendment.

5          The text of any amendment approved by the Committee of Ministers in accordance with paragraph 4 shall be forwarded to the Parties for acceptance.

6     Any amendment approved in accordance with paragraph 4 shall come into force on the thirtieth day after all Parties have informed the Secretary General of their acceptance thereof.

 Article 29 – Dispute settlement

In the event of a dispute between Parties as to the interpretation or application of this Convention, these Parties shall seek a settlement of the dispute through negotiation or any other peaceful means of their choice, including through the Conference of the Parties, as provided for in Article 23, paragraph 2, sub-paragraph e.

Article 30 – Signature and entry into force

1          This Convention shall be open for signature by the member States of the Council of Europe, the non-member States which have participated in its elaboration and the European Union.

2          This Convention is subject to ratification, acceptance or approval. Instruments of ratification, acceptance or approval shall be deposited with the Secretary General of the Council of Europe.

3          This Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date on which five signatories, including at least three member States of the Council of Europe, have expressed their consent to be bound by this Convention in accordance with paragraph 2.

4          In respect of any signatory which subsequently expresses its consent to be bound by it, this Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date of the deposit of its instrument of ratification, acceptance or approval.

Article 31 – Accession

1          After the entry into force of this Convention, the Committee of Ministers of the Council of Europe may, after consulting the Parties to this Convention and obtaining their unanimous consent, invite any non-member State of the Council of Europe which has not participated in the elaboration of this Convention to accede to this Convention by a decision taken by the majority provided for in Article 20.d of the Statute of the Council of Europe, and by unanimous vote of the representatives of the Parties entitled to sit on the Committee of Ministers.

2          In respect of any acceding State, this Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date of deposit of the instrument of accession with the Secretary General of the Council of Europe.

Article 32 – Territorial application

1          Any State or the European Union may, at the time of signature or when depositing its instrument of ratification, acceptance, approval or accession, specify the territory or territories to which this Convention shall apply.

2          Any Party may, at a later date, by a declaration addressed to the Secretary General of the Council of Europe, extend the application of this Convention to any other territory specified in the declaration. In respect of such territory, this Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date of receipt of the declaration by the Secretary General.

3    Any declaration made under the two preceding paragraphs may, in respect of any territory specified in said declaration, be withdrawn by a notification addressed to the Secretary General of the Council of Europe. The withdrawal shall become effective on the first day of the month following the expiration of a period of three months after the date of receipt of such notification by the Secretary General.

Article 33 – Federal clause

1          A federal State may reserve the right to assume obligations under this Convention consistent with its fundamental principles governing the relationship between its central government and constituent states or other similar territorial entities, provided that this Convention shall apply to the central government of the federal State.

2          With regard to the provisions of this Convention, the application of, which come under the jurisdiction of constituent states or other similar territorial entities that are not obliged by the constitutional system of the federation to take legislative measures, the federal government shall inform the competent authorities of such states of the said provisions with its favourable opinion, and encourage them to take appropriate action to give them effect.

Article 34 – Reservations

1          By a written notification addressed to the Secretary General of the Council of Europe, any State may, at the time of signature or when depositing its instrument of ratification, acceptance, approval or accession, declare that it avails itself of the reservation provided for in Article 33, paragraph 1.

2          No other reservation may be made in respect of this Convention.

Article 35 – Denunciation

1          Addressed to the Secretary General of the Council of Europe.

2          Such denunciation shall become effective on the first day of the month following the expiration of a period of three months after the date of receipt of the notification by the Secretary General.

 Article 36 – Notification

The Secretary General of the Council of Europe shall notify the member States of the Council of Europe, the non-member States which have participated in the elaboration of this Convention, the European Union, any signatory, any contracting State, any Party and any other State which has been invited to accede to this Convention, of:

a    any signature;

b    the deposit of any instrument of ratification, acceptance, approval or accession;

c    any date of entry into force of this Convention, in accordance with Article 30, paragraphs 3 and 4, and Article 31, paragraph 2;

d    any amendment adopted in accordance with Article 28 and the date on which such an amendment enters into force;

e    any declaration made in pursuance of Article 3, paragraph 1, sub-paragraph b;

f    any reservation and withdrawal of a reservation made in pursuance of Article 34;

g    any denunciation made in pursuance of Article 35;

h    any other act, declaration, notification or communication relating to this Convention.

In witness whereof the undersigned, being duly authorised thereto, have signed this Convention.

Done in Vilnius, this 5th day of September 2024, in English and in French, both texts being equally authentic, in a single copy which shall be deposited in the archives of the Council of Europe. The Secretary General of the Council of Europe shall transmit certified copies to each member State of the Council of Europe, to the non-member States which have participated in the elaboration of this Convention, to the European Union and to any State invited to accede to this Convention.