Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
La Dirección General de Redes de Comunicaciones, Contenidos y Tecnologías de la Comisión Europea encargó a ICF, Carsa y Wavestone la realización del «Estudio para el programa Adopt AI Final Study Report». Oficina de Publicaciones de la Unión Europea. El objetivo principal del estudio fue el de apoyar a la Comisión Europea con pruebas y recomendaciones operativas sobre cómo se puede facilitar la contratación pública de sistemas de IA.
Este informe final presenta los resultados del estudio. Consta de los siguientes capítulos:
Capítulo 1: Estado de la cuestión/Informe de alcance. Este capítulo ofrece un análisis del estado de la situación de la contratación pública en materia de IA, las barreras y los beneficios de la adopción de la IA en los sectores público y privado, el análisis económico y la selección de los cuatro sectores para un análisis más detallado: administración electrónica, movilidad, salud y educación.
Capítulo 2: Análisis cualitativo y cuantitativo de los sectores clave. En este capítulo se ofrece un análisis profundo de los cuatro sectores seleccionados (gobierno electrónico, movilidad, salud y educación), que incluye los desafíos y las soluciones para la IA en los sectores, las cadenas de valor digitales, los principales impulsores y barreras para la adopción de la IA en los sectores, estudios de casos de proyectos seleccionados y un análisis económico de los impactos de la IA en los sectores.
Capítulo 3: Consulta del informe analítico y comparativo de las partes interesadas. En este capítulo se presentan los resultados y el análisis comparativo de cuatro talleres sectoriales específicos (gobierno electrónico, movilidad, salud y educación) y una encuesta en línea realizada como parte de este estudio.
Capítulo 4: Recomendaciones de políticas sobre la adopción de la IA en el sector público. En este capítulo se presentan los resultados de un taller de políticas específico y una encuesta en línea sobre recomendaciones de políticas realizadas como parte de este estudio. El capítulo ofrece una evaluación comparativa de las recomendaciones de políticas, considerando la eficacia, la eficiencia, la viabilidad y el valor añadido de la UE. Concluye con un breve debate sobre cada recomendación, señalando las iniciativas actuales de la UE y las posibles acciones políticas que la Comisión Europea puede adoptar para abordarlas.
Los anexos incluyen metodologías detalladas para cada capítulo, describiendo los esfuerzos de recopilación de datos, enfoques para el análisis de datos, definiciones, listas de proyectos e iniciativas y referencias.
El presente Resumen Ejecutivo del Informe en inglés ha sido publicado en su sitio web y traducido por el suscrito al castellano; incluye el reconocimiento de la propiedad intelectual y el enlace al texto íntegro en inglés de 303 págs. https://data.europa.eu/doi/10.2759/22251
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@hotmail.com
____________________________________________________________
RESUMEN EJECUTIVO
La inteligencia artificial (IA) se está desarrollando rápidamente y los beneficios de su adopción son ampliamente reconocidos. Las aplicaciones de IA pueden contribuir a mejorar los servicios públicos, por ejemplo, mejorando la interacción entre los ciudadanos y el gobierno, permitiendo capacidades analíticas más inteligentes o mejorando la eficiencia en todos los ámbitos del sector público y apoyando los procesos democráticos. El uso de sistemas de IA puede aportar beneficios a todas las actividades clave del sector público. Mediante la adopción temprana de la IA, el sector público puede ser el primero en adoptar una IA segura, fiable y sostenible. La contratación pública es una de las medidas clave que tienen un gran potencial para facilitar la adopción de la IA y ayudar a estimular la demanda y ofrecer tecnologías de IA fiables y seguras en Europa.
Las aplicaciones de IA pueden contribuir a mejorar los servicios públicos, por ejemplo, mejorando la interacción entre los ciudadanos y el gobierno, permitiendo capacidades analíticas más inteligentes, ofreciendo ciclos de retroalimentación más cortos o mejorando la eficiencia. Sin embargo, la evidencia disponible sugiere que todavía hay un potencial considerable sin explotar para la adopción y la contratación pública de la IA. Por tanto, una de las áreas de interés de la Comisión Europea es desarrollar y apoyar acciones europeas para acelerar el proceso de adopción de la IA y la contratación pública estratégica, sostenible y ética de sistemas de IA por parte del sector público en la UE y maximizar así el impacto y los beneficios de una IA centrada en el ser humano y fiable.
En este contexto, la DG CNECT encargó un estudio sobre la mejor manera de apoyar la contratación pública de sistemas de IA en la Unión Europea y ayudar a transformar los propios procesos de contratación pública. El objetivo principal del estudio encargado es apoyar a la Comisión Europea con pruebas y recomendaciones operativas sobre cómo se puede facilitar la contratación pública de sistemas de IA.
El estudio incluye el informe de situación y alcance (presentado en el capítulo 1), la evaluación de los sectores clave (presentado en el capítulo 2), la consulta y evaluación de los resultados de la consulta a las partes interesadas (presentado en el capítulo 3) y la evaluación de las opciones y recomendaciones de políticas (presentado en el capítulo 4).
Capítulo 1: Estado de la cuestión/Informe de alcance
El estudio comienza con una sección de alcance, cuyo objetivo es identificar el estado de la situación en cuanto a la adopción y la contratación pública de tecnologías de IA por parte del sector público en la UE y seleccionar cuatro sectores clave prioritarios que estén más preparados para el despliegue a gran escala de tecnologías de IA. Esto se logra mediante el análisis de la literatura, las pruebas y los datos disponibles y se presenta a través de cuatro secciones principales. La primera sección (Situación actual de la contratación pública de IA) ofrece una visión general de las iniciativas políticas y legislativas sobre IA a nivel europeo, así como un enfoque en las estrategias de IA implementadas a nivel nacional en toda la UE. La segunda sección (Desafíos y beneficios en la contratación pública de IA) identifica los principales desafíos y beneficios a los que se enfrentan los gobiernos de los Estados miembros al considerar la contratación pública de tecnologías de IA. La tercera sección (Análisis económico) analiza el potencial económico de nuevas inversiones en IA basándose en los datos cuantitativos existentes sobre contratación pública, tendencias del mercado y madurez de las tecnologías de IA. Por último, en la cuarta y última sección se presenta la selección de los cuatro sectores clave que están más preparados para el despliegue a gran escala de tecnologías de IA, y se basa en la información recopilada y el análisis realizado en las otras tres secciones de las actividades de evaluación.
Más concretamente, la selección final de los sectores se basa en tres preguntas de investigación, que se detallan con más detalle en la nota metodológica, sobre la identificación de (1) las principales lagunas y obstáculos que dificultan la contratación pública y la adopción de la IA, así como (2) los beneficios y el valor añadido que pueden generarse mediante una adopción y adquisición más amplias de sistemas de IA en la UE y los principales sectores/áreas, y (3) las tecnologías de IA con un alto potencial económico (por ejemplo, preparación tecnológica, alto rendimiento de crecimiento) en las que la contratación pública acelerada podría aportar el mayor valor añadido de la UE. El enfoque adoptado para abordar las preguntas de investigación consta de cuatro pasos principales.
En primer lugar, se analiza el estado de la cuestión de la contratación pública mediante el mapeo y el análisis, tanto cualitativo como cuantitativo, de las iniciativas nacionales en materia de IA. En segundo lugar, se lleva a cabo un análisis de los desafíos y los beneficios de la contratación pública mediante el análisis y mapeo de los desafíos y los beneficios identificados para la contratación pública de IA y se complementa con los hallazgos del sector privado. En tercer lugar, se realiza un análisis económico mediante el mapeo cuantitativo de las inversiones actuales en proyectos de IA y las proyecciones nacionales futuras, así como el análisis de los indicadores de innovación en sectores económicos seleccionados y los indicadores de mercado de las tipologías de IA. Por último, se seleccionan las cuatro áreas prioritarias en función de los pasos anteriores y se triangulan los hallazgos en función de los criterios específicos de las tendencias identificadas en las iniciativas gubernamentales, los proyectos y el mercado, la madurez de las tecnologías de IA y el potencial económico de los sectores que crearán valor añadido europeo para la contratación pública de IA.
El estudio de alcance concluye que los cuatro sectores clave que están listos para el despliegue a gran escala de la IA son: salud, movilidad, gobierno electrónico y educación. Esto se basa en los hallazgos de los análisis cualitativos y cuantitativos de las iniciativas gubernamentales de IA y el análisis económico. El primero proporciona, por un lado, una visión general de las áreas de políticas prioritarias de los gobiernos para la adopción de IA y, por otro lado, el estado actual de las áreas de políticas y tecnologías de IA adoptadas. El análisis económico evalúa los niveles de madurez digital de los sectores observando los siguientes indicadores: niveles de adopción de IA, intensidad digital e intensidad de I+D de diferentes sectores. En la misma línea, también se evaluó el potencial económico de las tecnologías de IA en función de cuatro indicadores clave: crecimiento del mercado, tasas de adopción, impacto en la productividad laboral y generación de empleo.
Capítulo 2: Análisis cualitativo y cuantitativo de sectores clave
Este capítulo analiza la dinámica de la adopción y el uso de la Inteligencia Artificial (IA) en cuatro sectores públicos clave de la Unión Europea: administración electrónica, movilidad, atención médica y educación. Estos sectores centrales, que lideran el camino en términos de madurez de la IA, ya están experimentando cambios significativos como resultado de la introducción de esta tecnología que cambia paradigmas. Utilizando los conocimientos de estas áreas de políticas, adquiridos a través de un diseño de investigación multimétodo, este capítulo tiene como objetivo aumentar la comprensión de la adopción de la IA por parte de las organizaciones públicas. Esto es fundamental si la Unión Europea quiere alcanzar su objetivo de convertirse en un líder mundial en el campo de la IA y otros objetivos de política como la doble transición.
En el gobierno electrónico y los servicios públicos en general, el potencial de la IA para mejorar considerablemente la eficiencia operativa y los servicios públicos y permitir un gobierno más abierto ha hecho que muchas administraciones comiencen a financiar, desarrollar y utilizar soluciones de IA. Además de un espacio GovTech en auge, los chatbots y los asistentes virtuales ahora son algo común en muchos estados miembros, tanto a nivel nacional como regional. Si bien gran parte de la innovación hasta ahora se ha centrado principalmente en mejorar las prácticas gubernamentales establecidas, una inversión continua podría hacer que la IA rediseñara radicalmente las estructuras administrativas verticales y jerárquicas existentes en beneficio de todos. Esto depende de que los actores del sector público estén bien informados y tengan experiencia en la adopción de la IA y en la mitigación de riesgos como la falta de confianza y comprensión de la tecnología y sus efectos.
En el sector de la movilidad y el transporte, uno de los más profundamente afectados por la pandemia de COVID-19, la IA es quizás la más omnipresente en la conciencia pública. La IA tiene el potencial de aumentar enormemente la eficiencia y la seguridad, así como de transformar el transporte cotidiano con vehículos autónomos (VA) y sistemas de tráfico inteligentes. El sector tiene un imperativo político considerable para los gobiernos dada la centralidad del transporte en la vida cotidiana y la lucha contra el cambio climático, pero la falta de normas armonizadas en toda Europa y el enfoque compartimentado en los datos y la regulación han significado que la mayor parte de la innovación y el uso de la IA se ha producido en el sector privado. Con un historial económico probado a partir del éxito del mercado de los VA y los beneficios ambientales de los sistemas de transporte y el espacio urbano mejorados, la movilidad seguirá estando a la vanguardia del desarrollo de la IA, siempre que las preocupaciones en torno a la seguridad sigan siendo centrales.
En el sector de la salud, la investigación de IA financiada por el gobierno sigue siendo el paradigma dominante del apoyo del sector público, aunque el uso de soluciones de IA en la gestión del sistema de atención sanitaria y las aplicaciones de primera línea está creciendo. La IA tiene innumerables usos potenciales en el sector de la salud en cada paso de la cadena de valor, desde la I+D en el campo de los productos farmacéuticos hasta la gestión de hospitales y sistemas de atención sanitaria y la prestación de atención a los propios pacientes. El aprovechamiento de la IA en la salud ayudará a los gobiernos a abordar los problemas estructurales a largo plazo del envejecimiento de la población y a protegerse contra el aumento de los costos, especialmente mediante la automatización de las tareas administrativas, actualmente un área de enfoque común para la política de salud de IA. Al igual que en otros sectores, la implementación efectiva aumentará la calidad y la accesibilidad de la atención sanitaria, aunque es vital garantizar la seguridad y la protección completas de los datos y que no se pierda el lado humano de la prestación de la atención sanitaria.
Finalmente, en la educación, la IA ha surgido como un tema de aprendizaje y un instrumento para mejorar su prestación. La AIEd y la EdTech prometen transformar la educación a través de la IA de cara al estudiante, mejorando la enseñanza y el funcionamiento de los sistemas educativos. Sin embargo, los casos de uso de la IA en la educación aún no están muy extendidos como resultado de la falta de soluciones probadas y la reticencia de los educadores a adoptar la tecnología. No obstante, el enfoque actual de la mayoría de las políticas públicas en toda Europa se centra en educar a los ciudadanos sobre el uso y el potencial de la IA. No se limita a la educación superior técnica, el vínculo clave entre el empleo y la educación ha hecho que muchos gobiernos inviertan en programas de enseñanza sobre IA desde los primeros años hasta el aprendizaje de adultos.
Capítulo 3: Informe comparativo analítico de la consulta a las partes interesadas
Este capítulo presenta un análisis comparativo de las consultas a las partes interesadas realizadas como parte de este estudio. Las consultas incluyeron cuatro talleres sectoriales, dedicados a explorar los desafíos y las medidas en la adopción de la IA por parte del sector público en los sectores de la salud, el gobierno electrónico, la movilidad/transporte y la educación, y una encuesta en línea, dedicada a evaluar los desafíos y las recomendaciones en la adopción de la IA en el sector público.
Las consultas a las partes interesadas realizadas como parte de este estudio muestran que los principales desafíos en la adopción de la IA se centran en el proceso de adquisición, los datos, la tecnología de IA y la organización. Los desafíos más importantes del proceso de adquisición están relacionados con los requisitos administrativos onerosos, la falta de claridad por parte del sector público respecto de sus necesidades/demandas, el énfasis en el precio/ahorro de costos por sobre la calidad del servicio y los beneficios no financieros, los requisitos regulatorios poco claros y la complejidad de la redacción de especificaciones técnicas.
Los desafíos más importantes en materia de datos están relacionados con la falta de intercambio satisfactorio de datos entre las fronteras organizacionales, el acceso insuficiente a grandes volúmenes de datos de alta calidad, la falta de datos para entender dónde se necesita la IA/dónde es más adecuada, la gobernanza de datos subdesarrollada y la falta de una clara “propiedad/soberanía de los datos”.
Los desafíos más importantes de la tecnología de IA son la falta de transparencia en los procesos de toma de decisiones/soporte de los sistemas de IA, la dificultad para inspeccionar y evaluar una solución de IA antes de su implementación real, el potencial de sesgos/discriminación dentro de los sistemas, la dificultad para establecer la responsabilidad y la responsabilidad por el sistema de IA, la falta de espacios regulatorios limitados («sandboxes») para experimentar con soluciones de IA y monitorear sus impactos, y los altos requisitos para la explicabilidad de las soluciones de IA.
Los desafíos organizativos más importantes son la falta de recursos humanos para gestionar el sistema, la falta de apoyo político, la falta de comprensión de las capacidades y los beneficios de las soluciones de IA, la falta de recursos humanos para la adquisición del sistema, la complejidad del sistema y la falta de un punto de entrada único, y la falta de interoperabilidad del sistema.
El análisis comparativo muestra que estos desafíos no son significativos en todos los sectores. Los participantes plantearon y debatieron estos desafíos en todos los talleres, independientemente del sector. Además, las diferencias entre los sectores en la encuesta en línea fueron menores y no pueden considerarse significativas.
Capítulo 4: Recomendaciones de políticas sobre la adopción de la IA en el sector público
En este capítulo se analizan las recomendaciones para aumentar la adopción y la contratación pública de la IA. Incluye los resultados del taller de políticas dedicado a identificar y explorar soluciones y recomendaciones de políticas para la adopción de la IA en el sector público, y una encuesta en línea dedicada a evaluar las recomendaciones para la adopción de la IA en el sector público.
El capítulo también ofrece una evaluación comparativa de las recomendaciones. Ofrece una evaluación de las recomendaciones más importantes en una escala de baja/media/alta basada en los criterios de eficacia (el grado en que las recomendaciones logran sus objetivos y el nivel de beneficios que proporcionan), viabilidad (el grado en que las recomendaciones se pueden implementar y si tienen límites significativos), eficiencia (el grado en que las recomendaciones ofrecen una buena relación calidad-precio y si requieren recursos significativos) y valor añadido de la UE (el grado en que las recomendaciones proporcionan beneficios a nivel europeo y en el mercado único y qué nivel de implementación, europeo o de los Estados miembros, es el más adecuado, teniendo en cuenta el principio de subsidiariedad).
El capítulo triangula las recomendaciones del taller de políticas y la encuesta en línea para llegar a la clasificación combinada. Las recomendaciones son:
- Aumentar la financiación y los recursos para la IA en el sector público.
- Reducir el sesgo en la IA y las fuentes de datos.
- Fomentar la coordinación de las estrategias de adquisición de IA.
- Aumentar la claridad y la armonización en torno a los flujos de datos transfronterizos.
- Promover la alineación entre las expectativas de la industria y el sector público.
- Establecer un marco regulatorio claro para la IA.
- Promover la integración de nuevas tecnologías y servicios de IA en los sistemas existentes en educación, salud y transporte.
- Promover la interoperabilidad, los datos abiertos y el intercambio de datos.
- Generar confianza en las soluciones de IA a través de la transparencia y la rendición de cuentas.
- Armonizar las regulaciones de la UE para promover servicios públicos centrados en el ser humano y confiables basadosen IA.
- Centrarse en la implementación a largo plazo en el uso de la IA en el sector público.
- Desarrollar soluciones específicas basadas en IA basadas en enfoques de co-creación.
- Crear un mercado europeo de soluciones GovTech en apoyo de la transformación digital del sector público.
- Fortalecer el papel del Observatorio de Inteligencia Artificial de la UE.
- Promover el desarrollo de una IA sostenible.
El informe concluye con un breve análisis de cada recomendación, destacando las iniciativas actuales de la UE y las posibles medidas políticas que la Comisión Europea puede adoptar para abordarlas.
