a)

Adecuación y proporcionalidad: El artículo 28, apartado 1, del Reglamento (UE) 2022/2065 exige que toda medida adoptada para cumplir dicha disposición sea adecuada y proporcionada para garantizar un elevado nivel de privacidad, seguridad y protección de los menores. Dado que las diferentes plataformas en línea pueden plantear diferentes tipos de riesgos para los menores, no siempre será proporcionado o adecuado que todos los prestadores de plataformas en línea apliquen todas o solo algunas de las medidas descritas en las presentes directrices. Determinar si una medida concreta es proporcionada y adecuada, en particular cuando implique una injerencia en los derechos fundamentales de las personas, requerirá una evaluación caso por caso por parte de cada prestador i) de los riesgos para la privacidad, la seguridad y la protección de los menores derivados de su plataforma en línea o de partes de ella, teniendo en cuenta, entre otras cosas, el tamaño, el alcance y el tipo del servicio que presta y su naturaleza, su uso previsto o actual, sus características específicas y la base de usuarios del servicio; ii) el impacto de la medida en los derechos de los niños y otros derechos y libertades consagrados en la Carta de los Derechos Fundamentales de la Unión Europea (en lo sucesivo, «la Carta»); y iii) la necesidad de basar dichas medidas en las normas más estrictas disponibles y en las buenas prácticas existentes, así como en la perspectiva y los derechos de los niños (véase la sección 5 sobre la revisión de riesgos).

b)

Protección de los derechos del niño: Estos derechos están consagrados en la Carta, que garantiza la protección de los derechos del niño al aplicar el Derecho de la Unión, y en la Convención de las Naciones Unidas sobre los Derechos del Niño, que todos los Estados miembros han ratificado (18). Los derechos del niño forman parte integrante de los derechos humanos, y todos estos derechos están interrelacionados, son interdependientes e indivisibles. De conformidad con el artículo 24 de la Carta, en todas las acciones que afectan a los menores, con independencia de que las adopten autoridades públicas o instituciones privadas, el interés superior del menor debe ser una consideración primordial. Por lo tanto, a fin de garantizar que las medidas para lograr un elevado nivel de privacidad, seguridad y protección de los menores en una plataforma en línea sean adecuadas y proporcionadas, deben tenerse en cuenta todos los derechos de los menores y tomarse como consideración primordial su interés superior. Se prohíbe toda discriminación, y en particular la ejercida por razón de sexo, raza, color, orígenes étnicos o sociales, características genéticas, lengua, religión o convicciones, opiniones políticas o de cualquier otro tipo, pertenencia a una minoría nacional, patrimonio, nacimiento, discapacidad, edad u orientación sexual, en consonancia con el artículo 21 de la Carta. Los derechos de los niños incluyen, por ejemplo, su derecho a la protección (19), la no discriminación, la inclusión, la privacidad, el acceso a la información y la educación, la libertad de expresión y la participación (20), y a que sus opiniones se tengan en cuenta en todos los asuntos que les afecten (21).

c)

Privacidad, seguridad y protección desde el diseño: los prestadores de plataformas en línea accesibles a menores deben integrar altos niveles de privacidad, seguridad y protección en el diseño, el desarrollo y el funcionamiento de sus servicios (22). Los conceptos «desde el diseño» tienen por objeto aprovechar la influencia de los prestadores de plataformas en línea, diseñadores y responsables políticos para configurar el desarrollo de productos y servicios de manera que se dé prioridad a los valores que promueven el bienestar humano. Se refieren a la integración, desde el principio, de la privacidad, la seguridad y la protección por defecto en el diseño, el funcionamiento y la gestión de las organizaciones, así como en los productos y servicios (23).

d)

Diseño adecuado a la edad: los prestadores de plataformas en línea accesibles a menores deben diseñar sus servicios para adaptarse a las necesidades de desarrollo, cognitivas y emocionales de los menores, garantizando al mismo tiempo su privacidad, seguridad y protección. Los diseños adecuados a la edad de los niños tienen en cuenta sus derechos y su bienestar, así como su diversidad y edad o fase específica de desarrollo, y tienen en cuenta la evolución de las capacidades de los niños (24).

a)

La probabilidad de que los menores accedan a su servicio, en particular teniendo en cuenta su naturaleza, finalidad y uso previsto, así como los criterios pertinentes para determinar si el servicio es accesible para los menores.

b)

El impacto real o potencial en la privacidad, la seguridad y la protección de los menores que la plataforma en línea puede plantear u ocasionar, sobre la base de la tipología 5C de los riesgos en línea para los niños (véase el anexo). Esto incluye un examen de cómo los diferentes aspectos de la plataforma pueden dar lugar a estos riesgos, su probabilidad y gravedad, así como la consideración de su impacto positivo en los derechos y el bienestar de los niños, teniendo en cuenta la edad y la evolución de las capacidades de los niños. Por ejemplo, pueden ser pertinentes aspectos como la finalidad de la plataforma, su diseño, interfaz, propuesta de valor, comercialización, características, funcionalidades, número y tipo de usuarios y usos (reales y previstos). Esto debe incluir una indicación del nivel de riesgo para los menores en la plataforma (por ejemplo, bajo, medio o alto), sobre la base de criterios claros, de conformidad con las normas y mejores prácticas existentes, por ejemplo, para la evaluación de impacto sobre los derechos del niño, tal como se menciona en el apartado 22.

c)

Las medidas que el prestador ya está adoptando para prevenir y mitigar estos riesgos.

d)

Cualquier medida adicional que se considere adecuada y proporcionada en la revisión para garantizar un elevado nivel de privacidad, seguridad y protección de los menores en su servicio. Las medidas que los prestadores puedan tener que adoptar deben abordar los riesgos para la privacidad, la seguridad y la protección derivados de la experiencia de los menores con el servicio, incluidos los riesgos derivados de las acciones de otros usuarios del servicio.

e)

Cómo las medidas respetan los principios generales de la sección 4.

f)

Los parámetros que permitan al proveedor supervisar a lo largo del tiempo la eficacia de las medidas de que dispone para hacer frente a determinados riesgos.

g)

Los posibles efectos positivos y negativos sobre los derechos de los niños u otros usuarios de cualquier medida que el prestador tenga en vigor y cualquier medida adicional, garantizando que estos derechos no se restrinjan de forma desproporcionada o indebida y que puedan maximizarse los efectos positivos. Los derechos de los niños u otros usuarios que pueden verse afectados negativamente por algunas medidas incluyen, por ejemplo, los derechos de los niños a la participación, la privacidad, la protección de los datos personales, la libertad de expresión y de información. Esto es pertinente a la hora de determinar la proporcionalidad de las medidas.

a)

La autodeclaración consiste en métodos que dependen de la persona para indicar su edad o confirmar su rango de edad, ya sea indicando voluntariamente su fecha de nacimiento o edad, o declarando que superan una determinada edad, normalmente pulsando un botón en línea.

b)

La estimación de la edad consiste en métodos que permiten a un proveedor establecer que es probable que un usuario tenga una determinada edad, se sitúe dentro de un determinado intervalo de edad o sea superior o inferior a una determinada edad (33).

c)

La verificación de la edad es un sistema que se basa en identificadores físicos o en fuentes de identificación verificadas que proporcionan un alto grado de certeza a la hora de determinar la edad de un usuario.

a)

Cuando determinados productos o servicios planteen un riesgo elevado para los menores y dichos riesgos no puedan mitigarse con medidas menos restrictivas, teniendo en cuenta la legislación nacional y de la Unión aplicable, como por ejemplo:

b)

Cuando, debido a riesgos detectados para los menores, las condiciones u otras obligaciones contractuales del servicio exijan que un usuario tenga 18 años o más para acceder al servicio, aunque no exista un requisito formal de edad establecido por la ley.

c)

Cualquier otra circunstancia en la que el prestador de una plataforma en línea accesible a menores haya detectado riesgos para la privacidad, la seguridad o la protección de los menores, incluidos los riesgos de contenido, conducta y para los consumidores, así como riesgos de contacto (por ejemplo, derivados de funciones como chat en directo, intercambio de imágenes o vídeos, mensajería anónima), cuando estos riesgos no puedan mitigarse con otras medidas menos indiscretas igual de eficaces que las restricciones de acceso respaldadas por la verificación de la edad (36).

d)

Cuando el Derecho nacional o de la Unión, de conformidad con el Derecho de la Unión, prescriba una edad mínima para acceder a determinados productos o servicios ofrecidos o anunciados de algún modo en una plataforma en línea, incluidas categorías específicamente definidas de servicios de redes sociales en línea (37).

a)

Cuando, debido a los riesgos detectados para la privacidad, la seguridad y la protección de los menores, las condiciones del servicio de plataforma en línea u obligaciones contractuales similares del servicio exijan que un usuario supere una edad mínima exigida inferior a 18 años para acceder al servicio, sobre la base de la evaluación de los riesgos para los menores en la plataforma realizada por el prestador (45) (46).

b)

Cuando el prestador de la plataforma en línea haya detectado riesgos medios para los menores en su plataforma, tal como se establece en su revisión de riesgos (véase la sección 5 sobre la revisión de riesgos) (47) y dichos riesgos no puedan mitigarse con medidas menos restrictivas. La Comisión considera que este será el caso cuando el riesgo no sea lo suficientemente elevado como para exigir una restricción de acceso basada en la verificación de la edad, pero no lo suficientemente baja como para que fuese adecuado no tener ninguna restricción de acceso o tener restricciones de acceso que no estén respaldadas por ningún método de garantía de la edad o solo estén respaldadas por una autodeclaración. La autodeclaración no se considera una medida adecuada de garantía de la edad, como se explica más adelante.

a)

Precisión. Con qué precisión determina la edad del usuario un método determinado.

La exactitud de un método de verificación o estimación de la edad debe evaluarse con arreglo a parámetros adecuados, claros y accesibles al público. Estos parámetros son necesarios para evaluar en qué medida el método puede determinar correctamente si un usuario está por encima o por debajo de una determinada edad, o el rango de edad de una persona (50). Los prestadores de plataformas en línea deben revisar periódicamente si la precisión técnica del método utilizado sigue a la par de las técnicas más avanzadas.

b)

Fiabilidad. La fiabilidad de un método determinado en la práctica en circunstancias reales.

Para que un método sea fiable, debe estar disponible de forma continua en cualquier momento y funcionar en diferentes circunstancias reales, más allá de las condiciones ideales de laboratorio. Los prestadores de plataformas en línea accesibles a menores deben evaluar, antes de emplear una solución específica de garantía de la edad, que cualquier dato en el que se base como parte del proceso de garantía de la edad procede de una fuente fiable. Por ejemplo, una prueba de la edad firmada por uno mismo no se consideraría fiable.

c)

Solidez. ¿Hasta qué punto es fácil eludir un método determinado?

Un método que sea fácil de eludir para los menores no se considerará suficientemente sólido y, por tanto, no se considerará eficaz. Este nivel de «facilidad» será evaluado por los prestadores de plataformas en línea accesibles a los menores caso por caso, teniendo en cuenta la edad de los menores a los que se dirigen las medidas específicas. Los prestadores de plataformas en línea accesibles a menores también deben evaluar si el método de garantía de la edad proporciona seguridad y protección, en consonancia con los últimos avances, para garantizar la integridad de los datos de edad tratados.

d)

Discreción ¿En qué medida es indiscreto un método determinado en relación con los derechos de los usuarios?

Los prestadores de plataformas en línea accesibles a menores deben evaluar periódicamente el impacto que tendrá el método elegido en los derechos y libertades de los destinatarios, incluido su derecho a la privacidad, la protección de datos y la libertad de expresión (51). Según el Comité Europeo de Protección de Datos, y de conformidad con el artículo 28, apartado 3, del Reglamento (UE) 2022/2065 (52), un proveedor solo debe tratar los atributos relacionados con la edad que sean estrictamente necesarios para el fin específico y la garantía de la edad no debe utilizarse para proporcionar medios adicionales para que los prestadores puedan identificar, localizar, realizar perfiles o rastrear a personas físicas (53). Si el método es más indiscreto que otro que ofrece el mismo nivel de garantía y eficacia, debe elegirse el método menos indiscreto. Esto incluye una evaluación de si el método proporciona plena transparencia sobre el proceso de conformidad con el artículo 12 del Reglamento (UE) 2016/679 o proporciona información sobre el usuario en situación de riesgo. En ningún caso los datos tratados con el fin de determinar si un usuario está por encima o por debajo de una determinada edad pueden almacenarse o utilizarse para otros fines.

e)

No discriminación. Cómo un método determinado puede discriminar a algunos usuarios.

Los proveedores de plataformas en línea accesibles a menores deben asegurarse de que el método elegido sea adecuado y esté disponible para todos los menores, independientemente de su discapacidad, lengua, etnia, género, religión y pertenencia a minorías.

a)

Explicar a los usuarios los beneficios y riesgos del registro y, en su caso, por qué es necesario (véase la sección 8.4 sobre transparencia).

b)

Garantizar que iniciar y finalizar el proceso de registro sea fácil para todos los menores, en función de la evolución de sus capacidades, incluidas las personas con discapacidad o con necesidades adicionales de accesibilidad, y en un lenguaje que puedan comprender.

c)

Garantizar que el proceso de registro incluya medidas para ayudar a los usuarios a comprender si tienen la edad suficiente para utilizar el servicio. De conformidad con la letra d), estas medidas solo deben presentarse a los usuarios una vez que se haya aplicado un método de garantía de la edad, incluida la autodeclaración.

d)

Evitar animar o incitar a los usuarios que no alcancen la edad mínima exigida por la plataforma en línea accesible a menores a crear cuentas o acceder al servicio y adoptar medidas para reducir el riesgo de que esto ocurra (55).

e)

Asegurarse de que sea fácil para los menores desconectarse y borrar su cuenta a petición suya.

f)

Utilizar el proceso de registro como una oportunidad para llevar a cabo la garantía de la edad en caso necesario, teniendo en cuenta las recomendaciones de las secciones 5 y 6.1 (56), así como destacar los dispositivos de seguridad de la plataforma o servicio, las normas de conducta y las consecuencias por vulnerarlas, cualquier riesgo detectado para la privacidad, la seguridad o la protección de un menor y los recursos disponibles para apoyar a los usuarios.

g)

Garantizar que el proceso de registro no anime ni incite a los menores a poner a disposición o compartir en su perfil más información de la necesaria para el funcionamiento del servicio, y que se solicite el consentimiento del progenitor o tutor del menor cuando sea necesario con arreglo al Derecho de la Unión o de los Estados miembros.

a)

Garantizar que los principios de privacidad, seguridad y protección desde el diseño se apliquen de manera coherente a todos las configuraciones de cuentas para los menores.

b)

Configurar por defecto las cuentas de los menores al máximo nivel de privacidad, seguridad y protección. Esto incluye diseñar la configuración por defecto de tal manera que se garanticen unos entornos seguros y adaptados a la edad de los menores, teniendo en cuenta la evolución de sus capacidades. Estas configuraciones para menores deben garantizar, como mínimo y por defecto, que:

c)

Considerar si, en función de la edad y la evolución de las capacidades de los menores y del resultado de la revisión de riesgos de un prestador, es necesario ir más allá de la norma mínima para la configuración por defecto establecida en la presente sección 6.3.1, y diseñar y aplicar una configuración por defecto más restrictiva. Por ejemplo, diseñando configuraciones por defecto para los menores más jóvenes en los que ningún otro usuario esté autorizado a participar en determinados tipos de interacciones.

d)

Probar y actualizar periódicamente las configuraciones por defecto, garantizando que sigan siendo eficaces, tras todas las actualizaciones, frente a los riesgos y tendencias emergentes en línea, incluidos los riesgos para la privacidad, la seguridad y la protección de los menores determinados por el prestador durante su revisión de riesgos (véase la sección 5 sobre la revisión de riesgos).

e)

Garantizar que no se anime a los menores en modo alguno a cambiar su configuración a niveles más bajos de privacidad, seguridad y protección, y que todas las opciones para cambiar la configuración por defecto se presenten de manera neutral.

f)

Garantizar que los menores tengan un grado de control progresivo sobre sus configuraciones, en función de su edad y de la evolución de sus capacidades y necesidades, para apoyar su creciente autonomía y aumentar su voluntad (58).

g)

Garantizar que se explique la configuración a los menores de manera accesible y adaptada a ellos (véase la sección 6.4 sobre la interfaz en línea y otras herramientas).

a)

Ofrecer a los menores la posibilidad de elegir entre cambiar temporalmente su configuración por defecto, por ejemplo, durante un período de tiempo o durante la sesión en curso, y cambiar permanentemente su configuración por defecto.

b)

Permitir restaurar fácilmente la configuración por defecto, mediante un solo clic, u ofrecer una función para deshacer cambios en la configuración.

c)

Presentar señales de advertencia en el punto en el que el menor cambia su configuración, explicando claramente las posibles consecuencias de sus cambios.

d)

Proporcionar periódicamente recordatorios a los menores sobre las posibles consecuencias de los cambios que realicen y ofrecerles periódicamente la oportunidad de volver a su configuración por defecto.

e)

Una vez finalizada la sesión, desactivar automáticamente la geolocalización, el micrófono y la cámara, así como las características de seguimiento que no sean estrictamente necesarias, si un menor los ha activado.

f)

Cuando se activa la geolocalización, el micrófono y la cámara, resulta evidente para los menores durante todo el período en el que están activados.

a)

Considerar si algunas configuraciones, características o funcionalidades deben eliminarse por completo de las cuentas de los menores o si alguno de los ajustes de la configuración por defecto establecida en la sección 6.3.1 anterior deben ser irreversibles o inmodificables para todos los menores o para los menores de determinadas edades, teniendo en cuenta su edad y sus capacidades cambiantes, y eliminar o hacer irreversibles tales ajustes sobre la base de dicha evaluación. Al hacer esta evaluación, los prestadores de plataformas en línea accesibles a los menores deben evaluar la manera en que dichas configuraciones y funcionalidades puedan afectar al elevado nivel de privacidad, seguridad y protección de los menores en su plataforma.

b)

Garantizar que, independientemente de la configuración de la cuenta elegida por los menores:

c)

Garantizar que se ofrezca a los menores la posibilidad de restringir la visibilidad de su fotografía de perfil y de los contenidos individuales que publican, así como la posibilidad de restringir la visibilidad de su contenido en general.

d)

Garantizar que se ofrezca a los menores la posibilidad de aceptar o rechazar cualquier marcado por parte de otros usuarios, ya sea en el contenido, los comentarios u otros.

e)

Aplicar medidas para evitar que los menores acepten involuntariamente contactos no deseados, por ejemplo, exigiendo a los usuarios que incluyan un mensaje cuando soliciten conectarse con un menor.

a)

Garantizar que el diseño de interfaces en línea ofrezca a los menores una experiencia adaptada a su edad.

b)

Garantizar que los menores no estén expuestos a características de diseño persuasivas destinadas principalmente a aumentar la interacción y que puedan dar lugar a un uso extensivo o excesivo de la plataforma o a hábitos de comportamiento problemáticos o compulsivos. Esto incluye la posibilidad de desplazamiento infinito, el requisito superfluo de llevar a cabo una acción específica para recibir información actualizada en una aplicación, la activación automática de los contenidos de vídeo, las notificaciones programadas artificialmente para recuperar la atención de los menores, las notificaciones que sean artificiales, incluidas las que pretendan proceder de otro usuario o las notificaciones sociales sobre contenidos con los que el usuario nunca ha participado, las señales de escasez o urgencia (59), y la creación de recompensas virtuales por llevar a cabo acciones (reiteradas) en la plataforma.

c)

Introducir herramientas personalizables, visibles, de fácil acceso y uso, adaptadas a los niños y eficaces de gestión del tiempo para aumentar la sensibilización de los menores sobre el tiempo dedicado a las plataformas en línea. Para ser eficaces, estas herramientas deben disuadir a los menores de pasar más tiempo en la plataforma. También podrían incluir notificaciones que animen a elegir opciones más seguras. También se deben aplicar sistemáticamente las notificaciones activas que informen a los menores del tiempo que llevan en línea.

d)

Garantizar que todas las herramientas, características, funcionalidades, configuraciones, indicaciones, opciones, así como los mecanismos de presentación de denuncias, observaciones y reclamaciones estén adaptados a los niños, sean adecuados a su edad, fáciles de encontrar, acceder, comprender y utilizar para todos los menores, incluidos aquellos con discapacidad o necesidades adicionales de accesibilidad, sean atractivos y no requieran cambiar de dispositivo para llevar a cabo ninguna acción.

e)

Garantizar que, si las funciones de IA, como los chatbots y filtros impulsados por IA, se integran en una plataforma en línea accesible a los menores, no se activen automáticamente y no se anime ni se incite a los menores a utilizarlos, y que dichos sistemas estén en consonancia con la evolución de sus capacidades y se diseñen de manera segura para ellos. A este respecto, la Comisión considera que las características de IA solo deben estar disponibles en plataformas en línea accesibles a menores tras una evaluación de los riesgos que dichas características de IA puedan plantear para la privacidad, la seguridad y la protección de los menores, y que debe ser fácil desactivarlas y debe quedar claro cuándo están activadas.

f)

Garantizar que se apliquen medidas técnicas para advertir (60) a los menores de que las interacciones con funciones impulsadas por la IA son diferentes de las interacciones humanas y que estas funciones pueden proporcionar información que sea materialmente inexacta y engañosa. Esta advertencia debe ser fácilmente visible, estar redactada en un lenguaje adaptado a los niños y ser directamente accesible desde la interfaz y durante toda la interacción del menor con la característica de IA. Por ejemplo, los chatbots impulsados por IA no deben mostrarse de forma destacada, no deben formar parte de los contactos propuestos ni estar agrupados con los usuarios a los que esté conectado el menor. Los prestadores de plataformas en línea deben velar por que los menores y sus tutores tengan opciones para renunciar al uso de chatbots impulsados por IA y no deben verse animados a utilizar esas características (61). Estas características de IA no pueden utilizarse para influir o animar a los menores a realizar compras o ver anuncios.

a)

Probar y adaptar periódicamente sus sistemas de recomendación para mejorar la privacidad, la seguridad y la protección de los menores y de conformidad con la revisión de riesgos prevista en la sección 5, que incluye una consideración de los derechos más amplios de los menores. Dichas pruebas y adaptaciones deben llevarse a cabo consultando a menores, tutores y expertos independientes.

b)

Tener en cuenta las necesidades, características, discapacidades y necesidades adicionales de accesibilidad específicas de los menores, también teniendo debidamente en cuenta su grupo de edad, a la hora de definir los objetivos, los parámetros y las estrategias de evaluación de los sistemas de recomendación. Deben priorizarse los parámetros e indicadores relacionados con la precisión, la diversidad, la inclusividad y la equidad.

c)

Garantizar que los sistemas de recomendación no se basen en la recogida de datos de comportamiento que reflejen las actividades del menor fuera de la plataforma.

d)

Garantizar que, si un sistema de recomendación se basa en el tratamiento de datos de comportamiento de un menor, las sugerencias de información específica a los destinatarios menores del servicio o la priorización de dicha información no se basen en un tratamiento de datos personales de comportamiento que sea tan amplio que refleje la totalidad o la mayoría de las actividades del menor en la plataforma, lo que puede dar lugar a la sensación de que la vida privada del menor está siendo objeto de seguimiento continuo.

e)

Garantizar que los sistemas de recomendación se basen en «señales implícitas basadas en la participación» únicamente tras haber evaluado si redunda en el interés superior del menor, teniendo en cuenta los principios de minimización de datos y transparencia, y siempre que dicho uso esté claramente definido y sujeto a las garantías adecuadas, tal como se definen con más detalle en las recomendaciones anteriores.

f)

A efectos de las presentes directrices, se entenderá por «señales implícitas basadas en la participación» las señales y los datos que deducen las preferencias de los usuarios de sus actividades (comportamiento de navegación en una plataforma), como el tiempo dedicado a visualizar contenidos y el porcentaje de clics.

g)

Priorizar las «señales explícitas facilitadas por el usuario» para determinar el contenido mostrado y recomendado a los menores. La selección de tales señales debe justificarse en el interés superior del menor, teniendo en cuenta los principios de minimización de datos y transparencia, lo que ayudará a garantizar que contribuyan a un elevado nivel de seguridad y protección de los menores. A efectos de las presentes directrices, se entenderá por «señales explícitas facilitadas por los usuarios» las observaciones e interacciones de los usuarios que indiquen preferencias explícitas de los usuarios, tanto positivas como negativas, incluida la selección declarada y deliberada de temas de interés, encuestas, denuncias (65) y otras señales cualitativas.

h)

Aplicar medidas para prevenir la exposición de los menores a recomendaciones de contenidos que puedan suponer un riesgo para su seguridad y protección, en particular cuando se produzcan repetidamente, como contenidos que promuevan normas de belleza o dietas poco realistas, contenidos que glorifiquen o trivialicen problemas de salud mental, como la ansiedad o la depresión, contenidos discriminatorios, contenidos que busquen la radicalización y contenidos perturbadores que muestren violencia o animen a los menores a realizar actividades peligrosas. Esto incluye los contenidos que hayan sido denunciados o señalados por usuarios, alertadores fiables u otros agentes o herramientas de moderación de contenidos, y cuya legalidad y cumplimiento de las condiciones de la plataforma aún no se hayan verificado, de conformidad con las obligaciones pertinentes en virtud del Reglamento (UE) 2022/2065 y con la sección 6.7.

i)

Aplicar medidas para garantizar que los sistemas de recomendación no permitan ni faciliten la difusión de contenidos ilícitos ni la comisión de delitos contra menores y por parte de estos.

j)

Garantizar que los resultados de las búsquedas y las sugerencias de contactos de los menores den prioridad a las cuentas cuya identidad haya sido verificada y a los contactos conectados a la red del menor, o a contactos en la misma franja de edad que el menor.

k)

Garantizar que las funciones de búsqueda, incluidas, entre otras, autocompletar texto en la barra de búsqueda y las sugerencias de términos y frases clave, no recomiendan contenidos que sean ilícitos o puedan considerarse perjudiciales para la privacidad, la seguridad o la protección de los menores, por ejemplo bloqueando términos de búsqueda que se sepa llevan a contenidos considerados perjudiciales para la privacidad, la seguridad o la protección de los menores, como palabras concretas, jerga, etiquetas hashtags o emojis (66). En caso de consultas relacionadas con dichos contenidos, los prestadores de plataformas en línea deben redirigir a los menores a recursos de apoyo y líneas de ayuda adecuados.

a)

Ofrecer a los menores la oportunidad de restablecer sus contenidos recomendados de forma completa y permanente.

b)

Dentro de la priorización de parámetros e indicadores relacionados con la precisión, la diversidad, la inclusividad y la equidad, proporcionar información y animar a los menores a buscar nuevos contenidos tras una cierta interacción con el sistema de recomendación.

c)

Evaluar si, a la luz de las características específicas de la plataforma y con el fin de garantizar un elevado nivel de privacidad, seguridad y protección de los menores en dicha plataforma, consideran adecuado garantizar que los menores puedan elegir una opción de su sistema de recomendación que no se base en la elaboración de perfiles. La presente Recomendación se entiende sin perjuicio de las obligaciones de los proveedores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño en virtud del artículo 38 del Reglamento (UE) 2022/2065.

d)

En caso de que, como resultado de la evaluación a que se refiere el punto anterior o como resultado de las obligaciones derivadas del artículo 38 del Reglamento (UE) 2022/2065 en relación con los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño, hayan establecido una opción de su sistema de recomendación que no se base en la elaboración de perfiles, evalúen si esto debe facilitarse como una configuración por defecto y, si lo consideran adecuado, establezcan las salvaguardias y medidas de transparencia necesarias para informar a los menores de dicha opción y de las posibles consecuencias de desactivar dicha configuración por defecto.

e)

Garantizar que los mecanismos pertinentes de denuncias y observaciones establecidos en la sección 7.1 tengan un efecto rápido, directo y duradero en los parámetros, la edición y los resultados de los sistemas de recomendación. Esto incluye eliminar permanentemente de las recomendaciones el contenido y los contactos denunciados (incluidos los contenidos que se ha pedido ocultar y los contactos bloqueados o denunciados) y reducir la visibilidad de contenidos y cuentas similares.

a)

Garantizar que cualquier configuración e información facilitada a los menores sobre sus sistemas de recomendación, incluidos, entre otros, sus condiciones generales, se presenten de manera accesible y adaptada a los niños, adaptada a su edad y a la evolución de la madurez de los niños, y en un idioma que puedan comprender (véanse la sección 6.4 sobre el diseño de interfaces en línea y otras herramientas y la sección 8.4 sobre transparencia para obtener más información).

b)

Explicar de manera clara por qué se les recomendó cada contenido específico, incluyendo información sobre los parámetros utilizados y las señales de usuario recogidas para esa recomendación específica.

c)

Ofrecer a los menores, de manera accesible y con un lenguaje y un diseño adaptados a los menores, opciones para modificar o influir en los parámetros de sus sistemas de recomendación, por ejemplo, permitiéndoles seleccionar las categorías de contenidos y las actividades que más o menos les interesen, incluyendo explicaciones en un lenguaje adaptado a los niños. Esto debe ofrecerse durante el proceso de creación de la cuenta y periódicamente a lo largo del tiempo del menor en la plataforma. Estas preferencias deben influir directamente en las recomendaciones del sistema, garantizando que se ajusten a la edad y al interés superior del menor (67).

a)

Garantizar que no se aproveche la falta de alfabetización comercial de los menores, teniendo en cuenta la edad, las vulnerabilidades y la limitada capacidad de los menores para interactuar de manera crítica con las prácticas comerciales de la plataforma y prestarles el apoyo pertinente (72).

b)

Garantizar que los menores no estén expuestos a publicidad nociva, poco ética e ilícita (73). Esto puede implicar, por ejemplo, considerar la idoneidad de las campañas publicitarias para diferentes grupos de edad, abordar sus efectos adversos y adoptar medidas de seguridad adecuadas para proteger a los menores y garantizar que tengan acceso a información que redunde en su interés superior (74).

c)

Revisar periódicamente las medidas de protección pertinentes en consulta con los menores, los tutores y otras partes interesadas pertinentes.

d)

Garantizar que los menores no estén expuestos a un total excesivo en cuanto a volumen, frecuencia y recomendación de contenidos comerciales, que pueda dar lugar a un gasto excesivo o no deseado o a comportamientos adictivos y tengan efectos perjudiciales para su privacidad, su seguridad y su protección.

e)

Garantizar que los menores no estén expuestos a sistemas impulsados por IA integrados en la plataforma que influyan o incentiven a menores con fines comerciales, en particular a través de formatos de conversación o asesoramiento, como los chatbots (75).

f)

Garantizar que las declaraciones de comunicación comercial sean claramente visibles, estén adaptadas a los niños y a su edad y sean accesibles (véase la sección 8.4 sobre transparencia) y se utilicen de forma coherente en todo el servicio, por ejemplo con el uso de un icono o un signo similar para indicar claramente que el contenido es publicidad (76). Estas deben someterse a pruebas y revisiones periódicas en consulta con los menores, sus tutores y otras partes interesadas pertinentes.

g)

Garantizar que los menores no estén expuestos a la comercialización y la comunicación de productos o servicios que puedan tener un efecto adverso en su privacidad, su seguridad y su protección, incluidos los determinados en la revisión de riesgos del proveedor, incluidos los asociados a efectos negativos en su salud física y mental (véase la sección 5 sobre la revisión de riesgos).

h)

Garantizar que los menores no estén expuestos a publicidad encubierta, ya sea realizada por el prestador de la plataforma en línea o por los usuarios del servicio (77). En este contexto, la Comisión recuerda que los prestadores de plataformas en línea también están obligados, en virtud del artículo 26, apartado 2, del Reglamento (UE) 2022/2065, a proporcionar a los destinatarios del servicio una funcionalidad para declarar si el contenido que proporcionan contiene comunicaciones comerciales (78). Entre los ejemplos de comunicaciones comerciales encubiertas pueden figurar, entre otros, los emplazamientos de productos por parte de influyentes, presentaciones de productos y otras formas sutiles de promoción que puedan engañar o manipular a los menores y hacerles adquirir productos o servicios.

i)

Garantizar que los niños no estén expuestos a técnicas que puedan tener el efecto de reducir la transparencia de las transacciones económicas y puedan inducir a error a los menores, como determinadas monedas virtuales (79), y otras fichas o monedas, que puedan intercambiarse con dinero real (o, en su caso, para la compra de otra moneda virtual) y utilizarse para comprar artículos virtuales, causando así también un gasto no deseado (80).

j)

Garantizar que los menores, cuando accedan a plataformas en línea o partes y características de estas que se presenten como gratuitas o lo parezcan (81), no estén expuestos a compras dentro de la aplicación o del juego que sean o parezcan necesarias para acceder al servicio o utilizarlo. Si los menores están expuestos a cualquier compra en la aplicación o el juego, el precio debe indicarse siempre en la moneda nacional.

k)

Garantizar que los menores no estén expuestos a prácticas que puedan dar lugar a un gasto excesivo o no deseado, o a un uso excesivo de la plataforma o a comportamientos compulsivos o adictivos, garantizando que los menores no estén expuestos a artículos virtuales, como cajas de recompensas de pago u otros productos, cuando ofrezcan resultados aleatorios o impredecibles o presenten características similares a los juegos de azar, e introduciendo la separación o fricción entre el contenido y la compra de productos relacionados.

l)

Garantizar que los menores no estén expuestos a técnicas de diseño manipuladoras (82), como escasez (83), recompensas intermitentes o aleatorias, o técnicas de diseño persuasivas (84), que puedan dar lugar a un gasto excesivo, impulsivo o no deseado o a comportamientos adictivos.

m)

Garantizar que los menores no estén expuestos a compras no deseadas, por ejemplo, estudiando la posibilidad de utilizar herramientas eficaces para los tutores o sometiendo cualquier compromiso financiero asumido por menores de una determinada edad a la revisión o el consentimiento de los tutores (véase la sección 7.3 sobre las herramientas para tutores).

n)

Revisar la política de la plataforma en cuanto a la oferta de transacciones económicas, sobre la base de la evolución de las capacidades de los niños, teniendo en cuenta que determinados grupos de edad no deben estar expuestos a las transacciones económicas ni estar autorizados a realizarlas, ya que todavía no tienen la capacidad de comprender los pagos y el dinero.

a)

Definir de forma clara y transparente lo que la plataforma considera contenidos y comportamientos perjudiciales para la privacidad, la seguridad y la protección de los menores, en cooperación con los menores, la sociedad civil y expertos independientes, incluido el mundo académico. Esto debe incluir cualquier contenido y comportamiento que sea ilícito con arreglo a la legislación nacional o de la UE. Los prestadores de plataformas en línea accesibles a menores deben comunicar claramente a los menores que utilicen su servicio información sobre sus normas y expectativas en relación con el contenido y el comportamiento, y esta información debe estar disponible durante la creación de una cuenta y ser fácil de localizar en la plataforma.

b)

Establecer políticas y procedimientos de moderación que establezcan cómo se detectan los contenidos y comportamientos perjudiciales para la privacidad, la seguridad y la protección de los menores y cómo se moderarán con el fin de limitar la exposición de los menores a contenidos nocivos. Los prestadores de plataformas en línea también deben velar por que estas políticas o procedimientos se apliquen en la práctica.

c)

Evaluar y revisar las políticas y los procedimientos para garantizar que sigan siendo eficaces a medida que cambien las tecnologías y los comportamientos en línea. En particular, la Comisión considera que los prestadores de plataformas en línea accesibles a menores deben tener en cuenta los siguientes factores a la hora de priorizar la moderación: la probabilidad y gravedad de que el contenido cause un daño a la privacidad, la seguridad o la protección de un menor, el impacto del daño en ese menor, las vulnerabilidades específicas y el número de menores que puedan verse dañados. Además, debe darse prioridad a las denuncias presentadas por menores.

d)

Garantizar la disponibilidad de la revisión humana, aparte de la revisión automatizada de contenidos y cualquier otra herramienta pertinente, para las cuentas o los contenidos denunciados que el prestador sospeche que puedan suponer un riesgo o un daño que afecte a la privacidad, la seguridad o la protección de los menores.

e)

Garantizar que los equipos de moderación de contenidos estén bien formados y dotados de recursos y que los mecanismos de moderación estén activos y funcionen en todo momento (24 horas al día, 7 días a la semana) para llevar a cabo una moderación eficaz, incluido al menos un empleado que esté de guardia para responder a solicitudes urgentes y emergencias en todo momento.

f)

Garantizar que los sistemas y prácticas de moderación de contenidos estén disponibles y operativos en la lengua o lenguas oficiales del Estado miembro en el que se presta el servicio.

g)

Poner en marcha tecnologías, mecanismos internos y medidas preventivas eficaces para reducir el riesgo de que se recomienden a los menores contenidos y comportamientos perjudiciales para la privacidad, la seguridad o la protección de los menores, en particular mediante la aplicación de soluciones técnicas eficaces para hacer frente a los contenidos nocivos e ilícitos conocidos, como la comparación de huellas digitales (hash matching) y la detección de URL. Los proveedores también deben explorar los posibles beneficios añadidos de soluciones técnicas emergentes, como los clasificadores de IA, para detectar contenidos y conductas nuevos o alterados.

h)

Aplicar soluciones técnicas para evitar que los sistemas de IA de su plataforma permitan a los usuarios acceder, generar y difundir contenidos nocivos para la privacidad, la seguridad o la protección de los menores.

a)

Aplicar mecanismos de denuncias, observaciones y reclamaciones que:

b)

Garantizar que los mecanismos de gestión de denuncias, observaciones y reclamaciones establecidos en virtud del artículo 20 del Reglamento (UE) 2022/2065 (89):

c)

Garantizar la disponibilidad de una opción que permita a los menores exponer sus propios motivos para presentar una denuncia o una reclamación. Los prestadores deben evitar utilizar categorías de denuncias, pero si se utilizan, deben asegurarse de que se adapten a los usuarios más jóvenes autorizados en la plataforma.

d)

Garantizar que las denuncias, observaciones y reclamaciones sean confidenciales y anónimas por defecto, ofreciendo al mismo tiempo a los menores la opción de eliminar el anonimato. Si se elimina el anonimato, el prestador debe explicar a los menores cuándo, cómo y qué información relacionada con las denuncias o reclamaciones se comparten con otros usuarios o con terceros.

e)

Dar prioridad a las denuncias relativas a la privacidad, la seguridad y la protección de los menores. Los prestadores de plataformas en línea deben ofrecer la opción de indicar si el menor considera urgente una denuncia o una reclamación, especialmente cuando haya indicios de un problema continuo de privacidad, seguridad o protección. Los tiempos de respuesta deben ser adecuados al motivo de la denuncia o la reclamación. Esto no debe afectar negativamente a la prioridad concedida a las notificaciones enviadas por los alertadores fiables, de conformidad con el artículo 22, apartado 1, del Reglamento (UE) 2022/2065.

f)

Facilitar a cada menor que presente una denuncia o reclamación un acuse de recibo de la misma sin demora indebida. Los menores también deben poder acceder a una explicación adecuada a su edad del proceso que se seguirá al revisar la denuncia o la reclamación y una explicación de cualquier medida que se adopte o de por qué no se ha adoptado ninguna medida. La información debe incluir un calendario indicativo para decidir sobre la denuncia o la reclamación y los posibles resultados. La Comisión también considera que los prestadores de plataformas en línea deben proporcionar un mecanismo para el seguimiento de la denuncia o reclamación y para comunicarse con las plataformas.

g)

Revisar periódicamente las denuncias, las observaciones y las reclamaciones que reciban. Deben utilizar esta información para determinar y abordar cualquier aspecto de su plataforma que pueda comprometer la privacidad, la seguridad o la protección de los menores, perfeccionar sus sistemas de recomendación y sus prácticas de moderación, mejorar las normas generales de seguridad y fomentar un entorno en línea más fiable y responsable. Estas acciones deben documentarse para ser revisables.

a)

Disponer de herramientas de apoyo claras, fácilmente reconocibles y accesibles que permitan a los menores buscar ayuda cuando encuentren contenidos, cuentas o comportamientos sospechosos, ilícitos o inadecuados que les hagan sentirse incómodos. Esto incluye botones de bloqueo y silenciado. Las herramientas de apoyo deben estar adaptadas a los niños, ser claramente visibles e inmediatamente accesibles (véase la sección 6.4 sobre la interfaz en línea y otras herramientas) y deben conectar directamente a los menores con los servicios de apoyo más adecuados para su ubicación y edad, como los que forman parte de los Centros Nacionales de Seguridad en Internet, las redes INHOPE y las líneas nacionales de ayuda a la infancia.

b)

Limitar el uso de herramientas de apoyo basadas en la IA, ya que no deben utilizarse como principal mecanismo para interactuar con los niños.

c)

Introducir mensajes de advertencia directamente visibles, enlaces a las líneas de apoyo nacionales pertinentes (90) y otras fuentes autorizadas cuando los menores busquen, carguen, generen, compartan y reciban contenidos potencialmente ilícitos o perjudiciales para la privacidad, la seguridad y la protección de los menores (como se explica en la sección 6.7 sobre moderación). Los prestadores de plataformas en línea también deben remitir a los menores a las líneas de apoyo nacionales pertinentes cuando un menor presente una denuncia relacionada con dichos contenidos. La remisión debe efectuarse inmediatamente después de que el prestador de la plataforma en línea tenga conocimiento de la actividad o el menor presente una denuncia.

d)

Si la plataforma en línea incluye características o funcionalidades relacionadas con la conexión de usuarios, la publicación de contenidos o la comunicación con los usuarios, debe ofrecer a los menores la opción de bloquear o silenciar de forma anónima a cualquier otro usuario o cuenta, incluidos los que no estén conectados a ellos. Los sistemas de bloqueo deben ser fáciles de encontrar y accesibles. La información sobre el usuario o su cuenta no debe estar disponible para ninguna cuenta que el usuario haya bloqueado.

e)

Si la plataforma en línea permite comentarios sobre contenidos, debe ofrecer a los menores la opción de restringir los tipos de usuarios que pueden comentar su contenido y el contenido sobre ellos o impedir que otros usuarios comenten su contenido y el contenido sobre ellos, tanto en el momento de la publicación como posteriormente, incluso si la posibilidad de comentar está restringida a cuentas previamente aceptadas como contactos por el menor (como se recomienda en la sección 6.3 sobre Configuración de la cuenta).

f)

Si la plataforma en línea ofrece funciones de grupo, debe garantizar que los menores se incorporen a un grupo solo después de haber recibido la notificación de la invitación y tras aceptar que desean formar parte de dicho grupo.

a)

Sean adecuadas a la edad y estén en consonancia con la evolución de las capacidades de los menores. Las herramientas para los tutores deben basarse en la comunicación, el aprendizaje y la capacitación en lugar de en el control y permitir la autonomía y la voluntad de los menores. Deben ser eficaces y no restringir de manera desproporcionada los derechos de los menores a la privacidad o a los servicios de acceso, teniendo en cuenta el interés superior del menor como consideración primordial.

b)

Sean fáciles de utilizar, acceder y activar, por ejemplo, permitiendo al tutor utilizar la herramienta sin crear una cuenta en el servicio.

c)

Se apliquen independientemente del dispositivo o sistema operativo utilizado para acceder al servicio.

d)

Proporcionen una notificación clara a los menores de su activación por parte de los tutores y establezcan otras salvaguardias que tengan en cuenta su posible uso indebido por parte de los tutores, como, por ejemplo, proporcionar un signo claro al menor en tiempo real cuando se active cualquier funcionalidad de supervisión.

e)

Garanticen que los cambios solo puedan realizarse con el mismo grado de autorización requerido en la activación inicial de las herramientas.

f)

Sean compatibles con la disponibilidad de herramientas interoperables de ventanilla única para los tutores que reúnan todas las configuraciones y herramientas.

a)

Aplicar políticas internas que describan cómo el prestador de la plataforma en línea pretende garantizar un elevado nivel de privacidad, seguridad y protección de los menores en su servicio.

b)

Asignar a una persona o equipo específico la responsabilidad de garantizar un alto nivel de privacidad, seguridad y protección de los menores. Esta persona o equipo debe disponer de recursos suficientes, así como de autoridad suficiente para tener acceso directo al órgano de dirección del prestador de la plataforma en línea, y también debe ser un punto de contacto central para los reguladores, los usuarios y los alertadores fiables en asuntos relacionados con la privacidad, la seguridad y la protección de los menores.

c)

Fomentar una cultura de privacidad, seguridad y protección de los menores en el servicio. En particular:

a)

Incluyen información sobre:

b)

Son fáciles de encontrar y buscar a lo largo de toda la experiencia del usuario en la plataforma.

c)

No restringen indebidamente ningún derecho de los menores, incluido su derecho a la libertad de expresión y de información.

d)

Se respetan y aplican en la práctica.

a)

Supervisar y evaluar periódicamente la eficacia de cualquier elemento de la plataforma que afecte a la privacidad, la seguridad y la protección de los menores en la plataforma. Esto incluye, por ejemplo, la interfaz en línea de la plataforma, los sistemas, las configuraciones, las herramientas, las funcionalidades y las características y los mecanismos de denuncias, observaciones y reclamaciones, así como las medidas adoptadas para cumplir lo dispuesto en el artículo 28, apartado 1, del Reglamento (UE) 2022/2065 (100). Los proveedores deben considerar la posibilidad de poner estas evaluaciones a disposición de terceros independientes, como expertos u otras partes interesadas pertinentes, para su revisión y observaciones.

b)

Consultar periódicamente a menores, tutores, universidades, organizaciones de la sociedad civil, expertos en derechos del menor y otras partes interesadas pertinentes sobre el diseño y la evaluación de cualquier elemento de la plataforma que afecte a la privacidad, la seguridad y la protección de los menores en la plataforma. Esto debe incluir probar estos elementos con menores y tener en cuenta sus observaciones. Para contribuir a la no discriminación y la accesibilidad, los proveedores deben, en la medida de lo posible, implicar en estas consultas a menores de una amplia gama de orígenes culturales y lingüísticos, de diferentes edades, con discapacidad o con necesidades adicionales de accesibilidad.

c)

Adaptar el diseño y el funcionamiento de los elementos mencionados en función de los resultados de estas consultas y de los avances técnicos, la investigación, los cambios en el comportamiento o la política de los usuarios, la evolución de los productos y su uso, y los cambios en los riesgos y efectos nocivos para la privacidad, la seguridad y la protección de los menores en su plataforma.

a)

Información sobre las medidas adoptadas para garantizar un elevado nivel de privacidad, seguridad o protección de los menores en la plataforma. Esto incluye información sobre:

b)

Asegurarse de que esta información, todas las advertencias y cualquier otra comunicación recomendada en las presentes directrices:

c)

Las medidas y modificaciones aplicadas para cumplir lo dispuesto en el artículo 28, apartado 1, del Reglamento (UE) 2022/2065 se comunicarán internamente y se publicarán en la medida de lo posible.