El pasado mes de noviembre entró en vigor la Directiva de Servicios Digitales (DSA), una de las grandes apuestas legislativas europeas. Uno de sus objetivos, el de fomentar un buen uso de las plataformas digitales y buscadores on line en relación con los contenidos ilícitos, ha cristalizado en la puesta en marcha del Centro Europeo para la Transparencia Algorítmica (ECAT, por sus siglas en inglés), una herramienta que busca ya no sólo fomentar sino garantizar ese buen funcionamiento.

En relación con el ECAT, nuestro país tiene mucho que decir, y es que este servicio se ubicará en el Centro Común de Investigación (JRC) que la Comisión Europea tiene en Sevilla. Este martes se ha inaugurado de forma oficial el centro, aunque está funcionando desde el pasado mes de enero.

El Centro Europeo nace con la intención de "contribuir a construir un entorno on line más seguro, fiable y predecible para las personas y las empresas". No conviene olvidar que los sistemas algorítmicos determinan muchos aspectos de nuestra experiencia on line (recomendaciones de series en una plataforma de música o audiovisual, por ejemplo). 

[Europa sienta las bases legislativas para el futuro Reglamento de IA en busca de un entorno "fiable y seguro"]

Todos estos objetivos así como otros detalles se pudieron ir conociendo durante el evento de presentación, que contó con diversas voces autorizadas y relacionadas con el centro que pusieron en contexto a todas las personas asistentes, hablando sobre su creación, objetivo, funciones y puesta en marcha.

Mikel Landabaso, director de Economía Justa y Sostenible en el Centro Común de Investigación; Gerard de Graaf, enviado principal de la Unión Europea para el sector digital en EEUU y jefe de la delegación de la Unión Europea en San Francisco; Francesca Bria, experta en política digital europea y presidenta del Fondo Nacional de Innovación de Italia; o Renate Nikolay, directora general adjunta sobre Redes de Comunicaciones, Contenido y Tecnología en la Comisión Europea, fueron algunas de estas voces.

Se hace necesaria, según ha quedado claro, una especie de supervisión pública de los procesos que conforman el núcleo de su actividad. Esto incluye, de manera particular, la forma en que estas plataformas y motores de búsqueda estructuran y moderan la información y el contenido que devuelven a los usuarios y cómo presentan y sugieren la información que consideran puede ser de su interés y utilidad.

El ECAT ayudará, precisamente, a la Comisión Europea a evaluar si el funcionamiento de los sistemas algorítmicos que sirven de base a los servicios digitales está en consonancia con las normas recogidas en la Directiva de Servicios Digitales, que faculta a la Comisión Europea a tener acceso a determinados datos de las plataformas online.

El equipo de expertos que trabajará en este organismo analizará esos datos para comprenderlos mejor y, en última instancia, poder explicarlos con mayor claridad a los ciudadanos europeos.

El ECAT, tal y como se dio a conocer este martes, tendrá tres grandes funciones en el proceso de comprender mejor cómo funcionan los sistemas algorítmicos y saber por qué navegando por la red se nos recomiendan unos tipos de contenidos y no otros o por qué los resultados nos aparecen en un orden determinado cuando realizamos alguna búsqueda online.

[España será el campo de pruebas para el futuro Reglamento Europeo de Inteligencia Artificial]

La primera función será actuar como servicio de apoyo técnico de la Comisión Europea en el cumplimiento de la Directiva de Servicios Digitales; la segunda, servir de canalizador de conocimiento prospectivo y de investigación de alta calidad; la tercera, impulsar la creación de una red alrededor de la transparencia algorítmica.

Cabe recordar que las medidas recogidas en la Directiva de Servicios Digitales exigen auditorías de responsabilidad y transparencia de los algoritmos, teniendo en cuenta que existe una creciente preocupación por el modo en que los sistemas algorítmicos dan forma a la visibilidad y promoción de los contenidos y su impacto social y ético.

También, y en relación con esas mismas medidas, el Centro Europeo contribuirá, cooperando con las empresas, el mundo académico y las organizaciones de la sociedad civil, a la función de supervisión y ejecución de las obligaciones sistémicas sobre las plataformas en línea y los motores de búsqueda on line.

La Directiva de Servicios Digitales exigirá a operadores de estos sistemas que operen en la Unión Europea que identifiquen, analicen y evalúen determinados riesgos sistémicos derivados del diseño y el funcionamiento de sus servicios y sistemas conexos, incluidos los sistemas algorítmicos. Además, deben comprometerse a abordar los riesgos identificados, relacionados directa o indirectamente con el funcionamiento del sistema algorítmico en uso.

El Gobierno y la ciudad de Sevilla

Los asuntos sobre los que se trabajará para mejorar la comprensión del funcionamiento de los algoritmos con un enfoque aplicado, interdisciplinario e inclusivo son, entre otros, la transparencia algorítmica; los sistemas de recomendación, recuperación de información, motores de búsqueda, etc.; la equidad, responsabilidad y transparencia; el impacto ético, económico, legal y social; o los derechos fundamentales.

La secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, presente en el evento, explicó la estrategia española, basada ya no sólo en la apertura de este ECAT en Sevilla, sino en el piloto del reglamento de IA, en la creación de la Agencia Estatal de Supervisión de la IA en La Coruña o en la presidencia de turno de la Comisión Europea que ostentará España.

Además, Artigas explicó que "los últimos años han sido clave para la legislación en el sector digital a nivel europeo, pero la adopción no es el final del juego: el gran reto es hacer cumplir esa legislación".

En este sentido, según apuntó, la Ley de Servicios Digitales "no sólo va a ser relevante para los mercados, sino para los derechos fundamentales y el respeto a nuestras democracias".

Para la estrategia de ciudad, este ECAT también tiene mucho valor. "El objetivo es que este centro forme parte de nuestra identidad y de nuestra proyección como una ciudad innovadora, moderna y que apuesta por la investigación y la ciencia", subrayó Antonio Muñoz, alcalde de Sevilla.