En febrero de 2020, un tribunal de los Países Bajos falló en contra del uso de un sistema algorítmico que se había diseñado para predecir la probabilidad de que personas solicitantes de ayudas públicas defraudaran tanto en sus contribuciones a la seguridad social como en el pago de impuestos. 

Este es sólo un ejemplo más que pone de relieve la importancia de acompañar el desarrollo de nuevas tecnologías como la inteligencia artificial (IA) de un análisis y un debate sobre el impacto que éstas tienen en los derechos y los valores que rigen los sistemas democráticos. En definitivo, se trata de colocar al ciudadano en el centro del imparable proceso de digitalización. 

Esto es lo que persiguen la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), el Instituto de Gobernanza Democrático y el Instituto Universitario Europeo con la firma de un convenio de colaboración para la creación de la primera cátedra de Inteligencia Artificial y Democracia.

Las tres instituciones colaborarán en el marco de esta cátedra para realizar actividades de investigación, transferencia, divulgación, docencia e innovación en torno a los retos sociales y éticos relacionados con el desarrollo de tecnologías de IA como parte del proceso de transformación digital que afronta España.

Por ejemplo, entre las actividades contempladas dentro del convenio de colaboración está la organización y celebración de seminarios relacionados con la materia, la elaboración de trabajos de investigación y de actividades de formación de los profesores y colaboradores vinculados a la cátedra; o el apoyo de publicaciones sobre temas de objeto de estudio de la misma, entre otras muchas. 

Además, el proyecto también plantea programas destinados a acoger a universitarios en prácticas que vengan a la Administración General del Estado temporalmente para el análisis de casos de aplicación de inteligencia artificial en la Administración Pública.

La finalidad de estas actividades es por promover la explotación de sinergias de investigación entre las universidades y centros de investigación mediante redes de cooperación interuniversitaria, así como con empresas y administraciones públicas. Todo ello a fin de garantizar los derechos democráticos de la ciudadanía en el empleo de sistemas basados en la Inteligencia Artificial.

Además, el Ministerio apunta que con esta cátedra se sigue trabajando en la importante colaboración investigadora y de reflexión conjunta en el ámbito universitario en relación con la preservación de los derechos y valores democráticos en el mundo digital y en torno a tecnologías como la IA.

Con respecto a la gobernanza, el seguimiento y buen funcionamiento de la cátedra está garantizado a través de la creación de una Comisión de Seguimiento y de un Comité Científico. Este último, será un órgano compuesto por un total de seis miembros de reconocido prestigio en materia de IA y democracia nombrados de forma paritaria por la SEDIA, el Instituto de Gobernanza Democrático y el Instituto Universitario Europeo.

Un elemento innovador

"Esta cátedra es un elemento innovador y absolutamente fundamental para poder continuar entendiendo la digitalización como una gran herramienta de transformación social", ha afirmado la secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, durante la presentación del acuerdo. 

Así, ha incidido en que se trata de un proyecto "necesario e ilusionante", así como un "salto adelante" en la garantía de los valores democráticos de España como país dentro de la nueva realidad digital que se está creando y que todavía está por desarrollarse.  

En este sentido, ha resaltado que se trata de un proyecto de presente, pero, sobre todo de futuro. Así, está destinado a determinar las sendas y los debates que decida como queremos que sea la nueva realidad en torno a una tecnología tan apasionante como retadora, la inteligencia artificial. 

Asimismo, Artigas ha recordado que en la Secretaría entienden que la tecnología debe ser un "gran elemento vertebrador de la sociedad", pero al mismo tiempo también un "dique de contención de la desigualdad". Una filosofía que se ha mostrado convencida de que será apoyada por esta cátedra.

Además, ha agregado que también será una oportunidad para avanzar conjuntamente a la hora de abordar los retos que España tiene como país en materia de exclusión social, integración y garantías democráticas desde un "desarrollo humano y ético" de la tecnología. 

El acto de presentación de la cátedra ha sido clausurado por la vicepresidenta segunda y ministra de Asuntos Económicos y Transformación Digital, Nadia Calviño, quien ha recardo que todo el proceso de digitalización que se esté desarrollando desde el Gobierno tiene como objetivo "conectar la tecnología y las persona" y tratar de impulsar una digitalización humanista. 

Una digitalización humanista

Calviño ha recalcado que en la Estrategia Nacional de Inteligencia Artificial (ENIA), lanzada a finales de 2020, se pone de relieve está dimensión humana de la tecnología y la necesidad de proteger los derechos individuales y colectivos, los valores y la democracia y la Constitución en este proceso de aceleración de la digitalización como consecuencia de la pandemia.  

La vicepresidenta ha subrayado que todos los planes puestos en marcha por el Gobierno en este campo, como el de competencias digitales o la digitalización de la Administración pública o las pymes, se enmarcan en esa idea de digitalización humanista, que tiene en su corazón la Carta de Derechos Digitales en la que está trabajando el Ejecutivo desde el primer día. 

A este respecto, ha señalado que espera poder presentar "pronto" el documento definitivo tras las aportaciones realizadas al borrador en la fase de consulta. Un documento que pueda servir de inspiración a los desarrollos normativos no solo de los próximos años, sino también de las próximas décadas, para asegurar que el proceso de digitalización responde a la protección de los derechos y los valores. 

Por otro lado, ha celebrado que se haya sumado a esta cátedra el Instituto Universitario Europeo, ya que el debate sobre IA y la digitalización no es algo que se pueda desarrollar a nivel nacional, sino como mínimo a nivel europeo, sino global. Un debate en el que España quiere tener "una voz relevante" con el apoyo de esta Carta de Derechos Digitales. 

Debate sobre IA

Durante la presentación de la cátedra también se celebró un debate que contó con la participación de Daniel Innerarity, director de Globernance (Instituto de Gobernanza Democrática), y de Lorena Jaume-Palasi y Ricardo Baeza-Yates, miembros del Comité Asesor de IA del Gobierno, e Idoia Salazar, presidenta de OdiseIA.

Salazar ha remarcado que la IA no es el futuro, sino el presente, y ha incidido en que es ahora cuando tenemos que adoptar acciones para prevenir posibles riesgos negativos en la sociedad. "Debemos ver esta tecnología como una herramienta que nos ayude a ser mejores personas", ha afirmado. 

En esta línea, Baeza-Yates ha incidido en la importancia de conocer nuestros propios sesgos y nuestra propia ética y, a partir de ahí, empezar a solucionar muchos de nuestros problemas en tornos a esta tecnología. "La IA se puede usar para muchas cosas, pero no siempre es la mejor herramienta", ha advertido. 

Por su parte, Inneratiy ha apelado al famoso discurso de Gettysburg del presidente estadounidense Abraham Lincoln, en el que se resaltaba el papel del pueblo en la democracia como titular, sujeto y destinatario de las acciones políticas. Así, ha añadido que aún no sabemos qué significa esto en un entorno digital, por lo es necesario reflexionar sobre ello.

En este sentido, ha apuntado que, para responder a la pregunta de si la democracia está indisolublemente ligada al mundo analógico o si tiene una nueva oportunidad en el entorno digital tenemos que dilucidar qué tipo de subjetividad política, tenemos en la IA. "Lo que necesitamos es un discurso de Gettysburg para democracia en la era de la IA", ha aseverado. 

Por su parte, Jaume-Palasi ha recordado que creamos infraestructura porque nos da acceso a servicios y cosas que nosotros solos no podemos realizar, lo que a su vez genera dependencia y vulnerabilidad. Así, apunta que una vez hecha la tecnología y las leyes que la acompañan, estos se van a quedar largo tiempo porque la democracia "no es un Big Mac que cocinas en cinco minutos y te comes en diez". "Es importante pensarlo bien y desde el punto de vista de inclusividad, vulnerabilidad y de interdependencia", ha afirmado.