El ministro Óscar López y Calissa Véliz, en Barcelona.
Óscar López: “La protección de los menores en internet y la regulación de la IA constituyen un asunto de primer orden”
El ministro debatió sobre el futuro de la democracia en la era de la IA en el I Encuentro Internacional por los Derechos Digitales, en Barcelona.
Más información: Anu Bradford: “Europa no puede convertirse en una fortaleza tecnológica”
“Este es el verdadero campo de batalla en este momento, entre los que defienden una ley de la selva sin normas y los que estamos defendiendo que tiene que haber normas. Estamos ante una auténtica pandemia de la salud mental, sobre todo de nuestros jóvenes y, dentro de éstos, de nuestras niñas”, sentenció el Óscar López, ministro para la Transformación Digital y de la Función Pública, ayer en Barcelona.
El ministro López participó en un debate sobre el futuro de la democracia en la era de la IA junto con la filósofa y profesora de la Universidad de Oxford Carissa Véliz en la segunda jornada del I Encuentro Internacional por los Derechos Digitales, celebrado en Barcelona los días 13 y 14 de mayo. El evento, impulsado por el Gobierno de España y Mobile World Capital Barcelona en el marco del Observatorio de Derechos Digitales, ha reunido a gobernantes e instituciones públicas y privadas con las voces más influyentes en tecnología, ética y gobernanza digital.
En una rueda de prensa posterior al debate, el ministro ha denunciado que herramientas de IA como el asistente Grok de la red social X se han utilizado para generar falsas fotografías de contenido sexual de menores. Ante lo que calificó de “pandemia de la salud mental”, López ha destacado el liderazgo de España para la prohibición de estas prácticas en el nuevo Reglamento Europeo de IA.
La democracia, en juego
Según el ministro, no solo está en riesgo nuestra salud sino también la democracia. “Todos hemos visto las campañas de desinformación, los bulos, las fake news, hemos visto cómo se han tenido que repetir elecciones en países de la Unión Europea, precisamente por la contaminación de las campañas de desinformación”. Sin una legislación estatal firme, ha alertado, “estaremos todos en manos de cinco tecnoligarcas que definen nuestra sociedad”.
López destacó el empeño legislativo del gobierno, regulando la mayoría de edad digital para acceder a las redes sociales y la verificación segura de esta restricción, “el primer país que desarrolló esta herramienta que es, además, la más avanzada. España está actuando”. Y ha anunciado que en la cumbre iberoamericana, que tendrá lugar este próximo noviembre en Madrid, se hablará de la colaboración entre las potencias medianas para crear un modelo tecnológico ético y seguro para los ciudadanos. O hacemos algo a escala o nos convertiremos en un archivo más”.
Innovación para el cambio
El ministro ha destacado también la importancia de impulsar la innovación para hacer frente a las corporaciones digitales que imponen su modelo en internet. “Esto no va solo de regulación. Estoy aquí para defender un modelo que no ponga en riesgo la democracia. Hemos de construir herramientas éticas y confiables y vamos a pelear en todos los frentes para que esto sea así”.
López compartió la mesa de debate con Carissa Véliz, que ha alertado sobre la IA, “que basa el resultado que ofrece en predicciones que tomamos por ciertas, pero no en hechos, son solo predicciones”. Según la filósofa, “esto no es una batalla tecnológica, es de poder, porque las grandes tecnológicas lo que buscan es acumular poder”.
Un instante del Observatorio celebrado en Barcelona.
Véliz ha compartido la necesidad de inversión en tecnología del ministro “porque solo conseguiremos un modelo más ético si nos adelantamos a las grandes tecnológicas. Hay que poner reglas pero también hay que innovar, porque la ética no es nada más que un buen diseño algorítmico”.
Finalmente, López ha reconocido que “Europa ha llegado tarde a la guerra pero ahora empieza una segunda parte en la que las inversiones en innovación disruptora serán esenciales”. También ha reclamado que “lo que es delito en el mundo físico tiene que ser delito en el mundo virtual y la responsabilidad que tienen las empresas en el mundo físico la tienen que tener en el virtual”, y ha alertado que “lo que nos jugamos en esta batalla es el mundo, la civilización”.
El ciudadano reclama
Durante la primera jornada del evento internacional se dio a conocer el resultado de la I Encuesta de la Percepción Social sobre los Derechos Digitales, un proyecto elaborado por Fundación La Caixa, Red.es y Fundación Hermes, en colaboración con la Universidad de Barcelona y desarrollado en el marco del Observatorio de Derechos Digitales.
La investigación muestra que la ciudadanía reclama una protección efectiva de sus derechos en el mundo digital en asuntos que afectan a su actividad diaria y a los colectivos más vulnerables, como los más jóvenes. En este sentido, el 95% de los encuestados considera que los menores están desprotegidos en internet y aprueban medidas como el control parental, la edad mínima obligatoria para el acceso a redes y la regulación de la publicidad dirigida a menores.
Un instante del Observatorio celebrado en Barcelona.
También un 71% cree que la participación en internet debería estar ligada a la identificación obligatoria, frente a un 24% que defiende la anónima. Y la casi totalidad de ciudadanos (96%) considera que la privacidad y la protección de datos, y también la protección ante situaciones de acoso, mensajes de odio y difamación en plataformas digitales (94%) deben ser protegidos por ley.
Alentar el activismo
Enrique Goñi, presidente de Fundación Hermes, alertó que “nos lo jugamos todo en términos de civilización”, coincidiendo con el ministro López que intervino posteriormente en el escenario principal del evento. “Nuestra vida digital en lo personal es indelegable. Nuestra organización y otras muchas nos dicen que el partido se está jugando y que hemos de producir nuestra propia industria sin complejos”, ha afirmado Goñi, refiriéndose a la posición que debe tomar Europa.
“Hemos de seguir diseminando la conciencia para contrarrestar en positivo la contaminación del mensaje que recibimos de las grandes corporaciones. Hemos de alentar el activismo para utilizar la tecnología para el bien, no para el dinero y el poder, que es hacia donde está orientada ahora”, sentenció Goñi.
Barcelona se ha convertido durante dos días en el epicentro mundial de los derechos digitales, donde se han oído las voces destacadas de Yael Eisenstat, experta en políticas tecnológicas y exdirectiva de Facebook, que formó parte de la CIA durante una década y fue asesora de seguridad nacional de Joe Biden; Carl Óhman, investigador de Oxford Internet Institute, especializado en gobernanza de la IA y ética digital; o Erika Von Holstein, asesora de IA del gobierno de España, entre otros muchos. Por el interés generado y por lo que todas las voces han aportado, la continuidad del evento es necesaria.
