Análisis en profundidad de la Carta de Derechos Digitales: buenas intenciones, preocupantes retrocesos

Ocho meses y dos prórrogas separan el borrador de la Carta de Derechos Digitales del Gobierno del documento definitivo, presentado hoy por el presidente Pedro Sánchez. 

Otros países como el vecino Portugal ya han hecho lo propio. De hecho, la ‘Declaración de Lisboa sobre Derechos Digitales’ ha sido aprobada ya por los 27 Estados miembros de la UE. Todos ellos firmaron asimismo la ‘Declaración de Berlín sobre sociedad digital y gobierno digital basado en valores’ el pasado diciembre de 2020. La Comisión Europea prepara también su ‘Declaración Europea de Principios Digitales’, ahora en periodo de consulta pública.

En España, esa consulta pública se abrió el 17 de noviembre de 2020, con una primera versión de la Carta de Derechos Digitales, que fue criticada en estas páginas por varias expertas y expertos, calificada como “papel mojado”. ¿Siguen pensando lo mismo ahora? ¿Qué ha cambiado entre un documento y otro?

Entre unos cuantos “se garantizará” (o similares) que ahora se han quedado en algo como “se intentará garantizar” han aparecido nuevos derechos: el ‘Derecho de acceso a internet’ y el ‘Derecho a recibir libremente información veraz’. Otros han cambiado de nombre: de “Protección de personas con discapacidad en el entorno digital” a “Accesibilidad universal en el entorno digital”, y de ‘Protección de las personas mayores en el entorno digital’ a ‘Brechas de acceso al entorno digital’.

También hay omisiones, como el requisito de anonimización de los datos con fines de investigación. O como el impulso a la Educación para la Ciudadanía Digital que sí aparecía en el borrador y que recordaba a la asignatura ‘Educación para la Ciudadanía y los Derechos Humanos’ implantada por el gobierno de Zapatero con la oposición del PP.

¿Qué hay de los puntos más controvertidos? “Es tecnologista, contradictoria y crea incertidumbre legal” decía sobre el borrador de la Carta de Derechos Digitales la fundadora de Ethical Tech Society Lorena Jaume-Palasí, miembro del Consejo Asesor de Inteligencia Artificial de SEDIA. ¿Lo sigue siendo? Su respuesta es: “sí”. ¿Por qué? Vayamos por partes.

La mayoría de los derechos ya existen, incluso dentro del contexto digital

Crea incertidumbre legal, a juicio de Jaume-Palasí, porque “la mayoría de los derechos que se mencionan ya existen incluso dentro del contexto digital, y lo que hace es una readaptación con una selección puntual de determinadas partes de leyes”. A su juicio, dicha reiteración de leyes existentes en otros contextos es “preocupante” y abre la duda de si se trata de una nueva interpretación de dichas leyes. “Prioriza unas partes de esas leyes sobre otras y las saca de contexto”, afirma la experta.

“El problema actual no es la definición de derechos que ya sabemos que tenemos sino su aplicación”, apunta Gemma Galdon Clavell, fundadora de Eticas Consulting y asesora de la Comisión Europea, la OCDE y la ONU en impacto y auditoría de la inteligencia artificial. “Falta implementar esos derechos de forma efectiva para proteger a las personas en los procesos tecnológicos, y esta carta no contribuye a ello”, añade.

Siguiendo con Jaume-Palasí, la experta considera que el documento sigue siendo tecnologista porque, como dijo sobre el borrador hace ocho meses, “pretende que la regulación de la tecnología solucione problemas derivados de la amplificación tecnológica de problemas sociales preexistentes”.

La Carta de Derechos Digitales pretende solucionar problemas sociales preexistentes regulando la tecnología que los amplifica

Estos últimos son la causa -dice la experta- mientras que la tecnología son solo los síntomas, que además están en cambio constante. “Esta carta parte de la posición y tiene como foco las compañías que están creando inteligencia artificial, en lugar de la protección del ciudadano, que solo está presente como ímpetu”, afirma.

A mayores, cree que es un error centrarse en derechos individuales “porque las tecnologías son infraestructuras sociales”. Por tanto -sostiene- “necesitamos instrumentos para proteger derechos sociales; entender la dimensión estructural del impacto de la tecnología, en lugar de regular el bosque árbol por árbol”.

En cuanto a las contradicciones que Jaume-Palasí ya criticaba del borrador de la carta por sus incongruencias técnicas, estas siguen presentes. Por ejemplo, el texto habla de pseudonimato a la vez que establece que una persona no puede ser perfilada, “lo cual no tiene sentido porque el perfilado se hace en base al pseudonimato”. “Ambas cosas al mismo tiempo no son posibles a nivel técnico”, afirma.

Importantes retrocesos

Precisamente esa contradicción y la renuncia a hablar de anonimidad en todo el documento fue una de las principales críticas que recibió el borrador. “Me preocupa que en lugar de hablar del derecho al anonimato se hable de pseudonimato, cuando la ley establece que un dato pseudónimo es un dato personal”, afirma Galdon.

La directora de Eticas Consulting valora esto como “un paso atrás terrible que no se adhiere al marco legal europeo”. Y añade que igual de preocupante es que se plantee que siempre debe haber una trazabilidad de la información por si hay un requerimiento policial. “Es una perspectiva inaceptable, basada en la vigilancia preventiva. Este es un tema que sigue siendo motivo de debate a nivel global, y aquí se cierra el debate sin ni siquiera haberlo tenido y en términos muy preocupantes desde la perspectiva del derecho a la privacidad”, asegura.

Es una perspectiva inaceptable, basada en la vigilancia preventiva

A Galdon también le preocupa el abordaje del derecho a la identidad. “Se menciona el derecho a relacionarse con la Administración por medios no digitales, pero la carta está muy orientada a que todo se haga por internet. Mientras no acabemos con la brecha digital, esto solo contribuirá a agravarla”, afirma.

De acuerdo con estos puntos está Simona Levi, miembro de grupo asesor de la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) para la creación de la Carta de Derechos Digitales, que ya se manifestó en D+I muy crítica con la primera versión. “Me preocupa que no se defiendan el anonimato y los modelos de identidad autosoberana”, afirma Levi.

Para hablar realmente de Carta de Derechos Digitales debería tener ánimo normativo. Si no es extremadamente incongruente.

La fundadora de Xnet y codirectora del curso de postgrado ‘Tecnopolítica y derechos en la era digital’ en la Universidad de Barcelona, critica las contradicciones de las políticas de datos que pueden conducir a problemas en ámbitos como la memoria histórica. “El derecho al olvido se está aplicando mal en España y ello causa problemas a los archivos”, apunta. De hecho, el Reglamento General de Protección de Datos (RGPD) contempla excepciones para ese derecho como “fines de archivo en interés público”.

En lo formal, Jaume-Palasí critica que en la carta se diga que no es un texto normativo, “cuando su formato sí lo es”. De hecho, la palabra derecho aparece en el texto 154 veces. “No se puede escribir un documento descriptivo con una semántica normativa. Además de ser extremadamente incongruente, genera expectativas”, afirma. “Para hablar realmente de Carta de Derechos Digitales, debe tener ánimo normativo”, añade.

Novedades “preocupantes”

Hay otros aspectos “preocupantes” de la carta, según la directora de Ethical Tech Society. “Respecto a los derechos a la igualdad y la no discriminación, la carta antepone el género a otros problemas, sin entender que la discriminación es interseccional y lo importante es entender las asimetrías de poder que derivan en ella”, asegura. Ello -dice- “crea una priorización de una determinada categoría sobre el resto”.

A Galdon le alarma que, en el capítulo ‘Derecho de acceso a datos con fines de archivo en interés público, fines de investigación científica o histórica, fines estadísticos, y fines de innovación y desarrollo’, “todas las novedades van en el sentido de limitar derechos”. Cree que el motivo es que la carta “intenta conciliar el interés económico de los datos con los derechos, y acaba sacrificando estos últimos”.

La Carta intenta conciliar el interés económico de los datos con los derechos, y acaba sacrificando estos últimos

Otro aspecto a su juicio “terrible” es la falta de comprensión que denota el documento sobre el impacto de la inteligencia artificial en el consumo energético. “Si avanzamos en la lucha contra el cambio climático, algunas tecnologías deberán prohibirse si no es proporcionado su impacto ambiental. La carta pierde una oportunidad de decir algo innovador sobre este tema, al optar por una redacción genérica y tecnoptimista”, sostiene. Otra oportunidad perdida, a su juicio, es en el punto relativo a la enseñanza, al no subrayar la importancia de la educación sociotécnica.

Sobre la protección de menores, a Jaume-Palasí le parece un error la novedad relativa a la implantación de procedimientos para la verificación de la edad en los entornos digitales. “Ello les hará más fácilmente identificables en la red y más vulnerables. Además, dará más poder e información a las plataformas online, que podrán hacer un seguimiento del desarrollo de esas personas”, sostiene.

La experta también considera errados nuevos principios como el de la no maleficencia de la inteligencia artificial. Sostiene que lo importante no es la intencionalidad con la que se desarrollan esos sistemas sino que cumplan la ley, “y esta funciona sin ética”. “Los pensamientos son libres, solo las autocracias imponen una moralidad”, afirma la experta en filosofía del derecho .

Los pensamientos son libres, solo las autocracias imponen una moralidad

Jaume-Palasí también cree que es más propio de autocracias hablar de veracidad que de pluralidad. “Son los medios de comunicación quienes hablan de veracidad en sus códigos deontológicos pero no es competencia de ningún gobierno”, asegura. “El motor de las democracias es -como en la ciencia- el conflicto”. Las democracias ponen el foco en crear un marco en el que la pluralidad -y con ello potenciales conflictos - sean posibles. Solo las autocracias demandan veracidad, y con eso crean sus ‘ministerios de la verdad’”, sostiene.

Además, cree que el foco debe estar en los perjudicados por esas tecnologías y no en quienes las desarrollan. “Con cada obligación para esas organizaciones y empresas nace un derecho, y con él un privilegio”, señala. Algo similar sucede -dice- con el principio de transparencia. “Se hace una transferencia de responsabilidad a la parte afectada, en lugar de centrarse en el control del sistema en su conjunto”, dice.

En este sentido, Jaume-Palasí piensa que el sector debería contar con un sistema de gobernanza propio, con procedimientos de control desde las empresas hasta instituciones de supervisión, como pasa por ejemplo en el sector de la alimentación. Levi, por su parte, echa en falta “contundencia para acotar la gobernanza algorítmica abusiva”.

Tanto Galdon como Jaume-Palasí creen que es un error de la carta descargar de responsabilidad a los prestadores de servicios digitales intermediarios [por ejemplo, las redes sociales], a quienes “se les llama solo a la autorregulación”. “De nuevo el ámbito público rechaza su responsabilidad en la protección de las víctimas de un mal uso de la libertad de expresión en internet”, dice Galdon. Por su parte, Jaume-Palasí sostiene que esto genera incertidumbre jurídica, ya que “va en contra de lo que establece la Directiva de Servicios Digitales de la Comisión Europea”.

Aspectos positivos

Levi considera que hay una peligrosa ambigüedad sobre la responsabilidad de los prestadores de servicio, por eso cree que lo que se recoge en la carta es un “tímido avance para evitar la censura automatizada por parte de plataformas online mediante filtros previos de contenido”. Sí cree que se les debería hacer responsables cuando se trata de hacer negocio con dichos contenidos. Si cobran por priorizarlos, deben aplicar protocolos de verificación.

Es un tímido avance para evitar la censura automatizada por parte de plataformas online

Levi también destaca como positivas “la defensa de los derechos en el ámbito laboral” y la “explícita defensa de la neutralidad de la red, aunque más tibia que en la ley vigente”. A Galdon le sorprende “gratamente” ese compromiso con la neutralidad de la red, que espera que se traduzca “en un activismo del Estado español en el debate a nivel global”.

La fundadora de Eticas Consulting valora asimismo que los títulos de los derechos recojan un abordaje “integral”, en un esfuerzo de abordar el fenómeno “desde una perspectiva compleja y de alto alcance”.

Jaume-Palasí destaca que la carta tiene un valor documental histórico, en tanto que registra “de forma muy sucinta” las “dudas, preguntas y temores de una época y producto de la forma de pensar europea”. “Este tipo de acciones abre un diálogo importante, que se plasma en el documento. Mi recomendación es que ese diálogo siga abierto”, concluye.