Justicia e inteligencia artificial. Dos instrumentos al servicio de la ciudadanía que están condenados a encontrarse, aunque llegar a que se entiendan no vaya a ser tarea sencilla.

Esta sería una de las principales conclusiones de la jornada 'Inteligencia Artificial y Justicia', promovida por la Asociación Legal del Metaverso y de la Inteligencia Artificial en España (LEIA), celebrada este jueves en la sede de la aceleradora Innsomnia en Valencia.

LEIA es una asociación jurídica nacional, constituida con el objetivo de abordar los desafíos legales y éticos relacionados con el metaverso y con la inteligencia artificial a un alto nivel tanto académico como profesional. Su presidente es Rafael Chelala.

[El presidente de la patronal de la privacidad califica de "salvaje y compleja" la nueva regulación europea]

Y eso, abordar esos desafíos, era el objetivo de esta jornada que, según sus impulsores, debe ser la primera de muchas en los próximos tiempos.

La frase que puede servir de eje para todo lo que se debatió durante la jornada la pronunció el secretario autonómico de Justicia de la Generalitat Valenciana, Eduardo Luis Ruíz: "La IA puede ser un apoyo a la justicia o estar en poder de los que quieren socavarla".

Rafael Chelala, presidente de LEIA; Grísel Giunta, doctora en Derecho de la Universitat de València (UV); Eduardo Luis Ruiz, secretario autonómico de Justicia; y Rafael Marimón, catedrático de Derecho Mercantil de la UV y director de la Cátedra LegalTech & IA Minsait-UV.

A partir de ahí, opiniones y reflexiones para todos los gustos. La presentación de la jornada, corrió a cargo de Rafa Navarro, presidente de Innsomnia; Grísel Giunta Santimoteo, doctora en Derecho de la Universitat de València (UV) y responsable de Justicia en Administraciones Públicas de Minsait; y Rafael Marimón, catedrático de Derecho Mercantil de la UV y director de la Cátedra LegalTech & IA Minsait-UV.

Este último invitó a "tomar conciencia de se está generando un ecosistema potente, que puede alcanzar hitos relevantes al servicio de la justicia y de la administración pública".

["Pionera" e "histórica": la ONU adopta su primera resolución sobre la inteligencia artificial]

La primera ponencia de la jornada corrió a cargo de Mª Luisa Atienza, profesora titular de Derecho Civil en la UV. La responsabilidad civil de la IA centró sus reflexiones.

"Es un tema estrella de hace tiempo y lo va a seguir siendo", explicó, preguntándose que, "si se ha demostrado que con la IA va a haber una reducción de la siniestralidad, ¿por qué hay tanta insistencia en que el derecho se preocupe por la responsabilidad civil causada por la IA?".

Términos como la "robofobia" -tolerar menos los daños causados por un sistema tecnológico que por un ser humano- y la existencia de daños "nuevos y especialmente sensibles" a causa de la IA llevan a otra pregunta, la de de si la legislación vigente es necesaria o es necesario desarrollar una nueva.

"La opción mayoritaria es la de las nuevas normas, aunque es difícil decidir quién de todos los sujetos que intervienen en un proceso de IA pueden responder por una responsabilidad civil", explicó Atienza.

La jornada se ha celebrado en las instalaciones de la aceleradora Innsomnia, en Valencia.

La UE desde 2017 ha ensayado muchas normas y uno de los objetivos en cuanto a la responsabilidad civil "es que no haya fragmentación legislativa" en los diferentes países miembros. Como norma base, reveló también, los gestores europeos "descartan que el robot sea el responsable". "De momento", concedió.

Un diálogo entre Grísel Giunta y Vicente Pérez Daudí, catedrático de Derecho Procesal en la Universidad de Barcelona, sirvió para presentar un debate sobre el futuro de la justicia en la era de la IA, un futuro, se explicó repleto de condicionantes que afectan a cualquier fase de la cadena procesal y que exige una "revisión continua" de normativas para evitar desigualdad y barreras en el acceso a la justicia.

Palabras como metaverso y blockchain aparecieron también durante la jornada. Javier Ibáñez, cofundador de Alastria Blockchain Ecosystem, fue el encargado de abordar cómo interactúan estos conceptos con el mundo jurídico.

La IA y la vulneración de derechos, la gobernanza de los datos y la propiedad intelectual, fueron otros debates interesantes de la jornada.

Respecto a lo primero, María Faubel y Beatriz Palmer, de Broseta Abogados, pusieron sobre la mesa el marco legal estatal, advirtiendo, por contra, que en automatización de procesos "aún hay mucho camino que recorrer". 

Abordar cómo puede la IA llegar a vulnerar derechos fundamentales, Faubel partió de la base de que "en la época de la digitalización es imperioso que el marco legal se adapte para proteger esos derechos".

"En la época de la digitalización es imperioso que el marco legal se adapte para proteger derechos fundamentales"

María Faubel (Broseta Abogados)

Palmer ha repasado el Reglamento del Parlamento Europeo sobre IA, diferenciando entre los diferentes grados y niveles de riesgo de tecnologías que deberán ser más controladas cuanto más perniciosas puedan ser las consecuencias de su uso. La supervisión humana, en cualquier caso, "es imprescindible".

Sobre la gobernanza de los datos, Ricard Martínez, profesor de Derecho Constitucional de la UV, pronunció una ponencia en la que habló de la complejidad a la hora de definir los territorios de uso de datos, entorno en el que "Europa parte en desventaja".

La ponencia de Martínez también abordó cómo el reglamento europeo se enfrenta a los procesos de gobernanza y privacidad de datos, su uso libre o su anonimización. "De esto depende la mitad de la transformación digital de la Unión Europa", sentenció.

Y, por último, Alonso Hurtado, socio de IT & Compilance de Écija; Ricard Martínez, profesor de Derecho Consitucional de la UV; y Ernesto Cebollero, abogado especialista en Propiedad Intelectual y Nuevas Tecnologías en Baylos, debatieron precisamente sobre la propiedad intelectual.

Éste último se preguntó si los millones de datos interfieren en la protección de los derechos de autor. "En la Unión Europea vamos por delante de EEUU. Tenemos una directiva de derechos de autor en el ámbito digital, con una excepción: la minería de datos. La directiva permite y valida el uso de datos potencialmente protegidos para entrenar una IA generativa, salvo que el autor expresamente haya negado esa posibilidad", argumentó.

Sobre si algo generado por IA puede tener derechos de autor, la respuesta general es que no, aunque Cebollero utilizó la expresión "depende". Y ese "depende" tiene que ver con el hecho de que haya o no un humano detrás, en cuyo caso, según su opinión, sí que debería estar sujeta a derechos de autor.

Los derechos de autor

¿Y puede un resultado generado por IA infligir derechos de terceros? "La respuesta en este caso es afirmativa", explicó. Y es que puede ocurrir que la IA generativa reproduzca creaciones similares a las de otros como consecuencia de la acumulación de determinados datos que sigan un mismo patrón.

Como conclusión, Cebollero afirmó que lo más importante es "fiscalizar el proceso creativo".

Ya por la tarde, más reflexiones interesantes. Covadonga Maestro, CMS Albiñana & Suárez de Lezo, reflexionó sobre el uso de la IA en redes sociales y plataformas on line; La propia Covadonga Maestro, CMS Albiñana & Suárez de Lezo; David Navarro, de Martínez-Echevarría; y Beatriz Palmer, de Broseta Abogados, debatieron sobre los conflictos judiciales derivados del uso de la IA; y Gemma Fabregat, catedrática de Derecho del Trabajo de Counsel Sagardoy Abogados abordó las sinergias entre IA y relaciones laborales.

El último debate de la jornada lo protagonizaron Rafael Marimón, Gemma Fabregat y Beatriz Palmer, que ya habían intervenido durante la jornada, para reflexionar, esta vez, sobre la inteligencia artificial en las organizaciones.

A modo de cierre de la jornada, Cristina Custodio, CMS Albiñana & Suárez de Lezo, hizo un repaso de todo lo sucedido durante el día, incidiendo en los retos que introduce la IA en un sector clave en la sociedad como es el de la administración de justicia.