No perder el control y supervisión de la IA: el reto de la empresa para no vulnerar derechos fundamentales

La economía y la sociedad actual están sumidas en un profundo proceso de transformación de la mano de tecnologías muy disruptivas como la inteligencia artificial. Sin embargo, en plena cresta de la ola de esta tendencia tecnológica conviene abordar desde el sosiego y la reflexión los desafíos que presenta para las organizaciones empresariales, que no escapan a una óptica jurídica y ética de la misma.

Con esta meta, Deloitte Legal y la Universidad de Navarra han presentado recientemente el Informe sobre Inteligencia artificial, una iniciativa del Observatorio de Regulación Digital y Tecnología promovida por ambas entidades que analiza el impacto de la IA desde una perspectiva jurídica y ética, profundizando en los riesgos, la regulación y la necesidad de garantizar un uso responsable que respete los derechos fundamentales.

Las conclusiones apuntan al peso que todavía tiene el ser humano en el éxito o fracaso de las estrategias de IA aplicadas al ámbito empresarial en la actualidad.

IA: una lucha de poder, no de progreso

Según se refleja en las conclusiones del documento, "la IA tiene un gran potencial transformador, pero su impacto dependerá, en gran medida, del tipo de liderazgo y los valores que ejerzan las organizaciones":

El informe de Deloitte y la Universidad de Navarra también pone el acento en que "aplicarla para hacer lo mismo de siempre más rápido puede suponer una oportunidad perdida o incluso amplificar los sesgos existentes".

Y lanza un mensaje para la reflexión: "El reto está en repensar lo que hacemos y cómo lo hacemos, incorporando esta tecnología con visión crítica y humanística".

En la presentación del informe se ha insistido en que para lograr este desafío "será clave adoptar nuevas prácticas organizativas, replantear el modo en que usamos los datos y construir sistemas que respondan a valores éticos y sociales".

Los datos serán, en este contexto, "el factor más determinante": organizar, proteger y racionalizar su uso será una prioridad".

(Izq a decha): Juan Carlos Hernández, profesor titular de Derecho Administrativo de la Universidad de Navarra, Julio Roche, Director de Deloitte, Javier Echániz, socio de Deloitte, Mercedes Galán, decana de la facultad de Derecho de la Universidad de Navarra, Eduardo Valpuesta, catedrático de Derecho Mercantil de la Universidad de Navarra, Rodrigo González, socio de Deloitte Legal, y Manel Carpio, socio de Deloitte. Foto: José Juan Rico / Universidad de Navarra

El acto de presentación del informe, celebrado en la sede madrileña de la Universidad de Navarra, ha contado con una apertura inaugural de Mercedes Galán, decana de la Facultad de Derecho de la Universidad de Navarra, y Javier Echániz, socio responsable de Inteligencia Artificial y Data en Deloitte España.

Galán ha elogiado la investigación profunda del derecho digital realizado en el documento, que ha aunado a grandes conocedores en materia de la regulación de las nuevas tecnologías.

Echániz, por su parte, ha enfatizado en que las empresas están advirtiendo las oportunidades que brinda la transformación tecnológica de la IA en sus corporaciones, poniendo el acento en la importancia de que las organizaciones cuenten con equipos multidisciplinares para implantar los sistemas de IA en su trabajo diario.

También, ha señalado que los gobiernos, junto con las empresas y las universidades, han de construir un ecosistema unido, de manera que los avances tecnológicos vayan al mismo ritmo en todos los ámbitos y también en las esferas públicas y privadas.

El respeto de la dignidad humana

Rodrigo González, socio del área de Derecho digital de Deloitte Legal, y Eduardo Valpuesta, Catedrático de Derecho Mercantil de la Universidad de Navarra, ambos miembros del Observatorio de Regulación Digital y Tecnología, han explicado los pilares básicos del informe y sus conclusiones.

En palabras de Valpuesta, es importante "no perder el control y la supervisión de la IA para no acabar vulnerando los derechos fundamentales de las personas", que acaban afectando a todas las facetas de las personas: salud, integridad personal, privacidad, derecho de los trabajadores.

Este informe dedica un capítulo a la responsabilidad de los posibles daños causados por el uso de la IA. De acuerdo con el enfoque otorgado por el legislador europeo, la IA debe respetar de forma absoluta la dignidad humana, que actúa como principio orientador y límite infranqueable, según se reporta en este informe.

Por su parte, Rodrigo González matiza que a pesar de que el informe tenga una composición puramente técnica, "es un documento con utilidad práctica en nuestro trabajo diario". Asegura González que el Reglamento Europeo de Inteligencia Artificial se encuentra atravesado por un conjunto de normativas de suma relevancia: aquellas relacionadas con la identidad digital, las de ciberseguridad y resiliencia operativa, y otras sobre utilización y reutilización de los datos.

'Wallets', IA y biometría ética: bienvenidos al futuro de la identidad digital

“Los datos son la gasolina de la IA”, y de allí la importancia de preservar el derecho de las personas cuando se manejan los datos para alimentar un modelo de lenguaje de inteligencia artificial, ha asegurado Javier Echániz.

Por último, Manel Carpio, socio de ciberseguridad de Deloitte España, y Juan Carlos Hernández, Profesor Titular de Derecho Administrativo de la Universidad de Navarra, han participado en una mesa redonda que fue moderada por Julio Roche, Director de Consultoría Tecnológica.

(Izq a dcha): Juan Carlos Hernández, profesor titular de Derecho Administrativo de la Universidad de Navarra, Julio Roche, Director de Deloitte y Manel Carpio, socio de Deloitte. José Juan Rico / Universidad de Navarra

Ambos ponentes han puesto el foco en el control de los sesgos en el uso de los modelos de IA, en el rol de la Regulación Europea de IA y en su regulación abierta a la innovación en Europa, y en el régimen de responsabilidad de las entidades creadoras de modelos de lenguaje de IA, y aquellas creadoras de los agentes de IA.

En definitiva, un informe que sirve de herramienta práctica para las empresas para guiarles en su camino hacia la transformación tecnológica a través de los sistemas y programas de inteligencia artificial.