El desarrollo de la inteligencia artificial llega ya a todos los sectores, pero no lo hace exenta de debates. Su uso de una manera responsable y ética es uno de los principales retos e Idoia Salazar, presidenta y fundadora de OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial) y experta en este ámbito, destaca la importancia de apostar por ella adaptándola a cada necesidad.

En conversación con Antonio Soto, director de Data Analytics de ALTIA, en la cuarta edición del Foro Empresa e Inteligencia Artificial que se ha celebrado este miércoles en A Coruña, Salazar se mostró optimista, subrayando que esta es "una ayuda para tomar mejores decisiones y más conscientes".

¿Deberíamos frenar el avance de la IA?

Ante la pregunta constante de si la IA va "demasiado rápido", Salazar reconoce que "no podría ser de otra manera. No hay institución o gobierno que lo pare".

La experta puso el foco en tres motivos que hacen posible que esta tecnología se democratice y que sea imparable: es útil, fácil de usar y relativamente barata.

La también presidenta de OdiseIA reitera la importancia de apostar por una IA transparente, inclusiva y alineada con los derechos fundamentales.

Con una experiencia de 15 años estudiando la ética en la IA, la experta reconoce que "las personas que nos dedicamos a la inteligencia artificial vemos que el pico está todavía cubierto de nubes y no somos todavía capaces de vislumbrar ese momento en el que todos nos vamos a ver inmersos en un mundo híbrido entre humanos e IA, en una convivencia plena".

Ante este escenario, para Salazar no tiene sentido "intentar frenar una tecnología tremendamente útil en el mundo de datos en el que vivimos. Es un intento fallido desde ya".

Sus utilidades pasan por predicciones de posibles pandemias, labores de reconstrucción o descubrimientos médicos "que nos van a ayudar como humanidad. No veo ese freno ni posible ni conveniente".

La responsabilidad ante el uso de esta tecnología

Soto puso sobre la mesa también una preocupación: la posible falta de dirección ante la responsabilidad de uso de esta tecnología.

"Creo que falta responsabilidad", expuso, "no solo en su uso, sino en quién se hace responsable cuando la IA haga algo que no debería hacer. Esos debates no se están produciendo o intentamos evitarlos y creo que va a generar más riesgo a una velocidad que no somos capaces de controlar".

En contraposición, Salazar asegura que a nivel internacional sí se está trabajando para "gobernar" la IA.

"Es verdad que es complejo y esto va muy lento. El desarrollo técnico va a una velocidad tremenda, pero la implementación de medidas de gobernanza o de ética va a un ritmo que le cuesta llegar", reconoció.

Como ejemplo citó el AI Act aprobado por el Parlamento Europeo en 2024 y cuyo desarrollo se tuvo que readaptar ante la irrupción que supuso ChatGPT.

"No solo hay que teorizar, hay que aterrizar esa ética a soluciones reales para su implementación", apuntó.

Por eso, la solución no es algo tan simple como designar a una persona como responsable, sino que es necesario crear conciencia en las empresas y en la sociedad.

Salazar señaló que esto es especialmente así en casos de IA de alto riesgo y recordó que la base sobre la que se construyó la regulación europea está en principios éticos internacionales como poner al ser humano en el centro y atender a criterios de seguridad o no discriminación.

Cuestión de confianza

Para la experta, trabajar en esta conciencia es algo vital para ganar la confianza a nivel interno de los empleados y a nivel externo de los consumidores.

"No se le pide a las empresas nada más que algo obligatorio para garantizar derechos fundamentales, la seguridad o la salud. Si voy a desarrollar un sistema de IA que despida a la gente, que elija si se da una pensión o un crédito o no, tengo que tener cuidado con determinadas cosas", razonó.

Incluso a la hora de sentar códigos éticos, no todo vale.

Salazar puntualizó que lo que puede valer en una región o en una cultura, puede no ser válido para otra. "Nuestro entorno tiene particularidades a las que hay que adaptarse", explicó, razonando que "yo huiría de la estandarización en ese aspecto. Sí cogería a nivel internacional las experiencias que ha habido y haría un estudio de tu propia necesidad para personalizar el uso de la IA y su gobernanza".

En este contexto, Antonio Soto reconoció que el trabajo de concienciación más que en la IA debe focalizarse en otras cuestiones.

"Exigimos una IA ética sin sesgos pero las personas los tenemos y no siempre somos éticos. Hay muchos grises", puntualizó.

Por este mismo motivo, Idoia Salazar entiende esta tecnología como "un espejo" que permite entender mejor el comportamiento humano.

También ve en ella una oportunidad para hacer la IA más ética, teniendo esto en cuenta: "La IA, o el ser humano amplificado con estas herramientas, puede ser una ayuda para tomar mejores decisiones y más conscientes".

Formación, estrategia y "no temer" a la IA

Entre sus consejos para las empresas, Idoia Salazar reiteró la importancia de personalizar el uso que se le vaya a dar.

Además, "les diría que no tengan miedo desde el punto de vista de la responsabilidad. Existen herramientas —entre las que citó RaightAI, de la que es cofundadora y coCEO— con plataformas que automatizan procesos, que localizan tipos de riesgos y ayudan a su cumplimiento e incluso generan documentos a presentar".

Así, con la formación de equipos y la creación de estrategias, se crean nuevas oportunidades.

"Estamos en un momento increíble de creación. Es un momento ideal para abrir la mente de todos. Igual que Internet dio pie al comercio electrónico que conocemos en la actualidad y a tipos de trabajo que antes no existían. Veamos qué va a existir en 10 años con la IA. Tienen que surgir startups de cualquier sector gracias a sus posibilidades", subrayó.

El Foro de Empresa e Inteligencia Artificial de A Coruña celebró ayer su cuarta edición con invitados y ponentes de primer nivel. Bajo el lema 'De la estrategia al impulso', analizó cómo la inteligencia artificial está revolucionando el mundo empresarial en todos sus sectores.