Fotogalería | Así fue el XXXVI Encuentro Tecnológico de EL ESPAÑOL de Málaga, sobre los límites de la IA
“¿Quién se encargará de lo nuevo?”: el debate ético sobre la inteligencia artificial aterriza en Málaga
Tres voces —empresa, ingeniería y universidad— coincidieron en el XXXVI Encuentro Tecnológico de El Español de Málaga en que la IA transformará todos los sectores, pero discreparon sobre hasta dónde deben llegar sus límites éticos y su regulación.
Más información: "La barrera de la accesibilidad digital la estamos derribando"
La inteligencia artificial fue protagonista durante el XXXVI Encuentro Tecnológico de El Español de Málaga, que reunió a tres referentes del ecosistema tecnológico y académico para abordar una pregunta que ya atraviesa la sociedad: ¿dónde situar las líneas rojas de la IA?
El CEO de Animum, David Plaza, abrió el debate con una visión marcadamente optimista. Reconoció que su sector vive “una auténtica revolución” donde los dilemas éticos “no se encuentran tanto en la práctica como en la velocidad del cambio”. Según explicó, las nuevas herramientas generativas y los modelos en la nube “han hecho obsoletos planes estratégicos en apenas un año”, forzando a las empresas a repensar constantemente sus inversiones.
“Tenemos que decidir dónde ponemos el dinero y cómo no quedarnos atrás en tres años”, resumió. Frente al temor a la sustitución laboral, Plaza insistió en que las nuevas tecnologías “no van a eliminar puestos de trabajo, sino a potenciarlos”. Lo que sí planteó como dilema de fondo fue una pregunta que resonó en la sala: “Si la IA solo combina conocimiento existente, ¿quién se encargará de lo nuevo?”.
Desde una perspectiva más técnica, Paloma Muñoz, fundadora de Ágora Tech, centró su intervención en los sesgos y la necesidad de una ética aplicada a la ingeniería. “La inteligencia artificial aprende de nosotros, con todo lo bueno y lo malo que eso implica”, señaló. Defendió distinguir entre los sesgos humanos y los que surgen de los datos: “Podemos acotar cuándo hay error, datos incompletos o interpretaciones subjetivas, pero necesitamos hacerlo con trazabilidad y supervisión humana”.
Muñoz abogó por una “ética de la IA profunda y estructurada” que garantice la transparencia de los modelos, su origen de datos y su impacto real: “La inteligencia artificial necesita de una I.H., una inteligencia humana”.
La visión más crítica llegó de la mano de Mercedes Siles, catedrática de Álgebra de la Universidad de Málaga y exdirectora de la ANECA. Con tono sereno pero firme, advirtió de los riesgos de una tecnología “que aspira a ser como el aire que respiramos, pero que está controlada por muy pocos actores globales”.
Siles subrayó la necesidad de una regulación europea fuerte: “A nadie se le ocurriría conducir sin semáforos ni tomar un medicamento sin supervisión. Con los algoritmos debe pasar lo mismo”. Propuso incluso la creación de un “sello de calidad algorítmica” que evalúe el origen de los datos, la utilidad de los modelos y sus posibles efectos.
La catedrática alertó además sobre el uso emocional y social de estas herramientas: “Hay personas que usan la IA como si fuera su amiga o su terapeuta. Eso no es real. Las máquinas no tienen sentimientos ni deben ocupar el espacio de lo humano”.
En su reflexión final, Siles reivindicó el papel de Europa como garante de valores y de la universidad como motor del pensamiento crítico: “Vivimos un momento revolucionario, pero debemos decidir qué tipo de sociedad queremos construir”.
El encuentro, que contó con la colaboración de Cervezas Victoria, el Ayuntamiento de Málaga e Impact Hub Málaga, concluyó con una sesión de networking en la que público y ponentes continuaron el debate. Entre la fascinación por el avance tecnológico y la necesidad de poner límites, una idea quedó clara: la inteligencia artificial ya no es futuro, sino presente, y su ética será tan importante como su código.
