Diego S. Garrocho, filósofo: "No veo razonable que nos juzguen máquinas, y en el fondo no estamos tan lejos"

El acelerón en el desarrollo de la inteligencia artificial que se ha producido en los últimos años está transformando nuestro mundo a un ritmo vertiginoso. A la par que sus beneficios están creciendo exponencialmente las preocupaciones, los recelos y los interrogantes éticos acerca de su uso. De ahí que sea primordial divulgar la importancia de la filosofía y las humanidades en el desarrollo de esta tecnología.

En este sentido, la Fundación Telefónica y Deloitte (una de las cuatro grandes firmas de consultoría del mundo) han presentado FilosofIA, una serie de diálogos audiovisuales con académicos, intelectuales y líderes empresariales conducidos por la periodista y escritora Marta García Aller. 

Cada encuentro aborda cuestiones esenciales sobre el impacto tecnológico y su relación con la ética, la creatividad, el propósito y el progreso humano.

Francisco Umbral en privado: ven la luz más de doscientos artículos desconocidos

Entre los entrevistados figuran los filósofos Adela Cortina y Daniel Innerarity, la antropóloga Mercedes Fernández-Martorell, el físico teórico Gustavo Díez, el catedrático de Lenguajes y Sistemas Informáticos Julio Gonzalo y Jorge Ruiz Flores, compositor, logopeda y cantante de Maldita Nerea.

También participa el filósofo Diego S. Garrocho, profesor de Ética y Filosofía Política de la Universidad Autónoma de Madrid, donde coordina el Máster en Crítica y Argumentación Filosófica, y autor del ensayo Moderaditos.

Con motivo de su implicación en el proyecto FilosofIA, Garrocho conversa con El Cultural acerca de las preguntas filosóficas más candentes relacionadas con el auge actual de la inteligencia artificial.

Pregunta. ¿Qué importancia tiene reflexionar sobre el papel de la filosofía y las humanidades en la era de la inteligencia artificial y la tecnología, tal como propone el proyecto FilosofIA de Fundación Telefónica?

Respuesta. La filosofía siempre ha tomado como objeto de reflexión los problemas de su época y, al mismo tiempo, ha intentado consolidar preguntas e interrogantes que funcionan como constantes en la historia humana. Esa relación entre lo estable (o hasta si se prefiere, lo eterno) y lo circunstancial es consustancial a nuestra disciplina.

»En el caso de la IA la reflexión filosófica es obligada, ya que hablamos de una tecnología que puede cambiar nuestra relación con el mundo. La IA ya está cambiando el modo en el que escribimos, pensamos, nos informamos, trabajamos o conocemos. Esa capacidad transformadora abre un espacio de incertidumbre en el que caben muchas preguntas filosóficas.

San Sebastián se rinde ante Alauda Ruiz de Azúa: Concha de Oro para 'Los domingos'

P. ¿Cuáles son las preguntas filosóficas más importantes que se ha hecho usted en relación con la inteligencia artificial?

R. Wittgenstein intentó subsumir los problemas filosóficos en problemas lingüísticos, y creo que no estaba desencaminado. Definir los conceptos, establecer la extensión semántica de determinadas expresiones es la primera labor fundamental de la filosofía.

»Por este motivo, creo que la primera tarea a la hora de reflexionar acerca de la inteligencia artificial sería establecer una definición solvente de la expresión. No estoy seguro de que hayamos resuelto del todo a qué llamamos inteligencia y qué queremos expresar con el adjetivo artificial.

»A partir de ahí, creo que podríamos abrirnos a debates más ambiciosos: a qué límites éticos nos enfrentamos, qué externalidades negativas entraña, cuál es la finalidad última hacia la que debemos construir esta tecnología. Son muchas las preguntas, y me temo que muy pronto los interrogantes no harán más que multiplicarse.

"Los límites de dónde empieza o acaba una autoría se harán difusos y no será sencillo establecer un límite"

P. ¿Qué tareas, en su opinión, nunca se deberían delegar en la IA por cuestiones éticas?

R. Creo que las más obvias son las que desactivan la imputabilidad moral o jurídica. Hay decisiones que deben ser siempre validadas o tomadas por un ser humano por un motivo: tenemos que mantener la capacidad de exigir responsabilidades y de distribuir méritos y culpas.

»No creo que sea razonable, por ejemplo, que nos juzguen máquinas. Y en el fondo no estamos tan lejos: algo tan sencillo como un radar en una autopista ya está automatizando de algún modo un ejercicio de coerción civil. En ese caso, no parece que haya demasiados matices, pero con el desarrollo de la IA la tentación de delegar en sistemas automáticos determinados procesos sensibles va a ser fuerte.

»Otra cuestión clave será lo que atañe a las industrias creativas y culturales o los desarrollos que puedan favorecer, por ejemplo, formas de desigualdad.

P. ¿De qué manera va a cambiar el concepto de autoría en procesos en los que intervenga la IA? Por ejemplo, si le pido a una IA que escriba un artículo, haga una ilustración o componga una canción dándole una serie de instrucciones precisas y que lo haga en mi estilo, ¿sería lícito que yo firmara el producto resultante? ¿Quién sería el autor?

R. El concepto de autor no es ni mucho menos sencillo. Desde la Antigüedad hasta nuestros días ha variado muchísimo. De hecho, incluso en el mundo contemporáneo podríamos preguntarnos cuántas correcciones puede hacernos un editor sin alterar lo que, en principio, podría interpretarse como una autoría inmaculada.

»La autoría total no existe, pero al mismo tiempo debemos conceder que un artículo creado con IA tiene algo de estafa, aunque un escritor decida validarlo con su firma. Creo que los límites de dónde empieza o acaba una autoría se harán difusos y no será sencillo establecer un límite.

»Si salimos del ámbito de la escritura profesional y pensamos en el contexto escolar el riesgo es más evidente. ¿Debe un alumno servirse de la IA para escribir un artículo? ¿Y para corregirlo? ¿Qué le ocurre a un cerebro que ha renunciado a escribir y que simplemente sucursaliza ciertas capacidades? No sólo no tengo una respuesta sino que, además, las cosas que suelo leer a expertos de IA suelen ser vagas o insatisfactorias. No me siento capaz de hacer una profecía.

"La industria debe estar sometida a una legislación pero no creo que sea realista intentar poner puertas al campo"

P. ¿Cree que la regulación europea en materia de IA aprobada en 2024 es suficiente para proteger los derechos de la ciudadanía?

R. Conozco de primera mano a algunas personas que estuvieron inmersos en los primeros pasos de la regulación europea de la IA y tengo la mejor opinión sobre ellos. Ese intento parte de una vocación saludable y bienintencionada pero creo que sólo afecta, y es bueno que así sea, a un acuerdo de mínimos. La tecnología va a ser mucho más rápida que la legislación y me temo que además de regular necesitaremos crear un clima o un ethos prudencial en el manejo de la inteligencia artificial.

P. ¿Cree que es saludable que el desarrollo de la IA esté en manos privadas? ¿Cómo podemos conseguir una mayor transparencia para minimizar los sesgos en su desarrollo?

R. Ese es un equilibro delicado y en el que tampoco existe una solución perfecta. Es obvio que la IA es una herramienta extraordinariamente potente y que intereses privados puedan marcar su desarrollo entraña riesgos notables. Sin embargo, no se me ocurre de qué manera puede impedirse la libre investigación sin erosionar principios constitucionales básicos. La industria debe estar sometida a una legislación pero no creo que sea realista intentar poner puertas al campo.

P. Usted escribió un breve ensayo alabando la moderación en política. ¿No cree que la IA y los algoritmos alimentan la polarización social y política que vivimos hoy?

R. Que el algoritmo favorece la polarización es un hecho. Sólo hace falta seguir el rastro del dinero y constatar cómo funciona el libre mercado de la atención. El ruido, el conflicto, el insulto o los eslóganes banales se propagan a más velocidad que las ideas matizadas o complejas. Eso es un hecho.

»Sin embargo, no sólo me preocupa que las redes sociales favorezcan esa polarización. Me inquieta mucho más que los medios de comunicación clásicos, a los que se les presupone una mayor responsabilidad, estén dispuestos a despeñarse por ese acantilado.

"Sospecho que los resultados más sorprendentes de la IA ni siquiera los hemos imaginado"

P. La IA también tiene aspectos positivos. ¿Cuáles son los más importantes según su parecer?

R. La IA, como tantas tecnologías, tiene sobre todo un impacto acelerador de los procesos. Lo que antes se podía tardar en hacer meses (manejar, filtrar, discriminar… grandes cantidades de información) ahora se puede resolver en tan sólo segundos.

»Esto tiene un impacto a todos los niveles: desde la gestión de datos biomédicos que pueden redundar en la mejor salud y bienestar de las personas hasta labores domésticas y sencillas que pueden resolverse de forma mucho más ágil. El sueño de contar con una inteligencia externa y aliada de la humanidad es viejísimo y por fin parece que se ha hecho realidad.

P. ¿Cómo se imagina las capacidades y aplicaciones de la IA dentro de diez años?

R. No me atrevo a hacer pronósticos y hay personas mucho más sabias y expertas que yo a este respecto. Sin embargo, cada vez que intentamos preludiar el futuro o soñamos con las tecnologías que vienen solemos equivocarnos. Basta con ver 2001: Una odisea del espacio para comprobar hasta qué punto nos equivocamos cuando hacemos proyecciones. Si tuviéramos que apostar, creo que la IA nos seguirá sorprendiendo tanto para bien como para mal. Pero sospecho que sus resultados más sorprendentes ni siquiera los hemos imaginado. También creo que algunas cosas que ahora soñamos como posibles no lo serán.