Agustín Fernández Mallo (A Coruña, 1967) aúna calidad literaria y amplitud de intereses. Una audaz combinación reconocida desde que en 2006 publicara Nocilla Dream.

Tras Teoría general de la basura o La forma de la multitud, ahora publica El ángel de la Inteligencia Artificial (Galaxia Gutenberg), un libro que propone una analogía tan extraña como precisa: la IA que soñamos con crear, y que él califica de IA evolucionada, se parece, más que a ninguna otra cosa, a un ángel caído.

El escritor y físico se sumerge en un sueño con fundamentos endebles que disecciona con los ojos críticos del científico y la mirada del poeta. Conversamos con él sobre la termodinámica que condena el sueño de la IA general, sobre la diferencia entre historia y memoria y sobre el verdadero peligro de la IA, que no está en ningún apocalipsis sino en una decisión jurídico-política que ya alguien está pensando en tomar.

Pregunta. En el libro define el ángel caído como "un ente no humano que, dotado de voluntad propia, se desprende de la entidad creadora a la que se hallaba sometido". ¿Cuándo se dio cuenta de que esa definición servía también para la IA?

Respuesta. Cuando me di cuenta de que lo que intentamos con la inteligencia artificial es un sentimiento teológico-religioso que está en nosotros desde siempre. El sueño de crear un ente superior a nosotros está con nosotros desde siempre y, sin embargo, no lo hemos conseguido.

»Pensé que la única cosa que el ser humano ha creado en su imaginación que es como el humano porque tiene voluntad propia, pero no es humano, es un ángel caído precisamente. Me pareció una metáfora adecuada juntando todos estos componentes, y creía que no se había usado, o no tanto porque no se hubiera usado, sino porque daba mucha potencia a lo que pudiera después.

P. De toda la angelología posible, ¿por qué ha elegido el ángel caído y no el que custodia o el que anuncia?

R. Primero porque lo encuadra en la tradición cristiana, y nuestra civilización viene del encuentro entre el helenismo y el judeocristianismo de los primeros siglos. Y, por otra parte, porque la imagen me parece relativamente exacta. La idea de que algo que hemos imaginado desde siempre –crear algo superior a nosotros a partir de elementos inertes, no igual a nosotros, como Frankenstein o Pinocho sino incluso superior–, hay un momento en que ese ser soñado puede desprenderse de nuestra imaginación como un ángel se desprendería de un dios: ya no para obedecernos, sino para revelarse contra nosotros y dominarnos. Por eso el caído y no el custodio.

"Llevamos más de 40 años en que toda clase de religiones 'new age' prenden en la sociedad. Son religiones a la carta"

P. Acude al término "neorreligión" para hablar de la IA. ¿A qué se refiere: al modo en que se cree en ella, al modo en que se predica, o a algo más profundo?

R. A las dos cosas. Lo que proponen los profetas de la inteligencia artificial –lo que yo llamo la IA evolucionada, una inteligencia que supere al ser humano en toda su potencialidad– es una quimera. Si te fijas, todos esos profetas que dicen que algún día las IAs se desprenderán de los humanos y estarán tan por encima de nosotros que no podremos ni reconocerlas nunca explican cómo ni por qué se va a dar ese salto.

»Hay un salto que no se explica, pero que se predica. Y se predica con metáforas teológicas envueltas en argumentos racionales: basta oír a Elon Musk o a cualquier científico que tenga fe en ese salto. Hablan como profetas y usan imágenes de fin de los tiempos. Todo eso viene envuelto en una neorreligión que, por otro lado, encaja perfectamente con los tiempos: llevamos más de cuarenta años en que toda clase de religiones new age prenden en la sociedad. Son religiones a la carta, ya no los monoteísmos de antes, pero religiones al fin.

P. El libro argumenta que la IA general es físicamente imposible. Hay una frase que quisiera que desarrollara: "Hay un momento, y quizá ese momento ha llegado, en que es la propia realidad matérica, la propia termodinámica, la propia vida, la que nos lo revela como un imposible, como una fantasía teológica".

R. O que es físicamente imposible o que va en la dirección completamente equivocada, que es la de la acumulación de procesos algorítmicos y de aprendizaje profundo. Eso no va en la dirección del cerebro humano, sino en otra que consume tanta energía y crea tanta entropía que es físicamente inviable a cierta escala.

»Aún nadie ha podido explicar por qué el cerebro humano, con solo 25 vatios de potencia, puede llegar a producir la teoría de la relatividad o descubrir qué es una enzima. Sin embargo, un ChatGPT, solo para contestarte algo que es un dato, necesita una energía equivalente a la de una ciudad de diez mil habitantes. Hay una vía de investigación que promete pero que cuanto más avanzas en ella, más te hundes en la dirección equivocada. Como antes de Copérnico: todos los datos corroboraban que el Sol giraba en torno a la Tierra. Todos.

»Eso demuestra que la acumulación de datos no significa nada en sí misma, porque hay que interpretarlos. Copérnico llegó y con un toque magistral cambió el paradigma. La única forma de crear cerebros como los humanos es a través de la biología. Y de eso estamos lejísimos.

P. Hay una proposición en el centro del libro que podría parecer sencilla, pero que no lo es: eso que llamamos artes, literatura, incluso ciencia no es otra cosa que una copia más un error positivo. ¿Una IA puede cometer errores positivos?

R. Ese es uno de los quid del asunto. Una IA, cuando comete un error, se bloquea, y si no se bloquea es porque está siendo entrenada por un humano para que aprenda de él. Pero lo que no puede hacer la IA es aprender de esos errores de una manera premeditadamente loca y controlada. Si yo estoy en mi casa atornillando un tornillo y hay un error, yo de ahí puedo extraer un cuento, un poema. Un error positivo en el sentido radical.

»Una IA, cuando comete ese error, lo que hace es: "Voy a ver si la próxima vez atornillo mejor o invento otra clase de tornillo". Lo que nunca hace es ese acto imaginativo de derivar de ahí algo que no tiene nada que ver con el tornillo. Que es lo que en el libro llamo los pensamientos retrofactuales. Es un punto muy importante en mi argumento.

P. Una de las tesis más rotundas del libro es que sin cuerpo no hay memoria compleja, sin memoria compleja no hay conciencia del tiempo y sin conciencia del tiempo no se puede morir. ¿Es esa la separación definitiva entre la IA y el hombre?

R. Absolutamente. El tiempo no es el tiempo del reloj, que es un lugar vacío autorrecursivo. El tiempo son las huellas que las cosas dejan en la materia. Lo que en física se llama el tiempo termodinámico. Una inteligencia artificial es potencialmente inmortal: si la alimentas con energía y datos, puede vivir siempre. A ti y a mí, por mucha comida que nos den y por muchos datos que adquiramos, algún día nos moriremos, seguro.

»Esa potencial inmortalidad de la IA provoca que las huellas que eventualmente el tiempo deje en ella no puedan conceptualizarse como algo finito, como algo que se va a acabar. Y como no puede conceptualizarlas como la derrota de una materia, no puede tener conciencia de mortalidad, ni de tiempo, ni de creación.

»Los humanos creamos arte, ciencia y todo porque nos sentimos finitos y queremos trascendernos. En otros libros llamé a eso "la falta": a los humanos nos falta algo y no sabemos qué es, y por eso estamos siempre intentando llenarlo con prótesis que nunca nos valen. La IA no sentiría esa falta porque se sabe inmortal. Y nosotros somos los únicos seres del mundo que sabemos que nos moriremos.

P. Escribe que "la IA siempre es Historia, nunca Memoria".

R. Hay una idea que llevo tiempo desarrollando: que el mundo, nuestro cerebro, todo está atravesado por lo que podemos llamar la teoría y la experiencia, y que nunca coinciden exactamente. La teoría que elaboramos no concuerda del todo con la experiencia, y la experiencia no puede dar cuenta completa de una teoría. Hay un agujero infinito entre las dos que nunca podemos saltar. La experiencia personal, la huella de la propia vida, eso es la memoria. Las teorías que elaboramos, los sistemas lógicos que tratan de explicar hechos, eso es la Historia con mayúscula.

"Una inteligencia artificial es potencialmente inmortal: si la alimentas con energía y datos, puede vivir siempre"

»La IA vive de la acumulación de datos que le damos, de historia, de teoría. Pero no tiene experiencia propia, no tiene memoria propia, porque no tiene cuerpo. No puede experimentar en sus carnes la huella del paso del tiempo. Es como en aquel cuento de Borges sobre los inmortales: los inmortales nunca hacían nada porque tenían todo el tiempo del mundo, el tiempo no les influía, el medio ambiente no dejaba huella en ellos.

P. El libro culmina con lo que llama el Test del Juicio, que equipara al proceso de Jesucristo ante Pilatos. ¿Por qué es un juicio imposible?

R. El proceso de Jesucristo y Pilatos es el juicio más importante de la historia de Occidente y, como digo en el libro, aún no está resuelto. Es un juicio no-juicio. ¿Por qué? Porque una ley humana –la ley romana– intenta enjuiciar a una ley divina, y una divina a su vez intenta enjuiciar a una humana. Por eso Jesucristo dice "mi reino no es de este mundo" y Pilatos se queda estupefacto: yo no te puedo juzgar. Al final entrega a Jesucristo a los judíos. Porque una ley divina nunca puede juzgar a una humana, ni una humana a una divina.

»Ese choque es el mismo choque entre la memoria y la historia. La ley romana es la historia: un sistema lógico, científico, por el cual validar y sentenciar. La ley divina es la memoria: algo personal, imaginativo, sujeto a la ficción y a la iluminación personal. Esa contraposición solo puede ser resuelta por un agente externo. Y aquí está la clave: si alguien tiene que determinar si lo que hay detrás de una caja negra es una IA o un humano, y no hay nadie externo que lo certifique, no se puede determinar.

»Del mismo modo que el juicio de Pilatos a Jesucristo no se pudo determinar. El Test de Turing, según mi tesis, no está planteando si lo que hay al otro lado es un humano o no, sino si es un ángel caído o no. Si ha conseguido tomar voluntad propia.

P. Hay un momento en que la pregunta se vuelve política. El Estado aparece definido como "un gran algoritmo, un número finito de pasos codificados". ¿Qué consecuencias tiene eso?

R. Toda gestión, todo Estado, necesita datos, y para manejar datos necesitas estadísticas. Esto ha sido la política desde la civilización babilónica. El Estado ya es en sí mismo un gran algoritmo. Y conviene aclarar: un algoritmo en sí mismo no es ni bueno ni malo. Una receta de cocina es un algoritmo. El problema es si el Estado deja entrar a otros algoritmos –en forma de IA– que lleguen a dominarlo. Que es lo que ocurrió con Roma y los bárbaros del norte, o con los mercados en los siglos XIX y XX. Ahora el bárbaro que llega es la IA.

"Ahora puedes desenchufar una IA, pero, cuando tengan derechos, hacerlo será cometer un homicidio"

»Lo mismo que los Estados tuvieron que asumir hace medio siglo lo que Foucault llamó la biopolítica –el manejo de los cuerpos de los ciudadanos como parte de la gestión del Estado, con todo lo bueno y lo malo que eso supone–, tienen ahora que resolver cómo incorporar la IA en su seno sin que sea dañina. Y el verdadero problema llega cuando, sin darnos cuenta, convirtamos a las IAs en sujetos de derecho. Ahora puedes desenchufar una IA. Cuando tengan derechos, desenchufar una IA será cometer un homicidio.

»Cuando yo era pequeño, matar a un perro que andaba por la calle no era un delito. Si me lo dicen hace 50 años, me río. Pues bien: ya hay gente pensando en los derechos de los robots.

P. Ese miedo a ceder el control tiene un ejemplo en la figura de Peter Thiel instalándose en Buenos Aires, con carta blanca de Milei para experimentar con la IA en un entorno sin apenas regulación.

R. Sí, y eso me preocupa mucho porque significa que lo que yo temo ya está ocurriendo en algunos sitios. Y el problema es que para casi todo lo demás siempre hay un último recurso: por muy dramática que sea la situación, puedes desenchufar, puedes legislar, puedes encarcelar a las personas que están haciendo las fechorías. Pero en el momento en que legisles y les des autonomía a las máquinas y las hagas sujetos de derecho, revertir eso es extremadamente difícil. Estás perdido. Por eso soy firme en que el Estado debe ser intervencionista ahí, aunque no lo sea en muchas otras cosas.

P. ¿Cree que veremos ese escenario que le preocupa?

R. Espero que no. Sería asumir que son entes equivalentes en ciertos aspectos a los humanos. Un error garrafal. Una debilidad humana que se deja llevar por un deseo casi libidinoso: es la fantasía que siempre como humanidad hemos querido, y vamos a entregarnos a ella. Lo que tenemos que evitar, legislando y también controlando a los tecnooligarcas. Y también dejando de alimentar el discurso del apocalipsis tecnológico, que es otro modo de paralizarnos.

»Llevan treinta, cuarenta siglos diciéndonos que esto se acaba y aún no se ha acabado. Inducir el miedo en las personas las tiene controladas para siempre. No, el apocalipsis no llega si pensamos las cosas de otro modo.