Estas palabras, referidas, claro, a “máquinas inteligentes”, bien podrían haber sido escritas en la actualidad, dada la omnipresencia del tema del presente y futuro de la inteligencia artificial (IA), aliada con la robótica. Pero no, datan de 1863 y su autor fue el escritor iconoclasta, músico, pintor, explorador y crítico inglés Samuel Butler (1835-1902); forman parte de una sátira titulada Erewhon, palabra que si se lee al revés quiere decir, con alguna transliteración, Nowhere, esto es, ‘ningún lugar’, asimilable a ‘utopía’.

De manera que la idea de la posibilidad de fabricar-crear máquinas con una inteligencia que supere a la humana en absoluto es nueva. (Partes del ensayo de Butler los publicó, junto con otros, la editorial Impedimenta en 2009: El rival de Prometeo, edición de Sonia Bueno Gómez-Tejedor y Marta Peirano.)

La idea de la posibilidad de fabricar-crear máquinas con una inteligencia que supere a la humana en absoluto es nueva

Butler adjudicaba a esas máquinas que imaginaba unas características que no son precisamente las que ahora nos preocupan especialmente, y en este punto está clara su ironía: “Ni las bajas pasiones, ni los celos, ni la avaricia, ni los deseos impuros perturbarán el sereno poder de estas gloriosas criaturas. El pecado, la vergüenza y la tristeza no tendrán cabida en ellas”. 

Muy al contrario, nos preocupa que además de convertirnos en “una raza inferior”, las máquinas que estamos creando se correspondan con la imagen que –sin duda para provocar el efecto contrario– les adjudicaba: “Su mente permanecerá en un estado de calma perpetua, con esa alegría inherente al espíritu que no conoce los deseos, que no se ve perturbado por las lamentaciones. La ambición nunca les torturará; la ingratitud no les causará malestar alguno”.

Pero ¿cómo podrían habernos relegado esas máquinas de Butler a un papel subsidiario de no haber sido dotadas de la capacidad, hermana de la ambición, de superar nuestros poderes cognitivos? Como apuntaba antes, todo esto viene a cuento de la omnipresente preocupación actual acerca de cuáles van a ser las “habilidades” que posibilitará la IA, que está siendo desarrollada a velocidades inimaginables anteriormente.

Cuando leo en los periódicos que la crisis que se ha desencadenado en OpenAI, con Sam Altman en su epicentro, acaso tenga su origen en un desarrollo que puede amenazar a la humanidad, me estremezco porque: (a) no sé si es cierto; (b) porque si lo fuera, algo falla en que no existan controles, ni información segura, en un campo de investigación y desarrollo tan crítico.

En 1955, John von Neumann (1903-1957), una de las mentes más poderosas de todo el siglo XX –sus contribuciones a la matemática, física teórica y aplicada, desarrollo de computadoras, teoría de juegos, economía o Proyecto Manhattan, fueron seminales –una novela reciente, MANIAC (Anagrama, 2023), de Benjamín Labatut, lo tiene como protagonista– publicó un breve ensayo titulado “¿Podemos sobrevivir a la tecnología?”, en el que escribía: “En la primera parte de este siglo [el XX] la acelerada revolución industrial encontró una limitación absoluta, no en el progreso tecnológico como tal, sino en un factor esencial de seguridad. […] Ahora este mecanismo de seguridad está siendo drásticamente inhibido”. Y afirmaba: “El poder tecnológico, la eficiencia tecnológica como tal constituye un logro ambivalente Su peligro es intrínseco”.

Lo que preocupaba por entonces a Von Neumann eran, fundamentalmente, las consecuencias de la energía nuclear, el control del clima y los cada vez más poderosos procesos de automatización aplicados a campos como la industria o las comunicaciones; hoy esos “mecanismos de seguridad” están aún más amenazados, de hecho, muchos se encuentran fuera del dominio público, aun cuando los gobiernos y la sociedad son conscientes de los peligros que se encuentran en algunos campos, como es el caso de la IA.

Otro texto de Von Neumann que debe hacer reflexionar es su libro, publicado póstumamente, Theory of Self-Reproducing Automata (Teoría de los autómatas que se autoreproducen, 1966). Yo reflexioné al pensar en la posibilidad de que, en un futuro que imagino no muy distante, se diseñen robots, móviles por supuesto, con la capacidad de diseñar y construir otros robots, iguales o mejores que ellos.

Los materiales necesarios para semejante tarea pueden ser puestos a su disposición o ellos mismos ser los encargados de localizarlos y extraerlos. Se trataría de una variedad de las “máquinas autorreplicantes” o “ensambladores universales” –también denominadas “sondas de Von Neumann”– que este propuso, y con cuya idea, en el caso de la exploración espacial, jugaron autores de ciencia-ficción al igual que científicos, entre ellos el físico, matemático y futurólogo Freeman Dyson.

Ciertamente el cosmos es un lugar ideal para esas máquinas autorreplicantes. Tengo dificultad para imaginar que se puedan establecer colonias humanas permanentes en Marte, pero no que lo colonicen robots. Es fácil dar rienda suelta a la imaginación y pensar que sean ellos los que, a lo largo de períodos muy extendidos de tiempo, “acondicionen” partes del Planeta Rojo para que se instalen allí humanos.

[La catedral de Turing: los orígenes del universo digital]

Si alguna vez se pone en marcha la “minería espacial” porque nuestro inacabable apetito y necesidad de materiales nos conduzca a ella, serán robots los que se conviertan en mineros. Pero mis peores sueños son: que el desarrollo de la IA capacite a las máquinas inteligentes para que “piensen” que deben reproducirse. Y que sean capaces de hacerlo. ¿Lo harán?