"Al mirar atrás, al pensar en lo que hicimos, la gente asume que todos éramos monstruos o locos. ¿Cómo pudimos traer esos demonios al mundo? ¿Cómo nos atrevimos a jugar con fuerzas tan terribles que podían borrarnos de la faz de la Tierra, o enviarnos de vuelta a un tiempo previo a la razón, cuando el único fuego que conocíamos brotaba de los rayos que dioses iracundos nos lanzaban desde el cielo mientras nosotros temblábamos en las cavernas?".

Así se expresa Eugene Wigner, físico húngaro, y compañero de andanzas del mítico Von Neuman, en una de las páginas de la maravillosa novela-ensayo Maniac, del chileno Benjamín Labatut.

Durante sus casi 400 páginas Labatut hace un recorrido —mitad realista, mitad novelado— de cómo un grupo de científicos excepcionales, dotados de una capacidad fuera de lo común, revolucionaron las matemáticas, la lógica y las ciencias para dar los primeros pasos de la computación y, en paralelo pusieron al mundo patas arriba, de tal forma que no se sabe bien si lo llevaron al mismo borde del desastre en varias ocasiones (sin esa evolución en el cálculo no se hubieran podido desarrollar las bombas atómicas), o lo salvaron del abismo aplicando la teoría de juegos, entre otros muchos desarrollos de la lógica.

Llevo días secuestrado por la prosa brillante del autor chileno, al tiempo que media humanidad (es una exageración, lo sé, pero permítanme utilizarla como metáfora) está discutiendo, escribiendo, haciendo eventos, o reflexionando sobre el alcance, los límites y el futuro que nos espera con la explosión de aplicaciones y utilidades que nos pone al alcance la inteligencia artificial.

Richard Feynman, otro físico contemporáneo de Von Neuman e impulsor de los estudios en torno a la mecánica cuántica, afirma en otro pasaje de la novela de Labatut: "Es aterrador pensar en cómo funciona la ciencia. Solo considera esto por un segundo: la invención más creativa de la humanidad surgió exactamente al mismo tiempo que la más destructiva". Hablaba de bombas nucleares y reacciones termonucleares. ¿Sería esto comparable a la inteligencia artificial general?"

Damos por hecho que el desarrollo científico y técnico que nos ha traído hasta el actual estado civilizatorio siempre ha sido positivo, que todo científico es por definición un ser de luz que quiere alumbrar con su trabajo a la humanidad, pero somos menos conscientes del lado oscuro de la ciencia.

Y no, no trato con ello de situarme en esos movimientos anti-ciencia o negacionistas de la razón que pueblan hoy las mentes de muchos millones de personas rodeadas de incertidumbre y miedo al futuro, a quienes pequeños grupos de iluminados quieren convertir en ejércitos de protesta para vaya usted a saber qué fines espurios.

Pero la obra de Labatut nos revela que la ciencia también tiene un lado oscuro, el de científicos que queriendo ir más allá del actual estado de las cosas abandonan todo tipo de empatía o compasión con sus semejantes, bordeando los límites de la razón, y a menudo perdiéndola, como puede comprobarse cuando se observa la gran cantidad de suicidios, enfermedades mentales y vidas desdichadas que acumulan muchas de los grandes personalidades de la ciencia de todos los tiempos.

No he podido dejar de pensar en toda esta epopeya colectiva magistralmente relatada por Labatut, cuando reviso el caso Altman tan reciente, o sale a la luz la última excentricidad de personalidades como Elon Musk o Zuckerberg y otros tantos hombres de negocio a los que hemos elevado (o lo han hecho ellos mismos y nosotros les seguimos como almas descarriadas) a la categoría de superhumanos al frente de los grandes desafíos civilizatorios.

Los grandes matemáticos y científicos de la mitad del siglo pasado que protagonizan la novela Maniac (el citado Von Neuman, Paul Ehrenfest, Robert Opphenheimer...) quisieron dar unos cuantos saltos de gigante y convertirnos en dioses (o sustituirnos por ellos), y fueron financiados y espoleados por los dirigentes y militares de las grandes potencias en una lucha geopolítica a muerte por conseguir la hegemonía mundial.

Hoy, los nuevos hombres de negocio, sueñan con emular y superar a todos ellos subidos a lomos de gigantescas empresas que facturan e invierten más dinero que las propias agencias públicas. Más allá de dónde salen los recursos, ¿no estaremos de nuevo replicando el modelo que llevó a la humanidad al borde del desastre total en varias ocasiones a lo largo del siglo XX?

Les dejo una suerte de minidecalogía sobre inteligencia artificial, eso sí, muy personal:

1. Nos encontramos ante el metaproblema del siglo XXI. Todas nuestras tensiones, incertidumbres y retos políticos, sociales y económicas están de una o forma precipitadas y concentradas esta expresión: inteligencia artificial. Me pongo a pensar y no encuentro ni un sólo aspecto de la vida humana y social que no vaya a ser impactado por el desarrollo de la IA. He de reconocer que me sorprende la asombrosa tranquilidad con la que la mayoría asiste a este fenómeno, como si fuera simplemente paisaje. Espero equivocarme, pero esto no es otro hype como hemos visto en años recientes en torno a otras tecnologías que tanto prometían.

2. Esto no va sólo de innovación y de negocio. Tiene que ver con el poder geoestratégico, con las nuevas relaciones laborales, con los derechos fundamentales, etc. O sea que esto no lo vamos a poder gestionar con un par de leyes o decretos. Vamos a necesitar una verdadera cascada de normas globales para poder garantizar que el genio de la lámpara que hemos alumbrado no vaya a descontrolarse.

El problema es que ni tenemos instituciones globales para ello, ni están capacitadas, ni tienen autoridad sobre los estados nación. ¿Sabremos gobernar la IA?

3. ¿Todo lo que es producto del desarrollo tecnológico es bueno intrínsecamente hablando? ¿Por qué algo pueda hacerse o conseguirse a nivel tecnológico, debemos desarrollarlo hasta el final? Es lo que se preguntan en el libro de Labatut muchos contemporáneos de Von Neuman que desarrollaron la bomba de hidrógeno que multiplicaba exponencialmente la potencia de una bomba nuclear.

Alguien dirá que exagero, pero si los primeros prototipos de aplicaciones de IA en el mercado hacen todo lo que estamos viendo, ¿qué estarán preparando los ejércitos, los servicios de espionajes o los gobiernos que se deslizan crecientemente hacia el liberalismo, con todo ese instrumental? ¿De verdad que a nadie le preocupa esto?

4. Von Neuman dice en un momento dado de la novela: "Insistes en que hay cosas que las máquinas no pueden hacer. Si tú me dices exactamente qué es lo que no pueden hacer, yo siempre seré capaz de construir una máquina que haga exactamente eso".

¿Acaso el febril modelo de solucionismo tecnológico en el que vivimos hace tiempo no es una suerte de aceptación global y masiva de nuestra deriva un tanto irracional? Jorge Freire en su maravilloso libro La banalidad del bien nos habla de la tecnolatría que nos devora a diario y sentencia: "Una generación de cracks sólo puede terminar haciendo cracks".

5. Como todo en la vida hay dos posturas: la optimista, la de aquellos que dicen que esto repercutirá de forma positiva, que la IA constituye una suerte de exoesqueleto que potenciará nuestras habilidades como personas y organizaciones y nos llevará a un gigantesco salto en productividad y generación de riqueza.

Y la de aquellos que ven en todo esto la última herramienta de un modelo capitalista que conquistará de manera —esta vez sí— total, todas las esferas del ser humano, con herramientas construidas sobre los rescoldos de nuestros propios sesgos, potenciados y multiplicados hasta el infinito, y por ello necesitamos auditorías algorítmicas y regular todo el proceso, pero ¿seremos capaces de encontrar un punto intermedio entre estas dos visiones, la apocalíptica y la de la banalidad optimista?

6. Regúlese, así se anuncia como si se tratase de un bálsamo de fierabrás. Pero tenemos un pequeño gran problema: los tiempos de la deliberación política democrática no son los del desarrollo tecnológico. Y esto no tiene solución. Además, los consensos sociales y políticos en la sociedad son muy diferentes en Europa, en China y en USA. Lo que hace China con el social scoring aquí sería no sólo ilegal sin que generaría una ola de protestas (o eso quiero pensar). Es probable que el desarrollo de ChatGPT no se podría haber hecho en Europa porque incumple nuestras leyes. ¿Cuál será el vector resultante?

7. ¿Dónde está la ciudadanía en este debate? Para que exista concienciación debe haber conciencia de algo concreto, esto no se puede hacer en abstracto. No debería ser sólo un debate entre expertos, empresas y reguladores. Los ciudadanos deben también participar. Ya se están creando las primeras asociaciones cívicas en torno al futuro de la IA. Las sociedades deben decidir cómo quieren ser en el futuro.

La Historia nos dice que ha habido modelos económicos y sociales que prometían lo mejor en el albor de una nueva etapa en la humanidad y que acabaron siendo desastres mundiales. Es difícil saber qué puede pasar. Hay quien dice que la inteligencia humana (su estupidez) podría llegar a acabar con al inteligencia artificial; puede que esa sea nuestra gran baza, la historia es apenas una colección extensa de chapuzas.

8. Menos mal que como seres humanos avanzados tenemos una cosa que llamamos ética. Un momento, ¿a qué ética nos referimos? Aquí es donde de nuevo entra en juego el papel de los consensos sociales y la ciudadanía. En el equilibrio que quiere alcanzarse (cuán largo me lo fiais, decían nuestros clásicos) entre el impulso a la innovación y la regulación de los efectos negativos, se habla mucho de autorregulación.

Se pretende que cada empresa u organización aplique unos estándares de responsabilidad, transparencia y ética a los desarrollos que hagan sobre IA. Es una lucha desigual. E

Entre la ética y el negocio, este último siempre ganará la partida, como así lo prueban los numerosos despidos de los equipos de ética en las grandes tecnológicas, o el caso Altman, primero expulsado como CEO por aquellos que querían velar por un desarrollo de la tecnología acorde a altos estándares éticos, y luego repuesto por quienes están poniendo el dinero (Microsoft) y los que esperan ganar mucho (la mayoría de los empleados que votaron a favor de la vuelta del jefe, poseen importantes paquetes de stock options).

 9. Los jinetes del apocalipsis húngaros, encabezados por Von Neuman revolucionaron las matemáticas y con ello la civilización, y quisieron ir más allá. Crear un nuevo mundo. No lo vieron en vida, pero pusieron la semilla de lo que hoy hemos comenzado a experimentar, por cuanto la capacidad de cómputo se ha multiplicado exponencialmente desde entonces. Una especie de delirio de la razón.

Es fácil detectar a los negacionistas, terraplanistas y demás enemigos de la ciencia. Pero no debemos olvidar que los sueños de la razón también producen monstruos. ¿La llamada IA general acabará siendo nuestra bomba de hidrógeno del siglo XXI? Lo veremos pronto, en tres o cuatro años, según las últimas estimaciones.

10. La tecnología se ha convertido en la religión de nuestro tiempo. La creciente secularización de las sociedades ha dejado un vacío que nada lo ha ocupado. Muertas y orilladas las grandes ideologías, presos de una enorme incertidumbre, atrapados en el presente que tanto ofusca, sin grandes relatos que nos hablen de progreso y esperanza futuras, vivimos en sociedades opulentas donde hemos alcanzado los grandes objetivos que teníamos como humanidad, pero nos sentimos vacíos.

Somos más ricos que cualquier otra generación anterior, pero dicen que la salud mental está más deteriorada que nunca. La IA ya es el nuevo Mesías de esta nueva religión tecnológica. Pronto hará realidad los sueños de aquella generación que hace siete u ocho décadas pensó en máquinas autorreplicantes, en autómatas celulares y en simbiontes digitales.

El propio Von Neuman lo dejó dicho: "Los hombres de las cavernas inventaron a los dioses…no veo nada que nos impida hacer lo mismo". Hablar de responsabilidad es hablar ya de frivolidad.

Hay una acepción de la innovación que nunca conjugamos y que yo reivindico: "volver algo a su anterior estado". Más valdría tomarnos en serio la advertencia que un genio (¿también un loco?) como Von Neuman dejó escrita hace 80 años: "lo que crea el peligro no es el potencial destructivo particularmente perverso de un invento en específico. El peligro es intrínseco. Para el progreso no hay cura".