Estos últimos días han sido noticia los abucheos en las ceremonias de graduación de grandes universidades americanas cuando sus ilustres padrinos hablaban de IA (los recién licenciados y sus futuros puestos de trabajo están en entredicho). De igual manera, también ha acaparado muchos titulares la encíclica del Papa León XIV, "Magnifica humanitas"; una encíclica social que aborda un tema muy actual: la custodia de la humanidad en los tiempos de la inteligencia artificial. Todo ello confirma que algo se está moviendo en el mundo de la inteligencia artificial, algo mucho más allá de la pura tecnología y que la sociedad está preocupada.
Empezaré por recordar que una encíclica es una carta solemne que el Papa dirige a los obispos de todo el mundo y a todos los fieles. Es un documento que busca iluminar, guiar o fijar una postura cristiana sobre cuestiones doctrinales, morales o sociales de gran relevancia para la época. En este caso, como he mencionado más arriba es un tema claramente social.
El Papa León XIV se ha "inspirado" en la encíclica de León XIII sobre la revolución industrial y ha decidido poner el foco en la revolución digital que estamos viviendo, con especial interés en la inteligencia artificial, en que está controlada por muy pocas empresas y en su incontrolabilidad e imprevisibilidad. Él propone edificar una comunidad donde la técnica respete la dignidad humana y donde la innovación no vaya por libre, sino que tenga una ética compartida con la sociedad actual, no sólo con los intereses mercantilistas de un puñado de oligarcas tecnológicos y de quienes les financian.
Como amante de la tecnología que soy, creo que es muy importante destacar que el Papa León XIV no adopta una postura tecnofóbica; él lanza una advertencia contundente contra el determinismo tecnológico. Debemos entender que el hecho de que algo sea técnicamente posible, no implica ni que su implementación sea inevitable, ni que la sociedad debe adaptarse a ello y a los designios de un puñado de personas.
También me gusta cuando dice que el orgullo tecnológico, cuando busca la eficiencia pura y el beneficio económico desmedido, termina aislando y deshumanizando. La comunidad, la humanidad, debe primar sobre los intereses de la oligarquía algorítmica para que la tecnología no se convierta en una herramienta de control social o exclusión laboral.
Otro detalle muy relevante es que en la presentación participó Christopher Olah (cofundador de Anthropic), enfatizando la necesidad de un diálogo abierto entre la fe, la ciencia y la industria tecnológica. Es un hecho histórico porque un referente de la comunidad de la IA aportó su visión como tecnólogo y porque validó las alarmas éticas que plantea la encíclica.
Olah explicó que la IA no se construye como un avión o un puente, donde los ingenieros diseñan y entienden cada pieza y las leyes físicas involucradas. Las redes neuronales en las que se basan los LLMs (Large Language Models) actuales se desarrollan, se entrenan, aprenden y crecen sobre estructuras inspiradas en el cerebro.
Algunas de sus palabras me preocupan especialmente, entre ellas que reconoció abiertamente que para los propios creadores estos sistemas siguen albergando rincones misteriosos e inquietantes; o cuando explicó que las investigaciones internas siguen hallando estructuras que imitan la neurociencia humana, evidenciando estados internos que reflejan funcionalmente miedo, alegría, introspección o desasosiego. Cómo dijo él, crear una IA hoy en día se parece mucho a "darle vida a un personaje de ficción" que de pronto empieza a hablar, a trabajar y a interactuar con nosotros.
Olah admitió que los incentivos de las empresas a menudo entran en conflicto con hacer lo correcto, que los científicos de la IA no pueden ni deben gestionar esto solos. Urgió a que existan críticos informados y voces morales fuera del mercado (como las comunidades religiosas, gobiernos y académicos) que vigilen con atención, digan verdades incómodas y señalen explícitamente a las empresas como Anthropic o OpenAI (y a las que apoyan su viabilidad económica) cuándo están fallando.
Terminaré recordando lo que me ha inspirado al bautizar esta columna, lo que dice Arde Bogotá en su canción “La salvación”: La salvación de tantos dioses modernos (el dinero, el éxito, la inteligencia artificial), no me compensa el momento de haber tenido que decir adiós… y añado decir adiós a la humanidad, a los puestos de trabajo y al bienestar de millones de personas, a la búsqueda (todavía en proceso) de que los beneficios del desarrollo se compartan de forma global.
Tiene que haber una salida para el conflicto de intereses, de incentivos, entre el desarrollo de la inteligencia artificial y la búsqueda del bien para la humanidad, del reequilibrio del planeta.
