León XIV durante la presentación de la encíclica 'Magnifica Humanitas'. Reuters
“Desarmar” la inteligencia artificial: el Papa León XIV abre el frente doctrinal para recuperar la dignidad humana
El Vaticano publica Magnifica Humanitas, un texto de 110 páginas que cuestiona la neutralidad técnica, advierte sobre el “tecnofascismo” y pide “desarmar” la inteligencia artificial.
Magnifica Humanitas tiene 110 páginas y 245 párrafos. Sirvan estas cifras como medida de cantidad en torno al análisis, de suma calidad, que esconde la primera encíclica dedicada íntegramente a la inteligencia artificial. El Papa León XIV marcó ayer no tanto una formulación doctrinal, como una reflexión y crítica abierta al desarrollo alocado y sin control de una tecnología que va más allá del impacto económico habitual o de nuevas categorías sociales. En esta ocasión, lo que el Vaticano busca transmitir es que es necesario redefinir las categorías morales más básicas de la Humanidad, incluso en terrenos que ya han sido objeto de encíclicas en el pasado, como la dignidad humana, la naturaleza del trabajo o las guerras.
El extenso documento (presentado además en el 135º aniversario de otra célebre encíclica, Rerum Novarum) no entra en el detalle técnico de la inteligencia artificial o en las habituales y vacías conversaciones que inundan las redes sociales. En cambio, lo que León XIV ha promulgado es un análisis en profundidad sobre cómo la IA está convirtiéndose en condición de posibilidad de lo humano contemporáneo. Y, por tanto, reconfigura las reglas bajo las que operamos a todos los niveles, individuales y colectivos.
La palabra más destacada de toda la encíclica ha sido "desarmar". "Es necesario desarmar la inteligencia artificial", dice el Papa, consciente de que esta afirmación va en contra frontalmente con el uso público y notorio que algunos entes (como el propio presidente estadounidense Donald Trump, OpenAI o Elon Musk) están impulsando. El pontífice no propone renunciar a la tecnología ni una nostalgia prerrevolucionaria, sino desmontar la concentración de poder, sacar la IA de la lógica de competencia desregulada y devolverla al espacio del debate público. La metáfora bélica apunta, en ese sentido, a una dinámica de acumulación, carrera y opacidad que, en términos del propio documento, "corre el riesgo de conducirnos hacia nuevas atrocidades".
De ahí no es difícil llegar al siguiente nivel. En el núcleo de la encíclica se sostiene una negación frontal de la neutralidad técnica. Recordemos que, durante décadas, la cultura de Silicon Valley ha defendido que la tecnología es una herramienta, que los sesgos son errores corregibles y que la eficiencia es un bien en sí mismo. León XIV desmonta ese trípode de una sola tacada: la tecnología no es neutral porque está hecha de decisiones: arquitectura de modelos, selección de datos, funciones de optimización y diseño de interfaces. Y, por supuesto, cada una de ellas codifica valores, prioridades y visiones del mundo.
La encíclica introduce además un término de alto voltaje político -"tecnofascismo"- para describir aquellos sistemas tecnológicos altamente concentrados que sustituyen mecanismos democráticos mediante manipulación informativa, hiperestimulación y degradación del debate público. Quizás algunos vean en esta tesis un posicionamiento claro con los valores que inspiraron la AI Act y muchas de las posturas europeas reticentes a las grandes proclamas de la industria digital. León XIV no es ajeno a que los algoritmos optimizan atención y polarización porque eso es lo que remunera el mercado, lo que a su vez trae la inevitable consecuencia de una esfera pública tensionada por diseño.
En paralelo, el texto entra en una de las batallas culturales más activas del ecosistema tecnológico: el transhumanismo y poshumanismo. El Papa rechaza la idea de que el ser humano deba superarse mediante mejora biológica o digital porque, afirma, ello significaría reducir la dignidad a capacidad, productividad o inteligencia. Y ello, siguiendo esa misma lógica, implica una jerarquización de vidas (humanos de primera y de segunda según su capacidad de acceder a la tecnología) incompatible con la igualdad moral. La alternativa que propone es conocida, pero aquí adquiere un filo nuevo: la dignidad no depende de la utilidad, sino de la condición misma de persona.
Empleo y guerra
El capítulo dedicado al trabajo recupera la estela de Rerum Novarum con lenguaje actualizado. La automatización, sostiene el Papa, solo es legítima si libera capacidades humanas y no si expulsa trabajadores hacia la irrelevancia económica. La figura del 'humano descartable' aparece como riesgo sistémico que exige, en palabras del pontífice, una transición justa, formación y políticas activas de empleo, así como una revisión de la jerarquía de valores que coloca la productividad por encima de la dignidad.
Donde la encíclica mantiene la trayectoria clásica de la Iglesia es en el terreno de la guerra. León XIV cuestiona la aplicabilidad de la teoría de la guerra justa cuando intervienen sistemas autónomos capaces de decidir sobre la vida sin responsabilidad moral directa. En esta línea, el texto advierte de una carrera armamentística impulsada por IA y vincula su normalización con una "cultura del poder" que desplaza a la diplomacia.
En materia de gobernanza, Magnifica Humanitas abandona la ambigüedad. El Papa pide más regulación de las empresas de IA, marcos de transparencia, coordinación internacional y protección específica de menores frente a contenidos generados. Introduce además una categoría exigente (responsabilidad ética y espiritual de los desarrolladores) que, más allá de su formulación, señala cómo cada decisión de diseño es una decisión moral. Aquí, asimismo, León XIV anuncia la creación de una comisión para profundizar en estas cuestiones, dejando claro que la Iglesia no pretende retirarse del debate tecnológico, sino institucionalizar su intervención.
Christopher Olah y otros apoyos
Este documento no es obra aislada de los teólogos del Vaticano, sino que han contado con el apoyo incluso de algunos considerados díscolos del discurso dominante de la industria tecnológica. El más destacado ha sido Christopher Olah, de Anthropic, empresa que recientemente se negó a colaborar con el gobierno estadounidense en el uso de la IA para contextos bélicos.
Olah subrayó la necesidad de que actores diversos (gobiernos, investigadores, sociedad civil) tomen en serio el diagnóstico y orienten el desarrollo, además de pedir a todos los implicados que "sigan el ejemplo" del Papa en este camino humanista.
A su vez, Darrell M. West, desde Brookings, habló de "algorética" y de un vacío que los gobiernos no han sabido llenar. Karin Herrera, ministra de Ciencia de Panamá, definió el documento como un faro ético global. En el plano político, JD Vance admitió coincidencias y discrepancias, un reflejo más de la fractura inevitable cuando el debate pasa de lo técnico a lo moral y se contraponen los intereses geopolíticos sobre la religión o el humanismo.
