Resulta muy elocuente que el papa León XIV haya dedicado su primera carta encíclica a la inteligencia artificial, y no a un asunto estrictamente teológico o pastoral.
Porque confirma que la gobernanza del desarrollo tecnológico ha dejado de ser un mero debate técnico o sectorial. Se ha asentado definitivamente como el gran desafío de nuestra época entre los prescriptores intelectuales, políticos y hasta religiosos de todo el mundo.
Con Magnifica Humanitas, el Pontífice quiere honrar el nombre papal que eligió, siguiendo la estela de su predecesor en la cátedra vaticana.
León XIII inauguró la Doctrina Social de la Iglesia para ofrecer criterios de discernimiento y orientación de la acción cívica ante los desmanes de la primera Revolución Industrial. Hoy, su sucesor aborda la cuarta revolución industrial, la digital.
Porque si bien la inteligencia artificial posee la capacidad de impulsar extraordinariamente el bienestar material de la humanidad, también constituye una fuente potencial de nuevas desigualdades y exclusiones que las sociedades modernas están obligadas a mitigar.
No es necesario compartir el trasfondo religioso del texto ni la fe católica que lo inspira para suscribir su diagnóstico sustancial.
Cualquier ciudadano preocupado por los daños colaterales de una innovación sin supervisión puede reconocer que el acelerado ritmo de despliegue de esta tecnología plantea riesgos ciertos para el orden democrático.
Este diario coincide en que la respuesta adecuada no pasa por demonizar la IA.
El documento pondera los innegables beneficios de los nuevos sistemas computacionales. Pero advierte con rigor sobre el impacto negativo que un desarrollo no controlado puede tener sobre la política y la economía: la propagación de la desinformación, el acicate de la polarización, la lesión de la dignidad de las personas (especialmente de los menores) en el entorno digital, la amenaza de los derechos de los trabajadores, o la estimulación de los conflictos bélicos.
La exigencia de sujetar el desarrollo de los modelos de IA y el uso de "tecnologías invasivas" a "restricciones éticas" y jurídicas sólo puede ser leída como una desautorización directa de las utopías desregulacionistas que defienden los magnates tecnológicos de Estados Unidos.
La condena a la acumulación del poder digital en unas pocas corporaciones anticipa nuevos choques con los oligarcas de Silicon Valley, teniendo en cuenta que uno de ellos, el inversor e ideólogo trumpista Peter Thiel, ya descalificó a León XIV como el "Anticristo" por mostrar sus reticencias hacia el descontrol de la IA.
Cabe suponer que las secciones dedicadas a la tecnología militar tampoco serán muy bien recibidas en la Casa Blanca.
El documento rechaza las teorías clásicas de la "guerra justa" y se opone a la automatización bélica. El Papa afirma de manera tajante que "no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable" y que "no es permisible confiar decisiones irreversibles y letales a sistemas de IA".
Con estas palabras, León XIV vuelve a poner el dedo en la llaga de la discrepancia que motivó el reciente litigio mantenido entre Donald Trump y el Vaticano, a propósito de la escalada armada contra Irán.
Más allá de las inevitables lecturas partidistas, el análisis de la encíclica se apoya en una realidad evidente.
Supeditar la toma de decisiones trascendentales para la vida de las personas a fórmulas algorítmicas opacas erosiona la libertad civil. Los ciudadanos quedan expuestos al dominio de actores internacionales que controlan el mercado de datos, y que no responden ante ningún poder público ni mecanismo de control democrático.
Por eso, la postura de la no intervención radical en el desarrollo de la IA resulta ingenua.
Defender la libertad de empresa y fomentar la innovación tecnológica es perfectamente compatible con la exigencia de un marco regulatorio firme. El objetivo razonable es orientar la innovación para conjurar los abusos, y garantizar que el progreso técnico se subordine al interés general.
Para avanzar en esa dirección, el texto detalla propuestas de gobernanza a tener en cuenta.
Entre ellas, la creación de marcos jurídicos vinculantes que superen la ineficaz autorregulación corporativa; la instauración de agencias de auditoría externa para examinar los códigos y algoritmos; y la aplicación de leyes antimonopolio para descentralizar la propiedad de los datos bajo el principio de su utilidad social.
Desde la perspectiva de un humanismo aconfesional, resulta difícil no suscribir la invitación del Papa a contener la "dinámica deshumanizante" de una tecnología regida en exclusiva por criterios de beneficio económico o de eficacia militar.
La encíclica alerta de manera oportuna contra el "síndrome de Babel", una fragmentación ya incoada por las redes sociales al obstaculizar el diálogo, la verificación de los hechos y la concordia entre los ciudadanos.
La inteligencia artificial ofrece horizontes de avance inédito para campos como la medicina, la ciencia y la productividad. Pero si no reconoce ningún límite ético que guíe su perfeccionamiento y su aplicación, sus perjuicios corren el riesgo de exceder a sus beneficios.
Lo deseable es que la invitación del Vaticano mueva a nuevos actores globales a reflexionar y actuar para encauzar una transformación sin precedentes susceptible de arrollar nuestros derechos y libertades.