El Papa visita España. Su nombre elegido, León XIV, busca enlazar su pontificado con el de León XIII. Pontífice que en “Rerum Novarum” (1891) trató la preocupación de la Iglesia católica por la llamada “cuestión social”.

Aquella encíclica desarrolló la “doctrina social de la Iglesia”. Una respuesta a los retos que la revolución industrial planteó a finales del siglo XIX y todo el XX. Respuesta basada en la concepción antropológica y social del cristianismo.

135 años después León XIV responde a los desafíos de las nuevas tecnologías, y concretamente de la IA (Inteligencia Artificial), en la encíclica Magnífica Humanitas.

Para ello se basa en los mismos principios:

El bien común como faro de las decisiones; la dignidad intrínseca del ser humano como tal; la solidaridad entre todos los hombres; la justicia social como base de las relaciones económicas; el destino universal de los bienes terrenos, dentro del respeto a la propiedad privada; y el principio de la subsidiariedad en la convivencia de los organismos sociales para que cada uno preserve su autonomía en las funciones que corresponden a su nivel, sin injerencia de los superiores.

Magnífica Humanitas no pretende dar soluciones técnicas concretas a los desafíos que la IA plantea. Pero sí quiere avisar de los riesgos del olvido de estos principios en la aplicación de esa nueva tecnología.

En ese punto el pontífice indica que la IA, al tratar de ayudar al razonamiento humano es aún menos neutral que otras tecnologías

León XIV ha querido dar un grito de alarma. No para denigrar la IA, sino para pedir su uso constructivo. Por eso la aborda desde una perspectiva moral. Un tema que desarrolla especialmente en el punto 104 de la encíclica.

En ese punto el pontífice indica que la IA, al tratar de ayudar al razonamiento humano es aún menos neutral que otras tecnologías. Ninguna lo es, pero la IA puede hacerlo de manera tan sutil y, por tanto, peligrosa, que su uso modifique el código moral de los individuos y las sociedades sin que lo parezca.

Esto es así porque la construcción de un algoritmo, y su forma de “aprender”, depende de la estructura moral de los que lo diseñan y dirigen su aprendizaje.

Sus creadores pueden, pretendiéndolo o sin ello, imponer su particular moral a los usuarios. Usuarios que, de manera consciente o inconsciente, pueden acabar absorbiendo esa moral particular de los inventores y desarrolladores de un algoritmo.

Por eso el punto 105, al pedir una IA que respete la dignidad de la persona, exige que las responsabilidades “estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles decisiones concretas”.

¿La sociedad podría estar perdiendo oportunidades en su conjunto con esos descartes?

Un ejemplo de este tipo de riesgo es el uso de la IA en el reclutamiento, la selección y la contratación de empleados. Algoritmos de uso generalizado en muchas grandes empresas y, con el tiempo, también en las Administraciones públicas.

Su uso mejora la eficiencia, reduce tiempos y corrige errores de manera estadística, mediante sistemas de manejos de datos.

Ante ello la pregunta, que se hace la encíclica es: ¿no podemos estar perdiendo respeto a la dignidad del ser humano en aras a esa eficiencia y produciendo “descartes” de personas que no encajen en la gestión de los datos de los algoritmos?

Y yo añadiría: ¿la sociedad podría estar perdiendo oportunidades en su conjunto con esos descartes? Un análisis genético de Beethoven hubiera desaconsejado su dedicación a la música, porque un buen algoritmo habría pronosticado la sordera que le atacó a partir de los 30 años.

Por eso en su punto 107 la encíclica pide “la posibilidad de discutir el código ético que debe ser usado sometiéndolo a criterios de justicia social compartida. De lo contrario, quien controla la IA (y ya los hay) impondrá su propia visión moral que se convertirá en la estructura invisible de los sistemas”. Serán los dueños reales de las voluntades. Dueños que en estos momentos están al margen de los controles democráticos.

Por este razonamiento la encíclica llega a insinuar la necesidad de ralentizar la aplicación de la IA (punto 106) en aras a la prudencia ¿Están dispuestas las Estados a ello? Difícil, porque la IA además de un instrumento tecnológico se ha convertido en una poderosa arma en un mundo en guerra.

Es el destino al que la humanidad se enfrenta.

** J. R. Pin Arboledas es profesor del IESE.