José Antonio Martínez Aguilar, fundador y CEO de Making Science.
Cuando el Papa León XIV publicó Magnifica Humanitas, ofreció una reflexión moral seria sobre lo que la inteligencia artificial significa para la vida humana. Su preocupación trasciende del ámbito religioso. La posibilidad de que la IA beneficie a unos pocos mientras deja atrás a los más vulnerables es una cuestión que interpela a toda la sociedad.
Como alguien que ha dedicado su carrera a la transformación tecnológica, tengo un interés evidente en la adopción de la IA. Precisamente por eso considero esenciales las preocupaciones que plantea el Papa. Cualquier enfoque de la inteligencia artificial que ignore la dignidad humana fracasará, moral y prácticamente. Las organizaciones que despliegan IA sin gobernanza, sin colaboración humana y sin preguntarse quién se beneficia y quién asume los costes están construyendo Babel. Y Babel siempre cae.
Sin embargo, la historia nos invita a mirar este debate con una perspectiva más amplia.
La imprenta de Gutenberg presentó a la Iglesia Católica un auténtico dilema. Los libros impresos podían difundir ideas mucho más rápido de lo que las instituciones podían evaluarlas. Sin embargo, esa misma tecnología hizo posible la primera Biblia ampliamente accesible, impulsó la alfabetización y llevó la tradición intelectual de la Iglesia mucho más lejos de lo que cualquier escriba habría podido imaginar.
Algo parecido ocurrió con la Revolución Industrial. En 1891, León XIII publicó Rerum Novarum. Su preocupación era comprensible: trabajo infantil, salarios de subsistencia, jornadas interminables y fábricas peligrosas. Sin embargo, no pudo ver que una industrialización adecuadamente gobernada acabaría creando precisamente la clase media cuya ausencia lamentaba. Que la esperanza de vida se duplicaría y que millones de personas accederían a niveles de bienestar impensables para generaciones anteriores.
A lo largo de cinco siglos, el patrón se repite. Los temores rara vez carecían de fundamento, pero el valor creado por la tecnología terminó superando ampliamente las preocupaciones iniciales. Incluso la electricidad estuvo rodeada de alarmismo. Más tarde, internet provocó advertencias sobre el fin de la privacidad y el colapso de las instituciones democráticas. Muchas de esas preocupaciones contenían parte de verdad. Ninguna impidió que estas tecnologías transformaran positivamente la vida de miles de millones de personas.
Pero le debo al lector una concesión: las analogías históricas son imperfectas. La inteligencia artificial no es simplemente otra herramienta en la sucesión que va de la imprenta a internet.
La IA será la primera revolución tecnológica que opere directamente sobre la cognición humana. Amplía lo que nuestras mentes pueden hacer, no solo nuestras manos. Y esa diferencia introduce riesgos sin precedentes históricos. El problema del alineamiento entre los sistemas inteligentes y los valores humanos es real. También lo son la manipulación personalizada a gran escala o el posible impacto sobre profesiones que hoy constituyen la columna vertebral de la clase media.
Precisamente por eso necesitamos más responsabilidad, no menos innovación.
El paradigma tecnocrático es un peligro real. Cuando la eficiencia se convierte en la única medida y los algoritmos toman decisiones que afectan a las personas sin transparencia, algo esencial se pierde. La encíclica lo señala con acierto y quienes trabajamos en tecnología deberíamos escuchar. Pero también conviene recordar que la eficiencia y la innovación son las que han permitido que millones de personas accedan a bienes y servicios impensables hace apenas unas décadas.
Una preocupación adicional a la encíclica es cómo la rivalidad tecnológica entre Estados Unidos y China está generando incentivos para priorizar la velocidad sobre la responsabilidad. La historia demuestra que, en estas carreras, la gobernanza suele llegar tarde.
Ahora bien, junto a los riesgos están emergiendo oportunidades extraordinarias. Cuando la IA asume tareas cognitivas rutinarias, el trabajo que queda para las personas se vuelve más humano. Lejos de disminuirnos, puede liberarnos para dedicar más tiempo a aquello que aporta verdadero valor.
También está el coste moral de no adoptar la IA de manera amplia y responsable. Si puede mejorar diagnósticos médicos donde apenas existen especialistas, democratizar capacidades avanzadas para pequeñas empresas o acercar conocimiento a quienes nunca tuvieron acceso a él, retrasar indefinidamente su despliegue también tiene consecuencias. La cautela es necesaria, pero no puede convertirse en inmovilismo.
Por eso considero especialmente poderosa la metáfora central de Magnifica Humanitas. Babel representa la tecnología construida desde la soberbia, la concentración de poder y la ausencia de propósito. Jerusalén simboliza la construcción colectiva, la responsabilidad compartida y el compromiso con un bien superior.
Las organizaciones que utilizan la IA únicamente para reducir costes, concentrar control o sustituir el juicio humano están construyendo Babel. Aquellas que la emplean para ampliar capacidades humanas, generar valor social y fortalecer la participación de las personas están ayudando a reconstruir Jerusalén.
Sin duda, debemos seguir siendo plenamente humanos en la era de la inteligencia artificial. Donde quizá deberíamos profundizar más como sociedad es en lo que seguir siendo humanos nos exige realmente.
Tal vez no signifique mantenernos al margen de la herramienta más poderosa para ampliar la capacidad humana jamás creada. Tal vez signifique asegurar que esa herramienta llegue a todas las personas cuya dignidad estamos llamados a proteger. No será la IA la que construya una sociedad más justa. Serán los seres humanos con IA, si tenemos el coraje de construir Jerusalén y la sabiduría necesaria para no levantar Babel.
*** José Antonio Martínez Aguilar es fundador y CEO de Making Science.