El papa León XIV, durante la presentación de su primera encíclica en el Vaticano

El papa León XIV, durante la presentación de su primera encíclica en el Vaticano Reuters Omicrono

Tecnología

Papa León XIV: "abandonad la construcción de otra Torre de Babel" con la IA como una nueva "forma de esclavitud"

El papa ha sido especialmente crítico con la inteligencia artificial y el uso sin control ni supervisión de esta tecnología.

Más información: El Vaticano da una lección a la UE: así ha empezado a poner límites al uso de la inteligencia artificial en todos los ámbitos

Publicada

Apenas tres años después del lanzamiento de ChatGPT, el impacto que la inteligencia artificial está teniendo en el mundo ya es más que evidente; y no es necesariamente un impacto positivo en todos los aspectos.

El papa León XIV ha usado su primera encíclica, publicada esta semana, para advertir del efecto que la IA está teniendo en la humanidad y el potencial devastador que puede tener para su futuro, especialmente si no se usa correctamente.

El documento tiene a la IA como su máxima protagonista, incluyendo el uso de esta tecnología en la guerra y cómo está creando una nueva "forma de esclavitud", soportada por las personas que mantienen los sistemas de IA y los trabajadores que producen los dispositivos como ordenadores y smartphones en los que se usa.

El pontífice incluso ha llegado a comparar a la IA con la Torre de Babel, que según la Biblia fue construida por humanos que, en su arrogancia, querían que su cúspide alcanzase el cielo.

El papa advierte que esta historia muestra los riesgos de cualquier empresa que "intenta alcanzar el cielo sin la bendición de Dios" y pide al mundo que abandone la construcción de otra Torre de Babel y que, en vez de eso, una fuerzas para construir el bien común.

León XIV cree que es necesario "una participación política más activa" que sea capaz de "frenar las cosas cuando todo el mundo está acelerando"; para ello, pide "marcos jurídicos sólidos, una supervisión independiente, usuarios bien informados y un sistema político que no renuncie a su responsabilidad".

Por ejemplo, el papa ha pedido que los datos de IA no se queden únicamente en manos privadas, y que los legisladores protejan los derechos de los trabajadores y mantengan a los menores a salvo de esta tecnología.

El papa ha mostrado un temor especial al uso de la IA en la guerra, que debe "estar sujeto a las limitaciones éticas más rigurosas", advirtiendo que algunos sistemas de armas autónomos ya han avanzado "prácticamente más allá de la capacidad de cualquier humano de gobernarlos".

Pero el papa considera que "no es permisible" confiar en los sistemas de IA para que tomen decisiones potencialmente letales.

El evento de presentación de la encíclica en el Vaticano ha sido atendido por Chris Olah, cofundador de Antropic, una de las mayores compañías de IA del mundo y creadora de Claude y Mythos, una IA tan peligrosa que la propia compañía ha limitado su acceso.

Tal vez por eso, el papa León XIV ha pedido a las compañías de IA que relajen su competición, alertando sobre "la sutil tentación" de creer que los problemas son "demasiado grandes y somos demasiado pequeños", pero que "nadie está sin responsabilidad, todos tenemos nuestras áreas de acción".

Olah ha elogiado el mensaje del papa y le ha agradecido que saque a relucir los problemas creados por la nueva tecnología, coincidiendo en que compañías como la suya sufren "presiones comerciales" y necesitan un escrutinio externo.

De hecho, Olah ha reconocido que todas las compañías de IA, incluida Antropic, operan con un sistema de incentivos y limitaciones que "a veces pueden entrar en conflicto con hacer lo correcto".