Representación de la IA en el cerebro de una persona.
Los riesgos de la IA: si tratas a las cosas como personas, acabarás tratando a las personas como cosas
Hay un detalle aparentemente insignificante que dice mucho del momento histórico que estamos viviendo. Millones de jóvenes terminan sus conversaciones con ChatGPT con un "por favor" o un "gracias".
No hablan así con Google, ni con la calculadora del móvil, ni siquiera con el cajero automático. Lo hacen con una inteligencia artificial.
¿Es simple educación? En parte sí. Pero también es otra cosa. Según una encuesta realizada por EduBirdie, el 69% de los integrantes de la Generación Z utiliza fórmulas de cortesía con la IA como una especie de "seguro de vida" tecnológico.
Temen que, si algún día las máquinas llegan a dominar el mundo, recuerden quién fue amable con ellas.
Parece una broma, pero no lo es tanto. El 58% de los encuestados cree que la inteligencia artificial podría dominar el mundo, y un significativo 44% piensa que esto podría ocurrir en los próximos 20 años.
En este contexto, decir “por favor” y “gracias” es una especie de gesto de precaución hacia una entidad que muchos ya perciben como potencialmente poderosa.
La anécdota resulta divertida. La conclusión, bastante menos. En realidad, uno de los mayores riesgos de la inteligencia artificial no consiste en que las máquinas piensen como nosotros. Consiste en que nosotros acabemos pensando en ellas como si fueran personas.
La diferencia puede parecer sutil, pero es enorme. El escritor Spencer Klavan lo explica magistralmente en un reciente artículo publicado en The Free Press. Los modelos de lenguaje son extraordinarios porque producen una ilusión muy convincente de inteligencia.
Conversan, argumentan, resumen, escriben poesía, hacen bromas e incluso parecen reflexionar antes de responder. Pero esa apariencia no significa que exista alguien al otro lado de la pantalla.
Significa únicamente que el sistema ha aprendido a predecir con enorme precisión cuál es la siguiente palabra más probable. La diferencia entre comprender y calcular sigue siendo abismal.
No hay nadie al otro lado de la pantalla. Simplemente, los LLM han aprendido a predecir con enorme precisión cuál es la siguiente palabra más probable
Una inteligencia artificial puede describir el miedo sin haberlo sentido jamás. Puede redactar un poema sobre la muerte sin haber perdido nunca a un ser querido. Puede explicar qué significa enamorarse sin haber experimentado un solo latido de incertidumbre.
Porque no vive, ni recuerda, ni siente. Y porque no es consciente de sí misma.
La encíclica de León XIV
La primera encíclica del Papa León XIV introduce precisamente esta reflexión en el debate tecnológico. "Las llamadas inteligencias artificiales no viven experiencias, no poseen un cuerpo, no sienten alegría ni dolor", escribe el Pontífice. "Tampoco tienen conciencia moral, ya que no juzgan el bien y el mal, no comprenden el significado último de las situaciones ni asumen la responsabilidad de las consecuencias".
No se trata de una discusión filosófica reservada a teólogos o ingenieros. Es una cuestión profundamente práctica.
Si aceptamos que una máquina es equiparable a un ser humano únicamente porque imita nuestro lenguaje, terminaremos confundiendo la representación con la realidad.
Llevamos décadas utilizando metáforas para explicar cómo funcionan los ordenadores. Hablamos de "memoria", "aprendizaje", "redes neuronales", "visión artificial", "creatividad" o "razonamiento". Son expresiones útiles. El problema aparece cuando olvidamos que son precisamente eso: metáforas.
Klavan utiliza una comparación brillante. Un mapa puede representar un continente con enorme precisión, pero nadie pretende vivir dentro del mapa.
Del mismo modo, un modelo lingüístico puede reproducir patrones del pensamiento humano sin que exista pensamiento alguno detrás de esos patrones. Confundir ambas cosas supone un error de categoría.
Un error con consecuencias
Si empezamos a atribuir derechos, emociones o dignidad moral a una máquina porque escribe como una persona, el siguiente paso será rebajar el valor diferencial de las personas. Si todo es un sofisticado intercambio de entradas y salidas de información, ¿qué diferencia existe entre un algoritmo muy avanzado y un ser humano?
Y en realidad, hay mucha diferencia. Los seres humanos no somos únicamente inteligencia. Somos experiencia, conciencia, responsabilidad, libertad, memoria, sufrimiento, esperanza y vínculos. Nuestra dignidad no nace de nuestra capacidad para resolver problemas, sino del simple hecho de estar vivos.
Ésa ha sido una de las premisas fundamentales sobre las que se ha construido nuestra civilización. La inteligencia artificial puede convertirse en la herramienta más poderosa jamás creada. Puede acelerar descubrimientos científicos, mejorar la medicina, democratizar el conocimiento y multiplicar nuestra productividad. Pero precisamente por eso debemos evitar la tentación de humanizarla.
No necesitamos máquinas que sean personas. Necesitamos personas que no olviden lo que significa serlo. Porque el mayor peligro de la inteligencia artificial no es que un día llegue a parecerse demasiado a nosotros. Es que nosotros terminemos pareciéndonos demasiado a ella.
Y, como advierte Spencer Klavan, cuando empiezas tratando a las cosas como personas, tarde o temprano acabas tratando a las personas como cosas. Y ese es un error en el que no podemos caer.
*** Alicia Richart es Socia en IBM Consulting.