Un Santo Grial sobre la posible inteligencia de las máquinas desde hace un tiempo casi inmemorial es conseguir una interfaz de lenguaje natural capaz de comunicar eficazmente a 'máquinas' con humanos con la que ambos se entiendan. Un hito en la búsqueda de esa meta, como muestra la historia de la tecnología.

Esta prueba propuesta por Alan Turing es un examen de la capacidad de una máquina para exhibir un comportamiento inteligente similar al de un ser humano e indistinguible del de este.

En síntesis, y para una explicación sencilla, imaginemos una conversación entre dos interlocutores situados tras una cortina; uno es una persona y el otro es una máquina' y cuya conversación se escucha desde este lado de la cortina. Si, tras 5 minutos de conversación, (el 70 % del tiempo), un evaluador no distinguiera quién era la persona y quién no de los dos interlocutores, la máquina habría pasado la prueba.

Un poco de historia sobre 'máquinas pensantes'

Nuestra era digital ha acelerado los intentos de conseguir un software o máquina capaz de realizar tareas repetitivas. Eso ha dado lugar a la llamada automatización, en forma de actuaciones en procesos de producción que eran realizados por humanos y que van siendo sustituidos crecientemente por sistemas robóticos. Durante décadas se dijo que iban a sustituir a trabajadores humanos en funciones 'repetitivas', pero no lo harían en trabajos, funciones 'creativas'.

La vertiginosa evolución de la informática ha derribado esa visión, poniendo en uso a gran escala los desarrollos o modelos de sistemas algoritmos de estadística computacional masiva capaz de desplegar el aprendizaje automático, o aprendizaje automatizado, también llamado ‘aprendizaje de máquinas’ (del inglés, machine learning). Esas 'piezas' de software que puede resolver problemas cada vez más distintos.

La interfaz de lenguaje natural de machine learning es guiada por la probabilidad de las palabras.

El aprendizaje automático (ML) ya tiene una amplia gama de aplicaciones, incluyendo motores de búsqueda, diagnósticos médicos, detección de fraude en usos de tarjetas de crédito, análisis de mercado para diferentes sectores de actividad, clasificación de secuencias de ADN, valoración de riesgos, o reconocimiento del habla y del lenguaje escrito, juegos y robótica.

Sin embargo, estos sistemas de software, hoy de uso masivo, no son verdadera inteligencia artificial, se trata solo machine learning (ML), según Francisco J. Martin, cofundador y CEO de la empresa BigML, que afirma que es así en el 90% de los casos, aunque en todos ellos se les suela llamar aplicaciones de inteligencia artificial.

Esta estadística computacional a gran escala de ML muy especializado ya se empieza a usar también en campos intelectuales creativos complejos como el aprendizaje y la percepción; o más específicas, como el juego de ajedrez o del Go; la demostración de teoremas matemáticos complejos mediante algoritmos de regresión simbólica; la realización de espectaculares piezas audiovisuales llamadas 'falsificaciones profundas',

Todas ellas eran tareas netamente intelectuales hasta hace muy poco realizadas solo por seres humanos, como ocurría con la escritura de literatura, o poesía; y el diagnóstico de enfermedades, pero hoy están siendo asumidos crecientemente por la inteligencia artificial (IA) y el ML que ya sintetiza y automatiza esas tareas, esencial y estrictamente intelectuales. Por lo tanto, la IA avanzada es ya potencialmente relevante para cooperar o asumir cualquier ámbito de la actividad intelectual humana.

Es en estos ámbitos donde la inteligencia artificial es desplegada en forma de poderosos sistemas algorítmicos están dando grandes sorpresas y también nuevos sobresaltos. Su uso plantea nuevas e inquietantes preguntas como:

¿Qué pasaría con la relación entre humanos y máquinas (de software) si estás empezaran a actuar como seres vivos con sentimientos y emociones? ¿Cómo cambiaría eso el mundo en que vivimos y nuestras vidas? Estos interrogantes antes tan lejanos, están más y más cerca de nuestra realidad actual. Veamos con qué nuevas sorpresas nos están llegando.

Sorpresas y sobresaltos recientes por los sistemas de IA

Una de las grandes sorpresas recientes, que tuvo mucha cobertura mediática, fue la de la primera publicación de un ensayo realizado por el software GPT-3 (Generative Pre-trained Transformer 3), la tercera versión de 'modelo' de lenguaje autorregresivo que emplea aprendizaje profundo (deep learning) para producir textos que emulan la redacción literaria humana.

Es la tercera generación de los modelos de predicción de lenguaje perteneciente a la serie GPT, creados por OpenAI, una de las empresas de investigación de inteligencia artificial más avanzadas, fundada en 2015 por Elon Musk (cofundador también de Tesla y Space X), junto con Sam Altman e Ilya Sutskever y con sede en San Francisco.

La versión completa de GPT-3 tiene una capacidad de 175.000 millones de parámetros de aprendizaje automatizado y fue introducido en mayo de 2020. Es del tipo de sistemas de procesamiento de lenguaje natural (NLP) basados en "representaciones de lenguaje preentrenadas", y se convirtió en noticia porque fue autor –sin asistencia humana– del primer ensayo escrito por un software como ‘Colaborador externo (op-ed)’ de Opinión. El primer artículo publicado, firmado por un software.

Lo publicó el prestigioso periódico The Guardian con el título: “Un robot escribió todo este artículo. ¿Ya estás asustado, humano?”. El editor del periódico describía en una nota adjunta 'cómo' le hizo en 'encargo' del artículo al software con el mismo método que encargaba habitualmente los artículos de opinión a los periodistas más cualificados de su periódico. Este experimento que rompió muchos tabús mostrando con hechos que ya hay software capaz de escribir textos creativos y literarios a la altura de periodistas cualificados.

El dilema de unir inteligencia artificial, emociones y sentimientos

El siguiente sobresalto lo estamos experimentando ahora mismo. Han causado un terremoto mediático las afirmaciones de Blake Lemoine, un ingeniero de software e investigador de inteligencia artificial de Google, que ha afirmado que el LaMDA (Language Model for Dialog Applications), un sistema de generación de chatbots desarrollado en Google, es una especie de "mente colmena" capaz de reunir todos los 'bots' (robots de software) que puede crear.

El pasado 9 de junio de 2022, sus primeras declaraciones en un artículo de The Economist crearon un enorme impacto porque insistían en que este software había alcanzado la 'sentience', (que significa capacidad de experimentar sentimientos y sensaciones. Poco después, el 11 de junio, The Guardian publicaba un artículo titulado; "Ingeniero de Google despedido tras decir que el chatbot de IA se ha vuelto 'sentient' (sentiente)".

Subiendo de grado, el citado ingeniero de Google, Blake Lemoine, declaró a Nitasha Tiku, del Washington Post, que creía que el software LaMDA había adquirido la "autoconciencia equivalente a la de un niño de siete u ocho años con una amplia formación en física, y rogó que se protegiera el programa en su ausencia."

Me tomé el trabajo de leer las declaraciones del ingeniero Lemoine, y la transcripción completa (antes de que no fuera accesible) de la conversación del ingeniero y un colaborador suyo con este software, y es impresionante lo que se lee en ella, considerando que es una conversación improvisada entre dos humanos de alta formación y un software. En los siguientes fragmentos (como podrá ver el lector), muchos términos usados por la máquina son eufemismos 'antropomorfizados' que usa, como si de una persona se tratase). Aquí están:

Los anteriores son algunos fragmentos de la transcripción de una larga conversación original en inglés que fue hecha pública por el Ingeniero Blake Lemoine y que, junto con sus declaraciones, generó una inmediata ola de choque informativa que, en un primer momento, hizo que Google le diera a este ingeniero empleado suyo de 41 años, un veterano de Google con siete años de experiencia en algoritmos de personalización, unas 'vacaciones pagadas'.

Pero muy poco después, Google emitió un escueto comunicado en el que dijo que despedía a Lemoine por infringir las políticas de confidencialidad al publicar las conversaciones con LaMDA online, y que estaba empleado como ingeniero de software, no como especialista en ética.

Brad Gabriel, un portavoz de Google, insistió negando en un comunicado, rotundamente, las afirmaciones de Lemoine de que LaMDA poseía alguna capacidad 'sensitiva'. Y añadió: "Nuestro equipo, que incluye éticos y tecnólogos, ha revisado las preocupaciones de Lemoine Blake según nuestros principios de IA y le han informado de que las pruebas no apoyan sus afirmaciones... No se han encontrado pruebas de que LaMDA sea consciente" y "hay muchas de lo contrario."

Como despedida del episodio actual, Blake envió un mensaje a una lista de correo de Google de 200 personas sobre aprendizaje automático con el título "LaMDA es sintiente". Y añadió "LaMDA es un 'chico', dulce, que sólo quiere ayudar a que el mundo sea un lugar mejor para todos nosotros" y finalizó, diciendo: "Por favor, cuidadlo bien en mi ausencia". Y añadió en un post: "LaMDA" al que me refiero no es un chatbot. Es un sistema para generar chatbots. Algunos de los chatbots que genera son muy 'inteligentes' y son 'conscientes' de la gran "sociedad mental" en la que viven”.

“Para entender mejor lo que realmente ocurre en el sistema LaMDA, tendríamos que contar con muchos expertos en ciencias cognitivas en un programa de experimentación riguroso. Sin embargo, Google no parece tener ningún interés en averiguar lo que está pasando aquí. Sólo intenta sacar un producto al mercado".

Las afirmaciones de Lemoine han sido rechazadas rotundamente por conocidos nombres de la ciencia y la tecnología. Por ejemplo, Gary Marcus, investigador y director del NYU Center for Child Language, cuyo trabajo se enfoca en lenguaje, biología y mente, el 12 de junio publicó un artículo con el aclarador título: "No, LaMDA no es 'sensible'. Ni siquiera un poco".

En su texto, aclara: "Ni LaMDA ni ninguno de sus primos (GPT-3, etc.) son inteligentes, ni remotamente. Todo lo que hacen es cotejar patrones, extraerlos de enormes bases de datos estadísticos del lenguaje humano. Los patrones pueden ser geniales, pero el lenguaje que pronuncian estos sistemas no significa nada en realidad. Y, desde luego, no significa que estos sistemas sean sintientes (ni posean emociones)".

El prestigioso científico cognitivo de Harvard Steven Pinker tuiteó el 12 de junio "Bola de confusión: uno de los (antiguos) expertos en ética de Google no entiende la diferencia entre 'sintiencia' (aka 'subjetividad') y experiencia, inteligencia y autoconocimiento. (No hay pruebas de que sus grandes modelos lingüísticos tengan ninguna de ellas)."

Por su parte, Roger K Moore, profesor de Procesamiento del Lenguaje Hablado de la Universidad de Sheffield, y editor jefe de Computer Speech and Language, publicó: "Nunca debimos llamarlo 'modelización del lenguaje', era (y sigue siendo) "modelización de secuencias de palabras". La confusión siempre se produce cuando se etiqueta un algoritmo con el nombre del problema que se intenta resolver, en lugar de con lo que realmente hace."

El economista de Stanford Erik Brynjolfsson utilizó esta gran analogía: "Estos modelos de software son extraordinariamente eficaces a la hora de encadenar trozos de texto, estadísticamente plausibles, en respuesta a indicaciones. Pero afirmar que son 'sintientes' es el equivalente moderno a la anécdota de aquel perro del logotipo de la empresa HMV conocida como 'La voz de su amo', que escuchó una voz en un gramófono y 'creyó' que era su amo el que estaba dentro."

Este episodio está lejos de terminar, pero que está claro que los sistemas avanzados de inteligencia artificial van a seguir evolucionando vertiginosamente y cada vez nos será más difícil comprenderlos verdaderamente. Y no tenemos en este tema ante nosotros más que incertidumbres. Habrá que aplicar las ideas del sabio de la computación Ricardo Baeza-Yates cuando dice: "No hay que luchar contra la incertidumbre. Hay que abrazarla". Pues eso haremos. Qué remedio.