Cuando la naturaleza sale al rescate de la IA: el vuelo de aves inspira una técnica para reducir las alucinaciones de chatbots

Observar el vuelo de una bandada de pájaros es un espectáculo único, a la altura de las mejores compañías de ballet. Las aves bajan, suben y viran hacia los lados retorciendo la formación con movimientos fluidos y sin chocar. De esta coordinación y eficiencia se puede aprender mucho hasta para aspectos completamente opuestos como puede ser el desarrollo de inteligencia artificial.

La tecnología de moda parece saber hacerlo todo, pero más allá de este discurso pomposo, a la IA aún le queda mucho margen de mejora. Las alucinaciones que sufren los modelos de lenguaje natural (LLM), la base de famosos chatbots como ChatGPT o Gemini, siguen siendo su mayor talón de Aquiles.

Aunque la mayoría de usuarios no sea consciente de este problema, aún es necesario revisar la información que da la IA o, al menos, tomar con pinzas las indicaciones que aporta. Además de suponer un riesgo para quienes confían a ciegas en sus consejos, las alucinaciones reducen la efectividad de las herramientas basadas en IA, al requerir tiempo extra para verificarla y consumo de computación para corregirlas.

Cuando la IA no es tan lista y falla en lo más básico: así se equivoca en algunas tareas que serían fáciles para un niño

Por mucho que se ha avanzado en el desarrollo de estos modelos, la industria aún trata de encontrar la clave para erradicarlas de una vez por todas. Gigantes como OpenAI han dado ciertas explicaciones y soluciones a este problema recientemente.

Investigadores de todo el mundo persiguen erradicar las alucinaciones mejorando el entrenamiento de los modelos con ideas que pueden surgir incluso de la propia naturaleza, como ha hecho este un equipo de informáticos de la Universidad de Nueva York.

Varios chatbots de IA instalados en un móvil Aerps.com (Unsplash)

Si los animales y las plantas siguen siendo una fuente de inspiración para crear robots más resistentes o capaces de adaptarse mejor al entorno, puede que en la naturaleza también esté la solución a este inconveniente algorítmico. En concreto, en cómo se mueven los pájaros cuando vuelan en grupos.

"La intención era que los modelos de IA se basaran más estrechamente en el material original, reduciendo la repetición y el ruido antes de generar un resumen final", explica Anasse Bari, profesor de informática en la Escuela de Matemáticas, Computación y Ciencia de Datos del Instituto Courant de la Universidad de Nueva York.

Resúmenes extensos

Las herramientas basadas en modelos de lenguaje natural (LLM) son capaces de leer documentos extensos, para después escribir y resumir de forma autónoma sobre su contenido. Sin embargo, aunque el resumen presentado parezca bien escrito, puede no ser preciso o fiel al informe original.

Como si la IA se cansara ante tareas muy largas, "cuando el texto de entrada es excesivamente largo, ruidoso o repetitivo, el rendimiento del modelo se degrada", dice Bari.

Bandada de aves Veronika Andrews Andrews en Pixabay Omicrono

Esto "provoca que los agentes de IA y los modelos de lógica descriptiva pierdan el rastro de datos clave, diluyan la información crítica entre contenido irrelevante o se alejen por completo del material de origen", añade Bari.

Para afrontar este problema, Bari y el coautor de este trabajo, Binxu Huang, aplicaron el comportamiento de las bandadas de pájaros al preprocesamiento de la IA generativa.

El vuelo en agrupación de las aves supone un método ordenador y estudiado en el que participan partes dispares. Se autoorganizan en bandadas siguiendo tres reglas simples: cohesión (mantenerse cerca de las aves vecinas), alineación (moverse en la misma dirección que los vecinos) y separación (evitar el hacinamiento).

En base a esta dinámica, los investigadores han desarrollado un nuevo algoritmo que sirve como preprogramación del LLM, y por el que se considera cada oración como un pájaro virtual o, en su lugar, un elemento individual.

Frase a frase

La metodología empieza por separar cada frase: estas se limpian conservando únicamente sustantivos, verbos y adjetivos, y eliminando artículos, preposiciones, conjunciones y signos de puntuación. En otras técnicas de procesamiento del lenguaje natural, también se fusionan términos compuestos ("cáncer de pulmón" se convierte en "cáncer_de_pulmón") para que los conceptos individuales permanezcan intactos.

Cada oración se convierte en un vector numérico, se puntúan en fusión de características léxicas, semánticas y temáticas. Por ejemplo, se puntúan según su centralidad en todo el documento, su importancia en la sección y su alineación con el resumen, con una puntuación numérica adicional para secciones clave como la Introducción, los Resultados y la Conclusión.

El peligro de tratar a ChatGPT como a un humano: "Es como un libro de autoayuda mezclado con el que te echa las cartas"

Después se agrupan en conjuntos que imitan la forma en que los pájaros se organizan en bandadas. Asegura el equipo de investigadores que esa agrupación redujo cada grupo a sus oraciones más representativas, con el objetivo de minimizar la redundancia y preservar los puntos clave.

Al igual que las aves reales en la naturaleza, en cada grupo emergen líderes y los seguidores se unen a su líder más cercano. Así, de cada grupo final de oraciones similares, solo se seleccionan las de mayor puntuación, de modo que el resumen abarca antecedentes, métodos, resultados y conclusiones, en lugar de repetir un solo tema; reflejando así la diversidad de contenido del documento sin repetirlo.

Una bandada de aves volando en formación. iStock

Los investigadores evaluaron el algoritmo con más de 9.000 documentos, analizando si este enfoque producía mejores resultados que un agente de IA basado únicamente en un modelo de lenguaje natural (LLM), en concreto ChatGPT 4.

"La idea central de nuestro trabajo es que desarrollamos un marco experimental que sirve como paso de preprocesamiento para textos extensos antes de que se introduzcan en un agente de IA o un LLM, y no como un competidor de los LLM o los agentes de IA", dice Bari. Sin embargo, reconocen que su enfoque no es la solución definitiva.

"Nuestros resultados experimentales demuestran que el modelo propuesto, que utiliza un algoritmo de comportamiento de bandada bioinspirado para la clasificación ponderada, es mucho más eficaz que el modelo de referencia LLM." concluyen en el artículo científico.