Valencia desarrolla con IA un 'guardaespaldas' digital que evitará que seamos engañados en el metaverso

Metaverso sí, metaverso no. El año va encarando su recta final y la gran pregunta no sólo no se ha resuelto, sino que parece que no se va a resolver a corto plazo. Aunque hay una cosa cierta: haya defensores o detractores de esta tecnología, todo el mundo está ojo avizor y, en algunos casos, trabajando para implementar mejoras que lo hagan más útil y atractivo.

Más útil, más atractivo… y más ético. Esta última variable, la de la ética, puede que sea el factor decisivo y ya hay grupos de trabajo que están trabajando en ello. Encontramos un ejemplo en la Comunidad Valenciana.

"Nunca se puede decir que somos los únicos del mundo que estamos investigando esto y trabajando en esta tecnología, pero, que sepamos, por lo que hemos leído, no hay nadie que lo esté haciendo", explica Vicent Botti, investigador principal del Grupo de Investigación de Tecnología Informática e Inteligencia Artificial de VRAIN -Instituto Universitario Valenciano de Investigación en Inteligencia Artificial-.

[Un informe con 100 casos de éxito para demostrar que la tecnología puede solucionar los grandes retos sociales]

Y lo que está investigando este grupo no es baladí. VRAIN lleva un año desarrollando una inteligencia artificial capaz de detectar en tiempo real cualquier peligro que nos encontremos en el mundo virtual.

Este desarrollo, que se enmarca en el proyecto guardIA y se está  llevando a cabo con técnicas de IA y modelos computacionales.

Este guardián personal virtual, explica Botti a D+I, "surge en respuesta al aumento del uso de los medios sociales y la tecnología en los que las personas van a poder interaccionar en entornos virtuales inmersivos con una relación sin precedentes, algo que estará pasando con total normalidad dentro de 10-15 años".

También servirá para "la detección de intenciones o contenidos poco fiables o maliciosos".

[Metaverso, una oportunidad para la accesibilidad digital]

Al hablar de entornos virtuales inmersivos se incluye, cómo no, la tendencia del metaverso. "Hay que empezar a normalizar culturalmente el metaverso porque, igual que hace cinco años nadie creía que se podían realizar reuniones on line en programas como Teams y se han acabado produciendo con total normalidad, algo como el metaverso va a seguir el mismo camino", recalca el investigador.

Por eso, en su opinión, algo de lo que es necesario empezar a preocuparse es de sus peligros. "Los peligros que actualmente tienen las redes sociales (fake news, atentados contra la privacidad, etc.) se multiplicarán en un entorno de metaverso", admite Botti, añadiendo que "va a ser más fácil engañarnos".

En este contexto, el proyecto guardIA está pensado precisamente para protegernos. Botti, de una manera muy gráfica, explica a D+I que esta implementación "va a ser una especie de pepito grillo que nos va a acompañar en las interacciones que mantengamos en el metaverso, de manera que nos aconseje de forma automática sobre un determinado espacio de interacción, sobre un determinado usuario, etc.".

"Al final, como en la vida, la última decisión sobre nuestro comportamiento en entornos virtuales la decidiremos nosotros, pero contar con esta herramienta nos situará sobre pistas sobre si un determinado avatar con el que interactuamos es un bot que quiere nuestros datos o nos quiere dar información falsa o está intentando influir en nuestra ideología", resume.

"Va a ser una especie de 'pepito grillo' que nos aconsejará en nuestras interacciones en el metaverso".

Vicent Botti, investigador principal. 

La pregunta es evidente: ¿el hecho de contar con este guardaespaldas no resta naturalidad a nuestro comportamiento en el metaverso y, por tanto, resta valor a ese espacio virtual?

"En absoluto. Porque al final, insisto, la decisión la vamos a tomar nosotros, aunque con una pequeña ayuda, algo que también pasa en la vida real cuando pedimos opinión a expertos o nos aconseja un amigo", remarca Botti.

El proyecto guardIA consta, en una primera fase de desarrollo, de un ejemplo teórico y tecnológico que anticipa cómo las redes sociales híbridas van a redefinir las relaciones sociales y cuáles van a ser las nuevas formas de interacción social que surgirán en los entornos virtuales e identificar aquellas de mayor riesgo.

En segundo lugar, el desarrollo de un asistente personalizado de código abierto, basado en técnicas de IA, que participará en una sofisticada interacción con el usuario final, lo sensibilizará y ayudará a reconocer posibles intentos maliciosos y patrones de manipulación para que se reduzcan sus efectos.

Financiado por la Generalitat Valenciana

Y, en tercer lugar, un proceso de comprensión de esta herramienta a nivel público que también va a poder ser aplicable en diversos campos.

Explica Botti que "este proyecto pretende contribuir a una interacción social más segura en las redes sociales híbridas y facilitar el proceso de aceptación y adaptación de los usuarios a este nuevo entorno sociotecnológico".

El desarrollo de este guardián virtual ha sido diseñado teniendo en cuenta el incipiente despegue de campos como la realidad virtual, realidad aumentada y realidad extendida que van a permitir la interacción libre dentro de ellos. Así como la tecnología multisensorial, que permite el reconocimiento de las emociones de los usuarios de una forma fácil, asequible y en tiempo real.

GuardIA busca, entre otros, resolver problemas como la desinformación y la manipulación, que son fenómenos crecientes que van a adoptar nuevas formas con los rápidos avances tecnológicos, incluso hasta llegar a un punto en el que las imágenes reales no puedan ser diferenciadas de las falsas.

El crecimiento de los asistentes personales, que, aunque en la actualidad están limitados a hacer pocas tareas, se espera que en unos años muestren un comportamiento inteligente como verdaderos compañeros humanos, es otro de los focos de la iniciativa.

GuardIA es un proyecto Prometeo financiado por la Conselleria de Innovación, Universidades, Ciencia y Sociedad Digital de la Generalitat Valenciana para grupos de investigación de Excelencia, con una duración de cuatro años que en la actualidad se encuentra en su primer año de desarrollo.   

Según su máximo responsable, "es pronto aún para hablar de cómo realizar la transferencia al mercado", pero ya apunta posibles aplicaciones en empresas que se adentren en el mundo del metaverso o incluso ir de la mano de importantes proveedores de esta tecnología que, a su juicio, "es imparable".