Udo Sglavo, vicepresidente de IA aplicada en SAS.
Udo Sglavo, vicepresidente de SAS: "Son muy diferentes los agentes de IA personales y los diseñados para empresas"
"Las decisiones las ha de tomar un humano", señala el responsable de IA aplicada y modelos, pero en casos como el fraude con tarjetas de crédito resuelve el agente en tiempo real: “no vas a tirarte una hora esperando el OK".
Más información: SAS cumple 50 años volcada en reforzar con nuevos agentes IA su plataforma Viya.
“En el último año hemos visto una clara distinción entre agentes IA para la productividad personal, como cuando quiero usar uno para mi calendario en Outlook, y agentes diseñados para el uso empresarial. Son muy diferentes. Si uso un agente para marcar una cita y comete un error, pues, muy mal. Puedo perderme una reunión. Ahora, en el contexto empresarial eso es inaceptable”, señala Udo Sglavo, vicepresidente de SAS, responsable de IA aplicada y modelos.
DISRUPTORES conversó con Sglavo en Grapevine, un espectacular resort en Texas junto al lago del mismo nombre, en el curso del congreso Innovate de SAS. Su análisis de la inteligencia artificial es desde el punto de vista de cómo afecta internamente su uso al funcionamiento de la empresa.
“Creo que el movimiento de la IA agéntica empresarial va claramente hacia actividades con ‘humano en el bucle’. Hemos oído mucho sobre que los agentes pueden imponerse y asumir las decisiones en todo el proceso. Yo no veo que eso esté ocurriendo en el contexto empresarial, porque al final los responsables son humanos. Tienen que tomar la decisión y asumir la responsabilidad”, prosigue.
“Si el agente comete un error y tu jefe empieza a gritarte no puedes alegar que ‘lo hizo el agente’. El hecho es que los humanos deben tomar las decisiones y afrontar las consecuencias, incluidas las malas”, afirma Sglavo.
“Hay dos importantes desarrollos, que hemos mostrado, que me entusiasman. Uno son los agentes IA para científicos de datos. Les ponen muchas herramientas en sus manos, para que sean más productivos. Pero ellos guían el análisis. Básicamente tienen que crear la inteligencia. El otro, son agentes para dominios específicos. Toman un problema de negocio concreto y tratan de resolverlo. Se trata de ver qué resultado buscas y cómo conseguirlo”.
Hay un tercer punto que Sglavo también desea subrayar: “Ya hablábamos de ello [en Innovate] el año pasado, se trata de que los agentes aprenden de su comportamiento. Ya nos referimos entonces a una combinación de grandes lenguajes y herramientas. Y hay un componente que llamamos ‘memoria’. Se trata de asegurarse de que, si usas el agente varias veces, recuerde quién eres. Y funciona realmente bien. Pero la idea es que el agente debe aprender al interactuar contigo. Cuando se habla de agentes IA aprendiendo a jugar en el ordenador, están aprendiendo por la interacción con el juego”.
“Eso es, en cierto modo, fácil, porque es determinista. Sólo aprende las reglas de los juegos y como es una tecnología muy potente, puede hacerlo”, prosigue. “Pero interactuar con un humano no es tan sencillo. Somos más erráticos en nuestro comportamiento y no creo que lo hayamos visto [ese aprendizaje] todavía. Debatimos el año pasado si un agente puede mejorar sus capacidades interactuando con su entorno y eso sigue pendiente. Hay que investigar más”.
‘Humano en el bucle’
La duda es hasta dónde ha de estar el ‘humano en el bucle’, cuando el agente detecta un fallo que requiere detener un proceso en el acto: “Depende de la decisión que estes tratando de adoptar. Por ejemplo, tenemos un sistema que detecta fraude con tarjetas de crédito en tiempo real. Si escaneas tu tarjeta no quieres esperar al OK de un humano y tirarte una hora en la caja. En ese caso, el agente toma la decisión por sí mismo. Dice ‘sé lo que estás haciendo, entiendo tu transacción y no es fraudulente, así que la apruebo’. Cuando se involucra un humano es al final del día, cuando recibe el informe y ve cuántas transacciones fraudulentas han intentado, si hay algún error sistemático en el sistema o gente tratando de dañar a la compañía”.
“Estos casos corresponden al humano, porque la decisión es mayor y tiene más impacto. De todos modos, no es una novedad, porque hemos estado haciendo ese tipo de solución sobre el fraude en tiempo real desde hace mucho tiempo. La diferencia es cómo afrontas ahora el sistema, diciéndole al agente que lo haga por ti, mientras que antes tenía que estar todo codificado. Ahora con el modelo de machine learning tengo una escala que dice ‘si es más alto del punto cinco, es fraudulento y en ese caso haz tal…’. En el mundo agéntico, el agente se ocupa y sabrá qué hacer”.
Udo Sglavo.
Sobre la forma de comunicarse con los agentes, el vicepresidente de SAS cita demostraciones prácticas a través de reuniones en Teams y una ventana de chat, en las que es posible no percibir que uno de los interlocutores “no es humano”. Pero tiene la ventaja de que “sabe mucho de datos y algoritmos, pero sin emociones. Es como un ayudante inteligente”.
Recuerda que de niño le fascinaba cuando, “en la serie Starship Enterprise” (Star Trek), alguien “entraba en una sala y decía, simplemente, ‘computador’… Y la maquina contestaba. Creo que estamos en ese momento en que el interface son consultas de viva voz y la noción de interface gráfico parece declinar”.
“Pero, he de admitir que, en el contexto empresarial, probablemente se seguirán necesitando interfaces gráficos de usuario, porque en algún momento puedes querer documentar un informe sobre cualquier cosa. Lo que está cambiando es el modo en que creas inteligencia. Cuando voy en el coche uso muchos comandos de voz, algo insólito hace diez años”, continua Sglavo.
“Los servidores MCP son realmente buenos para crear agentes, aunque les falta un poco de inteligencia. Si alguien crea un agente, yo creo otro y queremos que se comuniquen, pero no han sido desarrollados conjuntamente, hay un protocolo llamado ‘A to A’.
El ‘HTTPS’ de los agentes IA
Agente a agente”, aclara. “Permite que mi agente, desarrollado para ventas, y el otro, no sé… desarrollado por SAP, puedan hablar entre sí. Es casi como el protocolo de internet HTTPS. Y así, agentes que no fueron desarrollados para trabajar con otros, sí pueden conversar con ellos”.
¿Y qué opina Sglavo de esa reciente y extravagante escandalera sobre agentes IA que charlan y conspiran a su aire con otros agentes IA en una red social exclusivamente para agentes IA?
“Me parece un embuste. No me lo creo. Es un poco de bombo de la red social. ¿Qué están diciendo, que puede haber un entorno de redes donde los agentes puedan hablar entre ellos? ¿Y qué? En mi opinión es algo inútil, no me preocupa nada de esto. Y el simple hecho de que ya no se oiga nada al respecto parece sugerir que no era tan real. Hay que tener mucho cuidado con este tipo de información”.
Sobre la evolución en la percepción de la inteligencia artificial, Sglavo afirma que “toda tecnología resulta en algún momento muy excitante y la gente quiere hacer prototipos y experimentos. Pero con el tiempo se va haciendo más común y en algún momento desaparece en el paisaje. No es que ya no esté ahí. Es que está escondida para nosotros. Y creo que es lo que estamos viendo con la IA, ya no está en el escenario, se oculta y no nos damos cuenta. El ejemplo del chat es muy bueno: puedes tener una discusión con alguien y resulta que no es una persona…”.
Una IA que no hace poemas
No obstante, admite que la IA se hace notar por la cantidad de energía que consume y su coste, lo cual hace que las empresas se piensen lo que hacen con ella.
“Sí, es un gran momento… Pero nosotros no estamos en el negocio de los grandes modelos de lenguaje, así que no necesitamos grandes centros de datos. Los agentes que construimos son, en cierto modo, más modestos. Al desplegarlos usamos LLMs, pero no los creamos y es el cliente el que decide con cual hacerlo. Nosotros trabajamos con modelos pequeños, que son sólo fundacionales. Saben pocas cosas, pero las saben muy bien. Si estoy creando un agente para la cadena de suministro, su modelo pequeño estará entrenado con la terminología de la cadena de suministro”.
Para dejarlo muy claro: “No puedes pedirle que cree una canción o un poema, responderá que no sabe de qué le estás hablando. Pero si le preguntas por el nivel de inventario, se lo sabrá. Y estos modelos son mucho más modestos en su requerimiento de capacidad de computación. Si quieres crear modelos más grandes, entonces es cuando tienes que preocuparte por la energía y el agua para la refrigeración del centro de datos”.
Sobre el funcionamiento con múltiples agentes, “lo llaman enjambres o redes de agentes”, subraya que no son diseñados de manera que aleatoriamente empiecen a hablar unos con otros. “Hay un concepto de conjunto, un poco determinista, señalando a un agente que es el jefe y los componentes con los que puede hablar. Está muy organizado, los agentes están contextualizados y saben qué otros agentes están ahí, con qué tipo de capacidades”.
Udo Sglavo en otra foto de archivo.
“El contexto se guía por el tipo de industria para el que se construyen los agentes. Queremos estar seguros de las respuestas, aunque no sabemos cómo formulará las preguntas el usuario final. Nuestro universo es limitado. En una discusión con ChatGPT no sabes cómo va a evolucionar, qué ideas surgirán. Con nuestros agentes, orientados a un negocio, está bastante claro qué tipo de cuestiones puedes anticipar. Lo que no sabemos es cómo se preguntará”.
El vicepresidente de SAS reafirma que sus agentes “típicamente viven” en su plataforma, en la que distingue “tres segmentos”.
“Uno es, si quieres crear inteligencia, acudiendo al SaaS [software as a service] para utilizar sus herramientas que permiten hacerlo por ti mismo y ahí habrá agentes, que son componentes de la propia plataforma. Si compras la plataforma están incluidos”.
“Luego tenemos la inteligencia de ventas, que es como decir, ‘vale, hemos estado mucho tiempo en el mercado, conocemos los dominios muy bien, así que vamos a crear algunos agentes con los que la gente pueda comprar’. Esos agentes pueden adquirirse como un añadido a la solución. Por ejemplo, puedes comprar nuestra solución contra el fraude sin los modelos y crearlos por ti mismo. Si deseas adquirir toda nuestra experiencia trabajando con bancos, puedes añadir nuestros modelos, por un precio fijo. Compras el modelo, no una forma de consumo”.
“Y el tercer componente es el gemelo digital”, remata Sglavo. “No creo que hayamos previsto todavía cómo lo vamos a monetizar, porque en este asunto estamos dando los primeros pasos”.
