OpenAI ha lanzado Dots y Meta ha presentado Muse Charm, ambos con avatares diseñados para ser acompañantes adorables. Al mismo tiempo, Instinct se ha vuelto viral, un agente sencillo de usar a través de WhatsApp para automatizar compras y toda clase de tareas.

Septiembre ha sido el pistoletazo de salida para los agentes de IA a nivel usuario. Esta tecnología ha pasado de ser un recurso de los más entendidos y enganchados a la tecnología a estar disponible para la gran mayoría de usuarios, lo que viene de la mano de cierto caos y preocupación por los problemas de privacidad que implican.

“Hasta que exista un estándar de este tipo, reinará el caos”, ha dicho Bret Taylor, presidente de la junta directiva de OpenAI y cocreador de Sierra. Con estas palabras se refiere al conjunto de estándares tecnológicos que están promoviendo empresas como Walmart, Meta y Sierra para facilitar que los negocios integren bots de IA.

Fuera de las empresas, ¿saben los usuarios la llave maestra que le están dando a los agentes a toda su información? Por si acaso, el pasado 2 de octubre, Apple anunció que blindaba el acceso a ciertas partes del disco duro de sus ordenadores y Amazon bloqueó Muse de Meta en su tienda online.

Lo sabrán todo de ti

La idea siempre ha estado sobre la mesa: la IA te conocerá tanto que se adelantará a lo que necesitas, comprenderá mejor tus indicaciones, te asistirá de forma más personal. Es parte del contrato; recabar el mayor número de datos está en su ADN.

En principio, puede resultar una propuesta atractiva, un asistente personal que nos conozca mejor que nosotros mismos, pero la otra cara de la moneda está en la pérdida de privacidad, como se ha visto en las últimas semanas.

A medida que Muse gana popularidad han surgido informes sobre su funcionamiento que reflejan ese escrutinio. Por ejemplo, varios investigadores han indicado que el agente está diseñado para crear perfiles de amigos y familiares.

Seguro que más de un lector ha detectado que al reenviar un video o artículo por WhatsApp, la aplicación de mensajería sugiere los contactos con los que más se habla para agilizar este paso. Este nivel de conocimiento personal va a dar un salto sustancial con los agentes.

Una de las instrucciones que mueven a Muse es la de “crear una página para cada persona en la vida del usuario”. Este proceso se ejecuta cada hora y supone recopilar datos sobre familiares, parejas, amigos, compañeros de trabajo, cualquier persona con la que se relacione el usuario.

Meta mantiene una postura de transparencia diferente a la de OpenAI y Anthropic, más cercana a las empresas desarrolladoras de China, que publican de forma abierta sus modelos para que la comunidad internacional pueda descargarlos, analizarlos y personalizarlos.

De esta forma, este grupo de investigadores ha extraído los archivos internos de Muse, volcando las instrucciones de funcionamiento del agente para estudiar cómo se ha construido y cómo se comporta ante las peticiones de los usuarios.

Con esa información, Muse hace uso de su “memoria”, su historial de perfiles para ofrecer sugerencias y consejos con los que el usuario puede mejorar su experiencia, como agendar reuniones con esos perfiles al leer un mensaje o correo personal.

Según fuentes del The New York Times, Zuckerberg habría adelantado el lanzamiento de Muse, a pesar de los riesgos de seguridad, para frenar el avance de Instinct, una startup de 14 personas cuyo agente estaba ganando popularidad y ofrecía un producto similar al que estaban desarrollando en Meta.

Las instrucciones revelan que entre los datos que se recopilan en estos perfiles satelitales al usuario principal están: Dónde viven, qué hacen, los temas recurrentes, la mudanza, proyectos y finanzas en común. El historial de una persona podría incluir detalles como “el viaje de marzo, la discusión que se resolvió, el hito de la semana pasada”.

Por supuesto, toda esta información supone que Muse te ayude a recordar los cumpleaños de esas personas y sugerir o comprar directamente un regalo. Esto a nivel muy personal, pero los agentes también se ofrecen como asistentes de trabajo.

Las empresas primero

En este sentido, OpenAI ha anunciado que está probando Dots especializados dirigidos a clientes empresariales para tareas de marketing por correo electrónico, contabilidad y análisis legal.

Antes que los usuarios, las grandes empresas ya se han preocupado por la implicación de estos agentes en sus datos confidenciales. Amazon es una de las empresas que han bloqueado a los agentes de Meta, alegando preocupaciones sobre la extracción de datos de sitios web.

También bloqueó el agente de IA de Perplexity y demandó a la startup en noviembre, alegando que la compañía tomó medidas para “ocultar” sus agentes de IA para que pudieran seguir extrayendo datos del sitio web de Amazon sin autorización. Perplexity calificó la demanda de “táctica intimidatoria”.

Entre las medidas de seguridad que está implementando Apple, la empresa estadounidense exige que el agente que quiera entrar a los recovecos del sistema operativo de un Mac, tendrá que justificarlo haciendo saltar un aviso para que el usuario sea consciente.

Para facilitar la adopción de esta nueva automatización en el tejido empresarial a nivel internacional, Meta, Walmart, Instinct, Shopify, Sierra, Stripe y otras empresas colaboran en el Protocolo de Agente Personal para estandarizar y asegurar la forma en que los bots de IA interactúan con las empresas.