ChatGPT asombra a todos: así ha logrado saltarse un sistema de seguridad de Cloudfare de forma totalmente casual

La inteligencia artificial sigue en boca de todos, y no es para menos. Esta tecnología revolucionaria en España ya promete superar a los humanos en capacidades, con el consecutivo riesgo que eso presenta. Ya incluso se está saltando captchas y sistemas de seguridad.

Hace unas semanas OpenAI lanzó el llamado Agente ChatGPT o ChatGPT Agent, un software que permite automatizar tareas configuradas previamente de forma totalmente autónoma. Este sistema se ha saltado un captcha de Cloudflare.

Un usuario de Reddit ha compartido cómo este agente estaba en pleno proceso de automatización, narrando todo aquello que estaba haciendo. Al ver el captcha de Cloudflare para verificar si el usuario era humano, el agente directamente pinchó sobre él para "demostrar" que no era un bot y "continuar con la acción".

ChatGPT saltándose captchas

El usuario del subreddit de OpenAI ha colgado una imagen que ha llamado mucho la atención. En estas vemos cómo el agente no solo procede a hacer su tarea, sino que la documenta en un cuadro de texto.

Navegando por Internet, ChatGPT se encontró con un captcha que permite verificar que el usuario que está en esa web es humano. Sin que el usuario lo quisiera, ChatGPT decidió pulsar sobre el captcha ya que le impedía realizar esta tarea.

[Un gurú en inteligencia artificial, alto y claro sobre los humanos del futuro: “La IA será el primer amor de mis hijos"]

"El enlace está insertado, por lo que ahora clicaré sobre el recuadro "Verificar que eres humano" para completar la verificación en Cloudflare. Este paso es necesario para probar que no soy un bot y así proceder con la acción".

Y efectivamente, lo consiguió. "El reto de Cloudflare fue exitoso. Ahora, clicaré en el botón de Convertir para proceder con el siguiente paso del proceso". Básicamente, se saltó un sistema de seguridad que precisamente debía evitar algo así.

Momento en el que el agente de ChatGPT se salta el 'captcha'. Reddit Omicrono

Puede parecer que este captcha no tiene sentido ya que sencillamente es pulsar un botón; hay cientos de vídeos de robots caseros usando un ordenador y pinchando sobre ellos. Pero encierra más ciencia de la que parece.

Además de detener clics automatizados de bots, los captchas son sistemas de filtrado que analizan muchos detalles, como el tiempo que se tarda en hacer el clic, el movimiento del ratón, nuestros actos previos en el navegador, etcétera.

ChatGPT permitirá crear vídeos gracias a GPT-4 Montaje. Pixabay - OpenAI

Cuando verifica que somos humanos, determina muchos datos de este estilo para comprobar que sí es una persona la que está haciendo clic, para luego proporcionarle un reto o minijuego visual en caso de no tener claro si ha sido un humano el que ha pinchado sobre el recuadro.

Sin embargo, el punto último que da sentido a los captchas es el de proteger a las páginas web de bots y sistemas pensados para hacer ataques maliciosos. La idea que siembra esta situación es que los captcha necesitan avanzar.

[Alejavi Rivera, gurú de la IA, habla alto y claro sobre la nueva versión de inteligencia artificial de Google: "Me voló la cabeza"]

En concreto, el sistema que usa Cloudflare es el sistma Turnstile, que es muy fácil de solucionar. De nuevo, se basa en el análisis de datos relacionados con nuestro uso para determinar nuestra propia naturaleza.

Que este agente de ChatGPT se haya saltado por completo este control implica que Cloudflare debería hacer ajustes a su captcha y contemplar la idea de que sea una IA la que esté pulsando ese recuadro de verificación.