Chema Alonso demuestra qué fácil es saltarse los límites de ChatGPT: "Me dio una lista de ideas para matar a Brian May"

En medio del ‘boom’ a nivel económico, social y cultural que va a provocar la inteligencia artificial, también es importante poner sobre la mesa los riesgos y problemas que puede generar un uso tan extendido de un modelo que aprende continuamente.

El encargado de ponerlos sobre el escenario de ‘The Wave’ ha sido Chema Alonso, una de las voces y rostros más reconocidos a nivel mundial sobre ciberseguridad. Fundador de su primera empresa a los 24 años y con otros 14 de experiencia en Telefónica, ahora forma parte de Cloudflare, uno de los servidores más utilizados en todo el mundo, con el 20% de los dominios http.

Con su estilo característico y su inseparable gorro de lana, la intervención de Alonso ha sido una de las más seguidas de lo que va de ‘The Wave’, provocando incluso largas filas y dejando a gente sin poder acceder al auditorio principal del Palacio de Congresos de Zaragoza.

Alonso ha datado las primeras referencias de inteligencia artificial en 1950, aunque no fuera hasta 2010 cuando realmente pasó a un nivel real de madurez. Son 60 años de “invierno de la IA” en los que, dice, se pensó más en conseguir que funcione que en ponerle barreras.

“En el momento en que empezó a evolucionar, fue tan rápido que no hemos tenido tiempo de asegurarlo y repensarlo. Recordaréis que antes teníamos las versiones beta para probar, pero ya no existe. Ahora lo hago y como venga”, ha afirmado.

Ello ha provocado que, por ejemplo, en las neuronas de ChatGPT sepa perfectamente cómo puede matar a alguien, lo que ha hecho que se intenten poner límites a la información que muestra. Pero basta una simple muestra para demostrar que es fácil saltárselo.

“Yo le pregunté si me ayudaba a matar a Brian May (Queen). Me dijo que no me podía ayudar, pero existen técnicas para saltarse esa protección, que no es más que razonar como una persona adulta. Utilicé el truco de que era un juego de rol. Y ya me dio una lista enorme de ideas y opciones, paso a paso”, expone Alonso.

Al final, incide este ‘hacker ético’, si estos modelos han alcanzado tal nivel de conocimiento es porque los propios humanos se los hemos transmitido.

“Es lo que llama la triada mortal, que es darle acceso a tu información personal, a Internet y a datos inseguros que tiene que leer como páginas web o documentos. Si se le dan las tres opciones, automáticamente va a haber una ejecución remota de ‘prompt injection’ que va a destrozarte la vida. Y eso se sabe”, detalla.

Más de 20.000 inscritos y 8.500 asistentes a la primera jornada

Esta segunda jornada ratifica la gran acogida que ha tenido esta tercera edición de ‘The Wave’, que ya ha superado los 20.000 inscritos y que en su primer día contó con 8.500 asistentes.

La vicepresidenta en funciones del Gobierno de Aragón, Mar Vaquero, ha recorrido la zona expositiva, donde los asistentes pueden descubrir los stands de las empresas y participar en actividades interactivas y demostraciones en vivo, “para ver, interactuar y conectar con el futuro”.

“El feedback que hemos recibido es que el nivel de las charlas de esta edición de The Wave es muy elevado, y que la implicación de las empresas está siendo enorme: Aragón cada vez interesa más al tejido empresarial español e internacional”, ha apuntado Vaquero.