Hemos hecho muchas bromas sobre las IA y Skynet, pero la cosa deja de tener gracia cuando descubres que el botón de apagado de la Inteligencia Artificial de Google es real.

Se han hecho tantas películas con este argumento que ya nos lo sabemos de memoria: la humanidad crea una IA capaz de ayudarnos con todas nuestras tareas diarias, y poco a poco dejamos más responsabilidades en sus manos virtuales, hasta que el programa decide que el mayor problema de la humanidad son los propios seres humanos.

Aunque parezca una historia de ciencia ficción, es una posibilidad con la que trabajan todos los expertos en IA, y contra la que figuras como Stephen Hawking nos han advertido en varias ocasiones. Pese a todo, sigue pareciendo algo muy remoto e imposible.

El botón de apagado de la Inteligencia Artificial, una necesidad

Pero como DeepMind ha demostrado, las IA ya son más inteligentes que nosotros, y pueden ganarnos en juegos de lógica como el Go. Así que un seguro de vida que nos permita mantener siempre el control no suena mal.

Ese es el último desarrollo del equipo de investigación propiedad de Google, un sistema que permite retomar el control de un sistema independiente en caso de que este deje de admitir órdenes de la persona que lo controla.

terminator

Producto de una asociación con la Universidad de Oxford, este sistema es, a todos los efectos, un “botón rojo”, y así es descrito por sus creadores. El motivo detrás de la creación de este sistema es que es poco probable que las IA puedan comportarse de manera óptima para siempre, tarde o temprano fallarán.

Puede que estos fallos sean inconsecuentes, o pueden que provoquen una sed de sangre insana. Sea como sea, en estos momentos el operador humano puede pulsar el botón y detener al momento la “secuencia dañina de acciones” y llevar la IA a una situación segura.

hal 9000

Aunque lo llaman “botón rojo”, no es tan simple como pulsar un botón que quite la energía del sistema. Hay que tener en cuenta que una IA puede aprender de nuestro comportamiento, y por lo tanto puede aprender a tomar acciones que nos impidan el apagado. Por lo tanto, el sistema implementado también se asegura de que la IA no pueda aprender cómo prevenir estas interrupciones.

¿Qué usos podría tener un sistema semejante? Los creadores ponen algunos ejemplos, como un robot que está fallando y puede provocar “consecuencias irreversibles” (el mejor eufemismo de “puede matar a alguien”).

kuratas robot 1

Siempre da tranquilidad saber que podemos acabar con el apocalípsis pulsando un sólo botón.