Un robot androide en la última conferencia de robótica de Pekín

Un robot androide en la última conferencia de robótica de Pekín Reuters

Investigación Inteligencia artificial

"En el futuro habrá una relación simbiótica entre humanos y robots"

La Eurocámara aprobará el jueves una propuesta de código ético para regular el estatus legal de los robots.

Bruselas

Noticias relacionadas

"En la ciencia ficción, los robots son siempre o muy malos, como Hal-900 en Una odisea en el espacio, o muy buenos, como R2D2 y C3PO en La guerra de las galaxias. Pero en la realidad no ocurre lo mismo. Los robots inteligentes no serán ni buenos ni malos, sino útiles", explica Tony Belpaeme, investigador especializado en Robótica y Sistemas Cognitivos de la Universidad de Plymouth (Reino Unido), donde dirige a un equipo de 30 personas que trabajan en el ámbito de la inteligencia artificial.

Belpaeme ha sido uno de los protagonistas del seminario sobre robótica organizado por la Eurocámara en Bruselas días antes de que en el pleno del próximo jueves se vote un código ético que pretende regular las relaciones entre humanos y robots. Los parlamentarios proponen que los robots capaces de tomar decisiones autónomas sean considerados personas electrónicas. Y piden a los ingenieros que incluyan en todos un 'botón de la muerte' que permita desactivarlos rápidamente si se descontrolan y garantizar la seguridad de las personas.

Belpaeme, que tiene una visión optimista sobre la "revolución" de la inteligencia artificial, ve imprescindible que la UE elabore una legislación común sobre robots porque la inseguridad jurídica frena las investigaciones, según señala en una entrevista a EL ESPAÑOL. Pero cree que algunas de las recomendaciones de la Eurocámara están fuera de lugar o desfasadas, como basarse en las tres leyes de la robótica que propuso en 1942 el escritor de ciencia ficción Isaac Asimov.

¿Por qué es importante tener un marco legal en la UE para los robots?

Ya existen algunas normas que cubren a los robots, sobre cuestiones como tecnología o responsabilidad. Pero en un futuro no muy distante vamos a ver avances que no están cubiertos por la actual legislación. Uno de ellos son los coches autónomos. En la actualidad, se necesita a una persona mayor de 18 años y con permiso válido para sacar un coche a la carretera. Un coche sin conductor no puede circular de forma legal en Europa. Eso debe cambiar. También ha otros problemas. Si usamos algoritmos que toman decisiones en nuestro lugar y esos algoritmos toman decisiones que son cuestionables o con las que no estamos de acuerdo, ¿qué hacemos? ¿podemos discrepar de un algoritmo? Necesitamos una ley que nos proteja de estas cosas. 

Un coche sin conductor no puede circular ahora de forma legal en Europa. Eso debe cambiar

¿Cuáles son los principales riesgos que plantea la interacción entre personas y robots autónomos?

Creo que los robots van a ser herramientas a nuestro servicio. Herramientas inteligentes que podrán tomar decisiones en nuestro nombre, de forma que no tengamos que tomarlas nosotros, y ejecutarlas. Un buen ejemplo de esto son de nuevo los coches autónomos. En este sector espero un futuro maravilloso. La mayoría de los accidentes de tráfico se producen por errores humanos. Si un ordenador puede reducir eso, digamos un 75%, sería espectacular. Habría muchos menos muertos y heridos en las carreteras.

Pero también tiene otros muchos impactos. Por ejemplo, un coche sin conductor podría evitar atascos y regular la velocidad para evitar que se produzcan embotellamientos, de forma que el tráfico fluya. Podría tomar la ruta más eficiente desde el punto de vista energético. Quizás acabemos dejando de tener un coche propio y los coches se conviertan en un bien común, que yo pida un coche con mi móvil y llegue en unos minutos como si fuera un taxi pero más barato. Así desaparecerían los problemas de parking. Nos esperan cambios enormes.

Los robots van a convertirse en parte de nuestra vida diaria. Y saltar del entorno digital al entorno físico y social. Esta es la gran revolución

Los robots se convertirán en parte de nuestra vida diaria. Ya ahora, la inteligencia artificial está es todas partes, por ejemplo en el móvil para buscar direcciones o reservar vuelos. Pero se encuentra sobre todo en el entorno digital y yo espero que salte al entorno físico y social. Esta es la gran revolución.

¿Y no plantea esta revolución riesgos o problemas éticos?

Sí, habrá problemas. Deberemos encontrar un equilibrio. Como en cualquier otra tecnología se cometerán errores. Lo bueno es que ya sabemos que va a haber una revolución tecnológica y creo que es la primera vez que podemos empezar a pensar sobre los problemas antes de que ocurran. No lo hicimos con los combustibles fósiles o la energía nuclear. Los asumimos sin pensar en las consecuencias negativas. Esta es la primera vez en la que la tecnología todavía no está madura pero ya pensamos en sus consecuencias negativas. Y eso es impresionante. ¡Qué gran momento para estar vivos!

La Eurocámara quiere considerar a los robots más complejos como personas electrónicas, ¿tiene sentido?

No tiene ningún sentido. Lo grave es que quieren hacer que estas personas electrónicas, los robots, sean las responsables si se produce algún daño. Que si hay algún perjuicio, se establezca que es el robot el que lo ha causado, que es el robot el que ha provocado las lesiones a alguien y por tanto es el que tiene que pagar. ¿Pero cómo va a pagar un robot? Es cierto que podría hacerse con algún tipo de seguro o fondo de cobertura.

Si un robot causa un daño, el responsable no es él sino el fabricante, el propietario o el usuario

Pero el problema de esto es que se carga la responsabilidad sobre el robot y no sobre el usuario, el propietario o el fabricante. Y yo creo que son estas personas las que deberían ser las responsables. Un robot es sólo un instrumento, una máquina, una máquina muy compleja, pero que en el fondo no es diferente de un lavavajillas o de un coche. Si podemos construir máquinas inteligentes, entonces podemos hacer que sean lo suficientemente inteligentes para no causar daño. Así que es el fabricante, el propietario o el usuario el que es responsable.

¿Pero cómo determinar esta responsabilidad en robots cada vez más autónomos y complejos?

Un eurodiputado decía que la solución podría ser que el programa del robot sea transparente y esté disponible para todo el mundo, de forma que pueda verse si un robot va a hacer algo mal. O que si ha causado un daño, podamos revisar su programa para encontrar el origen. Pero ya estamos mucho más allá de esta fase. Porque no es el programa, sino los datos, lo que es importante. Y esos datos son tan complejos que ya no tenemos ni idea de lo que pasa dentro del robot.

Tenemos estos algoritmos denominados deep learning y nadie tiene ni idea de lo que ocurre dentro. Funcionan bien y toman decisiones muy buenas: esta semana, por ejemplo, ha habido un programa de inteligencia artificial que jugaba mejor al póker que el campeón del mundo. ¿Cómo ocurre esto? Ya no lo sabemos, es demasiado complejo.

Si algo va mal, será muy difícil diagnosticar dónde ocurrió el fallo. No lo sabemos. ¿Es esto un problema enorme? No lo sé. Porque no sé tampoco lo que ocurre en tu cerebro, es demasiado complejo. Pero confío en lo que haces, confío en que tomarás la decisiones adecuadas. Puede que tengamos algoritmos muy complicados tomando decisiones por nosotros, pero eso no es necesariamente un problema.

¿Entonces usted no ve un riesgo de que un robot se descontrole, de una rebelión de robots contra humanos?

Eso es sólo ciencia ficción, aunque es verdad que hay algunos científicos que lo piensan. Nick Bostrom o Ray Kurzweil sostienen que los robots van a hacerse con el poder, que los robots son otra especie en el planeta, que competirán con nosotros por los recursos y que, como ocurre cuando dos especies compiten, una de las dos perderá. Es un relato fatalista en el que no creo. Yo pienso que avanzaremos hacia una especie de relación simbiótica, en la que nos serviremos unos a otros. ¿Suena extraño, no? Que nosotros sirvamos a los robots y los robots nos sirvan. Pero creo que vamos a ir hacia eso.

Algunos científicos piensan que puede haber una rebelión de robots contra humanos. Es un relato fatalista en el que yo no creo. Yo pienso que avanzaremos hacia una especie de relación simbiótica

La Eurocámara recomienda limitar el uso de robots asistenciales para no deshumanizar el trato a enfermos y mayores, ¿comparte esta preocupación?

Sí. Los robots pueden ayudar mucho a las personas mayores, por ejemplo a la hora de bañarse, cuando puede resultar incómodo que te tenga que ayudar otra persona. Pero también puede ocurrir que como el robot se convierte en un compañero para estas personas, sus familiares ya no les visiten. Así se reduce la atención y el contacto humano. Creo que eso sería increíblemente peligroso. La soledad ya es un problema enorme para las personas mayores y sería horrible si eso empeorara por la introducción de tecnología.