Hombre observa a un robot WaveBot en el CES 2017 de Las Vegas

Hombre observa a un robot WaveBot en el CES 2017 de Las Vegas David Becker Getty

Tecnología Inteligencia artificial

La UE quiere un 'botón de la muerte' en los robots por si se descontrolan

La Eurocámara ha dado el primer paso en la elaboración de un código ético para regular las relaciones con androides o inteligencia artificial.

Bruselas

Noticias relacionadas

¿Cómo evitar que las personas vulnerables desarrollen vínculos emocionales con los robots programados para cuidarles? ¿Quién debe pagar los destrozos causados por un robot autónomo que se vuelve loco? ¿Qué hacer para impedir una rebelión de los robots contra los humanos? Estas cuestiones, hasta ahora relegadas al ámbito de la ciencia ficción, en series como Westworld, o a los expertos en robótica, empiezan a preocupar a los legisladores de la UE. El Parlamento Europeo ha dado este jueves el primer paso en la elaboración de un código ético para regular las relaciones entre humanos y robots e inteligencia artificial.

Los robots más complejos, es decir, aquellos que puedan tomar decisiones autónomas inteligentes o interactuar de forma independiente, deberían ser considerados personas electrónicas, según proponen los parlamentarios. Además, la Eurocámara pide a los ingenieros que incluyan en todos los robots un 'botón de la muerte' que permita desactivarlos rápidamente si se descontrolan y garantizar la seguridad física de las personas. Y recomienda limitar el uso de robots asistenciales para no deshumanizar el trato a enfermos o dependientes.

"Necesitamos un marco jurídico sólido en Europa para garantizar que los robots estén y sigan estando en el futuro al servicio de los humanos", ha dicho la ponente de este código de conducta, la eurodiputada luxemburguesa, Mady Delvaux. Es el primer intento a nivel mundial de reglamentar la interacción entre humanos y robots y ha sido aprobado en la comisión de Asuntos Jurídicos de la Eurocámara por 17 votos a favor, 2 en contra y 2 abstenciones. El pleno lo ratificará en febrero.

Pero todavía queda camino para que las nuevas reglas sean una realidad. El Parlamento no puede legislar de manera autónoma sobre esta cuestión, sino que necesita una propuesta de la Comisión Europea y la ha solicitado. Pero el Ejecutivo comunitario no parece tener prisa. "Es prematuro anunciar nuevas iniciativas legislativas en este área. Examinaremos cuidadosamente las propuestas del Parlamento y sopesaremos si son necesarias nuevas normas", ha explicado a EL ESPAÑOL la portavoz de la Comisión, Nathalie Vandystadt, que subraya que ya existen reglas en la UE sobre la responsabilidad civil de los robots.

¿Riesgos para la supervivencia de la especie?

Desde los drones a los equipos médicos, los robots forman ya parte de la vida cotidiana de los europeos y su uso aumenta a un ritmo exponencial. La regulación es urgente, alega la Eurocámara, porque la humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas van a desencadenar "una nueva revolución industrial, que va a afectar probablemente a todos los estratos de la sociedad". Estados Unidos, Japón, China o Corea del Sur se están planteando también legislar sobre estas cuestiones.

Si no se actúa a tiempo, el riesgo es que en unos decenios la inteligencia artificial "supere la capacidad intelectual humana de un modo tal que, de no estar preparados para ello, podría plantear un desafío a la capacidad de la humanidad de controlar su propia creación y, por ende, quizás también a la capacidad de ser dueña de su propio destino y garantizar la supervivencia de la especie", avisa el Parlamento Europeo en el pasaje más alarmante de su informe.

Los eurodiputados aluden en sus propuestas a las leyes del maestro de la ciencia ficción, Isaac Asimov

Los eurodiputados aluden en sus propuestas a las leyes del maestro de la ciencia ficción, Isaac Asimov, como principio rector que deben tener en cuenta los ingenieros robóticos: 1) Un robot no debe hacer daño a un ser humano ni, por inacción, dejar que éste sufra un daño; 2) Un robot debe obedecer las órdenes que recibe de un ser humano, excepto cuando tales órdenes entran en conflicto con la primera ley; 3) Un robot debe proteger su propia existencia siempre que eso no entre en conflicto ni con la primera ni con la segunda ley.

Por eso, el código de la Eurocámara dice que el diseñador "debe preservar el bienestar humano, al tiempo que respeta los derechos humanos, y no podrá accionar un robot sin garantizar la seguridad, la eficacia y la reversibilidad del funcionamiento del sistema". También reclama que los androides sean identificables como tales al relacionarse con los humanos, que su comportamiento resulte previsible y que tengan ese 'botón de la muerte' para desactivarlos en caso de emergencia.

¿Quién paga los daños?

Una de las principales preocupaciones del Parlamento es quién debe hacerse cargo de los daños provocados por un robot descontrolado, sobre todo cuando los avances tecnológicos hacen que algunos androides estén dotados de capacidades de aprendizaje y adaptación que entrañan un cierto grado de imprevisibilidad en su comportamiento. En este contexto, resulta más difícil imputar todos los daños a otros actores como el fabricante o el propietario.

En una primera fase, el Parlamento reclama establecer un régimen de seguro obligatorio, como ya ocurre con los coches, para los fabricantes o propietarios. Este sistema se completaría con un fondo de compensación para cubrir los casos de androides sin seguro.

Más a largo plazo, los diputados abogan por crear una personalidad jurídica específica para los robots, de modo que al menos los robots autónomos más complejos puedan ser considerados personas electrónicas con derechos y obligaciones específicos, incluida la obligación de reparar los daños que puedan causar. Se trata de un estatus similar a la personalidad jurídica que se reconoce a las empresas y que les permite demandar o ser demandadas en busca de compensación.

De momento, lo más urgente para la Eurocámara es regular el funcionamiento de los vehículos autónomos como los que están desarrollando Uber, Google o Tesla.

¿Quién paga las pensiones?

El Parlamento Europeo se inquieta también por el impacto de los robots en el mercado laboral. El desarrollo de la robótica y la inteligencia artificial puede conllevar que los robots asuman gran parte del trabajo que ahora hacen los seres humanos. Y esta cuestión genera interrogantes sobre el futuro del empleo y la viabilidad de los sistemas de seguridad social y podría generar una mayor desigualdad en la distribución de la riqueza y el poder.

La solución que plantea la Eurocámara tiene dos vertientes. Por un lado, obligar a las empresas a informar en qué porcentaje contribuye la robótica y la inteligencia artificial a sus resultados económicos, de modo que los robots paguen también impuestos y cotizaciones a la seguridad social. Además, los eurodiputados piden a todos los Gobiernos de la UE que consideren seriamente la posibilidad de introducir una renta básica universal.

El Parlamento quiere limitar el uso de robots para atender a dependientes. "Sustituir a las personas por robots podría deshumanizar la prestación de cuidados", alega el informe. "Siempre tenemos que recordar a la gente que los robots no son humanos ni nunca lo serán", insiste Mady Delvaux. "Se puede depender de ellos para tareas físicas, pero nunca debe pensarse que un robot te quiere o siente tu tristeza", señala.