Un robot aspiradora que atropella a un bebé, un brazo mecánico en una fábrica que rompe una costilla al operario o un robot cirujano hackeado en mitad de una operación. Son solo algunos de los supuestos que se pueden dar en un mundo inundado de robots.

España además con una especial incidencia pues es uno de los países del mundo con más robots por trabajado: 160 robots cada 10.000 trabajadores. Alias Robotics, empresa radicada en el País Vasco, ha creado una 'vacuna' tecnológica para terminar con los problemas de seguridad que tienen algunos modelos de robots.

El RIS (Sistema Inmunológico de Robots, por sus siglas en inglés) es la última creación de Alias Robotics y emplea la inteligencia artificial para ir aprendiendo del robot y adaptando la seguridad a medida que pasa el tiempo. "Lo más parecido al sistema inmunológico humano", según sus creadores.

Lo han presentado además junto con un informe que pone al descubierto algunas carencias en materia de seguridad de uno de los robots que están luchando contra el COVID-19. Se trata de un modelo de la marca danesa Mobile Industrial Robots (MiR) que aplica radiación ultravioleta para desinfectar estancias completas. Victor Mayoral, CTO y una de las almas de Alias Robotics, ha hablado con OMICRONO para contarnos sobre la seguridad de los robots que campan a sus anchas hoy en día en fábricas, almacenes y hogares de todo el mundo.

¿Cómo nos podemos asegurar, antes del lanzamiento de un robot, que va a ser seguro durante toda su vida útil?

La seguridad no es un producto. Este es uno de los fallos de comunicación que existen en la ciberseguridad, no es algo que se compre, se aplique y ya eres seguro. La seguridad es un proceso que debe revisarse continuamente una y otra vez, es un proceso sin fin.

Nuestro desarrollo particular es el Sistema Inmunológico de Robots, fruto del apoyo de diferentes fondos públicos y privados, y es básicamente un software que se instala en el robot y lo que hace es imitar al sistema inmune de los humanos. De forma que crea capas de protección para los robots, aprende de cuáles son los comportamientos habituales, las interacciones habituales escuchando a sus sensores, la interacción con el entorno y de la red. Determina entonces de una forma adaptativa y cambiando con el tiempo, como nuestro propio sistema inmune, cuáles son parámetros apropiados para establecer una seguridad más robusta.

Esto es fruto de investigación financiada a nivel nacional y que seguimos desarrollando a día de hoy para más de 10 robots. Muchos de los cuales hemos demostrado que son inseguros y en particular con un robot muy popular que está luchando contra el COVID-19.

La seguridad también pasa por la conectividad de estos robots a la red, ¿vuestra solución está conectada a internet o a algún tipo de nube?

A día de hoy, cada sistema inmunológico para robots es totalmente independiente. Tienen eso sí una base común que creamos en Alias Robotics y que se despliega generalmente de forma física en el cliente.

Esa base está en constante evolución gracias a la renovación y a la investigación de nuevas vulnerabilidades que van surgiendo en el mundo de los robots. Pero actualmente no, nuestro software no tienen conectividad ni conexión a internet por seguridad. Esta es una realidad a día de hoy y es una respuesta necesaria para el mundo de la robótica, pero con el incremento de la conectividad de los sistemas robóticos sí prevemos que a medio plazo y con las medidas de seguridad apropiadas podamos extender nuestro RIS y la reatroalimentación entre diferentes sistemas mediante conexión a internet.

Nuestro software no tienen conectividad ni conexión a internet por seguridad.

Estamos actualmente considerando esta línea de forma activa y valorando diferentes compañías con las que trabajar, entre ellas Telefónica. Es algo que nos tomamos muy en serio, es un factor muy crítico que estamos llevando a cabo con máximo cuidado. De existir en un futuro será con la colaboración de las autoridades y con socios de referencia.

En cuanto a las actualizaciones, actualmente las realizamos igualmente de forma segura y física. Dependiendo del robot, se hace directamente a través del usuario final, es la metodología más usual. La tónica habitual en la industria es esta misma.

¿Qué modelos de robots tienen soporte del sistema inmunológico que habéis creado?

Actualmente soportamos varios de los modelos de marcas importantes en el sector. Desde robots para levantar cargas a algunos que actúan como vehículos, un total que sobrepasan los 10 modelos base. Pero aquí nos encontramos con una de las problemáticas de la industria de la robótica.

Las compañías que los desarrollan y fabrican, venden robots a terceros que estos a su vez los vuelven a vender. Con la misma tecnología se crean otros robots nuevos y la cadena sigue hasta que llega a los usuarios sin criterio alguno de quién se encarga de la actualización, del mantenimiento, de las entidades que tienen que responder legalmente, de la privacidad que se rige en este tipo de dispositivos...

En nuestras casas ya están llenos de robots. Aspiradores, robots de cocina... ¿Cómo nos puede afectar la falta de seguridad en los robots domésticos?

Esta es una de las puntas de lanza que en Alias Robotics estamos investigando actualmente, de hecho, es uno de los puntos más importantes del roadmap de los próximos meses. Estamos estudiando robots de nuestro ámbito cotidiano como aspiradoras robóticas y robots de cocina. Sin ir más lejos, algunas de las principales marcas.

Las consecuencias de la inseguridad son muchas más de las que creemos. en primer lugar desde una perspectiva de privacidad, estos robots aspiradoras están generando mapas de nuestros hogares, también mapas de nuestra interacción en casa porque son capaces de detectar presencia de personas y obstáculos. Esta información en muchos casos debe ser auditada y no está ocurriendo así.

Es sencillo determinar exactamente cuando esa persona, utilizando los sensores, ha depositado el material y en ese preciso momento activar las cuchillas.

Nuestro compromiso a nivel nacional y al resto del mundo, es encargarnos de que todos estos malos usos de la tecnología se enmienden, queden al descubierto y nos ayuden a convertirnos a lo que aspiramos; ser la primera empresa de seguridad robótica del mundo. Actualmente somos la punta de lanza nacional, europea y la primera referencia a nivel de seguridad robótica a nivel mundial.

Las aspiradoras pueden atropellar mascotas, bebés, causar daños en nuestra privacidad que en algunos entornos es muy sensible. en cuanto a los robots de cocina, que se están dejando de lado a nivel de seguridad, son extremadamente preocupantes.

Tienen infinidad de sensores, hasta el punto de que muchos de ellos son capaces de detectar cuándo hemos metido la mano o cuando has depositado un objeto porque tienen sensores de peso y presión. Para una persona con conocimientos, es relativamente sencillo determinar exactamente cuando esa persona, utilizando los sensores, ha depositado el material y en ese preciso momento activar las cuchillas.

No pretendo asustar con esto, pero sí hacer un llamamiento a que esta es una realidad en la que estamos investigando activamente. En unos meses tendremos resultados al respecto.

¿Qué otros casos de robots inseguros habéis detectado?

Mismamente el robot de MiR que emite radiación ultravioleta puede provocar quemaduras y cáncer debido a que cibercriminales pueden tomar el control del robot y manejarlo a criterio propio. Desde atropellar a personal sanitario, causar estragos en una zona hospitalaria concurrida o directamente irse a la sala de espera y radiar a los pacientes que están esperando. Es uno de los muchos que ejemplos que pueden ocurrir en entornos hospitalarios.

En cuanto al sector industrial, estos robots móviles pueden causar daños muy considerables. No solo en al entorno o a objetos sino también a personas. Estos robots cuentan con capacidad de transportar cargas desde unos 100 kilos hasta varios miles de kilogramos. Hace que cuanto menos uno se deba preocupar de que estos robots puedan causar daños.

A principios de año descubrimos más de 80 vulnerabilidades que afectaban a brazos robóticos de operadores industriales que literalmente han sido reportados de ocasionar daños humanos, como la rotura de una costilla.

Otro de los ejemplos que se pueden aplicar es el de los robots cirujano. Este tipo de dispositivo está teleoperado por un cirujano que está controlando al robot a través de internet. Que estén conectados implica que tengan ciertos riesgos. El fabricante de los 4 robots cirujanos que existen en el País vasco mantiene incluso cierto control del robot una vez instalado y podría perfectamente operar el robot a miles de kilómetros de distancia.