A mediados de marzo, como probablemente recuerdes, un coche Volvo autónomo de Uber en pruebas por Arizona  (EEUU) arrolló mortalmente a una mujer. Desde entonces, se ha abierto una investigación para esclarecer los hechos de por qué ha ocurrido.

El accidente, según las declaraciones del día después de la propia policía, era inevitable dadas las condiciones: el coche iba a una velocidad ligeramente superior a la normal, la carretera estaba oscura (aunque esto ha generado polémica, pues hay quien cree que Uber ha oscurecido las imágenes para poner a la opinión pública de su parte) y la mujer cruzó de repente, impidiendo que pudiera hacerse nada para evitar el fatídico resultado.

Se supone que los coches autónomos eran completamente seguros, pero uno ha matado a una mujer

El problema es que el coche ni siquiera trató de evitar el accidente; y si hubiera frenado, al menos, la mujer probablemente solo hubiera sufrido daños físicos, pero estaría viva. Por aquél entonces no se sabía que había ocurrido, ¿quizás el coche no se habría percatado de este obstáculo? ¿lo vio y decidió continuar? Cualquiera de las opciones era igual de aterradora.

Ahora, se ha publicado un informe donde se ha dado a conocer más detalles acerca de este infortunado accidente: el coche vio a la mujer cruzando la carretera, a pesar de la total oscuridad, pero decidió que no necesitaba parar. Desde el lado técnico, y de forma extraoficial, estaba bastante claro que el coche muy probablemente vio a la mujer, pues ve de otra forma distinta a nosotros y poco importa cuánta cantidad de luz hay, pero no sabíamos el motivo por el que no paró.

El coche vio a la mujer, ¿por qué no paró?

Y este motivo es, en realidad, porque no lo consideró necesario. El coche autónomo, como cualquier sistema inteligente, debe discernir entre lo que realmente es importante y lo que no. Imagina que la alarma de tu casa salta porque aparece en escena un ratón, o incluso una hoja de árbol moviéndose por el viento. El sistema autónomo debe saber cuándo actuar, cuándo se trata de un ratón o cuándo es una amenaza real; con los coches autónomos ocurre igual.

accidente coche autonomo uber

Los sistemas autónomos de este tipo de coches tienen un filtro que puede ser más o menos restrictivo, y hay que encontrar un punto medio lo suficientemente seguro pero que al mismo tiempo sea eficiente. No puedes frenar y detener el coche por cada obstáculo que se detecta, pues constantemente aparecen en pantalla lo que se llaman falsos positivos.

La mujer, por lo tanto, fue tratada como un tal: a pesar de que el coche la vio, la identificó como un falso positivo; esto es, un obstáculo que ha hecho saltar las alarmas pero que realmente no supone una amenaza. Esto indica que el filtro está mal programado, ya sin tener en cuenta la responsabilidad del conductor de seguridad, la persona que va a bordo de los mandos para verificar que todo es correcto y actuar en caso de que sea necesario.