Cómo tomarán decisiones morales las máquinas? ¿Cuáles son los principios éticos que deben guiar los comportamientos de las máquinas inteligentes? Este es el gran desafío, cuantificar las expectativas sociales sobre estos principios, el que ha auspiciado el interesante ensayo Moral Machine Experiment publicado hace unos días por la revista Nature.

Después de este experimento ya no se podrá estudiar ética sin recurrir al big data. El trabajo, del que se puede consultar una amplia información en abierto, recoge 40 millones de decisiones en 10 idiomas realizadas por personas de 233 países y territorios sobre cómo deberían actuar las máquinas, y en especial el coche autónomo, en cada dilema moral.

Se trata de una plataforma experimental en línea diseñada para explorar los dilemas morales a los que se enfrentan los vehículos autónomos. Se trata de 13 escenarios en los que se da a elegir al participante entre dos decisiones ante un suceso.

Se trata de un coche autónomo al que, por ejemplo, se le han estropeado los frenos, ¿debe continuar por el mismo carril y atropellar a unos ancianos que cruzan la calle o debe cambiar de carril con lo que atropellaría a unos niños? En los dilemas también se debe elegir entre hombres y mujeres; entre personas de diferentes clases social; entre mascotas y personas; entre un mayor o un menor número de personas; e incluso entre unos peatones que cruzan bien la calle y otros que lo hacen con el semáforo en rojo.

Son situaciones hipotéticas en las que alguien tiene que morir, por lo que en el experimento se ‘obliga’ al participante a responder una a una estas situaciones, con lo que quedan expuestas sus normas morales y culturales.

Para elaborar este experimento, en primer lugar los investigadores establecieron unas preferencias morales globales. Después documentaron las variaciones de estas preferencias, en función de la demografía de los participantes.

Así, se ha analizado la variación ética intercultural y se han establecido tres grupos principales de países. Para demostrar que estas diferencias se correlacionan con las instituciones modernas y los rasgos culturales profundos, se discuten cómo las premisas pueden contribuir al desarrollo de principios globales y socialmente aceptables para la ética de las máquinas.