No desconfiamos de las decisiones de los coches autónomos porque sean incorrectas, sólo porque las percibimos como poco 'humanas'

Los coches autónomos llevan han acumulado millones de viajes en los últimos años, la mayoría de ellos transcurridos sin incidentes. Pero los estudios demuestran que los usuarios siguen siendo reacios a comprarlos, y en 2017 la mayoría de los estadounidenses (el 56%) se seguían negando a viajar en uno.

El principal motivo de esto es que son reacios a ceder el control de una potencial situación de vida o muerte a una máquina, aunque no tengan problema en ceder dicho control a otro humano (como muestra el uso de taxis, de servicios como Uber o Blablacar, etc).

April D.Young y Andrew E.Monroe, investigadores de la Appalachian State University, afirman que el motivo de dicho doble rasero estriba en el modo en que percibimos que humanos y máquinas pueden valorar disyuntivas morales complejas.

Así, mientras que percibimos a otros humanos como poseedores de mentes altamente complejas capaces de planificar y experimentar emociones profundas, lo que nos viene a la cabeza cuando se habla de máquinas son mentes rudimentarias capaces de tomar decisiones, sí... pero de forma consecuencialista y "desprovista de valores y sentimientos".

En Xataka

El papel de la intuición en el desarrollo de la conducción autónoma (y cómo podemos simularla)

Alexa y Siri marcan el camino a los coches autónomos

Con el objetivo de analizar cómo juzgábamos los seres humanos el modo de afrontar dilemas morales dependiendo de si quien los afrontaba era una máquina o un congénere, llevaron a cabo dos estudios, y la comparación de los resultados entre sí resultó reveladora.

Mientras que el primer estudio demostró que, ante decisiones idénticas, los vehículos autónomos eran juzgados como "más inmorales y menos fiables" que los humanos, el segundo mostraba a los sujetos los mismos datos sobre la toma de decisiones, pero expresados en términos mentalistas y no mecanicistas: al fomentar que se percibiera a los vehículos como algo dotado en cierta forma de una mente, el rechazo a sus decisiones se redujo sensiblemente.

Los investigadores descubrieron que cuando se nos plantea una misma reacción ante la misma disyuntiva (decidir atropellar a una persona para salvar a otras cinco), a los humanos nos causa mucho más rechazo imaginar que dicha decisión ha sido tomada por una IA, porque no la encontramos legitimada por valores altruistas:

"No basta con que los vehículos autónomos sean sencillamente capaces de tomar decisiones "correctas", la gente también demanda que la tecnología emergente tenga las motivaciones correctas para sus elecciones. Estos hallazgos sugieren que las reservas morales de la gente sobre los vehículos autónomos pueden derivar de dudar que cuenten las capacidades mentales necesarias para realizar un juicio moral".

En Xataka

Mis hijos hablan con Alexa, Assistant y Siri y me pregunto si debo enseñarles a ser amables y preguntarles por favor

Young y Monroe afirman que estos resultados ofrecen una posible vía para que confiemos en los vehículos autónomos a la hora de tomar decisiones moralmente conflictivas: diseñarlos de tal modo que parezca que tuvieran rasgos mentales similares a los de los humanos.

"Los diseñadores de asistentes personales digitales (como Siri, Cortana o Alexa) han dedicado considerables recursos a enseñar a estos asistentes a cantar, contar chistes o a ser frívolamente sarcásticos. Ninguna de estas características mejora la utilidad de los dispositivos; sin embargo, nuestros datos sugieren que estas imitaciones de lo humano pueden hacer que la gente confíe e interactúe con los dispositivos con mayor frecuencia".

"Las personas son más propensas a antropomorfizar y prefieren un robot con una voz similar a la humana en lugar de interactuar con un robot con una voz artificial. Nuestros datos sobre los vehículos autónomos sugieren que, incluso los cambios más sutiles pueden empujar a las personas a percibir cualidades similares a las humanas en los agentes artificiales y, por lo tanto, a lograr que los consumidores indecisos sean más propensos a usar vehículos autónomos".

Vía | ScienceDirect

Imagen | Imagen promocional de "El coche fantástico", de la NBC