Por qué el "Dilema del Tranvía" es un modelo terrible para intentar hacer que los autos autónomos sean más seguros

Traducido por L. Domenech de Fast Company

El famoso experimento mental se ha aplicado al desarrollo de vehículos autónomos, pero se considera extremadamente defectuoso.

Es posible que las flores y los ositos de peluche del memorial improvisado hayan desaparecido, pero el dolor y el trauma aún acechan en la intersección de la Quinta Avenida y la Calle 9 en Park Slope de Brooklyn.

Fue el escenario de una horrible tragedia el año pasado, en la que una mujer propensa a convulsiones se pasó un semáforo en rojo y atropelló y mató a dos niños pequeños en un cruce de peatones. Para agravar la tragedia, la madre embarazada de una de las víctimas perdió a su bebé y el conductor se suicidó meses después. La intersección está maldita: solo unos años antes, un taxista sin licencia saltó la acera y atropelló a una anciana y al personal de mantenimiento de nuestro edificio, enviándolos a ambos al hospital. Vi las imágenes capturadas por una cámara de seguridad en una bodega local, y lo repentino y brutal del accidente fue como algo salido de una película muda sin el acompañamiento musical. El incidente conmocionó al vecindario, lo que provocó mejoras de seguridad y la presencia ocasional de un policía de tránsito. Sin embargo, cada vez que conduzco por la intersección con mi familia, mi corazón da un vuelco y conduzco con más precaución.

Esas trágicas muertes fueron solo dos de las más de 18,000 muertes por accidentes de tránsito en la primera mitad de 2018, la principal causa de muerte no intencional entre los estadounidenses de 4 a 24 años. Estas estadísticas deprimentes son uno de los principales impulsores del desarrollo de los vehículos autónomos, tecnología, que promete reducir drásticamente el número de accidentes de tránsito. Rara vez una nueva tecnología ha prometido mejorar determinante todas nuestras vidas al eliminar uno de los mayores riesgos de la sociedad.

Es casi seguro que tal optimismo está justificado, considerando la pequeña cantidad de accidentes que involucraron a los coches de prueba de conducción autónoma que recorrían las calles de California, Arizona y algunos otros estados en los últimos años. Es posible que tengamos que ser pacientes, pues algunas de las primeras expectativas para la adopción masiva de dicha tecnología se han retrasado años, si no décadas, pero ese glorioso futuro definitivamente está en camino. Además de Tesla, casi todos los principales fabricantes de automóviles del mundo han invertido miles de millones en tecnologías, que avanza rápidamente en lo que respecta a los desafíos pendientes, como el mapeo 3D y los sensores de automóviles que funcionan, caiga granizo, lluvia o nieve.

Pero, ¿se están desarrollando nuestras mentes y nuestra moral con la misma rapidez?

La forma en que pensamos sobre los vehículos autónomos todavía parece estar estancada en el pasado. Y no son solo nuestros lóbulos frontales, que todavía parecen esperar un futuro como el de la serie televisiva Los Supersónicos (The Jetsons) de autos autónomos personalizados en cada garaje en lugar de la adopción temprana mucho más probable de la tecnología por el transporte público (trenes, autobuses, camionetas) y por el transporte de envío y reparto. (camiones, barcos).

También se trata de la ética de la tecnología autónoma, de cómo pensamos sobre las decisiones éticas y cómo esas elecciones se incorporan a los algoritmos que guían a esos vehículos autónomos, ya sean de 18 ruedas o biplazas.

Pensemos en el Dilema del Tranvía. Es uno de los experimentos mentales clave en ética que se ha debatido de alguna forma desde 1905, cuando se incluyó en un cuestionario moral entregado a los estudiantes de la Universidad de Wisconsin.

Ya conoces el dilema: estás parado junto a una vía de tranvía y un tranvía de la pista está a punto de atropellar a cinco personas atadas a las vías. Junto a usted hay una palanca que controla un interruptor que podría redirigir el carro a otra vía, donde una sola persona está atada. ¿Qué haces? Nada y cinco personas mueren. O tira de la palanca y una persona muere.

Ha habido muchas variantes de este experimento mental a lo largo de las décadas (incluidos el Gordo y el Hombre del patio), pero todas tienden a enfatizar la diferencia entre el utilitarismo y la teoría ética normativa, ya sea que las acciones se basen en su moralidad inherente o sobre las consecuencias de esas acciones. Básicamente, ¿debería evaluarse la moralidad de sus acciones debido a su bondad inherente o al bien que hacen en la vida real?

Un giro en el siglo XXI

El Trolley Dilemma (Dilema del Tranvía) también se ha aplicado a los vehículos autónomos, ya que ante un posible accidente, es posible que el software deba decidir entre varios cursos de acción. A principios de 2017, el Media Lab del MIT creó una plataforma, Moral Machine, que se inspiró en el experimento mental, en el que se invitaba al público a elegir las opciones disponibles para los vehículos autónomos para hacer el menor daño posible en un escenario de choque. Y el paradigma ha suscitado innumerables discusiones sobre vehículos autónomos y cuestiones de seguridad.

Eso es a pesar del hecho de que se considera una forma extremadamente defectuosa de pensar sobre un problema complicado por destacados especialistas en ética e investigadores. (Además de los problemas más obvios con el paradigma, que son claros para cualquier ser sensible: fuera de los dibujos animados, ¿quién está atando a la gente a las vías del tren? ¿Y por qué no los desata, en lugar de redirigir el tren que se aproxima?).

En 2014, en un artículo para Social and Personality Psychology Compass, los investigadores escribieron que los dilemas de sacrificio como el Trolley Dilemma son poco realistas y "no representativos de las situaciones morales que las personas encuentran en el mundo real". Advirtieron que lo absurdo de los escenarios artificiales de tales paradigmas pueden "afectar la forma en que las personas abordan la situación y deciden qué hacer". En otras palabras, alguien influenciado por el dilema del carro puede tomar algunas decisiones peligrosas cuando se enfrenta a un escenario del mundo real.

Por ejemplo, la otra tarde, conduje a través de esa intersección en Park Slope y tuve que negociar una de las situaciones más estresantes y tensas que enfrentan los conductores todos los días: ralentí en medio de la intersección para girar a la izquierda, mientras esperaba, un semáforo detiene el tráfico que se aproxima y para que los peatones puedan cruzar hacia el otro lado. Hay tantos factores de riesgo potenciales y formas en las que las cosas podrían salir terriblemente mal, si se comienza a girar y un automóvil que viene en sentido contrario no reduce la velocidad, debe atravesar rápidamente la intersección y, de alguna manera, si se puede evitar que la madre empuje un cochecito de bebé para cruzar la calle

Podría parecer el equivalente al dilema del tranvía: o sacrificarse o atropellar a dos personas en el paso de peatones. Pero en realidad es mucho más complicado porque hay muchas más cosas y potencialidades involucradas. Si parece probable que se produzca un accidente, hay muchas opciones: podría ir en reversa, podría saltar la acera y estrellarse contra la esquina de la tienda de descuento, la madre podría notar su angustia y tirar de su cochecito de bebé de regreso a la acera (o alternativamente corre rápido para llegar al otro lado), podría intentar meter su automóvil en el espacio estrecho entre el automóvil que se aproxima y la acera, o en el escenario más probable de todos: usted se queda quieto y el automóvil que viene en sentido contrario se detiene o gira bruscamente para evitarte. Todas son opciones extremadamente arriesgadas, pero no es solo una opción binaria, especialmente cuando se suman además otro tipo de hechos, como la presencia de curvas, o la de nieve y aguanieve hasta la de conductores ebrios y peatones impredecibles.

Más allá de lo binario

Y esa situación ilustra por qué el Trolley Dilemma es una forma tan deficiente de pensar en los autos autónomos y asegurarse de que causan el menor daño a la sociedad. “Los coches autónomos tienen enormes problemas con los giros a la izquierda sin protección y situaciones en las que necesitan enfrentarse con otras decisiones humanas”, dice Sam Anthony de Perceptive Automata, una empresa que desarrolla software de percepción para vehículos autónomos. Él y Julian De Freitas, candidato a doctorado en psicología en la Universidad de Harvard, fueron coautores de un artículo titulado , “Dudando de los dilemas sin conductor”, que aborda cómo el paradigma es inadecuado para las discusiones sobre temas de seguridad con vehículos autónomos.

En el mundo real, casi nunca se presentan este tipo de "dilemas de elección de fuerza", explica Anthony. "El dilema del carrito puede ser útil cuando se están separando las intuiciones de las personas, donde se pueden aislar uno o dos factores, pero es un error pensar que realmente se puede aplicar al mundo real en toda su complejidad".

Como se ilustra en mi anécdota de conducción, el dilema del tranvía no se aplica porque requiere una "probabilidad perfecta de 50 a 50 de matar a cada individuo en la misma cantidad de tiempo, sin otra ubicación para conducir el vehículo y ninguna otra maniobra de dirección posible pero conduciendo de frente a la muerte ”, como escriben Anthony y De Freitas en su artículo.

En lugar de centrarse en el concepto ético de intencionalidad, el paradigma que guía el desarrollo de los coches autónomos debería centrarse en enseñarles cómo evitar daños en primer lugar, dicen los investigadores. Han entrevistado a ingenieros de empresas involucradas en el desarrollo de vehículos autónomos que se centran en lograr ese objetivo. "Desde el punto de vista de la industria, cuando pensamos en vehículos autónomos, la cuestión es: ¿Qué pueden ver?" dice Anthony, destacando la multiplicidad de información, como el comportamiento de los niños, que los vehículos autónomos (AV) deben procesar e interpretar.

Anthony y De Freitas entrevistaron a los empleados de May Mobility, nuTonomy, Perceptive Automata y una empresa automotriz global que prefirió permanecer en el anonimato, todos los cuales conducen vehículos automáticos en carreteras reales todos los días, y ninguno de ellos “tiene equipos o presupuestos dedicados a resolver trolley como dilemas ". Los ingenieros de estas empresas se centran en desarrollar los AV para que tomen decisiones con la información correcta sobre el mundo, de modo que "cuando vemos a alguien que quiere cruzar la calle, el AV entiende que quiere cruzar la calle", dice. De Freitas.

El artículo original se puede leer en inglés en Medium / Fast Company