SIEGEL: Asignar actitudes morales humanas a los vehículos autónomos

No deberíamos lanzar al público los vehículos sin conductor hasta que se haya considerado lo que esto implicaría éticamente

str-022419-selfdrivingcars
Los autos autónomos operan en coordinación con tres módulos, y son construidos para identificar, percibir y responder en consecuencia a objetos circundantes cuando están en movimiento Cortesía de Wikimedia Commons

El artículo no expresa las opiniones o posiciones de los traductores. El artículo es una versión traducida del artículo que se encuentra a continuación: enlace

Escritora original:  Lucy Siegel

Traducido por: Aldo Barriente y Diana Albarracin

En marzo del año pasado, un automóvil autónomo de Uber en Arizona atropelló y mató a una peatona, representando el primero de varios accidentes mortales que involucran vehículos de auto conducid desde su concepción. Los autos autónomos operan en coordinación con tres módulos, y son construidos para identificar, percibir y responder en consecuencia a  objetos circundantes cuando están en movimiento. En este caso, el módulo de percepción del automóvil falló, lo que le impidió identificar a la mujer que cruzaba la calle en bicicleta: la Sra. Herzberg murió a causa de una "confusión" del sistema de percepción, un sistema que es conocido por su incapacidad para "distinguir entre una bolsa de plástico y un niño volador". Aunque este incidente se debió a una falla en el diseño del sistema, el número (el cual va incrementando) de accidentes fatales nos obliga a considerar más profundamente el dilema ético inherente a la construcción y operación de los coches robóticos. Por lo tanto no deberíamos lanzar al público los vehículos autónomos hasta que se haya considerado lo que esto implicaría éticamente.

La promesa potencial de un vehículo de operación totalmente autosuficiente es real: las carreteras serán más seguras y estarán libres de errores humanos inevitables, no habrá tráfico y los automóviles serán más eficientes. Según un estudio realizado por el Eno Centre for Transportation [Centro Eno para la Transportación], si el 90 por ciento de los autos en la carretera se manejan  por cuenta propia, el número anual de accidentes disminuiría por 4,7 millones, también habría un descenso de un tercio del número de muertes relacionadas a accidentes automovilísticos. Es decir, si todo va según lo previsto.

En 2015, un trío de investigadores, al darse cuenta de que algunos accidentes son imposibles de evitar cuando se opera un vehículo motorizado con tecnología imperfecta, intentó desentrañar los desafíos asociados con la programación de un vehículo autónomo para enfrentar los dilemas morales. Los investigadores razonan que para que los autos que se conducen solos cumplan con su promesa de carreteras más seguras, deberán aplicar los métodos de ética experimental de manera experta. Cuando se trata de situaciones en las que el daño es totalmente inevitable, ¿cómo se sopesará el algoritmo de los vehículos autónomos contra las escalas de la moralidad? Esencialmente, estos autos tendrán que elegir - como lo harían los humanos - entre atropellar a peatones o desviarse hacia obstrucciones y autodestruirse. A medida que los vehículos autónomos aumentan su presencia en nuestras carreteras, no tenemos más remedio que abordar adecuadamente la moralidad imperativa para garantizar una actitud social cohesionada. Según los investigadores, el desafío definitivo es "adoptar algoritmos morales que se alineen con las actitudes morales humanas", lo que no es nada fácil.

Al considerar qué valores deberían guiar los algoritmos de los automóviles, podemos recurrir a  las teorías filosóficas más importantes sobre cómo valoramos la vida humana y dónde colocamos la responsabilidad ética. La doctrina moral utilitaria exige la menor cantidad de daño para el mayor número de personas. Según el estudio mencionado, los participantes se sintieron cómodos con los automóviles autónomos utilitaristas, “programados para minimizar la cantidad de muertos de un accidente”. Sin embargo, no les gusto la idea de comprar estos autos programados al estilo utilitarista ellos mismos. Entonces, ¿la adopción de este estilo de programación irá en contra de la decisión de evitar el sacrificio propio en caso del daño inevitable?

Aunque la intuición de los participantes parece ser en la mayoría utilitarista hacia la tecnología autónoma, también es necesario considerar si estas perspectivas utilitaristas sobre esta tecnología se encuentran aún válidas a través de todas las culturas. Investigadores del Instituto Tecnológico de Massachusetts (MIT) propusieron varios dilemas morales, en caso de que si no funcionará un automóvil autónomo, hacia diferentes grupos culturales. Encontraron que las variaciones entre las respuestas se basaban en las diferencias culturales. Es decir, "Los encuestados de las culturas colectivistas, que ‘enfatizan el respeto que se debe a los miembros mayores de la comunidad’, mostraron una preferencia más débil por salvar a las personas más jóvenes" que los encuestados de las culturas individualistas.

Dado que los resultados de este estudio sobre nuestras preferencias morales generales muestran una variación abundante, aun cuando se comparan todas las respuestas, todavía es necesario preguntarse cómo los productores y reguladores de los autos deben respetar la ética de los automóviles autónomos.

El conocimiento contemporáneo sobre los automóviles autónomos se enfoca en el hecho de que la tecnología es mucho más segura que los conductores humanos y entonces nos salva del error humano también. Aunque tiene razón, no nos preguntamos lo más central de este problema: ¿Cuántos accidentes se evitan gracias a los conductores humanos? No podemos responder esta pregunta simplemente porque no existe una respuesta. Los fabricantes de automóviles no deben vender los automóviles autónomos libremente hasta que se hayan considerado las consecuencias éticas. Seríamos descuidados si no investigaramos los riesgos potenciales de asignar las actitudes morales a los automóviles autónomos.

Lucy Siegel es Columnista de Opinión y fue Editor de Opinión para el centésimo y veintiocho termino de The Cavalier Daily. Puede ser contactada por correo electrónico a l.siegel@cavalierdaily.com

related stories