La movilidad urbana está cambiando profundamente de piel, no solo en virtud de una visión más estratégica y más sostenible medioambientalmente, sino también en virtud de tecnologías que cambiarán radicalmente el aspecto de nuestras ciudades.
Desde hace algunos años, estamos pasando de un concepto de transporte como producto a uno, más funcional, de transporte como servicio, paradigma que será el verdadero hilo conductor de la movilidad de la próxima década.
Un papel crucial lo jugarán las nuevas tecnologías, la inteligencia artificial y el Internet de las Cosas, que serán los pilares tanto del AV, vehículos autónomos, como, más aún, del AVAI, o vehículos autónomos inteligencia artificial.
Pero, ¿cómo se posicionarán exactamente en la percepción humana común en los próximos años? ¿Y dónde encaja la ética social o la moralidad del conductor en los desarrollos futuros?
‘La moralidad personal y la ética social no son necesariamente distintas y diferentes. A veces, tanto la superposición como las discrepancias se resuelven en los tribunales. Sin embargo, con un AVAI, estos algoritmos de toma de decisiones deben programarse previamente y, por lo tanto, la diferencia fundamental es si una IA debe aprender del conductor individual (este es el statu quo sobre cómo conducimos hoy en día) o de la sociedad que incorpora millones de elecciones del conductor. Ambos están obligados por la ley”.
Esto se analiza en un interesante artículo de tres investigadores de la Universidad Estatal de Michigan, E. Kassens-Noor, Josh Siegel y Travis Decaminada, titulado «Choosing Ethics Over Morals: A Possible Determinant to Embracing Artificial Intelligence in Future Urban Mobility».
Intrínseco a cualquier ciudad autónoma es la inteligencia artificial, que analiza constantemente grandes conjuntos de datos, también conocidos como big data. “Sin embargo, el modelado con big data, particularmente para entornos urbanos, puede ser imperfecto, sesgado y, en el peor de los casos, erróneo. Los conjuntos de datos sesgados plantean preguntas sobre el papel exacto que debería desempeñar una IA en la gobernanza urbana y la toma de decisiones a pesar de su poderosa capacidad para mejorar la vida humana. Por ejemplo, una IA urbana podría proteger a las personas de los desastres y reducir las emisiones de carbono de las ciudades, pero también puede cambiar seriamente las ciudades de manera irrevocablemente negativa”.
Los sistemas algorítmicos a menudo funcionan sin ninguna intervención humana adicional, pero en la relación de causa y efecto, especialmente en un sector tan sensible y riesgoso como el transporte urbano, la bifurcación que a menudo podemos encontrar es si debemos dar ‘precedencia’ ( como en el camino) a la ética entendida como lo que la sociedad considera correcto, o, en cambio, a la moral entendida como lo que un individuo considera correcto.
Si los AVAI se programaran exclusivamente de acuerdo con los dictados de los primeros, los futuros compradores podrían no confiar en invertir en vehículos que ellos mismos podrían considerar prescindibles en lugar de otras personas financieramente ‘poco atractivas’.
Varios estudios se están centrando, en parte por razones puramente económicas y lucrativas, en encuestas para comprender el estado de ánimo de varias categorías de individuos respecto a los vehículos autónomos, y parece surgir que, por ejemplo, los hombres jóvenes son más propensos y más más familiarizados con el uso de coches autónomos que los mayores.
“… dada la probabilidad de que prolifere la tecnología AV, una mejor comprensión de las percepciones de los usuarios puede conducir a una adopción más rápida y una mejor comprensión del comportamiento de viaje. Dado que las personas están divididas en sus percepciones acerca de si la ética o la moral deben guiar los AVAI, los legisladores deben cerrar esta brecha cuando gobiernen la movilidad en las ciudades autónomas. una mejor comprensión de las percepciones de los usuarios puede conducir en última instancia a una adopción más rápida y una mejor comprensión del comportamiento de viaje”.
Las decisiones que se tomarán no serán necesariamente críticas y de naturaleza vital, pero incluso elegir si ceder o tomar el derecho de paso puede o no desencadenar un accidente. Rahwan, profesor del MIT, argumenta que la moralidad de un AVAI podría precargarse en la máquina utilizando un algoritmo transparente que los humanos podrían ajustar, monitorear y actualizar constantemente.
Lo que es decisivo en esta área en particular es la llamada percepción de riesgo, un factor importante en la disposición de una persona a adoptar vehículos autónomos. Sin embargo, la percepción del riesgo es situacional y, en algunos casos, las personas pueden percibir el riesgo de manera diferente cuando interactúan con nuevas tecnologías. Por ejemplo, las personas están más dispuestas a permitir que un AVAI dañe a un peatón de lo que estarían dispuestas a hacerle daño a uno si en realidad estuvieran conduciendo el vehículo. En particular, surgiría otra peculiaridad, a saber, que aquellos que han estado en accidentes automovilísticos en el pasado son más propensos a adoptar un AV, considerando que la conducción tradicional es más riesgosa, dada su historia. La percepción del riesgo probablemente esté relacionada con la confianza; aumentar la confianza puede, a su vez, reducir la percepción del riesgo, y la confianza parece ir de la mano con la familiaridad que un individuo adquiere con la tecnología. “…si la sociedad quiere maximizar los beneficios potenciales de los AV, entonces debemos asegurarnos de que su implementación se lleve a cabo de manera significativa, justa y deliberada, que tenga en cuenta las preferencias y opiniones de todos los miembros de la sociedad”.
A partir de la encuesta, realizada en esta investigación, en un entorno pequeño, como un campus universitario, de una muestra de 1473 estudiantes, una encuesta que puede no cubrir las múltiples facetas que se debaten, a la simple pregunta: ¿los usuarios potenciales creen que la moral? o la ética debe guiar a los AVAI? los resultados parecen concluir que aquellos que creen que las AVAI deben guiarse por la ética están más dispuestos a adoptar una que aquellos que creen que deben guiarse por la moral. Sin embargo, después de controlar la familiaridad de los individuos con las nuevas tecnologías y las características demográficas, este efecto aparente desaparece. Es decir, las creencias sobre si las AVAI deben guiarse por la moral o la ética parecen no estar asociadas con la voluntad de adoptar una en el futuro. Esto puede ayudar a explicar la decisión de los ingenieros de posponer el problema, lo que respalda la actual irrelevancia fundamental de la programación ética o moral en los vehículos autónomos.
Quisiera concluir con una sugerencia, desencadenada por la pregunta planteada por Jo-Ann Pattinson, investigadora del Institute for Transport Studies, quien llama la atención sobre un problema central, precisamente en el ámbito de la responsabilidad: la transferencia legal del riesgo. y la responsabilidad entre el conductor y el vehículo es más compleja que una delimitación entre ‘el auto tiene el control’ o ‘el conductor tiene el control’. Dado que la legislación internacional exigirá que los vehículos altamente automatizados utilicen una interfaz digital para proporcionar información sobre el funcionamiento del vehículo y las responsabilidades del conductor, es más que probable que esta interfaz también requiera la confirmación de que el conductor ha entendido la información proporcionada, lo que requiere confirmación del acuerdo o consentimiento del conductor. Ante el hecho ya establecido de que la ‘confirmación por defecto’ se ha convertido en la práctica, desencadenando dilemas jurídicos sobre la responsabilidad y validez del consentimiento informado, ¿no se debe pensar, ante la lógica empresarial, en impartir una ‘educación vial y tecnológica’ preventiva?
Reservados todos los derechos
Raffaella Aghemo, Abogada
