En la película futurista Yo Robot (2004), el detective Del Spooner, interpretado por Will Smith, odiaba a los robots debido a que, en un accidente automovilístico, un robot, en una rápida decisión de acuerdo a su programación, calcula que salvar la vida del protagonista, en vez de la de una pequeña niña, es una acción más lógica y viable debido a las posibilidades de supervivencia en el rescate de ambos seres humanos.
Estamos en los albores de que esta clase de decisiones, que se veían lejanas el año en que se estrenó la película, sean tomadas con estremecedora frecuencia por inteligencias artificiales.
Muy pronto comenzaremos a ver por las calles vehículos autónomos de nivel 4. Alemania espera tenerlos en circulación este mimo año. Un vehículo autónomo puede detectar su entorno y controlar sus movimientos sin intervención humana. Según la Sociedad de Ingenieros Automotrices (SAE), existen 6 niveles de vehículos autónomos, que van del 0 al 5.
Nivel 0. No hay ninguna autonomía. El conductor humano es responsable de todas las tareas de conducción. Nivel 1. Incluye algunas funcionalidades de asistencia al conductor, como asistencia para mantener el carril o control de crucero adaptativo.
Nivel 2. Automatización parcial. El automóvil puede combinar 2 o más tareas automatizadas, como dirigir y acelerar a la vez. EL conductor sigue teniendo el control principal del vehículo.
Nivel 3. Automatización condicional. El automóvil es capaz de conducir sin intervención humana, pero el conductor aún debe estar listo para hacerse cargo en situaciones críticas.
Nivel 4. Alta automatización. El vehículo se considera completamente autónomo en la mayoría de las condiciones de conducción, pero solamente en áreas geo-cercadas y en condiciones climáticas adecuadas.
Nivel 5. Automatización completa. El vehículo funciona solo en todas las condiciones de conducción. Es posible que su diseño no incluya volante o pedales.
Los principales fabricantes de automóviles y gigantes tecnológicos están buscando terminar en primer lugar la carrera por lanzar el primer autónomo nivel 5. Están realizando pruebas de carretera con sus modelos y están dando pasos agigantados. Sin embargo, hasta que los autos completamente autónomos estén en la carretera, los humanos aún debemos ser completamente responsables de conducir y comprender las limitaciones de la tecnología en los autos. Y este es precisamente el punto que se busca destacar en este artículo.
Hay quienes sostienen que cuando se llegue la homogenización de vehículos de nivel 5, la congestión vial desaparecerá. El sustento de esta afirmación se basa en un principio que hemos manejado en artículos anteriores, se debe eliminar la posibilidad de error humano, llevándolo a su máxima expresión. De esta manera, se supone, desde hace años, que las intersecciones actuales ya no requerirán de semáforos ya que los vehículos autónomos se conectarán con servidores que orquestarán en milésimas de segundo el flujo de todos los vehículos, aún cruzando en el mismo nivel. Al llegar a este nivel de desarrollo tecnológico, para el cual se está trabajando y haciendo desarrollo en este momento, bien vale la pena reflexionar sobre cómo serán las decisiones que los sistemas de inteligencia artificial aplicada al tráfico.
Volvemos a la situación planteada al principio del artículo, la decisión que toma el robot en salvar al protagonista en vez de la niña pequeña por un algoritmo que definió que había más posibilidades que este espécimen de ambos seres humanos se salvara. El personaje de Will Smith condena esta decisión fría y alega que un humano habría optado por salvar a la pequeña en ves del adulto. Una situación realmente complicada.
Consideremos el dilema del tranvía, un experimento mental ideado por la filósofa Philippa Ruth Foot. Un tren va fuera de control por la vía, en donde más adelante se encuentran cinco personas atadas, que morirán a no ser que tire de una palanca que desvía el tren hacia otro camino, dónde está una persona también amarrada. ¿Qué harías Usted? Es una situación hipotética que genera un conflicto de decisión. Si al pensarlo elige tirar de la palanca para salvar cinco personas sacrificando a una, ha respondido como el 90% de la gente a la que se ha aplicado esta prueba, lo cual es normal.
Veamos cómo cambia la situación en esta variante de la situación desarrollado por la doctora Judith Jarvis Thomson: El tranvía va sin control en dirección de matar a las cinco personas como en la situación anterior, pero ahora la opción para salvarlas es diferente. Usted se encuentra en un puente sobre la vía y sabe que la única forma de detener al tranvía para salvar a las cinco personas cautivas es lanzar un objeto pesado a la vía para así descarrilarlo. Junto a Usted, se encuentra un hombre con sobrepeso extremo. Empujarle a la vía, matándole, sería la solución para salvar a las cinco personas. ¿Qué haría?
Aunque ambas situaciones son muy parecidas, ya que sigue siendo elegir entre salvar a cinco personas o una, ahora la situación es bastante más compleja y casi nadie elige la opción de empujar al señor con sobrepeso, ya que implica una intervención directa. Se tienes que matar a esa persona en una forma directa, no jalando de una palanca sino empujándole por propia mano. Está despierto el debate sobre la ética de las decisiones. Algo que adquiere enorme importancia en materia de seguridad vial, con vías a la aplicación de inteligencia artificial en autos autónomos y sistemas viales automatizados. ¿Qué hará la inteligencia artificial en una situación de accidente? Podemos apreciar la sincronización que se espera lograr en el video de la UT de Austin en teoría funciona, pero tras 9 años de investigación aún no se ha logrado desarrollarla y no se están contemplando variables ajenas al tráfico vehicular, tales como peatones y ciclistas, lo que incrementa enormemente la complejidad del sistema y le expone a la toma de decisiones como la de la película Yo robot. Esto demuestra la importancia de la filosofía en la tecnología moderna aplicada a la seguridad vial. Elegir salvar la mayor cantidad de vidas sacrificando la menor es una solución de perspectiva utilitaria. Si deseáramos complicar aún más el asunto, recordemos la película The Dark Knight (El regreso del caballero oscuro) de Christopher Nolan, en la que se propone el dilema de destruir un ferry lleno de inocentes o un ferry lleno de criminales. Si las cinco personas atadas a la vía fueran criminales, ¿Sacrificaría Usted a la otra persona por ellos? El momento en que la inteligencia artificial tenga que tomar decisiones que siguen siendo un dilema para los seres humanos, se ve más difícil de lo que se puede pensar.