¿Podemos confiar en los vehículos autónomos?

El empresario Sunil Paul nos habla sobre quién debería pensar sobre los aspectos éticos de esta nueva tecnología: los fabricantes o los organismos reguladores y legislativos.

Imagínate que estás conduciendo por la calle de una ciudad y justo delante de tu coche aparece un niño persiguiendo una pelota. No puedes parar a tiempo. ¿Te desvías hacia el carril opuesto del tráfico justo por donde viene un camión que viene en dirección contraria?

Esta y otras variaciones del dilema del tranvía, un experimento de pensamiento de 1967 diseñado por el filósofo británico Philippa Foot, están siendo discutidas por tecnólogos, éticos y políticos a medida que los vehículos autónomos empiezan a recorrer las calles de todo el mundo. De la misma manera que un conductor humano, el software autónomo tendrá que tomar decisiones en una fracción de segundo, incluyendo decisiones éticas como la del experimento.

Al menos un fabricante de automóviles, Daimler, el fabricante de Mercedes-Benz, dice que su prioridad será la seguridad del pasajero, ya que todos los que viajan en un coche autónomo son pasajeros. Eso significa que un futuro vehículo Mercedes-Benz mataría a un niño en lugar de arriesgarse a provocar lesiones a sus ocupantes. ¿Por qué un fabricante de automóviles crearía un sistema que parece tan moralmente censurable? En primer lugar, es más sencillo. Por frío que esto pueda sonar, la ingeniería de un sistema que tenga en cuenta todos los escenarios posibles añade complejidad a un proyecto ya de por sí complejo. En segundo lugar, los incentivos están alineados con ese resultado. Mercedes-Benz vende coches a dueños de coches, no a peatones, niños o legisladores.

Decidir cómo dirigir nuestro futuro automatizado es complicado y requerirá el pensamiento de tecnólogos y políticos por igual, y el reconocimiento de dos visiones del mundo dispares. El instinto de un tecnólogo es avanzar lo más rápido posible, mientras que el de los reguladores es ralentizar las cosas. Como empresario de Silicon Valley, entiendo la visión tecno-optimista del mundo. Como analista de la Oficina de Evaluación de Tecnología del Congreso de EE. UU., también comprendo la cautela de los legisladores con respecto a las consecuencias no deseadas. Aprendí por mi propia experiencia cómo encontrar un compromiso entre estas posiciones ayudando a aprobar la primera ley de uso compartido de coches y luego participé en la creación de viajes compartidos como cofundador y presidente de Sidecar.

Hoy en día, las empresas de tecnología y automóviles que trabajan con vehículos autónomos describen su enfoque de diseño como si fuera para vehículos que cumplen con la ley, siempre vigilantes y “tan paranoicos como sea posible”. El software está programado para evitar colisiones contra peatones casi a cualquier precio. La mayoría de los accidentes con vehículos no tripulados de Google se debieron al hecho de que estos fueron alcanzados por automóviles conducidos por humanos que no esperaban un comportamiento “paranoico” de un coche autónomo.

Sin embargo, decisiones similares a las tomadas por Daimler y accidentes tan mediáticos como en el caso de Tesla (el año pasado, un coche eléctrico se estrelló contra un semirremolque cuando este se encontraba en modo autónomo, provocando así la muerte de su conductor), pueden dar lugar a que los legisladores tomen medidas.

Los automóviles y camiones autónomos podrían acercar las ciudades a la Visión Cero (un programa para lograr una mortalidad cero en accidentes de tráfico) más que nunca. En esta etapa de desarrollo de la tecnología, centrarse en los accidentes es similar a las preocupaciones que precedieron a la introducción de los airbags y los cinturones de seguridad. Existía una preocupación real de que estas tecnologías que salvan vidas pudieran dañar a los niños o afectaran a la apariencia mucho antes de que fueran ampliamente probadas, introducidas o reguladas. Sin embargo, si nos fijamos en el panorama general, vemos que los vehículos autónomos pueden hacer que las calles de las ciudades sean seguras para los pasajeros, peatones y ciclistas. Y los legisladores podrían acelerar el proceso.

Imagina partes enteras de ciudades en las que solo se permiten vehículos autónomos. Por primera vez desde la llegada del automóvil, los peatones y ciclistas de esas zonas pueden estar seguros de que los vehículos obedecerán la ley. Las leyes de cruce de peatones, que fueron creadas a instancias de clubes y fabricantes de automóviles, podrían ser revocadas en una zona de vehículos autónoma. Algunos analistas incluso han utilizado la teoría del juego para predecir que los peatones podrían llegar a tener tanta confianza al interactuar con los coches autónomos que se volverían más activos en la defensa de su derecho a moverse a pie, como resultado de lo cual sería más difícil para los vehículos moverse por la ciudad.

Podemos predecir que algún día, los vehículos autónomos necesitarán una regulación basada en zonas debido a la naturaleza de cómo se están desarrollando los sistemas autónomos. Los vehículos totalmente autónomos que pueden reemplazar a un conductor humano, conocidos como autonomía de Nivel V, todavía quedan muy lejos. Un nivel más bajo de autonomía que ya existe en el despliegue de prueba, el Nivel IV, es capaz de conducir sin conductor, pero solo en determinadas situaciones. Como resultado, un servicio de transporte compartido o de entregas podría usar vehículos autónomos de nivel IV en ciertas áreas, como calles urbanas con un límite de velocidad bajo o carreteras estandarizadas de alta velocidad. Para conducir en otras áreas o situaciones de mayor complejidad aún será necesaria la intervención humana.

Debido a cuestiones de responsabilidad legal, es probable que los vehículos no tripulados sigan siendo muy respetuosos de la ley a la vez que se mantienen paranoicos. Volvo anunció en 2015 que sería plenamente responsable del diseño de los futuros sistemas autónomos, comparándolos con los frenos y otras características de seguridad. Teniendo en cuenta cómo se resuelven estos problemas en los tribunales, es probable que los fabricantes de automóviles paguen una compensación parcial y quizás total, por las reclamaciones relacionadas con el fallo de estos sistemas de automatización. En Estados Unidos, se pagan anualmente alrededor de 200.000 millones de dólares por reclamaciones relacionadas con accidentes automovilísticos, y esto es aproximadamente igual al beneficio total de los principales fabricantes de automóviles de todo el mundo, lo que significa que los desarrolladores de vehículos autónomos harán todo lo posible por hacer que sus sistemas de automatización sean lo más seguros posibles.

Cuando estos casos judiciales sean procesados, los reguladores que evalúan los sistemas autónomos se enfrentarán a un reto, a diferencia de lo que ocurre hoy en día con el software de automoción. Las técnicas de aprendizaje automático que se utilizan para programar los coches sin conductor, como las redes neuronales y los sistemas estadísticos, son eficaces ya que estos son capaces de procesar grandes conjuntos de datos sobre los posibles escenarios con los que podría encontrarse un coche. Sin embargo, este proceso de entrenamiento hace más difícil predecir cómo se comportaría un vehículo autónomo en el futuro, ya que no todos los escenarios pueden ser entrenados, y podría ser imposible averiguar con exactitud por qué un sistema de aprendizaje autónomo funcionó de una manera particular.

El software tradicional, así como ciertos tipos de aprendizaje de máquinas, como los sistemas basados en reglas, se comportan de manera predecible. Esto no significa que no haya errores en ese software, sino que existen formas predecibles de encontrar fallos y arreglar problemas subyacentes. Cuando los nuevos sistemas de aprendizaje automático tienen errores, encontrarlos y corregirlos no es nada fácil. Peor aún, confirmar que el error ha sido corregido es todavía más difícil.

Se están llevando a cabo investigaciones para que las redes neuronales y los sistemas estadísticos puedan explicar cómo se comportan. Las herramientas serán importantes para la regulación efectiva de los vehículos autónomos. Los responsables políticos tienen un papel que desempeñar para fomentar este futuro mediante la financiación de la investigación y el desarrollo, ofreciendo incentivos y colaborando con los investigadores.

Hoy en día, los reguladores están reevaluando las reglas y leyes diseñadas para los conductores humanos teniendo en cuenta que los vehículos autónomos serán programados para seguir la ley al pie de la letra. Los responsables políticos controlan una forma muy poderosa de “código”: las leyes y reglamentos que ya utilizamos para sopesar las consideraciones éticas y de valores. Ni a un vehículo autónomo ni a su creador se les debe pedir que sopesen el dilema del tranvía, o cualquier otro compromiso ético complejo. Ya contamos con instituciones como los tribunales, los cuerpos legislativos y los reguladores para impartir justicia y sopesar las decisiones correctas e incorrectas.

Ni a un vehículo autónomo ni a su creador se les debe pedir que sopesen el dilema del tranvía, o cualquier otro compromiso ético complejo.

En el ejemplo del niño que persigue la pelota, no debe ser un fabricante de automóviles quien decida si es apropiado o no cruzar una línea continua para salvar una vida. Los fabricantes de automóviles necesitarán leyes y políticas capaces de analizar estas situaciones complejas. Si los sistemas autónomos no logran mantener a los peatones seguros mientras siguen las leyes actuales, los reguladores podrían cambiar esas leyes, y los fabricantes de software tendrán que cumplirlas.

La tecnología de los vehículos autónomos nos permitirá reimaginar nuestro mundo, especialmente nuestras ciudades y suburbios. Desde la Segunda Guerra Mundial, lo hemos diseñado todo en torno a las limitaciones mecánicas del automóvil. Ahora estamos diseñando con la restricción del software, no de los motores, los frenos y los volantes. Como personas que pretendemos reducir a cero el número de víctimas de accidentes de tráfico, tendremos que reforzar los tribunales, los reguladores y los órganos legislativos que nos permitan confiar en los sistemas de vehículos autónomos y guiar la tecnología sin conductor para que esta sea lo que nosotros queremos, y no solo lo que desean los propietarios de vehículos autónomos.