Cuando se produce algún tipo de fallo en algún dispositivo o sistema en el que la tecnología juega un papel fundamental, se suele decir que casi con toda probabilidad el error será humano.
Son nuestras características de ser vivo, pensante, curioso, también estúpido o egocéntrico, las que nos convierten en un caldo de cultivo perfecto para las cagadas producidas por un despiste, cansancio o, incluso, vanidad.
Una máquina (a menos que haya sido programada para ello) nunca se dormirá, ni será egoísta. Tampoco se equivocará a la hora de hacer una cuenta o tomará una decisión que no conduzca a conseguir su objetivo de la forma más lógica y eficiente posible. Las máquinas están diseñadas para ser precisas, productivas y eficientes. Nosotros no.
Otra cosa es que físicamente las máquinas se deterioren, como nosotros. Del mismo modo, es responsabilidad del ser humano que creó o utiliza esa máquina evitar que su deterioro afecte a su funcionamiento. Las máquinas envejecen y a menos que hayan sido creadas para autorrepararse o autoactualizarse, si fallan por este motivo, podríamos considerar que el fallo también ha sido de un ser humano.
No obstante, ceder el control a las máquinas nos da miedo. También está en nuestra naturaleza sentir temor a lo desconocido y a ceder el control. La ciencia ficción ha alimentado ese miedo a que las máquinas tomen las riendas, decidan que somos prescindibles o nos vean como una amenaza para nuestro propio planeta. Al fin y al cabo, largometrajes tan populares como Terminator, Matrix o Los Vengadores: la era de Ultrón se basan en esa premisa.
Los coches autónomos, capaces de conducir por sí mismos de forma no predefinida sin intervención humana (reaccionan en tiempo real según la carretera en la que se encuentren y a medida que surjan problemas, como accidentes) no son una excepción. Nos da miedo no ser nosotros quienes llevamos el volante y que una máquina tome las decisiones por nosotros. Un miedo que, realmente, es bastante irracional.
Un conductor se cansa, se despista, mira en una única dirección, tiene un tiempo de reacción concreto… Es decir, está sujeto a las limitaciones propias del ser humano. Un coche cargado de cámaras y sensores por los cuatro costados, conectado a un satélite con información sobre el tráfico, que procesa la información de forma prácticamente instantánea, que no se enfada con otros conductores, que no decidirá correr a una velocidad que estadísticamente sea mortal, que no bebe… Se perfila como el conductor perfecto.
Los coches autónomos, por ahora, no se libran de tener accidentes. Google anunció que sus coches se habían visto involucrados en 11 siniestros. Sin embargo, no fue culpa suya, sino de los otros coches conducidos por seres humanos. En ocasiones, los coches tuvieron que elegir, incluso, como reaccionar no en su propio beneficio, sino para que los accidentes tuvieran la menor consecuencia posible. Es lo que se plantea como el dilema del tranvía: ¿debe un coche autónomo sacrificar a una persona, incluso si es su propio ocupante, si así salva a un grupo de 10?
Es una cuestión esta, sin duda, escalofriante. Lo lógico sería pensar que sí, que el coche debe optar por el bien de una mayoría. Sin embargo, no será extraño que si esto se convierte en el estándar de la industria de los coches autónomos, los usuarios sientan un gran miedo ante una máquina que, con una serie de condicionantes muy concretos, podría llegar a elegir sacrificar su vida. ¿Un ser humano tomaría esta decisión tan valiente si dependiera de él?
Así, mientras investigadores debaten estas cuestiones, las compañías de seguros estudian a quién correspondería la responsabilidad de un accidente (al fabricante, al usuario…) y los gobiernos analizan cómo legislar al respecto, las compañías avanzan con paso firme para conseguir el coche autónomo perfecto. Intentan que nos movamos como se movían los personajes de películas de ciencia ficción como Timecop o Minority Report. Diciéndole al coche adónde queremos ir, mientras disfrutamos del paseo, leyendo o viendo una película.
Ocurre que, incluso, ya podemos comprar un coche que se conduce solo. Tesla S cuenta con un modo de conducción autónoma que, de momento, está pensado para ser un sistema de seguridad y no una alternativa a la conducción manual. Se trata de un modo llamado Autosteer que permite al coche tomar el control de la dirección en caso de que el conductor, por ejemplo, sufra un desmayo y suelte el volante. La compañía ha dejado muy claro que este modo no es un modo de conducción 100% autónoma y que aún está en fase beta. Solo debería entrar en acción si sucede lo peor.
¿Qué ha ocurrido? Que los usuarios del Tesla S se han sentido tan entusiasmados con la novedad que no han hecho ningún caso a la compañía. Muchos se han dedicado a soltar el volante durante la conducción en carreteras reales transitadas y a ver qué ocurría. Por supuesto, no se han guardado la experiencia para ellos mismos: lo han grabado para subirlo a YouTube. En la era de las redes sociales, cuando no nos quedamos nada para nosotros, mostrarle al mundo cómo un volante se mueve solo es una mina de «me gustas».
Una gran tecnología, conlleva una gran responsabilidad y está claro que los usuarios no estaban preparados para esta en concreto. No obstante, también resulta un tanto irresponsable (e ingenuo) por parte de Tesla lanzar una solución que consideran que está en «beta» y confiar en que la gente hará un uso responsable y únicamente cuando sea estrictamente necesario. El CEO de la compañía, Elon Musk, ya ha dicho que van activar en los coches «algunas limitaciones adicionales» para esta función, con el objetivo de «minimizar la posibilidad de que la gente haga cosas locas» con ella.
Todos hemos aprendido algo con esta función del Tesla S: que ni los coches autónomos están listos aún para llegar al mercado, ni los usuarios están del todo preparados para ellos. Todo llegará.
ep
