Google, Tesla, Uber et les constructeurs automobiles traditionnels développent tous des voitures autonomes. L'avenir, pensent-ils, sera celui où nous ne conduirons plus les voitures d'un endroit à un autre. Au lieu de cela, nous leur disons simplement où aller. Les implications pourraient changer fondamentalement la nature des transports.
Cela peut sembler séduisant, en particulier pour les personnes qui n'ont jamais développé d'amour pour la conduite ou qui vivent dans des zones où la circulation pourrait aspirer l'âme de n'importe qui. Mais comme c'est souvent le cas, il y a de nombreuses conséquences imprévues à surveiller. Les voitures autonomes, comme les voitures volantes avant elles, pourraient devenir un concept trop dangereux ou difficile pour remplacer nos méthodes actuelles de déplacement des corps.
Certains des risques inhérents aux voitures autonomes vont de physiquement dangereux à moralement discutables. Voici sept dangers potentiels qui se cachent dans un futur autonome.
Imagine ça. Vous rentrez du travail et vous vous arrêtez à un feu rouge, le même que d'habitude. Puis vous sentez un pistolet pressé contre votre nuque. Quelqu'un se cachait à l'arrière de votre voiture. Comment ils sont entrés, vous n'en avez aucune idée. Ils commencent à aboyer des directions, et vous conduisez là où ils disent, sans savoir si vous passerez la journée.
Imaginez maintenant qu'il n'y a pas d'arme. Il n'y a même personne d'autre dans la voiture. Vous vous arrêtez au feu de circulation, mais après que le feu passe au vert, votre voiture tourne dans la direction s'éloignant de chez vous. Vous essayez de corriger, mais rien n'a d'effet. La voiture semble avoir son propre esprit. La prochaine chose que vous savez, la voiture accélère sur l'autoroute et vous êtes déjà à des kilomètres de votre zone de confort.
De retour à la maison, votre proche reçoit un appel téléphonique demandant une rançon. Ou les auteurs pourraient avoir quelque chose de bien pire en tête.
Vous ne pensez pas que cela pourrait arriver ? Des chercheurs ont déjà démontré comment il est possible de pirater des véhicules connectés à Internet qui sont déjà utilisés aujourd'hui . Les voitures modernes sont des ordinateurs sur roues, avec diverses parties communiquant sur un petit réseau (bus CAN). Et ce ne sont pas des voitures autonomes. Pensez à ce que les pirates pourraient faire une fois que d'autres aspects du véhicule seront contrôlés par un logiciel.
Peut-être que ce n'est pas votre véhicule qui est compromis. Il pourrait être celui du trafic venant en sens inverse. Une minute, il file en ligne droite, puis ses lumières s'éteignent et vous le perdez de vue. La prochaine chose que vous savez, la voiture a traversé la médiane et vous regarde en face.
Disons que vous êtes un conducteur quelques voitures en arrière. Vous êtes témoin du naufrage, mais vous êtes impuissant à faire quoi que ce soit. Votre véhicule ne répond pas aux commandes et s'enfonce dans l'épave.
La circulation s'arrête. Des gens sont morts, personne ne bouge et le commerce est au point mort. Il y a des ambulances qui ne peuvent pas se rendre à l'hôpital, des semi-remorques qui ne peuvent pas livrer de nourriture à l'épicerie et des camions de livraison qui n'arriveront plus dans le délai prévu de deux jours.
La personne responsable n'est nulle part en vue. S'ils voulaient cibler une personne en particulier ou s'ils voulaient simplement provoquer un carnage, personne ne le sait.
Comme nous l'ont rappelé les récents attentats à Berlin, Nice, Londres, Charlottesville et Barcelone, les véhicules peuvent devenir des armes mortelles. Ils sont faciles à acquérir et difficiles à arrêter. Les gens peuvent être à l'affût des armes... mais des voitures ?
Bien qu'efficace, il existe des limites à ce type d'attaque. Ils exigent qu'une personne conduise le véhicule, et ladite personne risque des lésions corporelles. L'implication de plusieurs voitures nécessite plusieurs conducteurs, qui doivent tous être dans la zone.
Les voitures autonomes contournent ces limitations. Oui, pirater une voiture demande plus de connaissances que de conduire, mais une fois que quelqu'un a développé cette compétence, les options sont effrayantes. Ils pourraient accéder à distance à une voiture connectée à Internet à l'autre bout du monde et la faire foncer sur des piétons ou dans un bâtiment. Plusieurs voitures pourraient frapper en même temps. Des incidents pourraient se produire simultanément dans des villes du monde entier.
Les attaques n'ont même pas besoin d'être aussi drastiques. Réduire la vitesse de circulation de 15 minutes dans chaque ville urbaine des États-Unis pourrait avoir un effet désastreux sur le PIB du pays, et cela pourrait être fait en disant à distance aux véhicules d'appuyer sur les freins.
Nous voyons déjà des cybercriminels voler plus d'argent en ligne qu'ils ne pourraient jamais espérer en retirer physiquement d'une banque. Un avenir avec des véhicules autonomes pourrait permettre à une poignée de terroristes de financer une organisation et de tuer des innocents dans le confort d'un canapé. Avec des voitures qui communiquent entre elles, le nombre de réseaux disponibles à exploiter est pratiquement infini.
Google voit sûrement une grande opportunité avec les voitures autonomes. La société de publicité collecte des données détaillées sur nous afin de diffuser des publicités hyper ciblées. Les voitures autonomes pourraient augmenter d'un cran la collecte de données du géant de la recherche.
L'utilisation de Google Maps permet à Google de bien voir où vous vivez et où vous allez. Android pousse le suivi plus loin, permettant à Google de dessiner une carte détaillée de l'endroit où vous allez chaque jour. Mais un téléphone peut être déroutant. Vous êtes à pied ? Vous faites du vélo ? Vous rouliez avec un ami ? Les données d'une voiture autonome montreraient tous les endroits où vous conduisez, ce qui est le genre de données spécifiques que de nombreux annonceurs aimeraient.
Les implications sur la vie privée suffisent à elles seules à effrayer beaucoup d'entre nous, mais étant donné le nombre de smartphones qui suivent déjà les emplacements des personnes, cela n'est clairement pas encore devenu une préoccupation sociétale généralisée. Mais le risque demeure que ce portefeuille de données détaillé tombe entre des mains indésirables. C'est particulièrement le cas si l'on considère que Google n'est pas le seul jeu en ville.
Même si Google peut dépenser des milliards pour maintenir la sécurité, ce n'est pas un domaine dans lequel les constructeurs automobiles ont beaucoup d'expérience. Feriez-vous confiance aux serveurs de Ford, Nissan ou Volkswagen pour ne pas être infiltrés un jour ?
Le logiciel a des bugs. Même les applications essentielles à la mission échouent. Il n'existe pas de code fiable à 100 %. Il y a tout simplement trop de variables, y compris la manière dont le code interagit avec une défaillance matérielle physique, ce qui est particulièrement pertinent dans les voitures, où les pièces subissent beaucoup plus d'usure que votre ordinateur de bureau moyen.
Que font les voitures autonomes lorsque le logiciel tombe en panne ? Actuellement, ils se replient sur des commandes manuelles. Quelqu'un doit être derrière le volant juste au cas où les choses tournent mal. À l'heure actuelle, cela semble être un degré de sécurité raisonnable, même si cela n'a pas déjà empêché un conducteur de mourir à cause d'une erreur informatique.
Pensez à l'avenir. Est-ce que toutes les voitures auront des volants ? Nous avons vu des discussions sur des modèles qui ne ressemblent en rien aux véhicules traditionnels. Au lieu de cela, ce sont de petites pièces dans lesquelles vous pouvez vous reposer ou travailler pendant que la voiture vous emmène ailleurs. Aurez-vous besoin d'être programmeur pour interagir avec le véhicule ?
Même si la voiture a un volant, ce n'est pas bon si on ne sait plus s'en servir. L'un des avantages des voitures autonomes est la capacité de nous permettre de continuer à nous déplacer après que nous soyons trop vieux pour conduire. Cela signifierait que nous ne sommes pas non plus aptes à prendre le relais en cas d'échec. Il est possible que des décennies après que les voitures autonomes soient devenues courantes, les jeunes conducteurs n'aient plus besoin de passer des tests de conduite. Une génération de conducteurs n'aura alors aucune expérience de conduite. Leur destin serait entièrement laissé au logiciel.
Les véhicules autonomes s'appuient sur des capteurs pour lire le monde qui les entoure. Les lasers et les caméras sont deux technologies qu'une voiture autonome utilise pour voir. Lorsque ce matériel tombe en panne, la capacité de conduite de la voiture est considérablement réduite. Rien ne doit casser pour que cela se produise non plus. Bien sûr, une pierre pourrait rebondir sur la route et casser un capteur. Mais une tempête de verglas peut aussi geler sur tout l'équipement. Et alors ?
Ensuite, il y a l'imprévisibilité des environnements créés par l'homme. Quelques autocollants mal placés suffisent pour confondre un véhicule autonome et provoquer un accident. Des chercheurs de l'Université de Washington le démontrent dans un article intitulé "Robust Physical-World Attacks on Machine Learning Models". Un véhicule autonome a systématiquement mal interprété le panneau d'arrêt ci-dessous comme une limite de vitesse de 45 :
Pas bon.
Et qui peut dire si ces autocollants étaient un accident ou une farce ? Peut-être que les futurs modèles seront suffisamment intelligents pour surmonter ces lacunes. Peut-être. Mais gardez à l'esprit que ces véhicules ne pensent pas par eux-mêmes. Ils naviguent sur la route en fonction de la façon dont les ingénieurs en logiciel les programment. Si quelqu'un comprend cette programmation, ou les hypothèses sous-jacentes à la programmation, alors il comprend comment la manipuler.
Supposons que vous êtes dans une situation où vous renversez un piéton ou sortez de la route, ce qui peut vous tuer. Beaucoup d'entre nous feront instinctivement ce dernier. Nous ne voulons tuer personne, et nous ne serions pas capables de vivre avec nous-mêmes si nous le faisions. Selon les circonstances, nous pourrions également faire face à des accusations.
Si vous en mourez, c'est une tragédie. Les membres de la famille pourraient blâmer le piéton. Ou ils savent peut-être que vous êtes mort en essayant de faire ce qu'il fallait dans une situation horrible.
Dans le cas d'une voiture autonome, tout est différent. Le choix ne vous appartient plus. Si la voiture tue le piéton, vous ressentez une culpabilité similaire à celle que vous auriez ressentie si vous conduisiez. Quelqu'un est mort à cause de votre véhicule. Si la voiture dévie et que vous parvenez à survivre, vous pourriez vous sentir obligé de blâmer le constructeur automobile (ou le développeur du logiciel, si le logiciel venait de Google, par exemple) pour vos blessures. Si vous décédez, les membres de votre famille peuvent penser que c'est la voiture autonome qui a tué l'être cher, et non la situation.
Que doit faire la voiture ? C'est une question à laquelle il est difficile de répondre. Parfois, le choix logique n'est pas le meilleur choix. Cela seul pourrait être une raison de laisser le couvercle sur la boîte de Pandore.
Chaque fois que nous roulons avec un ami, montons dans un taxi ou montons dans un bus public, nous confions notre vie à un autre humain. Les voitures autonomes nécessitent encore plus de confiance. Nous devons faire confiance au logiciel pour qu'il soit compétent et fiable. Nous faisons confiance au logiciel pour ne pas échouer.
Nous espérons que le fabricant ne stocke pas nos données de localisation et ne les vend pas à des tiers intéressés. Nous faisons confiance à ces mêmes entreprises pour prendre la cybersécurité au sérieux, car nous leur faisons confiance pour protéger nos informations contre les pirates et nos véhicules contre les attaques à distance.
Faites-vous confiance à une voiture autonome pour assurer votre sécurité ? Aimeriez-vous voir un bus autonome transporter vos enfants à l'école ? Que diriez-vous de conduire à côté d'un camion-citerne sans conducteur ? Ou vous sentiriez-vous plus à l'aise de ne pas avoir à être la personne aux commandes ? Je suis intéressé par vos pensées. Veuillez les partager dans les commentaires ci-dessous !
Crédit image :Skreidzeleu via Shutterstock.com
