Les enjeux éthiques des transports collectifs autonomes

Non classé, Technique

Kamel Benthchikou ; Nathalie Douville ; Alexandra Fieux-Castagnet ; Geneviève Fieux-Castagnet ; Gérald Santucci ; Catherine Vidal

Avril 2022

Introduction

Cet article se concentre sur le scénario dit de la mobilité collective, ce que l’on désigne le plus souvent sous l’appellation « transport collectif autonome ». 

Rappelons tout d’abord la définition du véhicule autonome : « Véhicule connecté qui, une fois programmé, se déplace sur la voie publique de façon automatique, sans intervention de ses utilisateurs ». 

Quant au « véhicule connecté », il s’agit d’un « véhicule doté de technologies lui permettant d’échanger en continu des données avec son environnement ». Tous les mots importants sont là : véhicule, technologies, échanger, continu, données, environnement. C’est-à-dire que lorsqu’on parle de véhicule connecté l’on fait référence à trois choses : le véhicule lui-même, son environnement (c’est-à-dire les infrastructures de réseaux de transport) et les interactions entre les deux (c’est-à-dire les infrastructures et services de réseaux de communications). Ce dernier point est essentiel : le véhicule connecté intègre en effet des systèmes de télécommunications sans fil qui lui permettent de collecter de nombreuses informations qu’il pourra enregistrer, traiter, exploiter et relayer vers d’autres véhicules ou envoyer vers l’infrastructure routière. Les données collectées sont bien sûr liées au pilotage, comme l’information sur la distance avec un autre véhicule mesurée par un radar, mais aussi à la géolocalisation et même à la vie à bord du véhicule, par exemple le transfert de musique stockée sur un smartphone ou d’un film. La voiture connectée est d’ores et déjà répandue dans plusieurs parties du monde ; on estime que 80% des véhicules sont des véhicules connectés ! Cette évolution n’est pas près de s’arrêter puisque la nouvelle génération de réseaux mobiles (5G, en attendant la 6G, déjà en gestation dans les cartons des instituts de recherche) permet des échanges de données beaucoup plus rapides entre les utilisateurs et les objets connectés.

Il peut s’agir, on va le voir, de métros, taxis, trains, autobus, navettes, avions-cargo, navires ou encore drones de livraison.

Les degrés d’autonomie varient selon le type de véhicules : 

  • Pour les navettes autonomes, le niveau 0 concerne les véhicules ne bénéficiant d’aucun système d’automatisation. La conduite reste donc entièrement sous le contrôle du conducteur. Certains dispositifs, comme l’avertisseur de changement de voie (déplacement latéral), de proximité d’un obstacle, d’une voiture dans l’angle mort, apportent une aide au conducteur, mais en aucun cas ne le remplacent dans la prise de décision.
  • Le niveau 1 voit également le conducteur garder l’entière responsabilité des manœuvres, en lui laissant la possibilité de déléguer au système, c’est-à-dire à l’intelligence artificielle du véhicule embarqué, certaines tâches comme par exemple le contrôle longitudinal du véhicule (repérage des obstacles devant et derrière le véhicule), la régulation de la vitesse en fonction des indications routières. A ce stade, le conducteur est obligé de rester attentif car il est de sa responsabilité de reprendre les commandes quand le système les lui redonne (via un signal lumineux ou sonore).
  • Le niveau 2 permet d’entrevoir une autonomie qui laisse le conducteur un peu plus spectateur de la conduite. En effet, l’entièreté des manœuvres est déléguée au système, bien que supervisées par le conducteur qui doit pouvoir reprendre la main quand cela est nécessaire. Par exemple, l’aide au stationnement : quand le véhicule arrive devant une place libre, détectée soit par le système soit par le conducteur, ce dernier a le choix entre laisser le véhicule se garer seul ou reprendre les commandes et effectuer la manœuvre seul. Dans ce cas également, le conducteur est entièrement responsable de son véhicule et de sa conduite, le cas échéant.

La première véritable « disruption » s’opère lorsque l’on passe du niveau 2 au niveau 3.

  • Au niveau 3, le conducteur peut déléguer la conduite sur les deux dimensions de guidage, longitudinal et latéral. C’est à partir de ce niveau qu’il devient un peu plus « passager », même s’il garde la responsabilité, in fine, des actions entreprises par son véhicule. Le système assurant le maintien du véhicule dans sa voie, le respect de l’allure et l’appréhension des conditions de trafic, le conducteur peut se permettre d’abaisser son niveau de vigilance et même se consacrer à d’autre tâches, certes brièvement. Le niveau 3 est celui où le véhicule commence à « comprendre » son environnement à un degré très supérieur à celui des stades précédents. Il va de soi que les fonctionnalités du niveau 3 sont activées en fonction de la législation de chaque pays. 
  • Le niveau 4 d’autonomie désigne un niveau hautement automatisé dans lequel le conducteur n’intervient plus. Il peut détourner entièrement son attention de la conduite pour se livrer à d’autres tâches, même celles qui exigent une attention soutenue. Cependant, ce niveau d’automatisation ne concerne que certains modes de conduite et n’opère que sous certaines conditions. En effet, le niveau 4 n’est actif que sur des zones de circulation très spécifiques, comme les parkings et les autoroutes. La principale évolution concerne le rôle du conducteur. Au niveau 4 d’autonomie, si le système restitue le pilotage au conducteur mais que ce dernier ne répond pas, le véhicule doit être capable de s’autogérer et d’aller se garer sur un parking ou une aire d’autoroute sans intervention humaine. 
  • Le niveau 5, enfin, constitue le rêve de l’autonomie en matière de conduite : l’automatisation est totale. Dans cette configuration, l’humain n’intervient plus, ni dans le contrôle, ni dans la supervision de la tâche de conduite ou de navigation. Toute la responsabilité et le contrôle incombent alors au système. Le véhicule doit être capable de se déplacer d’un point à un autre, quel que soit le type de route, de circulation. Il n’y a même plus de volant ou de pédale dans le véhicule, et celui-ci peut opérer sans présence humaine. 

Aujourd’hui, les véhicules ont au mieux un degré d’autonomie de niveau 3. Nous l’avons vu, ce niveau induit un guidage longitudinal (vers l’avant et vers l’arrière) et un guidage latéral (vers la gauche et vers la droite) automatisés, que l’on ne retrouve pas sur les niveaux précédents. Cela leur permet de doubler une voiture, de respecter les distances de sécurité, de maintenir le véhicule dans sa voie. 

Les véhicules autonomes de niveaux 3 et 4 sont actuellement testés dans diverses configurations et sont attendus sur le marché au cours de la décennie en cours. Les véhicules pleinement autonomes, quant à eux (niveau 5), ne devraient pas s’imposer avant 2030, voire, selon certains, 2050.

On notera qu’en ce qui concerne le train autonome, les degrés d’automatisation sont le plus souvent ramenés à quatre :

  • Conduite manuelle contrôlée.
  • Conduite semi-autonome (i.e. automatisation de l’accélération et du freinage du train, supervisée par un conducteur).
  • Conduite automatisée, avec personnel à bord.
  • Train totalement autonome (dès 2023 !).

La SNCF considère que l’automatisation des trains va se traduire par des bénéfices concrets pour les clients du ferroviaire :

  • Une plus grande capacité, car faire circuler plus de trains permet de transporter plus de voyageurs et de marchandises.
  • Un gain de fluidité et de régularité, grâce à une circulation harmonisée et à une vitesse optimisée, permettant de mieux faire face aux imprévus.
  • Un transport plus écologique, grâce à une diminution de la consommation d’énergie et au report de la route vers le rail. 

 Soulignons d’ores et déjà qu’il est vraisemblable que le « transport » va rapidement laisser la place à la « mobilité ». Ce changement syntactique est aussi une rupture sémantique : les objets connectés (ou internet des objets), les nouvelles formes d’énergie, mais surtout l’intelligence artificielle vont permettre l’autonomie des véhicules, mais également une meilleure efficacité énergétique ainsi que des services à forte valeur ajoutée, comme par exemple la maintenance prédictive qui rendra ces véhicules quasiment hermétiques aux pannes. 

Dans le contexte d’une révolution sociologique prenant en compte le doublement de la mobilité d’ici à 2050, l’accroissement de la population urbaine, et par conséquent une congestion automobile insupportable dans de nombreuses villes, il est probable que la mobilité va évoluer vers ce que l’on appelle une « mobilité en tant que service » (MaaS selon l’acronyme en anglais). Il s’agit de permettre à l’usager d’accéder à une mobilité multimodale, fluide et en temps réel, gage de grande efficacité, lui permettant, à un instant précis, de se déplacer d’un point A à un point B en associant divers modes de transport allant de la marche jusqu’aux transports en commun en passant par le vélo, le Véhicule de Tourisme avec Chauffeur (VTC) ou autres.

Cette révolution des transports collectifs autonomes et de la mobilité va inévitablement s’accompagner de nouveaux enjeux éthiques dont nous pouvons d’ores et déjà établir un catalogue et les lignes de force, mais dont, par prudence étant donné la vitesse du changement, nous nous garderons de suggérer que nous en avons brodé tous les tenants et aboutissants.

Les enjeux éthiques des véhicules collectifs autonomes sont nombreux. Nous évoquerons ci-après ceux liés :

  • au sentiment de surveillance généralisée qu’ils peuvent susciter, la perte d’anonymat étant susceptible de limiter l’exercice des libertés fondamentales, 
  • à l’atteinte à la vie privée et aux données personnelles non seulement des utilisateurs, mais aussi du personnel de véhicules et des autres usagers de véhicules dans de l’environnement de conduite des véhicules collectifs autonomes,
  • à la perte d’autonomie et de compétences du personnel, et à sa surveillance,
  • à la difficulté éthique en cas d’accident à déterminer quelle vie il faut sauver (« dilemme du tramway »),
  • à la sécurité de ces véhicules, et à la robustesse de ces systèmes notamment à l’égard des risques de cybersécurité,
  • à la transparence sur leur réelle autonomie et sécurité,
  • à leur impact sociétal lié notamment au bouleversement progressif de la société induit par ces nouveaux modes de transport sans réel débat démocratique,
  • à leur impact environnemental.

Surveillance

Les systèmes de vidéosurveillance existent déjà dans les gares et dans certains trains. A titre d’exemple, le Groupe SNCF investit depuis de nombreuses années dans des systèmes de vidéoprotection installés dans les gares et à bord des trains. Les espaces publics SNCF sont ainsi aujourd’hui équipés de plus de 60 000 caméras : environ 17 000 sont installées dans les gares et environ 45 000 sont embarquées à bord des trains. 

Tous les transports collectifs autonomes seront à terme et au stade ultime de leur développement sans conducteur ni même sans contrôleur à bord, ce qui pose la question de la façon dont devra être assurée la sécurité des passagers à bord de ces véhicules collectifs. Il est prévu de recourir aux systèmes de vidéosurveillance[1]. Toutefois, ces systèmes de vidéoprotection sont de plus en plus remplacés dans le monde du transport par des dispositifs de vidéo augmentée ou de vidéo intelligente[2].

Quand bien même il ne serait pas fait usage de la reconnaissance faciale, le recours à de tels systèmes pose un certain nombre de questions éthiques précisément identifiées en France par la CNIL. C’est ainsi qu’elle relève le risque de surveillance généralisée, particulièrement sensible dans les espaces publics où s’exercent les libertés individuelles, alors que c’est l’anonymat qui permet de préserver ces libertés (notamment droit à la vie privée, droit à la liberté d’aller et venir, droit d’expression et de réunion, droit de manifester, droit à la liberté de conscience et d’exercice des cultes). Elle insiste sur le fait que cette technologie permet non seulement de filmer les personnes mais également de les analyser et de les profiler.

Elle ajoute que « L’intégration d’algorithmes dans ces systèmes vidéo, analysant de manière systématique et automatisée les images issues des caméras, a pour conséquence d’élargir considérablement la quantité d’images traitées et des informations qui peuvent en être inférées. 

Ces nouveaux outils vidéo peuvent ainsi conduire à un traitement massif de données personnelles, parfois même de données sensibles. Les personnes ne sont donc plus seulement filmées par des caméras mais analysées de manière automatisée, en ce qu’elles sont ou ce qu’elles font, afin d’en déduire, de façon probabiliste, un grand nombre d’informations permettant, le cas échéant, une prise de décisions ou de mesures concrètes les concernant. 

Par ailleurs, la vidéo « augmentée » peut constituer une technologie invisible et « sans contact » pour les personnes. Si les citoyens peuvent constater et, d’une certaine manière, appréhender l’installation de différentes caméras vidéo dans leur quotidien, ils n’ont pas de moyen d’avoir conscience que celles-ci peuvent, non pas seulement les filmer, mais également les analyser. 

En outre, les technologies de vidéo « augmentée », comme tout traitement algorithmique, présentent un potentiel de versatilité qui doit être pris en compte dans leur perception globale. Ces technologies sont en effet techniquement capables, parfois par de simples réglages, de changer de fonctions : un dispositif de vidéo « augmentée » initialement installé pour réaliser une analyse de la fréquentation d’un lieu (comptage des personnes et segmentation par genre et tranches d’âge) pourrait, assez simplement, permettre également le suivi du parcours des personnes au sein de ce lieu. 

La CNIL relève que le droit d’opposition des personnes d’être ainsi filmées est très difficile à mettre en œuvre dans les espaces publics et que de tels systèmes doivent faire l’objet d’un encadrement et d’une règlementation spécifique.

Des recommandations peuvent être faites pour limiter à bord des véhicules collectifs autonomes les risques éthiques de surveillance généralisée, de perte d’anonymat, de profilage, de détournement d’usage énumérés par la CNIL. 

Doivent être bien définis : la finalité de traitement, le cas d’usage envisagé, la nature des données traitées, leur conservation éventuelle, leur durée de conservation, le recours à un humain formé et habilité pour procéder à l’analyse finale et à la prise de décision, l’absence de recours à des données biométriques pour identifier les personnes (la SNCF utilise par exemple un système d’identification des personnes par leurs vêtements), et un contrôle systématique et traçable de tous ces éléments.

Il faut évoquer également le recours à des algorithmes permettant de prédire les actes d’agression et de violence, qui font l’objet de nombreux développements et qui sont déjà utilisés dans certains pays. Le risque éthique consiste ici en l’utilisation de données d’entrainements biaisées, utilisées dans un autre cadre, pour un autre usage ou dans un autre lieu, et qui sont susceptibles de prédire des comportements violents en fonction de critères liés à des éléments non pertinents pour la situation, stigmatisant ainsi des personnes innocentes. La recommandation qui peut être faite ici est d’avoir recours à des données les plus objectives et pertinentes possibles pour la situation, de les contrôler régulièrement pour identifier les biais et corriger ainsi l’apprentissage des algorithmes.

Il est fort probable que d’ici quelques années ces caméras intelligentes utilisées à des fins de sécurité auront recours systématiquement à la reconnaissance faciale[3] pour apporter plus de précisions dans les résultats d’identification des agresseurs, plus de rapidité dans cette identification et donc plus d’efficacité dans leurs poursuites. Elle est déjà utilisée dans certains pays pour assurer des fonctions de sécurité. La plupart des gares de chemin de fer dans le monde prévoient d’utiliser un logiciel de reconnaissance faciale pour combattre la criminalité. Le système est d’ores et déjà expérimenté dans le pôle technologique de Bangalore où un demi-million de visages sont scannés chaque jour puis comparés aux visages stockés dans les bases de données de la police. La reconnaissance faciale devrait être utilisée aussi à bord des trains au moyen de caméras de vidéosurveillance installées dans un premier temps à l’intérieur de 1 200 des 58 000 compartiments de trains. En outre, des capteurs seront testés pour détecter certains sons tels que les cris ou éclats de voix émanant de disputes[4].

Grâce à ces systèmes automatisés, l’identification et la vérification de l’identité d’individus peuvent s’effectuer en seulement quelques secondes à partir des caractéristiques de leur visage : écartement des yeux, des arêtes du nez, des commissures des lèvres, des oreilles, du menton, etc., y compris au milieu d’une foule ou dans des environnements dynamiques et instables. 

Bien qu’il existe d’autres signatures biométriques (empreintes digitales, scan de l’iris, voix, numérisation des veines de la paume de la main, ou encore analyse du comportement), la reconnaissance faciale s’impose comme la plus efficace des références en matière de mesures biométriques : elle est facile à déployer et à mettre en œuvre ; il n’y a pas d’interaction physique requise par l’utilisateur final ; les processus de détection et de correspondance du visage (pour la vérification / identification) sont très rapides.

L’identification répond à la question : « qui êtes-vous ? ». La personne est identifiée parmi d’autres en comparant ses données personnelles aux données d’autres personnes qui sont contenues dans la même base de données ou éventuellement dans des bases de données reliées. 

L’authentification, quant à elle, répond à la question : « Êtes-vous bien la personne que vous prétendez être ? ». La biométrie permet ici de certifier l’identité d’une personne en comparant les données qu’elle présente avec les données préenregistrées de la personne qu’elle déclare être.

Les risques éthiques présentés plus haut sont ici encore plus importants. Comme le souligne la CNIL « les dispositifs de reconnaissance faciale sont particulièrement intrusifs et présentent des risques majeurs d’atteinte à la vie privée et aux libertés individuelles des personnes concernées. Ils sont par ailleurs de nature à créer un sentiment de surveillance renforcée ». (CNIL, « Reconnaissance faciale : pour un débat à la hauteur des enjeux », 15 novembre 2019.

Outre les risques de surveillance généralisée, de profilage et d’atteinte aux libertés fondamentales, apparaît ici un autre risque qui est le « faux négatif » (la technologie ne parvient pas à faire correspondre un visage avec celui figurant sur une liste de surveillance, en conséquence de quoi des suspects ne sont pas détectés) et le « faux positif » (la technologie aboutit à des erreurs d’identification). Le faux positif pourrait laisser croire qu’une personne a commis une infraction et porter ainsi atteinte à sa dignité. Or, l’on sait que les faux positifs ou les faux négatifs sont plus fréquents chez les personnes de couleur, ce qui peut générer une forme de discrimination. 

Certains programmes pour l’analyse faciale sont entachés de biais de nature sexiste ou raciale qui se traduisent par un faible taux d’erreur pour les hommes à peau clair, mais un taux élevé d’erreur pour les femmes à peau foncée[5]. En cas d’apprentissage machine, des biais pourraient s’introduire et stigmatiser une partie de la population.

La collecte de données biométriques qui constituent un des attributs du caractère unique d’une personne peut être vécue comme une autre atteinte à la dignité. Plus le système se généralisera, plus il y aura un risque de sentiment de perte d’individualité ; le visage qui exprime les émotions et la sensibilité d’une personne prendra la dimension d’un simple outil parmi d’autres outils, générant ainsi un sentiment de « dépersonnification » et de déshumanisation. La matière première de cette technologie n’est rien moins que nos visages. Peut-on considérer que le visage d’un utilisateur constitue une « data » comme les autres ?

Le recours à la reconnaissance faciale pour identifier les personnes sans consentement préalable est interdit aujourd’hui au sein de l’Union Européenne sauf si une loi l’autorise. Les limites apportées par la loi à aux droits et libertés fondamentales doivent respecter le contenu essentiel de ces droits et libertés, être nécessaires, proportionnelles, et répondre à des objectifs d’intérêt général reconnus par l’Union Européenne ou au besoin de protection des droits et libertés d’autrui. La convention européenne des droits de l’homme cite les objectifs d’intérêt général qui peuvent être dans une société démocratique la sécurité nationale, la sûreté publique, le bien-être économique du pays, la défense de l’ordre et la prévention des infractions pénales, la protection de la santé ou de la morale.

Au regard de ces textes, la reconnaissance faciale dans les véhicules collectifs autonomes ne devrait pas pouvoir se développer en dehors d’un cadre légal, sauf possibilité de recueillir le consentement préalable individuel des passagers.[6]

Vie privée et données personnelles

D’après le Livre blanc sur le véhicule autonome publié par l’INRIA (2018), « les systèmes de véhicules autonomes et connectés vont produire d’énormes quantités de différents types : des données fournies par les capteurs embarqués sur les véhicules, des données de localisation, des flux d’images, mais aussi des courriers électroniques, des SMS, des données de divertissements. Un véhicule autonome connecté pourrait ainsi produire jusqu’à 1 Go par seconde. » Christian Long considère, quant à lui, que les véhicules autonomes vont produire plus de données en un an qu’il n’en a été produit de toute l’histoire de l’humanité. 

Dans le cas des véhicules collectifs autonomes, nous avons identifié trois types de données qui sont susceptibles d’être collectées :

  • les données des utilisateurs,
  • les données du personnel des véhicules,
  • les données des autres usagers de l’environnement.

Dans chacun de ces types de données, il existe des risques éthiques dus à leur mauvaise utilisation, des risques communs aux différents propriétaires de ces données, ou spécifiques. 

Risques communs aux différents types d’usage

Le premier risque est la difficulté d’anonymiser convenablement des données personnelles. En effet, le croisement des données produites par les systèmes utilisés notamment lorsque les données sont croisées avec celles d’autres banques de données privées (par exemple celles des grandes entreprises technologiques de l’Internet, GAFAM ou BATX, lors de l’utilisation de son GPS, de ses moyens de transports via smartphone, etc.) présentent un risque majeur de profilage massif des individus portant une très fort atteinte aux libertés et droits fondamentaux. 

La fiabilité et la précision d’une intelligence artificielle dépend en partie de la quantité de données qu’on aura pu collecter pour répondre à la problématique pour laquelle elle est utilisée. Il semble donc contre-intuitif d’envisager de supprimer toutes les données liées à l’utilisation des véhicules collectifs. Cependant, ces données, si elles ne sont pas supprimées, même pseudo-anonymisées, représentent donc de potentiels risques pour leur utilisateur. 

Un autre risque lié à la quantité massive de ces données nécessaires à l’automatisation des véhicules collectifs est lié à leur propriété, à leur stockage, à leur gestion par les pouvoirs publics ou par les entreprises privées. 

De plus, la dépendance à l’utilisation de ces données nous expose au risque de cyberattaque, qui pourrait concerner tous les utilisateurs de par l’utilisation de leurs données, mais également en mettant en péril leur sécurité. 

La limite entre transport privé et public deviendra moins nette, du fait de l’utilisation de voitures partagées, de robots-taxis. Comment imposer aux opérateurs privés les mêmes standards pour leurs solutions, surtout quand on sait que ce sont Google, Apple, Uber ou encore Tesla qui sont en train de s’imposer dans ces technologies et donc de créer une dépendance technologique à leur savoir-faire ?

Enfin, la valeur des résultats des intelligences artificielles (IA) est fonction des questions qui leur sont soumises : quiconque cherche des corrélations entre un faciès et n’importe quel type de données en trouvera nécessairement. L’asymétrie d’information exorbitante qu’implique cette technologie accroît les possibilités d’influence et de coercition émanant des autorités, que celles-ci soient politiques ou économiques. Un « Big Brother » (symbole du totalitarisme) ou un « Big Other » (symbole de l’« instrumentarianisme »), capable de reconnaître tous les individus et d’en obtenir instantanément le profil et les antécédents.

Risques spécifiques par catégorie de données

Concernant les données des utilisateurs

Le premier risque éthique a été précédemment évoqué : la reconnaissance faciale ne nécessite pas de consentement proactif (comme poser son doigt sur un capteur, parler dans un micro, prendre une photo etc.) de l’utilisateur. Il est donc difficile de permettre à l’utilisateur d’être informé et conscient de l’utilisation de ces technologies lors de son usage des transports collectifs. 

Ensuite, l’utilisation des transports collectifs peut être considérée comme un service de première nécessité qui répond à la liberté de circulation des individus. Dans le cas de l’absence de consentement de certains utilisateurs, une alternative à ces transports sera-t-elle possible et systématique ? Qu’en est-il pour les individus qui auront été identifiés comme fraudeurs ou potentiels fraudeurs ? Quelle solution leur propose-t-on pour préserver leur liberté ainsi que celles des autres utilisateurs ?

Du fait du rôle clé des transports collectifs dans nos modes de vie, les données liées à nos habitudes quotidiennes, nos préférences de trajet, nos utilisations et consommations des transports sont riches d’informations nous concernant et nous rendent donc facilement identifiables. Une utilisation abusive de ces données peut impacter notre libre-arbitre dans le laps de temps correspondant à notre temps de transport, entraînant ainsi éventuellement de la publicité ciblée, des suggestions de consommation, et nous limitant potentiellement à une boucle d’enfermement et donc de dépendance pour ce mode de transport ou ce trajet. 

Les véhicules collectifs autonomes peuvent impliquer l’utilisation de technologies qui nécessitent certaines conditions pour être utilisées. Par exemple, l’utilisation d’un smartphone pour l’accès aux véhicules via des cartes d’abonnement numérisées ou la géolocalisation : qu’en est-il des victimes de la fracture numérique ? Un autre exemple est l’utilisation de la vidéosurveillance qui suppose d’avoir son visage dégagé : qu’en est-il des utilisateurs portant un masque, des lunettes de soleil, des chapeaux, etc. ? Faut-il donc encadrer l’apparence physique des utilisateurs ?

Concernant les données du personnel des véhicules

L’autonomie des transports collectifs sera, dans un premier temps, vraisemblablement supervisée par un humain. Cependant, à court terme, les conducteurs, les contrôleurs, les techniciens en charge de la supervision risquent de voir leur champ d’action diminuer. Le risque est donc une perte de compétences et donc une dépendance à la technologie et à l’autonomie, rendant inadaptée l’intervention humaine nécessaire. 

A l’inverse, dans un modèle hybride entre l’utilisation de l’intelligence artificielle et l’humain, les données de conduite, par exemple, seront facilement collectées et analysées. Une comparaison entre les différents conducteurs, mais également l’identification de leurs faiblesses (inattention, réaction de peur, oubli, etc.) pourrait conduire à sélectionner le personnel de façon quasi automatisée, et ce sans forcément prendre en compte le contexte psychologique de l’employé, par exemple. En octobre 2020, un hacker ayant piraté une voiture autonome Tesla a révélé que la camera permettait d’analyser le visage du conducteur : si les yeux sont fermés, la tête baissée, là où porte le regard, l’utilisation du téléphone etc. 

Enfin, se pose une question de responsabilité. Sur le modèle des avions, des boîtes noires seront sans doute utiles pour comprendre certaines situations. Le tout récent règlement de l’ONU sur la conduite autonome oblige le véhicule à disposer d’un « système de stockage de données pour la conduite automatisée ». Ces boîtes noires pourront dans certains cas faire état d’une défaillance technologique, ou d’une faute professionnelle. Dans chacun des cas, à qui incombe la responsabilité en cas d’accident ?

Concernant les données des autres usagers de l’environnement

L’environnement permettant la circulation des véhicules collectifs autonomes doit être balisé afin d’être au maximum prédictible. L’utilisation de ces véhicules conditionnent donc tout notre environnement. Quel sera l’impact sur notre quotidien, sur nos organisations sociales, la préservation de nos territoires et de nos patrimoines ? Une co-utilisation de l’espace public entre véhicules autonomes et véhicules traditionnels sera-t-elle possible ?

Pour l’instant, le règlement adopté en 2020 par l’ONU impose aux véhicules autonomes de circuler sur des voies qui sont séparées par une barrière physique entre les deux sens de circulation. Mais cette obligation rend également nécessaire des travaux d’ampleur. A l’image des conflits d’usage engendrés par la simple création d’une bande cyclable, la question de la cohabitation se pose. 

Les véhicules autonomes supposent la vidéo de l’environnement dans lequel ils circulent afin d’enregistrer les données relatives à celui-ci et d’y évoluer de façon adaptative. Les limites respectives de l’espace public et de l’espace privé sont minces et difficiles à délimiter dans le cadre d’une vidéo. Comment distinguer ces données afin de respecter le cadre de la vie privée ? De plus, qu’en est-il des personnes présentes dans l’environnement lors du passage d’un véhicule autonome, non utilisatrices, dont le consentement, par conséquent, n’aura pas été requis ? Comment préserver leur anonymat sans utiliser les données relatives à leur comportement ?

De plus, l’implémentation des véhicules collectifs autonomes risque de générer des inégalités. En effet, une connectivité de grande qualité (5G), est nécessaire pour le bon fonctionnement des véhicules autonomes et pour assurer leur sécurité. Les échanges de données sont multiples : entre les véhicules (vehicule-to-vehicle ou V2V), entre les véhicules et l’infrastructure (vehicule-to-infrastructure ou V2I), et entre la mise à jour instantanée de la cartographie numérique à partir d’informations stockées sur le cloud et le pilotage à distance. Une récente étude de l’Apur indique qu’il y a un consensus sur la nécessité de développement de la 5G. Qu’en sera-t-il des territoires qui n’ont pas encore accès à la 5G et qui ne sont pas considérés comme prioritaires pour l’installation des réseaux de télécommunication privés permettant de disposer d’un excellent accès à l’internet ? A cela s’ajoute le coût des travaux nécessaires pour la récolte des données de l’environnement et l’adaptation de l’infrastructure. Il est donc possible d’imaginer un développement à deux vitesses. 

Autonomie

Neurotechnologies et « neurodroits »

Un domaine en plein essor est celui des neurotechnologies qui associent les neurosciences et les technologies numériques. Implanter des microprocesseurs dans le cerveau, décoder les signaux électriques produits par les neurones sont des outils très prometteurs pour compenser certains handicaps physiques et mentaux. D’autres applications des neurotechnologies sortent du domaine médical et concernent le « bien-être personnel » et la surveillance des états mentaux. Des startups développent des casques et des bandeaux munis d’électrodes pour enregistrer l’électroencéphalogramme, avec pour objectif de permettre à l’utilisateur de réguler son état de stress, son sommeil, sa concentration.

Il faut souligner que ces technologies d’enregistrement des ondes cérébrales avec des électrodes placées sur le crâne n’ont rien de nouveau. On sait depuis plus de 50 ans que les ondes de fréquence alpha sont associées à la détente et les ondes beta à la vigilance. Ce qui est nouveau, c’est la possibilité de traiter ces données en temps réel par des applications sur smartphone. Chaque type d’onde cérébrale est traduite en signaux sonores ou visuels qui renseignent l’utilisateur sur les activités de son cerveau. Celui-ci doit mobiliser son attention sur ces signaux et apprendre progressivement à les corréler avec son état cérébral : c’est la méthode du neurofeedback[7]. On notera que jusqu’à présent aucune validation de l’efficacité et de l’innocuité de ces dispositifs n’a été démontrée par des méthodes scientifiques rigoureuses.

Le développement des technologies d’enregistrement des ondes cérébrales est aussi l’objet d’applications dans le cadre professionnel pour contrôler le niveau d’attention sur certains postes de travail. Ainsi, la conduite de véhicules est déjà encadrée par des caméras et des capteurs qui renseignent sur l’état de vigilance du conducteur. Dans un futur proche, il est hautement probable que seront utilisés à cet effet des dispositifs d’enregistrement des ondes cérébrales qui pourraient s’avérer plus fiables : le constructeur automobile Nissan[8] et l’équipementier Hyundai Mobis[9] sont les plus avancés dans ce domaine. Ces technologies pourront être utilisées pour surveiller l’attention des conducteurs dans les véhicules collectifs qui ne seront pas encore autonomes où le conducteur exercera de moins en moins de fonctions avec un risque accru de baisse de vigilance.

A l’évidence, une vigilance éthique s’impose face au développement croissant des neurotechnologies[10] Une préoccupation majeure concerne l’exploitation sans consentement éclairé des données cérébrales, que ce soit dans le cadre médical, de la vie privée ou de la surveillance de la population. Les données cérébrales sont des données intimes et privées. Elles font partie intégrante des données personnelles au même titre que l’ADN et doivent être protégées face au risque d’être utilisées par les entreprises du numérique, les publicitaires, les sociétés d’assurance, la police etc. Concernant les conducteurs, leur consentement préalable pourra être sollicité ; mais ne seront-ils pas de facto contraints d’accepter cette technologie pour pouvoir exercer leur activité de conduite au sein de leur entreprise ?

Ce sujet est au premier plan du rapport publié en 2019 par l’OCDE (Organisation internationale de Coopération et de Développement Économique) sur les questions éthiques, juridiques et sociétales posées par les nouvelles neurotechnologies[11]. Le rapport recommande des mesures de protection spécifique des « neurodroits » (droit à la liberté cognitive, à la vie privée mentale, à l’intégrité psychique) dans l’esprit des principes de la Déclaration universelle des droits humains. En 2021, le Conseil de l’Europe et le Comité International de Bioéthique de l’Unesco (IBC) ont appelé à placer les « neurodroits » au premier plan des programmes d’actions stratégiques sur les neurotechnologies dans les secteurs publics et privés[12].

Dans cette mouvance, le Chili est devenu en 2021 le premier pays au monde à avoir voté une nouvelle loi inscrite dans la constitution pour protéger les données cérébrales et interdire leur exploitation sans consentement éclairé[13].

En France, la situation est encore éloignée d’une reconnaissance des « neurodroits ». En 2018, le comité consultatif national d’éthique (CCNE) s’est saisi du sujet à l’occasion de la révision de la loi de bioéthique initialement prévue en 2020. Le projet de loi recommandait l’encadrement de l’utilisation des techniques d’enregistrement des activités cérébrales, en limitant leur utilisation au « domaine médical et à la recherche scientifique ou dans le cadre d’expertises judiciaires », avec une mention particulière sur la protection des données cérébrales. La loi adoptée finalement en 2021 reprend ces principes mais la question de l’exploitation et de la protection des données cérébrales n’y figure pas explicitement[14]

Manifestement, l’évolution législative n’avance qu’à pas mesurés face aux bouleversements qui s’annoncent dans le domaine des neurotechnologies.

La question mérite donc d’être soulevée d’une définition et d’une mise en œuvre d’une législation particulière sur le sujet.

En cas d’accident, quelle vie sauver ?

Concernant les navettes autonomes, se pose la question de savoir quel doit être le comportement de la navette en cas d’accident susceptible d’engendrer des blessés ou des morts. La navette devra-t-elle avant toute chose préserver la vie des passagers qui sont abord quitte à blesser ou tuer des piétons ? Que devra-t-elle faire si pour éviter de blesser ou de tuer ses passagers, elle doit en blesser ou tuer d’autres ? C’est ce que l’on appelle communément le « dilemme du tramway » présenté par la philosophe Philippa Foot (1920-2010) dans un contexte tout autre. Elle utilisa ce raisonnement à propos de l’avortement. Selon elle, une personne peut effectuer un geste qui bénéficiera à un groupe de personnes A mais ce faisant nuira à une personne B. Dans ces circonstances, est-il moral pour la personne d’effectuer ce geste ?

La vision utilitariste inspirée de Jeremy Bentham considère qu’il faut épargner le plus de vies possibles tandis que le choix inspiré de la morale kantienne serait de dire qu’il n’est pas moral de sacrifier une vie, un acte étant moral quand il suit un principe universel qui serait ici le principe de ne pas tuer son prochain quoi qu’il arrive. 

Jean- François Bonnefon, directeur de recherche au CNRS, a eu l’idée de faire une consultation publique sur internet, en association avec le MIT, à travers la « machine morale »[15], pour connaître les grandes tendances de l’opinion publique. Pourquoi ne pourrait-on pas demain prendre en compte l’idée de la machine morale dans le cadre de la programmation des algorithmes gérant la conduite des véhicules autonomes en cas d’accident ? Ce site permet à tout un chacun de procéder à des choix à travers la simulation de scénarii très concrets. Sont présentés des dilemmes moraux où une voiture sans conducteur doit choisir le moindre de deux maux, comme tuer deux passagers ou bien cinq piétons, tuer 4 passagers ou 6 personnes âgées, tuer 5 chiens ou 3 êtres humains, tuer la mère et l’enfant ou une personne âgée, tuer le passager ou le piéton, tuer 3 passagers ou une vieille dame et deux enfants, tuer 4 passagers ou un médecin, une personne âgée et deux autres piétons. L’idée est de déterminer les préférences de la population : les internautes déterminent-ils plutôt leurs choix en fonction de la qualité de passager ou non, du fait de sauver le plus de vies possibles, du genre, de l’âge, du respect du code de la route, des espèces, de la forme physique, du statut social ? Jean-François Bonnefon conclut de l’expérience que la majorité des personnes font le choix de sauver le plus de vie possible. Ceci étant, des différences apparaîtraient selon les cultures, les Français ayant tendance à privilégier les femmes et les enfants alors que les Japonais ont tendance à sauver les piétons sans être forcément enclins à compter le nombre de vies. Cela fait ressortir les différences culturelles dans la perception de ce qui est moral et éthique, ce qui pourrait laisser ainsi à penser que la programmation des véhicules autonomes dans le cas d’accidents devrait être différente d’une culture à l’autre pour répondre à un comportement considéré comme le plus éthique possible selon la culture en question. Hubert Etienne a mis en lumière les biais des conclusions de l’expérience de la morale machine :

  • les personnes réagissent comme dans un jeu vidéo, ce qui ne saurait présager de leur réactions dans une situation réelle, 
  • la population qui a participé à l’expérience est principalement composée de personnes particulièrement intéressées par les véhicules autonomes, souvent de futurs propriétaires, ce qui induit des réponses protégeant les occupants des véhicules autonomes,
  •  les participants ne sont pas informés de l’usage qui sera fait de cette expérience (pourrait -elle être utilisée comme une aide à la conception des algorithmes de décision en cas d’accident ?).

Autant de raisons pour lesquelles de simples statistiques d’opinions publiques ne sauraient selon lui se substituer à un débat contradictoire et démocratique permettant une prise de décision politique et réglementaire[16]

Concernant les véhicules autonomes, plusieurs questions se posent : en cas de présence de conducteur au sein de la voiture, doit-on lui laisser reprendre la main en cas d’accident ? Pour tenter d’éclairer ces débats théoriques, Joshua Green (professeur de psychologie à Harvard) s’est tourné vers les neurosciences pour voir par IRM comment le cerveau réagit au « dilemme du trolley » dans la situation suivante : un trolley dont les freins sont hors d’usage dévale une pente ; s’il continue sa route, il va heurter cinq personnes présentes en aval sur la voie de chemin de fer :

  • Dans la situation A, le sujet auquel est soumis le scénario a la possibilité d’agir sur un aiguillage pour dévier le trolley sur une voie où se trouve une seule personne qui sera immanquablement écrasée. 
  • Dans la situation B, le sujet peut agir en précipitant d’un pont une personne sur les rails afin de stopper à temps le trolley et sauver les cinq autres situées en aval de la voie. 

Pour une vaste majorité de personnes interrogées, la situation A est jugée moralement acceptable, contre seulement 10% en faveur de la situation B. Comment l’expliquer alors que les deux situations mènent au même résultat ? Pour les philosophes, le dilemme oppose les « déontologistes » (qui se conforment aux normes morales) aux « utilitaristes » qui font primer les conséquences concrètes. Pour la situation A, on voit s’activer les régions cérébrales impliquées dans les émotions, alors que des zones dédiées à la cognition sont mobilisées dans la situation B. Greene conclut de son expérience que le jugement moral est le produit de mécanismes psychologiques qui s’opposent :

  • les processus émotionnels, intuitifs et non volontaires, qui interdisent de porter atteinte physiquement à une personne,
  • les processus rationnels, cognitifs et conscients, qui jugent qu’un mort vaut mieux que cinq.

Fort de ces résultats – très contestés car peu robustes méthodologiquement – l’expérience a été réalisée sur neuf personnes), Joshua Green plaide pour un renforcement utilitariste de la décision morale grâce à l’IA pour réaliser un système hybride homme-machine censé assurer une meilleure pertinence morale. 

 La théorie psychologique dualiste de Greene a fait l’objet de nombreux débats et critiques, tant sur le plan philosophique conceptuel (voir les revues de Hubert Etienne et Bernard Baertschi) que sur le plan neurobiologique (voir Antonio Damasio). Les travaux de recherche menés dans ces disciplines s’accordent pour considérer que raison et émotion sont inséparables dans le jugement moral.

 Ces arguments questionnent la pertinence de l’utilisation d’algorithmes pour prendre des décisions morales automatisées et décider de la conduite de véhicules autonomes placés dans les situations hors normes et non programmées. Si le dilemme se pose de sauver la vie des passagers de la voiture en tuant des piétons ou de sauver la vie des piétons en tuant les passagers, mieux vaut faire appel à l’être humain et à son cerveau, à la fois rationnel et émotionnel pour évaluer la situation. La dimension humaine de la prise de décision est fondamentale quand c’est le devenir d’un être humain qui est en jeu. Le danger est bien de déléguer un pouvoir de décision à une machine sous prétexte que l’IA est supposée neutre, impartiale, infaillible, autant de qualités qui feraient défaut aux humains. Or l’objectivité de l’IA est plus une croyance qu’une réalité avérée. Tout algorithme est le reflet de données qui lui sont fournies et des paramètres de son fonctionnement qui sont déterminés par des humains. De fait, il incorpore des biais qui sont liés aux objectifs de son utilisation (commerciale, sociale, politique) et qui peuvent être sources d’erreurs. Comme le souligne le bio-informaticien Rand Hindi : « Les IA font moins d’erreurs que les humains, mais elles en font là où les humains n’en auraient pas faites ».

Mais l’intervention de l’homme ne semble plus possible au dernier stade d’autonomie des véhicules, quand il n’y aura plus de conducteurs à bord. Le véhicule autonome réagira en fonction de la façon dont il aura été programmé. 

Dans ce cas, qui est légitime pour décider des règles ? Les programmeurs qui feront des choix personnels dans des situations abstraites et générales ? Le constructeur qui pour vendre ses véhicules protègera en priorité les passagers à bord ? Le gouvernement qui optera peut-être pour une minimisation du nombre de victimes ? Des commissions éthiques indépendantes qui pourraient utiliser des critères différents en fonction des cultures ou au contraire des organismes internationaux qui définiraient des critères universels ?

La commission éthique du ministère des transports allemands a considéré que les décisions à prendre ne pouvaient pas être clairement normalisées et par conséquent programmées pour qu’elles soient incontestables, en rappelant qu’il ne devait pas y avoir de distinction faite en fonction des caractères personnels (âge, genre, constitution physique ou mentale). Que penser d’une telle réponse ? N’est-ce pas là un moyen de reporter le débat au jour où les véhicules seront totalement autonomes, ce qui n’est pas le cas aujourd’hui, sauf pour les véhicules collectifs ? Comment ces difficultés éthiques sont-elles concrètement résolues dans ce cas ?

Demain la prise de décision pourrait-elle être faite avec une IA forte sans aucune intervention humaine, la machine apprenant en fonction des statistiques des situations passées ?

Sécurité et robustesse

Il existe un risque de cybersécurité et de captation malveillante des données produites par les systèmes de vidéo intelligente, et ce d’autant plus s’ils utilisent de la reconnaissance faciale qui peut conduire à des risques d’usurpation d’identité. Un détournement d’usage peut avoir des conséquences graves sur les droits et libertés des personnes : usurpation d’identité, diffusion d’images sur les réseaux sociaux, chantage, harcèlement etc.

Comme pour l’ensemble des acteurs du transport, la sécurité est une nécessité pour les véhicules autonomes.

Le véhicule est en mode autonome, il est autonome ! Pour autant, il peut être nécessaire, impératif, de pouvoir reprendre la main, la maitrise de la route et des différents éléments constitutifs. Ce qui n’est pas si facile, puisque « l’habitude », la promesse et l’usage principal du véhicule « autonome » est bien de laisser faire. Or, il se présente des cas régulièrement où il est nécessaire de « reprendre » la conduite manuelle. Côtés constructeurs, il est nécessaire de prévoir et fiabiliser les signaux d’alerte indiquant la désactivation du mode autonome, pour les rendre encore plus prégnants. Le sujet sécurité/robustesse est bien dans la nécessaire complémentarité entre l’autonomie et la reprise en main par l’humain dans les cas d’écarts de sécurité. 

Certes, les systèmes de conduite autonome réduisent l’erreur humaine et constituent donc une avancée indéniable pour la sécurité routière. Mais l’habitude de s’en remettre à la machine peut créer des accidents quand le système pèche. Il reste donc à trouver le moyen de stimuler efficacement l’attention des conducteurs, même quand ils délèguent le pilotage de la voiture à la machine[17].

La robustesse est aussi un véritable enjeu pour le déploiement des véhicules autonomes. Il s’agit donc de couvrir l’ensemble des risques. Y compris le risque lié au matériel et aux données échangées.

Le rapport de la Commission européenne[18] est édifiant. Il émet vingt recommandations qui concernent la réduction des dommages aux personnes, la révision des règles de circulation, la distribution statistique du risque en situation de dilemme, la possibilité pour l’utilisateur de choisir certaines options, la protection des données collectées, la non-discrimination quant à l’accès aux services, ainsi que l’attribution des responsabilités.

La « robustesse technique » est un pilier important pour les véhicules à conduite automatisée, notamment pour les systèmes « critiques » comme le freinage. Un problème est que les réglementations existantes ne couvrent pas toutes les technologies développées pour les véhicules à conduite automatisée, comme par exemple l’utilisation de l’apprentissage machine dans les fonctions critiques.

L’adaptation ou la révision de la réglementation devrait donc « imposer des normes strictes de développement, de vérification et de validation des systèmes, quelles que soient les technologies mises en œuvre », le but étant de pouvoir garantir un fonctionnement sûr, au moins du point de vue statistique.

Un exemple de ce qu’il ne faudrait pas faire : « l’apprentissage en continu en cours d’utilisation du véhicule doit être exclu compte tenu de l’imprévisibilité du comportement du véhicule qui pourrait en résulter ». Une manière de cibler Tesla sans le dire ouvertement ?

Cela veut dire qu’il est nécessaire de former les conducteurs et les parties prenantes (piétons, autres automobilistes, cyclistes, voire l’ensemble des- citoyens) à identifier les véhicules à conduite automatisée et à adopter son comportement dans l’espace public. N’est-ce pas une gageure, quand on sait combien de situations multiples sont possibles ?

Quant aux risques de cybersécurité, ils se situent à plusieurs niveaux :

  • au niveau du matériel (capteurs, …),
  • au niveau des logiciels,
  • au niveau des données.

Les véhicules autonomes (tout comme d’autres dispositifs) sont soumis aux défis de la sécurité et de la cybersécurité. Car ils peuvent être trompés, détournés…

Il faut préserver les matériels embarqués sur le véhicule autonome et à la fois garantir la fiabilité de l’IA en toutes situations[19].

Il convient de garantir une robustesse complète et un encadrement des véhicules autonomes sur toutes les dimensions. Comment avancer sur un déploiement en toute sécurité des voitures autonomes ? Cela veut-il dire qu’il faut confier aux institutions, notamment européennes, la charge de la conception de recommandations adaptées, et ce au risque de ralentir le déploiement de ce marché géant ? Faut-il leur confier également la responsabilité et la charge d’un audit régulier ainsi que d’un encadrement constant des évolutions variées ? Les prochaines années nous le diront[20].

Quoi qu’il en soit, chacun convient que la sécurité est un prérequis fondamental du déploiement des véhicules autonomes. Or, nul ne peut affirmer aujourd’hui sans la certitude d’être aussitôt contredit, que ces véhicules peuvent être commercialisés en toute sécurité.

Prenons l’exemple de l’Autopilot de Tesla, un système de pilotage automatique 2.0 qui utilise surtout des caméras pour détecter les lignes de marquage au sol ainsi que les autres véhicules et objets sur la route. Il ne s’agit pas ici d’un véhicule collectif autonome, mais les leçons à tirer de l’expérience récente en matière de véhicule individuel sont reproductibles dans les autres cas. Le système Autopilot est capable de diriger, de freiner et d’accélérer automatiquement sans intervention nécessaire du conducteur. En octobre 2016, Elon Musk annonçait lors d’une conférence de presse un nouveau système conçu pour « une conduite entièrement autonome »[21]. A l’époque, la firme Intel prédisait que les véhicules autonomes représenteraient d’ici 2050 un marché mondial de 7 000 milliards de dollars. Il était clair – et il le reste – qu’Elon Musk cherchait d’emblée à dominer le marché du véhicule autonome avant ses rivaux. Mais cinq ans plus tard, le 13 août 2021, la National Highway Traffic Safety Administration (NHTSA) américaine, qui fait partie du Département des Transports américain, ouvrait une enquête au sujet de 11 collisions impliquant des voitures Tesla à l’origine de 17 blessures et d’un décès. L’enquête couvre la quasi-totalité des véhicules Tesla vendus aux États-Unis, soit 765 000 véhicules, parmi lesquels se trouvent des modèles Autopilot. La NHTSA a opportunément rappelé au grand public qu’aucun véhicule motorisé disponible commercialement n’était capable actuellement d’être piloté de façon entièrement autonome : « Tous les véhicules disponibles requièrent un conducteur humain qui puisse garder à tout moment le contrôle des opérations ; toutes les lois des états tiennent les conducteurs humains responsables de l’utilisation de leurs véhicules. »[22]

Venons-en à la navette autonome. Elle semble promise à un grand succès, mais sans doute faudra-t-il pour que cela se réalise que des progrès substantiels soient réalisés dans le domaine de la sécurité. Ainsi, par exemple, lors des Jeux paralympiques de Tokyo 2020 qui se déroulèrent en fait du 24 août au 5 septembre 2021, un athlète japonais, Aramitsu Kitazono, fut percuté à une faible vitesse (1 à 2 km/h) dans le Village Olympique par l’un des bus autonomes « e-Palette » de niveau 4 SAE conçus par le constructeur automobile japonais Toyota. Le niveau d’autonomie de ce bus signifie qu’aucune assistance de la part des opérateurs (en l’occurrence, ils étaient deux à bord de celui qui causa l’accident) n’est requise dans des « conditions normales de circulation ».

A cause de cet accident, l’athlète – un judoka malvoyant – dut se retirer de la compétition, souffrant de plusieurs blessures et contusions au niveau de la tête et des jambes, alors qu’il s’apprêtait à participer à sa troisième édition des Jeux paralympiques. La firme s’excusa aussitôt de la « confiance excessive » qui avait conduit le bus à occasionner cet accident mais ne suspendit le service de transport que durant quelques jours.

Transparence

Citons encore l’exemple de l’Autopilot de Tesla. S’il faut en croire d’anciens employés de la firme américaine, qui ont témoigné en décembre 2021 dans les colonnes du New York Times, la vidéo qui en 2016 faisait la promotion du système de conduite autonome Autopilot 2.0 en le montrant conduire et éviter les obstacles sans aucune intervention humaine aurait été truquée : l’Autopilot utilisait en fait une carte numérique 3D de l’itinéraire qui avait été planifié à l’avance ; il n’était donc pas autonome ! En outre, les cartes tridimensionnelles ne sont pas disponibles sur la version actuelle du système Autopilot. Tout aussi alarmant, la voiture autonome aurait eu un accident à un moment du tournage, en heurtant de plein fouet une barrière routière. L’incident s’étant produit sur le terrain dont Tesla est propriétaire, il ne fut pas relevé par les autorités routières. L’accident subi par la Tesla, qui imposa de la réparer avant de reprendre le tournage, fut sciemment retiré de la vidéo de promotion finale. Déjà en 2016, les ingénieurs de Tesla avaient demandé aux équipes marketing de ne pas utiliser des termes comme « conduite pleinement autonome » (full self-driving) et « autopilot », trop mensongers pour les futurs clients.

Un tel manque de transparence, ou plutôt de vérité, masque un choix technologique contestable imposé par Elon Musk : selon le patron de Tesla, toutes les nouvelles voitures de sa firme seraient capables d’interpréter les images filmées par les caméras. Or, les ingénieurs prétendent le contraire : « les caméras ne sont pas des yeux » et un ordinateur n’est pas capable aujourd’hui d’interpréter des pixels. Le recours à un radar de proximité – une technologie abandonnée par Musk dans tous ses modèles de voitures électriques – serait nettement plus fiable. 

Impact sociétal et environnemental des véhicules collectifs autonomes

Impact sociétal

En permettant au plus grand nombre d’avoir accès aux transports en commun grâce à une meilleure capacité (volume de voyageurs pris en charge) et une meilleure couverture territoriale (ligne plus longues, arrêts ajustés selon la demande, …), les véhicules collectifs autonomes permettraient de lutter contre les inégalités sociales et territoriales. 

Le rapport « Étude des véhicules autonomes » du forum des vies mobiles de mars 2021 se focalise sur trois enjeux prioritaires : les territoires ruraux, les publics exclus de la mobilité́ qui ne peuvent pas acheter ou utiliser une voiture, et la non-concurrence avec les modes actifs (marche et vélo).

D’un point de vue économique, l’État a tout à gagner à généraliser l’automatisation des véhicules collectifs. En effet, requérant l’utilisation de la 5G, les opérateurs pourraient être situés dans des pays dont la main d’œuvre coûte moins chère qu’en France tout en étant qualifiée, l’Inde étant un exemple. La rentabilité économique d’un tel projet est donc possible. L’automatisation de la ligne 14 du métro parisien l’a par ailleurs prouvé. Les collectivités locales trouveraient donc un intérêt à remplacer les chauffeurs de bus par des véhicules collectifs autonomes pour assurer la mobilité sur leur territoire.

Cependant, des investissements pour créer ces réseaux de véhicules collectifs autonomes sont nécessaires et devront être supportés, au moins en partie, par les contribuables. Il est donc essentiel que les véhicules collectifs autonomes aient une plus-value importante pour la société en rendant la mobilité possible au plus grand nombre. 

Mais ce scénario de mobilité peut également aggraver certaines inégalités sociales. En effet, les emplois d’opérateurs seront pour la plupart remplacés, il y aura indéniablement un transfert de qualification et d’emploi, comme le qualifie le rapport Idrac de 2018. Il est donc nécessaire de permettre aux employés de ce secteur de se reconvertir et de les accompagner dans cette transition. La filière des transports au sens large compte 700 000 emplois selon ce rapport. 

De plus, afin de supporter les investissements initiaux importants, un moyen est d’augmenter la tarification, limitant ainsi l’accès à ce type de transport aux personnes ayant peu de ressources. Une autre approche serait de privilégier les axes les plus rentables et donc de ne pas desservir certains territoires, ce qui aggraverait leur enclavement. 

Enfin, si le marché est scindé en un service public et un service privé, les véhicules autonomes individuels ou partagés pourraient concurrencer les transports en commun et ainsi fragiliser leur modèle économique, retardant la possibilité d’avoir un réseau de transports collectifs autonomes efficaces et à la disposition du plus grand nombre. 

Impact environnemental

Saujot, Brimont et Sartor dans leur article « Comment accélérer la mobilité durable avec le véhicule autonome ? », paru en 2017, ont chiffré une potentielle évolution de la consommation d’énergie des transports (collectifs et individuels) qui pourrait au pire tripler, au mieux diminuer de moitié. 

D’après le rapport Idrac op.cit., le véhicule collectif autonome pourrait être une alternative écologique, de par ses caractéristiques techniques (électriques, légers, capacité optimisée, meilleure sécurité) mais également du fait de la fluidification du trafic et en favorisant le report des véhicules individuels sur les véhicules collectifs. 

Cependant, le rapport de la Fabrique Écologique pour le Forum Vies Mobiles, 2021, démontre que son impact écologique serait marginal et que le déploiement qui serait nécessaire pour avoir cet impact est peu probable avant 2050, objectif pour atteindre la neutralité carbone. Ce rapport dénonce même des conséquences sur l’écologie, du fait de la production des véhicules, des données nécessaires à son fonctionnement, du renouvellement du matériel et de la gestion des déchets et du potentiel effet rebond sur la congestion en s’ajoutant au trafic actuel. Un effet rebond est un paradoxe qui apparaît lorsqu’un progrès technologique permettant une meilleure efficacité énergétique entraîne une augmentation de la consommation d’énergie plutôt que sa réduction. Par exemple, les moteurs sont de plus en plus performants et consomment de moins en moins par kilomètre, mais la consommation totale des voitures a augmenté car les véhicules sont plus lourds, les distances parcourues sont plus grandes, etc.

Au sens plus large, il faut également prendre en compte l’impact énergétique de la modification de notre environnement et notre mode de vie. Le Gallic et Aguilera ont identifié en 2019 plusieurs conséquences telles que l’étalement urbain, l’augmentation du nombre et de la taille des maisons individuelles, l’augmentation des déplacements pendulaires domicile-travail, la destruction des sols et de la biodiversité, etc. qui pourraient avoir un impact énergétique considérable, pour l’instant jamais identifié. 

Cependant, restreindre le développement du véhicule collectif autonome nécessiterait une régulation très contraignante, sinon ce marché sera capturé par des entreprises privées. De plus, les pouvoirs publics délaissent les usages collectifs du véhicule autonome. En effet, à l’appel à projet national EVRA (expérimentation du véhicule routier autonome), sur 16 expérimentations, seules 2 sont à propos de la mobilité collective. Ces dernières sont pourtant les plus pertinentes d’un point de vue social et écologique. 

Le ratio bénéfice/risque de l’utilisation des véhicules collectifs autonomes est donc remis en question. Lors d’un débat citoyen en 2018 « des véhicules sans conducteur dans nos vies ? Débattons-en, ensemble ! », il en est ressort une attente de l’État :

  • de garantir un cadre politique qui fasse que cette révolution technologique soit équitable et égalitaire en termes de territoires et d’habitants (60%),
  • d’imposer des contraintes fortes en matière environnementales (45%),
  • d’encadrer l’usage des données personnelles (36%).

Il est regrettable qu’il n’y ait pas un débat démocratique beaucoup plus large et non réservé à une minorité de personnes interrogées, car le recours aux véhicules collectifs autonomes induit un certain environnement pour pouvoir fonctionner et donc une généralisation du recours aux véhicules autonomes. Ceci induit un changement radical de société radical avec de massifs transferts de données personnelles.

Comment pourrons-nous donc encadrer le déploiement des véhicules autonomes, impulsé pour l’instant majoritairement par le secteur privé ?

Conclusion

Nous avons identifié de nombreux enjeux éthiques qui s’attachent aux véhicules collectifs autonomes. Pour répondre à ces questionnements, nous avons émis quelques recommandations qui relèvent de la bonne volonté.

 Il existe d’ores et déjà certaines règlementations qui encadrent ces dispositifs, tels que la directive police-justice précitée ou le règlement européen sur la protection des données personnelles, précité également.

La Commission européenne a pour ambition de faire adopter un règlement européen qui contraindra les systèmes d’intelligence artificielle à haut risque à respecter certaines dispositions (cf. annexe 2).

Les véhicules autonomes présentant un risque pour la sécurité des personnes, les systèmes d’intelligence artificielle utilisés étant des composants de sécurité, et ces véhicules étant certainement à terme équipés de système de reconnaissance faciale, ils seront considérés comme des systèmes d’intelligence artificielle à haut risque.

Ils devront dès lors respecter un cadre règlementaire contraignant et non plus fondé sur le seul volontariat. Parmi ces obligations, figurent par exemple l’obligation de préserver la qualité des données, de garantir la traçabilité des résultats, d’informer les utilisateurs ou encore de garantir un niveau approprié de contrôle humain.

Le projet de règlement européen envisage de confier le contrôle du respect des nouvelles règles à des autorités nationales désignées dans chaque État membre, qui se réuniront au sein d’un Comité Européen de l’Intelligence Artificielle. Différentes sanctions administratives sont prévues en cas de manquement, pouvant aller pour certaines infractions jusqu’à 30 millions d’euros ou 6% du chiffre d’affaires annuel mondial de l’exercice précédent.

Le projet est à présent examiné par le Parlement européen et par les États membres dans le cadre de la procédure législative ordinaire.

ANNEXE 1 : Les véhicules collectifs autonomes

Le véhicule autonome et ses usages

Depuis quelques années le véhicule « autonome » – ou « automatisé » – fait l’objet à travers le monde d’un engouement extraordinaire. Il est présenté dans les salons de l’automobile et à travers les médias comme l’avenir de la mobilité motorisée en termes de sécurité, de services numériques à bord et de durabilité. 

Il importe de réaliser que la connectivité d’un véhicule peut avoir trois dimensions : l’intra-connectivité (i.e. la connectivité qui reste dans le véhicule pour analyser la conduite en temps réel), l’extra-connectivité (i.e. les liaisons avec l’extérieur, grâce notamment aux coordonnées GPS, qui permettent à un organisme de recevoir des informations sur le véhicule, comme par exemple le nombre de kilomètres parcourus), et enfin l’inter-connectivité (i.e. la connectivité qui permet l’info trafic en temps réel, les GPS communautaires, l’antivol GPS). 

Sur la base des progrès en matière de véhicules connectés, les futurs véhicules autonomes traiteront plusieurs giga-octets de données par seconde ! Mais il ne faut pas confondre « véhicule connecté » et « véhicule autonome ». Comme nous l’avons vu dans la définition donnée plus haut, le véhicule autonome est l’avenir du véhicule connecté, un avenir dans lequel le véhicule sera capable de se substituer à son conducteur pour se déplacer. 

L’idée de voiture sans conducteur n’est pas nouvelle ; elle est apparue aux États-Unis dans les années 1920, d’abord en réponse au fort taux de mortalité sur les routes, puis au cours des années 1950 comme moyen de libérer le temps du déplacement pour permettre aux familles de se retrouver. Aujourd’hui, les recherches sur le véhicule autonome portent sur de nombreux scénarios dont la réalisation dépendra, d’une part, des progrès technologiques accomplis mais aussi, d’autre part, des choix économiques et politiques qui auront été faits entretemps. 

Un véhicule autonome sur route peut être un véhicule individuel ou partagé (voiture en autopartage, robot-taxi, navette autonome). En dépit de la convergence des temporalités des débats et des initiatives concernant le véhicule autonome et le véhicule électrique, le véhicule autonome n’est pas en lui-même porteur d’une forme particulière de motorisation – thermique ou électrique – ni d’un certain type d’énergie (gaz naturel, hydrogène, etc.). En fait, de nombreuses incertitudes persistent sur les types de motorisations et d’énergie auxquelles le véhicule autonome pourra avoir recours.

Les différents types de véhicules autonomes

Selon le cabinet de conseil Oliver Wyman, si le marché des véhicules autonomes consiste principalement aujourd’hui de drones militaires sans équipage, d’ici quelques années les véhicules civils en représenteront la majorité, couvrant tous les domaines du transport : sol, mer, air, espace[23]. Les trois-quarts des véhicules autonomes devraient être utilisés pour le transport terrestre.

Cependant, les véhicules autonomes ne couvrent pas à eux seuls l’ensemble du marché de l’autonomie : il faut ajouter les infrastructures publiques, la gestion du trafic, de la flotte et des données, la défense et la sécurité, la maintenance, la réparation et la révision. Bref, l’arrivée de l’autonomie devrait générer un quintuplement du marché pour atteindre environ 3 000 milliards d’euros, avec à la clé une profonde transformation de l’industrie et de l’environnement concurrentiel. 

Les principaux usages des véhicules autonomes

Les nombreuses expérimentations déjà en cours – ainsi en France, par exemple, les tests du Bois de Vincennes et du site privé du CEA Paris-Saclay, sous l’égide de la RATP, le réseau de transport public de la métropole rennaise (ligne 100 de Star, exploitée par Keolis), ou encore la navette autonome électrique sur le parc d’activité de Gaulnes, près de Lyon – permettent de mesurer l’ampleur des usages des véhicules autonomes[24] :

Zones urbaines : centres villes piétonniers, routes étroites.

Aéroports : transfert intérieur ou extérieur des passagers, déplacements du personnel.

Hôpitaux : transport des patients et de leurs proches, depuis une station de transport public ou un parking, jusqu’au centre hospitalier ; déplacements du personnel sur le site.

Campus universitaires : transport des étudiants entre une station de transport public éloignée et l’université ; déplacements à l’intérieur du campus.

Parcs d’attraction et sites touristiques : déplacements des visiteurs entre les différents centres d’intérêt et vers les parkings.

Sites industriels : transport du personnel au sein des sites entre les différents points d’intérêt (lieu de travail, cantine, etc.).

Centres commerciaux : transport des clients d’un centre commercial depuis/vers une station de transport public.

Les scénarios d’évolution du véhicule autonome

Trois scénarios sont aujourd’hui pris en considération pour le développement du véhicule autonome :

  • celui d’une mobilité individuelle avec des voitures à usage privé, porté sans surprise par les constructeurs automobiles ;
  • celui d’une mobilité à la demande s’appuyant sur des flottes de robots-taxis, porté par les acteurs du numérique ;
  • celui enfin d’une mobilité collective avec des navettes autonomes, porté par les acteurs publics (collectivités et opérateurs du transport).

Ces trois scénarios ne sont évidemment pas exclusifs les uns des autres et il est vraisemblable qu’au moins au cours des deux à trois prochaines décennies ils cohabiteront. Mais selon que le curseur se déplace plutôt en faveur de l’un ou de l’autre de ces scénarios nous verrons se dessiner un certain modèle de société. 

La mobilité individuelle

La voiture privée est dans le prolongement des tendances observées depuis la fin de la Seconde Guerre mondiale, et ce n’est pas un hasard si la société américaine de développement de technologies de conduite autonome Waymo LLC, filiale d’Alphabet Inc., la société mère de Google, se lança à partir de 2009 dans le véhicule autonome privé, reflet supposé des préférences américaines. Elle le fit grâce à des investissements coûteux dans les caméras haute résolution et la technologie Lidar (light detection and ranging), grâce également à des volumes très élevés de données d’apprentissage (training data), collectées à partir de millions de miles de conduite sur route en vue de mieux percevoir à quoi s’attendre en ce qui concerne les mouvements des autres objets, ainsi que de données issues de la simulation (simulation data). A l’heure actuelle, les firmes américaines Waymo (Alphabet) et Cruise (General Motors) dominent largement le marché mondial des véhicules autonomes privés, suivies à bonne distance par Aurora et Argo AI, toutes deux basées à Pittsburgh, en Pennsylvanie. 

Il faut bien admettre cependant que les attentes en matière de véhicules autonomes privés, situées à un niveau très élevé au milieu des années 2010, ont été fortement déçues. Quelles qu’en soient les raisons – failles de la technologie, coût très élevé des simulations et de la collecte des données d’apprentissage, survenue d’accidents fatals, manque de coopération intégrale des constructeurs pour assurer l’interconnexion des véhicules, risques de piratage des véhicules, etc.), les autres scénarios de mobilité conservent leurs chances. 

La mobilité à la demande

Ainsi, la mobilité à la demande semble promise à un bel avenir, portée d’une part par les tendances lourdes de la demande sociale (flexibilité, individualisation, respect de l’environnement, confort) et d’autre part par les progrès du numérique (smart phones, connectivité omniprésente, applications de type « cloud computing », plates-formes de services de transport à la demande). Les sociétés du numérique se lancent dans la création de nouvelles plates-formes de mobilité offrant des informations sur les différents modes de transport ainsi que des options de réservation. Ce mouvement rejoint les préoccupations des pouvoirs publics, soucieux d’une gestion plus efficace du trafic et de l’espace et d’une bonne qualité de la vie dans les villes et les régions. A l’heure actuelle, dans les zones urbaines et sur les axes routiers hautement fréquentés, les transports publics offrent la meilleure solution, notamment avec l’autobus et le train. En revanche, dans les zones périphériques et aux heures creuses, ces modes de transport ne conviennent pas, en raison de la faiblesse de la demande ; c’est alors la voiture qui s’impose, mais les conséquences sont néfastes pour l’environnement (émissions de carbone) et pour la qualité de la vie (embouteillages considérables). C’est là qu’intervient la mobilité à la demande, qui permet à l’usager de satisfaire son besoin dans un délai très court, sans gros effort de planification, et indépendamment du moment de la journée. Il formule sa demande de déplacement en utilisant une application sur son téléphone portable tandis que par ailleurs un algorithme combine de façon optimale les diverses demandes en cours de façon à ce que plusieurs personnes puissent partager un même voyage. Le mode de transport utilisé – autobus, VTC, etc. – n’emprunte pas forcément le chemin le plus court mais plutôt le chemin optimal du point de vue de la demande collective exprimée. 

Source : Q_PERIOR, Mobility on Demand – Solution or Risk in the Mobility Turnaround?, 16/04/2021

L’évolution des technologies numériques a donc changé en profondeur le décor de la mobilité urbaine. En quelques années, des sociétés comme Uber, Lyft et DiDi ont imposé leurs modèles économiques et conquis une grande réputation à travers le monde, générant ainsi des affaires de plusieurs milliards d’euros. Elles ont attiré dans un premier temps les consommateurs jeunes, plutôt fortunés et passionnés de technologie numérique puis, dans un second temps, une large partie de la population en offrant des solutions de mobilité souples, rapides, de porte à porte, qui sont en outre plus sûres et moins coûteuses. Même si les conditions de travail précaires des conducteurs employés par ces sociétés et les incertitudes concernant la solidité à moyen terme de leur modèle économique soulèvent des controverses, il n’en reste pas moins certain que leur succès est incontestable. Cependant, le point le plus important est sans doute que l’évolution qu’ont accompagnée ces sociétés vers le transport individuel partagé constitue une menace redoutable pour les systèmes classiques de transport (voiture individuelle, transports publics, taxis), même si jusqu’à présent l’ensemble des options de transport ont semblé plus complémentaires que concurrentes. 

La conjonction des nouveaux besoins des consommateurs et la numérisation poussée par la quatrième révolution industrielle (objets connectés, données massives, intelligence artificielle, etc.) ont entraîné le développement et le déploiement rapide de solutions numériques de transport « à la demande 2.0 » et, de là, l’émergence de nouveaux acteurs : les plates-formes de services de transport qui, en utilisant l’analyse des données et l’intelligence artificielle, améliorent constamment la compréhension des besoins et des attentes des consommateurs. L’expérience du consommateur s’en trouve enrichie par des innovations telles que la facilité de réservation via une interface conviviale, des temps d’attente réduits, la visualisation de la prise en charge et de la dépose (« pick-up and drop-off »), une expérience à bord raffinée, une facilité de paiement et une résolution plus rapide des problèmes.

La mobilité à la demande devrait donc gagner du terrain par rapport à la mobilité individuelle, d’autant plus que l’introduction progressive des technologies qui permettent l’autonomie du véhicule, notamment l’intelligence artificielle, va gommer encore davantage les frontières traditionnelles entre solutions de transport publiques et solutions de transport privées. Nous assistons à l’avènement des taxis autonomes – ou robots-taxis – qui s’inscrivent dans un nouveau concept de mobilité « à la demande 3.0 ». L’arrivée des taxis autonomes pourrait être en outre un bon moyen de déterminer comment déployer sur les routes en toute sécurité des véhicules sans conducteur. 

La mobilité collective

A côté de la mobilité individuelle et de la mobilité à la demande se développe une nouvelle forme de mobilité, collective cette fois, qui constitue celle qui nous intéresse le plus dans ce travail, car elle combine plusieurs aspects, en particulier la technologie, l’économie, les différents modes de transport collectifs et enfin, last but not least, les enjeux éthiques. 

Ainsi, des véhicules électriques autonomes, aux performances plus modestes que le véhicule autonome privé, et souvent collectifs, devraient progressivement apparaître dans les villes et les zones périurbaines. De nombreux experts considèrent que le véhicule autonome doit faciliter l’accès aux transports en commun et non pas amplifier la congestion automobile dans les villes en générant des flottes de taxis autonomes. 

Cet aspect prend tout son sens au moment où la quasi-totalité des pays du monde se concertent sur les stratégies à adopter pour juguler le changement climatique dû aux émissions de dioxyde de carbone : objectifs de l’Accord de Paris[25], rapport « United in Science 2021 »[26], Pacte vert pour l’Europe de la Commission européenne[27], etc. Le véhicule autonome n’est pas conçu seulement pour substituer le véhicule au conducteur, indépendamment des avantages attendus en termes de sécurité et de confort, mais aussi, et surtout, pour contribuer à faire entrer le monde et ses habitants dans le vingt-et-unième siècle, celui d’une éthique de l’environnement, entendue comme champ de discussion planétaire et multidisciplinaire où les choix de valeurs et les normes collectives prennent le pas sur les seuls intérêts particuliers. Les priorités sont désormais accordées au changement climatique, aux dégradations majeures qui affectent les milieux naturels (pollution, érosion, pertes de biodiversité, déforestation…), la raréfaction de ressources inégalement réparties dans l’espace (ressources fossiles, eau, terres arables…). Le véhicule collectif autonome est perçu comme l’un des principaux facteurs de reprise en main de l’avenir de la planète par ses habitants.

Les degrés d’autonomie

Si le véhicule totalement autonome n’est pas encore aujourd’hui une réalité, les constructeurs développent des modèles qui s’en rapprochent de plus en plus. 

On distingue 6 degrés d’autonomie : de 0 à 5. Définie au départ par la NHTSA (National Highway Traffic Safety Administration), cette classification s’est rapidement imposée au niveau international. Son intérêt est d’observer le rôle dévolu à l’humain dans la gestion de la conduite. 

Les technologies qui rendent possible l’autonomie

Les véhicules automatisés sont équipés de technologies spécifiques qui rendent possible l’autonomie en accomplissant les diverses tâches nécessaires à la conduite : capteurs, caméras embarquées, ordinateurs de bord, GPS haute-précision, récepteurs par satellite ou encore systèmes radar à courte portée. 

Ces technologies sont indispensables pour optimiser la conduite, faire en sorte que le véhicule puisse « voir », comprendre son environnement et communiquer avec lui, et enfin s’adapter aux aléas, le tout avec une sécurité renforcée. On le constate : le défi est majeur, et ce d’autant plus que les technologies qui sont nécessaires pour rendre les véhicules autonomes se développent au même moment où, neutralité climatique oblige, tous les pays du monde, et notamment l’Europe, envisagent, selon leurs rythmes propres, d’atteindre le plus rapidement possible l’objectif d’une mobilité zéro émission (c’est-à-dire avec des véhicules électriques, à batterie ou à pile hydrogène). 

En ce qui concerne l’Europe, la Commission européenne a adopté le 14 juillet 2021 un ensemble de propositions visant à adapter les politiques de l’Union en matière de climat, d’énergie, d’utilisation des terres, de transport et de fiscalité de sorte à lui permettre de réduire ses émissions nettes de gaz à effet de serre d’au moins 55 % d’ici à 2030, par rapport aux niveaux de 1990[6]. L’ambition est de faire que l’Europe soit le premier continent à parvenir à la neutralité climatique d’ici à 2050 (« Pacte vert pour l’Europe »). Pour cela, en ce qui concerne la mobilité, il faut que tous les constructeurs automobiles planifient, à l’instar d’Audi, Volvo, Volkswagen ou encore Mini, de cesser de vendre des véhicules thermiques (i.e. motorisations essence et diesel). 

L’électrification

Le bouleversement technologique qui s’observe déjà concerne l’électrification du parc automobile. Conscients que l’industrie automobile ne peut pas continuer à reposer uniquement sur les technologies de propulsion, de nombreux constructeurs se sont lancés dans une transition énergétique disruptive : les voitures « analogiques » fonctionnant grâce à des carburants fossiles vont progressivement céder la place à des véhicules entièrement électriques et donc zéro émission. 

Ainsi, en Europe, où le secteur du transport représente environ un quart des émissions de gaz à effet de serre et 30% des émissions de CO2, dont 72% proviennent de transport routier, il a été évalué que l’objectif de neutralité climatique d’ici 2050 ne pourrait pas être atteint sans l’introduction de mesures ambitieuses visant à réduire la dépendance du transport vis-à-vis des combustibles fossiles. Par conséquent, le nombre de véhicules électriques et hybrides rechargeables devrait passer de 1, 8 millions en 2019 à plus de 30 millions en 2030. 

Batteries à l’état solide

Le développement des batteries à l’état solide disposant d’un électrolyte solide peuvent être rechargées sensiblement plus vite que les batteries traditionnelles lithium-ions. Cela devrait stimuler les ventes de voitures électriques qui souffrent pour le moment de longs délais de recharge et de prix très élevés. 

Recharge par induction

En dehors de la technologie des batteries à l’état solide, l’industrie automobile dispose également de plans pour accélérer le développement de la voiture électrique, notamment la recharge par induction, une technique encore perfectible qui permettrait de se débarrasser des câbles de rechargement. 

Technologies spécifiques de la conduite autonome

Nous voici dans le vif du sujet. L’un des plus grands défis technologiques à relever en ce qui concerne les véhicules entièrement autonomes est celui du traitement des données. Un véhicule autonome devra être en mesure de traiter tellement de données qu’il faudra faire appel pour cela à des unités centrales de traitement (CPU) capables d’offrir des vitesses de calcul de plusieurs téraflops. Le véhicule autonome de niveau 5 sera certainement connecté, mais il devra être aussi suffisamment indépendant afin de pouvoir interpréter lui-même toutes les conditions de circulation et réagir de façon adéquate à la situation. Autrement dit, l’intégration harmonieuse des véhicules et du cloud permettant au véhicule de fonctionner simplement grâce à la connectivité n’est pas réaliste ; en effet, les réseaux peuvent tomber en panne et l’on se retrouverait alors avec un véhicule autonome roulant aveuglément car ne disposant plus des données nécessaires !

Par conséquent, il reste encore de nombreux défis à relever pour que le véhicule devienne entièrement autonome : la nécessité de pouvoir compter sur davantage de capteurs, la fiabilité et la sécurité, la détection à 360 degrés dans toutes les circonstances, l’intelligence artificielle, la localisation et, bien évidemment, la législation qui devra définir les normes. 

Technologie V2V et V2I

Les véhicules autonomes utilisent des données qui vont bien au-delà de ce qui est détecté par les nombreuses caméras, lidars et radars, comme par exemple des données en temps réel sur le trafic, les embouteillages et les accidents. Ils doivent donc être connectés à un serveur. Grâce à la connectivité, plusieurs constructeurs automobiles ont déjà développé des voitures automatisées pouvant anticiper et donc ralentir de manière préventive, ce qui améliore le confort et la sécurité au volant. Grâce aux technologies dites V2V (Vehicle-to-Vehicle) ou V2I (Vehicle-to-Infrastructure), cruciales pour le développement de la conduite autonome, les voitures connectées sont donc averties (ou s’avertissent mutuellement) lorsqu’elles se rapprochent d’une zone dangereuse. 

Intelligence artificielle

Grâce à l’arrivée de l’intelligence artificielle (IA) et de l’apprentissage automatique (AutoML), la voiture autonome peut offrir à ses occupants, tout en les menant d’un point A à un point B, un maximum de confort et de divertissement. 

Pour que l’ordinateur puisse analyser chaque situation concernant un véhicule, il faut créer une infrastructure capable de gérer des flux de données considérables. 1h30 de conduite en véhicule autonome génère 4 téraoctets de données, soit l’équivalent de 3 000 personnes qui naviguent sur Internet pendant 24h. Un million de voitures autonomes représentent autant de données que toute la population mondiale connectée sur Internet !

Une fois l’analyse effectuée, l’ordinateur doit être capable de prendre une décision dans des conditions de fiabilité et de sécurité maximum, et pour cela il doit pouvoir réaliser un volume de calcul de 30 milliards de milliards d’opérations, soit une capacité équivalente à 3 cerveaux humains !

Enfin, l’IA des véhicules passe par l’hyperconnectivité de l’automobile : les véhicules devront dialoguer en permanence avec l’environnement, les autres automobiles, l’infrastructure routière et les systèmes de géolocalisation. Pour garantir une précision suffisante, l’ordinateur embarqué devra être en mesure de valider sa position sur route au centimètre près, quelles que soient les conditions routières. Le développement de l’IA doit donc passer par l’émergence de nouveaux systèmes de communication comme la 5G.

La 5ème génération de réseaux mobiles permet des échanges de données beaucoup plus rapides entre les utilisateurs et les objets connectés. Elle est appelée à prendre une importance considérable dans le futur déploiement des véhicules autonomes en permettant l’intra-connectivité (analyse de la conduite en temps réel), l’extra-connectivité (les liaisons faites avec l’extérieur) et l’inter-connectivité (l’échange de données dans les deux sens, par exemple pour l’info trafic en temps réel, les GPS communautaires, l’antivol GPS). Le trafic sera fluidifié par les véhicules autonomes et les objets avec lesquels ils échangeront des informations. Si tous les acteurs de la révolution de la 5G et des véhicules autonomes prennent leur part dans cette révolution, la route deviendra un lieu plus sûr pour les conducteurts, les passagers et les piétons. Mais comment garantir qu’il en sera ainsi ?

Selon certaines prévisions, le marché de l’intelligence artificielle automobile, qui représentait environ 2 milliards de dollars en 2020, devrait croître à un rythme régulier au cours des prochaines années pour atteindre 25 milliards de dollars en 2028, soit un taux de croissance annuel moyen de 37%. 

La Mobilité comme un Service (Mobility-as-a-Service)

Le concept de Mobility-as-a-Service, « MaaS » en abrégé, va devenir de plus en plus populaire dans les années à venir. Comme nous l’avons vu plus haut, cette notion de mobilité en tant que service permet aux usagers de sélectionner à la carte l’une des nombreuses solutions de mobilité disponibles, qu’il s’agisse de services de covoiturage, d’autopartage, de vélos partagés ou des réseaux de transports publics, qui peuvent être aisément réservés et payés à l’aide d’une seule application. 

Hydrogène

L’hydrogène est susceptible de devenir un carburant sans CO2 utilisable pour toutes les formes de mobilité à venir, des voitures particulières aux camions et même aux navires. Bien que le manque d’infrastructures de ravitaillement soit le plus grand obstacle à l’heure actuelle, l’utilisation des voitures à hydrogène augmente rapidement et la construction de stations de ravitaillement en hydrogène devrait se développer fortement dans les prochaines années. 

L’arrivée des véhicules autonomes

Depuis le milieu des années 2010 se sont accumulés les signes d’un changement de paradigme dans l’industrie du transport, avec notamment l’avènement du véhicule autonome (self-driving vehicle) allant de la voiture individuelle jusqu’au train en passant par différentes formes de navette.

Les prévisions d’évolution du marché mondial de la seule voiture autonome sont difficiles à estimer compte tenu des différences très fortes entre les différents spécialistes de l’industrie :

Fortune Business Insights : $1,45 milliard de dollars en 2020, + 31,3% de taux de croissance annuel moyen sur la période 2021-2028

Mordor Intelligence : $230,97 milliards en 2020, +22,75% de taux de croissance annuel moyen sur la période 2021-2026

Market Data Forecast : $56,21 milliards en 2021, +36,47 de taux de croissance annuel moyen sur la période 2021-2026

Plus significatif, le World Economic Forum (WEF) a récemment identifié cinq grandes tendances de l’industrie mondiale du véhicule autonome : 

  1. Le basculement du marché des robots-taxis vers les camions et les véhicules de livraison autonomes. La vision de la mobilité servicielle (MaaS) – des robots-taxis pouvant aller n’importe où – s’est trouvée contrariée par des considérations mal évaluées au départ : une demande de services de transport partagé insuffisante, affectée depuis 2020 par la pandémie du COVID-19 (distanciation sociale), et des obstacles technologiques significatifs. Face au « désenchantement autonome » (autonomous disillusionment), les investisseurs se sont tournés vers l’offre de services concrets tels que la livraison d’épicerie, restreignant les fonctions autonomes aux autoroutes.
  2. L’accroissement du déploiement dans les zones urbaines denses. Bien qu’actuellement la plupart des projets-pilotes se déroulent dans les quartiers périphériques où les conditions de test sont plus favorables, le succès futur de l’industrie du véhicule autonome devrait dépendre du déploiement de solutions MaaS sans chauffeur sur le « dernier tronçon » dans les zones urbaines denses comme Beijing, New York, San Francisco ou encore Londres. D’ores et déjà, les firmes Cruise Automation (filiale de GM), Zoox (filiale d’Amazon) et Waymo (filiale de Google) testent leurs véhicules autonomes dans les rues très fréquentées de San Francisco, Mobileye (filiale d’Intel) fait de même dans les rues de New York City, tandis que AutoXBaidu et Didi Chuxing accélèrent le déploiement de leurs projets en Chine.
  3. La progressivité du déploiement à grande échelle des systèmes de conduite autonome. Contrairement aux prévisions très optimistes émises par certains industriels au milieu des années 2010, en particulier Elon Musk, les experts de l’industrie s’accordent aujourd’hui pour dire que l’expansion du véhicule autonome sera progressive au cours des dix prochaines années et qu’elle se fera région par région, dans des catégories de transport spécifiques et avec de fortes variations à travers le monde. Pour le moment, il n’existe qu’un seul exemple de véhicule autonome en service, celui de Waymo One qui propose un service de robot-taxi (ride-hailing service) à Phoenix (Arizona, États-Unis). Cruise et Nuro (le spécialiste de la livraison des courses à domicile) devraient suivre prochainement, respectivement à San Francisco et sur les voies publiques de Californie.
  4. Une industrie en pleine structuration. Les véhicules autonomes s’appuient sur des technologies coûteuses et complexes qui requièrent des investissements massifs en recherche-développement. C’est ainsi qu’Amazon a racheté Zoox (septembre 2019), Aurora la division « véhicule autonome » de Uber (décembre 2020) et Toyota celle de Lyft (avril 2021). Un consortium Autonomous Vehicle Computing Consortium (AVCC) s’est constitué avec Arm, Bosch, Continental, GM, Toyota, Nvidia, NXP et Denso, soit des fabricants de véhicules automobiles, des fabricants de composants électroniques et des fournisseurs de premier rang de l’industrie automobile.
  5. La recherche d’une approche harmonisée pour le partage des données entre diverses tierces parties. D’instinct, les firmes qui sont en position de collecter des grands volumes de données à partir de leurs capacités de test, de leurs opérations et de leurs analyses des comportements du consommateur répugnent à partager ces données avec d’autres parties prenantes, ne serait-ce qu’en raison du respect de la vie privée, de la cybersécurité et du besoin de conserver un avantage concurrentiel. Toutefois, il ne fait aucun doute que la fusion et l’analyse de toutes ces données permettrait de créer une valeur considérable pour l’ensemble de l’écosystème. Il est par conséquent probable que dans les années qui viennent, les entreprises chercheront à trouver des formules gagnantes les incitant à partager leurs données tout en minimisant les risques perçus.

Sustainable Mobility: Policy Making for Data Sharing. Source: Sustainable Mobility for All.

Source : Sustainable Mobility for All 

Les prévisions en ce qui concerne les véhicules autonomes présupposent que les habitudes de voyage ne seront pas changées : les déplacements continueront tandis que les voyageurs pourront travailler ou regarder la télévision au lieu de faire attention à la route. L’idée sous-jacente est que le trafic sera amélioré puisque la conduite autonome permettra, par exemple, de supprimer les écarts entre les voitures. Or, une étude publiée par des universités californiennes a montré que cette idée est fausse : libérés de la conduite manuelle, les utilisateurs choisiraient en fait de voyager plus souvent (+60% en moyenne), ce qui aurait comme conséquence d’aggraver la congestion sur les routes. Les jeunes non détenteurs d’un permis de conduire pourraient utiliser la voiture pour voyager seuls ; les personnes âgées qui n’aiment pas conduire la nuit pourraient utiliser leurs véhicules davantage.

Selon Google, le nombre de tués sur la route à travers le monde est de l’ordre de 1,2 million chaque année. En théorie, la voiture autonome devrait entraîner une forte réduction de ce chiffre (environ la moitié, selon certaines études), ce qui d’ailleurs constitue son principal avantage, mais en réalité les statistiques ne prennent pas en compte les dangers pouvant survenir de changements de comportement. 

Pour que les risques de congestion soient jugulés, il faudrait pouvoir compter sur le partage des voitures. Mais qui peut garantir que les conducteurs seront prêts, dans une proportion importante, à troquer leur propre véhicule contre un robot-taxi ? 

En l’absence d’études d’impact sérieuses sur le sujet, il y a donc un risque éthique dans la mesure où la voiture autonome, en aggravant les problèmes de congestion, irait à l’encontre des objectifs de l’accord de Paris sur le climat et d’autres objectifs de politique publique au service du bien-être des citoyens.

Par contre, si l’on exclut la voiture autonome – ce qui est le choix fait dans cette étude – l’autonomie peut être considérée comme une option éthique : le bus autonome, la navette autonome ou encore le train autonome ne soulèvent pas a priori de problèmes pour la collectivité en termes de climat, d’environnement ou de confort. 

Les graphiques ci-après montrent que si les investissements dans les technologies de la voiture autonome sont considérables (autonomie, connectivité, électrification, mobilité intelligente), leur impact en termes d’efficacité serait compromis par le fait que le nombre de voyages par véhicule augmenterait de manière significative. 

Les enjeux du véhicule autonome en Europe sont considérables. En effet, comme l’a montré le rapport du parlementaire Damien Pichereau, publié le 30 juillet 2021, sur « Le déploiement européen du véhicule autonome : pour un renforcement des projets européens » : « La France, mais aussi l’Allemagne, l’Italie, l’Espagne, l’Estonie, et plus généralement l’Union européenne ont la chance de posséder non seulement une industrie automobile puissante, des opérateurs de transport de premier plan, mais aussi des entreprises et des acteurs dynamiques capables d’innover. Cette industrie regroupe les constructeurs traditionnels de véhicules individuels, de poids lourds et de véhicules pour le transport public, leurs équipementiers, mais aussi les nouveaux constructeurs de navettes et de systèmes de transport autonomes pour la mobilité partagée. » 

Le transport collectif autonome sur route : bus, tramway, navette

Pendant plusieurs années les voitures autonomes ont fait la « une » des médias, mais depuis que l’excitation diminue ce sont les véhicules publics collectifs, et notamment les « navettes autonomes », qui retiennent l’attention.

Pour commencer, il faut savoir que la règlementation internationale considère trois catégories de véhicules à moteur ayant au moins quatre roues et affectés au transport de personnes :

  1. les véhicules comportant huit places assises au maximum (catégorie M1),
  2. les véhicules avec plus de huit places assises et ayant une masse maximale n’excédant pas 5 tonnes (catégorie M2),
  3. les véhicules comportant plus de huit places assises et ayant une masse maximale excédant 5 tonnes.

Les véhicules des catégories M1 et M2 appartiennent aux classes suivantes :

  1. Dans le cas des véhicules ayant une capacité supérieure à 22 voyageurs outre le conducteur, il existe trois classes :
    1. « Classe I » : les véhicules agencés pour transporter des voyageurs debout, afin de permettre les déplacements fréquents de voyageurs ;
    2. « Classe II » : les véhiculkes essentiellement agencés pour transporter des voyageurs assis et conçs pour permettre le transport de voyageurs debout dans l’allée et/ou dans un espace qui ne soit pas plus grand que celui prévu pour deux sièges jumelés ;
    3. « Classe III » : véhicules exclusivement agencés pour transporter des voyageurs assis ;
  2. Dans le cas des véhicules ayant une capacité ne dépassant pas 22 voyageurs outre le conducteur, il existe deux classes :
    1. « Classe A » : véhicules conçus pour le transport de voyageurs debout ;
    2. « Classe B » : véhicules non conçus pour le transport de voyageurs debout. 

Dès lors, en inscrivant dans le code de la route français une nouvelle catégorie de véhicules avec moins de huit places assises mais avec passagers debout, le décret français numéro 2018-1045 du 28 novembre 2018 relatif aux véhicules de transports urbains de personnes a permis de traduire dans la règlementation l’invention d’un nouveau véhicule : la navette. L’article R. 311-1 du code de la route caractérise désormais dans son point 6-13 cette nouvelle catégorie de véhicules, dans les termes suivants :

« Navette urbaine : véhicule à moteur conçu et construit pour le transport de personnes en agglomération, ne répondant pas aux définitions des catégories internationales M1, M2 ou M3 et ayant la capacité de transporter, outre le conducteur, neuf passagers au moins et seize passagers au plus, dont quatre ou cinq peuvent être assis ».

La France est en pointe dans l’expérimentation des véhicules publics collectifs circulant sur route, avec notamment les sociétés Navya et Easymile, toutes deux fondées en 2014, mais aussi Milla ou encore Transdev (via sa filiale ATS, qui devrait développer une navette d’ici 2023 en partenariat avec la société Mobileye et Lohr).

Navette autonome pour le transport de passagers - NAVYA
La société toulousaine EasyMile dans le top 25 des start-ups les plus  attractives - ladepeche.fr
Transdev Rhône-Alpes à Lyon-Vourles, Rhône
La navette autonome Milla circule désormais à Vélizy - nextmove

Mais les autres pays européens ne sont pas en reste : ZF (Allemagne) a racheté en 2019 la société néerlandaise 2getthere, fondée en 1984 et qui a déployé sa première navette autonome en 1997 ; Sensible 4 (Finlande), fondée en 2017 ; Auve (Estonie), fondée en 2017, avec une navette comportant huit sièges et qui fonctionne à l’hydrogène.

The ZF/2getthere autonomous shuttle.
A Sensible 4 autonomous shuttle in Helsinki, Finland.
An Auve hydrogen shuttle in Tallinn, Estonia.

Les firmes européennes ont, plus tôt que leurs concurrentes américaines ou autres à travers le monde, identifié les navettes comme un marché plus pratique que celui des voitures individuelles pour atteindre le niveau 4 d’autonomie (aucune intervention humaine, mais les itinéraires de voyages sont relativement limités). Aucune entreprise en Europe n’a cherché à cibler le niveau 5, préférant toutes adopter une démarche réaliste autour d’un modèle économique clair dès le départ.

Les véhicules autonomes utilitaires, en général de forme parallépipédique et capables de transporter 12 à 15 personnes, sont conçus pour suivre des itinéraires fixes, souvent dans des espaces non publics tels que les centres de loisirs, les entrepôts, les aéroports ou les petites communautés. Ce confinement géographique (« geofencing ») réduit les variables et les obstacles tout en procurant un service confortable et bon marché. 

Selon une étude du Boston Consulting Group (BCG) sur l’avenir de la mobilité dans les grandes villes, les navettes autonomes devraient avoir un impact important en termes d’amélioration de la sécurité, de réduction des émissions et de congestion du trafic, de stimulation de la santé et d’abaissement des coûts. Le BCG prédit qu’en 2035 il devrait y avoir 10 millions de véhicules autonomes sur les routes, dont 4 millions de navettes. 

Le développement du marché se heurte toutefois à trois obstacles : les navettes emportent au plus 15 personnes quand les opérateurs de transport souhaiteraient qu’elles atteignent la taille d’un minibus et à terme d’un bus (environ 60 personnes) ; le modèle économique n’est pas encore rentable (la présence à bord d’un opérateur de sécurité ne permet pas de compenser le surcoût liés aux matériels supplémentaires à installer ainsi qu’au logiciel) ; la vitesse est limitée à 15-20 km/h (en raison des contraintes liées au temps d’acquisition des données par les capteurs et de traitement par l’ordinateur de bord) alors que les opérateurs voudraient pouvoir atteindre 30 à 50 km/h. 

La prochaine étape importante pour les navettes, mais aussi pour les tramways et les bus ou minibus, consistera à retirer l’opérateur de sécurité présent à bord du véhicule et à vérifier sa conduite à l’aide d’un superviseur. 

Le train autonome

Quasiment plus personne aujourd’hui ne s’étonne de monter à bord d’une navette sans conducteur dans un aéroport ou d’un métro dans le réseau de lignes d’une grande ville. Par contre, le concept de « train autonome » surprend encore, et parfois suscite la méfiance, voire le rejet. L’idée pourtant n’est pas nouvelle : le premier service de trains autonomes a ouvert à Kobe, au Japon, en… 1981 ! Aujourd’hui, quarante ans plus tard, les trains autonomes circulent dans une quarantaine de villes autour du monde, notamment à Copenhague, Paris, Singapour, Dubaï ou encore Londres.

Le premier train de fret autonome – AutoHaul – a démarré son service commercial en 2018 : développé par Hitachi Rail STS, ce train appartenant à l’entreprise Rio Tinto achemine le minerai de fer des mines australiennes jusqu’aux ports, sans personne à bord. Ce train classique est long de 2,5 km, et est composé de deux locomotives diesel tirant 240 wagons de minerais pour environ 28 000 tonnes. 

Les projets de conduite autonome sur les trains sont aujourd’hui nombreux, même si la plupart des citoyens l’ignorent. Certains visent à tester la conduite en présence d’un conducteur ou de personnel à bord tandis que d’autres circulent sans personnel à bord.

Comme pour les voitures autonomes, il existe plusieurs niveaux d’automatisme permettant de distinguer le « train autonome » du « train automatique ». Ces niveaux, désignés par l’acronyme GoA (Grades of Automation), ont été définis par l’association internationale du transport public (UITP) :

GoA1 : conduite manuelle contrôlée

GoA2 : accélération et freinage automatisés

GoA3 : conduite automatisée avec personnel à bord

GoA4 : train totalement autonome 

Caractéristiques des différents niveaux d’automatisme

Grades of Automation (GoA), source: Smartrail40

Source : Smartrail40

Source : SNCF

En Europe, plusieurs projets ont été lancés à la fin des années 2010 et leur phadse d’exploitation commerciale pourrait démarrer en 2023. Automatic Train Operation (ATO) over European Control Train System (ETCS) est le système permettant la conduite automatique des trains, en respectant le système européen de contrôle des trains (ETCS), et les horaires de la mission. 

L’autopilote (ATO) a le même objectif qu’un conducteur de train, à savoir respecter la mission qui lui a été confiée, c’est-à-dire la fiche horaire. Le conducteur humain est sensé traverser telle gare ou tel point remarquable à telle heure. C’est avec cette fiche horaire qu’il gère la traction et le freinage du train, afin d’être ni en avance ni en retard. Pour respecter les horaires qui lui ont été confiés, l’autopilote s’appuie sur une première donnée d’entrée que l’on nomme le « profil de déplacement » (journey profile). Ce document comporte un ensemble d’informations permettant à l’autopilote de savoir où il est sensé aller, à quelle heure il doit passer des points remarquables, et s’il existe des contraintes particulières sur le réseau (ex : zones de restriction de vitesse, d’adhérence dégradée, d’inhibition de l’autopilotage).

Une seconde donnée d’entrée, baptisée le « profil de section » (segment profile), contient des informations – vitesse maximale de ligne, rampes, pentes, courbes – qui permettent à l’autopilote de savoir précisément comment gérer la traction et le freinage du train. 

La « partie sol » de l’ATO est l’intermédiaire entre la fiche horaire qui provient du système de gestion de trafic et l’autopilote dans le train auquel elle doit être transmise. Cet intermédiaire consiste en plusieurs serveurs fixes, connectés au système de gestion de trafic du gestionnaire d’infrastructure. 

A bord du train se trouve la « partie bord » de l’ATO. Lorsqu’elle est réveillée, elle connaît l’adresse IP de la partie sol de référence. Elle va ouvrir une liaison et demander à la partie sol si elle a une mission pour elle. Si c’est le cas, la partie sol lui envoie un profil de déplacement et les profils de section associés. La liaison entre les parties sol et bord peut utiliser le réseau 2G/3G/4G/5G ou bien le réseau mobile dédié aux applications ferroviaires (GSM-R).

Exemples de projets de train autonome

 Date de lancementActeursTechnologieObjectifs
Digitale S-Bahn Hamburg(Allemagne)2021Deutsche Bahn, SiemensATO over ETCSDavantage de capacité sans construction de nouvelles voies ; une exploitation plus robuste pour davantage de ponctualité ; une meilleure efficacité énergétique en optimisant la conduite des trains.
Système de conduite automatique des trains (ATO) pour les trains régionaux de voyageurs(Allemagne)2020ENNO, Alstom + Association régionale de la ville de Braunschweig, Université technique de Berlin (TU Berlin), Centre aérospatial allemand (DLR) pour explorer l’utilisation de l’IAATO over ETCSOptimiser les opérations ferroviaires régionales ; réduire la consommation d’énergie ; accroître le confort des voyageurs. 
Train de Fret Autonome(France)2018Alstom, Apsys, Capgemini, Hitachi, Railenium, SNCF ATO over ETCSDémontrer d’ici 2023 la faisabilité avec un prototype sur plusieurs jalons : conduite semi-autonome sous signalisation européenne ERTMS, conduite semi-autonome sous signalisation latérale, conduite GoA4 avec gestion des aléas ; mener les études système, afin d’aboutir à un cahier des charges en fin de projet.
Train Autonome TER (France)2016Alstom, Bosch, Institut de recherche technologique Railenium, SNCF, Spirops, ThalesCapteurs, caméras, radars laserDéveloppement d’un système de conduite en sécurité de locomotives depuis un site à distance. 
AutoHaul®(Australie)2017Hitachi Rail STS, Rio Tinto Acheminer le minerai de fer des mines australiennes jusqu’aux ports, sans personne à bord (objectif : 360 millions de tonnes par an).
Automatic Train Operation(Finlande)2018Proxion, VTT, Teräspyörä Oy, Electric Power Finland OyATO over ETCS à GoA4Développer des services de fret ferroviaire industriels sur des distances courtes entre des usines ou vers des ports ; réduire les émissions de CO2 ; améliorer la sécurité et la compétitivité économique. 
Trains autonomes grande vitesse (Japon) East Japan RailwayWest Japan railwayKyushu Railway5GPlusieurs projets de trains totalement autonomes grande vitesse

Source: PromEthosIA 

Ajoutons qu’au Brésil la ligne 4 du système de métro de Sao Paulo est totalement automatisée : jusqu’à 800 000 passagers sont transportés chaque jour sur une distance de onze kilomètres à travers l’une des villes les plus peuplées de la planète.

L’intelligence artificielle peut être utilisée pour de multiples applications :

  • La gestion des opérations en temps réel
  • L’analyse du consommateur
  • La billetterie en ligne
  • La maintenance prédictive
  • L’établissement des horaires et le calendrier
  • La programmation des itinéraires multimodaux 
  • La gestion des interruptions de service

Les avantages de l’IA sont multiples : 

  • Vitesse, freinage et accélération optimisées, ce qui permet, entre autres, de réduire la consommation d’énergie (jusqu’à 30%).
  • Accroissement de la capacité et de la fiabilité du réseau.
  • Repérage des actes de vandalisme ou de vol avant qu’ils constituent une menace pour les passagers.
  • Réduction du besoin de réparation des voies.
  • Utilisation de la géolocalisation pour alerter les opérateurs des risques survenant sur le réseau.
  • Utilisation des capteurs pour identifier les obstacles et calculer leur distance par rapport au train, même dans l’obscurité, et ce de façon plus rapide et plus précise que l’œil humain.
  • Augmentation de l’expérience des passagers qui, par exemple, sont avertis de l’emplacement du siège disponible le plus proche ou de l’endroit précis où il faut se tenir sur le quai.
  • Exploitation des données pour aider les logisticiens des chaînes d’approvisionnement à optimiser les itinéraires et à maximiser la capacité, en réduisant les inefficacités causées par les conteneurs vides. 

Le train autonome est en principe la source de multiples avantages, pour les gestionnaires d’infrastructures de réseaux, les industriels, les passagers, et les autres parties prenantes du système ferroviaire. Un premier enjeu éthique se pose néanmoins : le train autonome, nous l’avons vu, se met en place progressivement dans le monde entier sans que son déploiement commercial ait fait l’objet d’une concertation préalable entre ses promoteurs et la société : les citoyens ne sont pas pleinement informés des enjeux et des avantages pour eux du train autonome, ni des risques éventuels que celui-ci pourrait occasionner. Aucun débat démocratique contradictoire n’est tenu, ce qui implique, au bout du compte, que le consentement éventuellement donné par les individus est dénué de toute signification par manque d’information objective. 

La navigation maritime autonome

A l’époque de la marine à voile, les équipages étaient nombreux pour manœuvrer les grands clippers, puis avec la motorisation, l’automatisation et la conteneurisation, les équipages se sont réduits inexorablement. La question aujourd’hui n’est pas de savoir si un navire peut se passer de son équipage mais plutôt quand les nouvelles technologies numériques, de l’intelligence artificielle aux communications satellites, permettront de déployer des flottes de navires autonomes capables de naviguer en haute mer sans aucune présence humaine à bord.

La notion d’autonomie peut renvoyer à l’aspect énergétique. Il est alors question de l’autonomie au regard de la propulsion du navire. Ce qui nous intéresse ici est l’autonomie de conduite, c’est-à-dire celle qui concerne des navires sans équipage (unmanned ship). Le navire possède sa propre « intelligence », lui permettant d’analyser seul l’environnement dans lequel il se déplace grâce à une série de capteurs, de prendre lui-même les décisions requises et de mettre en œuvre les actions que le système à bord aura déterminé en fonction de plusieurs facteurs comprenant les règles internationales pour prévenir les abordages en mer (RIPAM), les considérations météorologiques et l’optimisation des routes. 

Un ensemble de termes se sont développés pour caractériser la nouvelle réalité de la navigation autonome. Ainsi coexistent les notions de smart shipping, autonomous vessel, remote ship, unmanned vessel, remotely operated vehicle (ROV), unmanned surface vehicle (USV), drones, voire même ghost ship. La pluralité de ces notions caractérise la diversité des degrés d’autonomie qui peuvent s’appliquer :

  • la notion de smart ship est employée pour définir un navire autonome à la fois en énergie et en équipage ;
  • la notion de navire autonome (autonomous ship) caractérise un navire qui aura vocation à naviguer seul grâce à un ordinateur de bord, sans aucune assistance humaine à bord ou à terre ;
  • la notion de navire sans équipage (unmanned vessel) vise un navire naviguant sans équipage, sans marin à son bord, mais en contact à terre avec un centre de contrôle capable d’intervenir à tout moment en cas de besoin et pour les opérations complexes qui ne pourront être effectuées par le navire seul ;
  • la notion de navire téléguidé ou opéré à distance (remote vessel) est utilisée lorsque le navire navigue sans capitaine ni marin à bord, mais est contrôlé à distance et entièrement opéré à partir d’un centre à terre par un officier de la marine marchande, en charge de la navigation, ainsi que par divers opérateurs en charge de la maintenance à distance du navire ;
  • la notion de drones maritimes désigne des petits équipements pilotés à distance, mais souvent reliés à un navire-mère et considérés comme leur accessoire. 

Les promoteurs de la navigation autonome assurent que le concept est garant d’une sécurisation accrue de la navigation, d’une augmentation de la rentabilité de l’exploitation maritime, et de la préservation environnementale. Toutefois, le navire autonome soulève des questions juridiques majeures, notamment par le fait qu’il ne satisfait pas à la condition de navigabilité (« un navire doit être doté d’un équipage suffisant et compétent »). 

La navigation autonome a reçu jusqu’à présent une attention moindre que les autres modes de transport, mais c’est pourtant le domaine où l’autonomie pourrait avoir le plus d’impact. Selon Allied Market Research, le marché mondial des navires autonomes pourrait atteindre $165,61 milliards en 2030, soit un taux de croissance annuel moyen de 6,8%.

En 2018, Rolls-Royce et Finferries, la compagnie publique de navigation finlandaise, ont fait la démonstration du premier car-ferry pleinement autonome, près de Turku. En Corée du Sud, SK Telecom et Samsung ont testé une plate-forme pour le contrôle de la navigation d’un bateau situé à 250 kilomètres du centre des opérations, grâce à un radar spécialisé connecté au réseau 5G. Le navire était donc équipé d’un capteur Lidar capable de détecter les obstacles se présentant à lui lors de sa navigation, le tout connecté au réseau 5G. Selon SK Telecom, il parvint à destination tout en réussissant à éviter chaque obstacle sur son parcours. Grâce au réseau 5G de SK Telecom, la surveillance et le contrôle de la navigation purent se faire sans aucun problème. 

La navigation autonome représente a priori un défi moins important que la voiture autonome ou l’avion autonome. Le trafic est moindre sur les mers et les problèmes mettent davantage de temps à survenir. Mais d’un autre côté, les obstacles sont colossaux, car les navires doivent affronter souvent des conditions de fonctionnement extrêmes ainsi qu’une connectivité incertaine. Les systèmes de reconnaissance d’images fonctionnent imparfaitement au cours d’une tempête survenant en plein milieu de l’océan atlantique, avec un faible accès internet et alors que le navire se balance de haut en bas sur les vagues. Par ailleurs, les conditions de fonctionnement sont très différentes selon que la navigation s’effectue en pleine mer, le long d’un littoral or dans des havres et des ports encombrés. 

Le vol autonome

Le cabinet de conseil McKinsey a indiqué que les investisseurs avaient dépensé en 2021 plus de 7 milliards de dollars dans tous les types de solutions innovantes pour la mobilité aérienne, soit le double des sommes investies au cours des dix années précédentes. Depuis 2010, les financements se seraient élevés à 12,7 milliards de dollars. 

L’avion électrique et l’avion à hydrogène devraient se développer rapidement, car ils apportent des solutions à l’objectif de décarbonation de l’aviation et à l’impératif de réduction des coûts de l’industrie. Mais aussi étonnant, révolutionnaire, fictif ou farfelu que cela puisse paraître, l’avenir contiendra aussi le vol autonome ! Les cartons se remplissent de nouveaux projets chaque année dans les entreprises et les laboratoires de recherche : la voiture volante, le taxi volant, et bien sûr l’avion autonome.

Les enjeux éthiques seront considérables. Tout d’abord, parce que l’innovation disruptive, et non simplement incrémentale, que le vol autonome représente sera déployée, comme à chaque fois, sans concertation préalable au sein de la société, sans contrôle démocratique. Elle sera imposée par les entreprises au nom du « progrès », notamment du « transport durable », alors qu’elle entraîne, comment le nier, une transformation majeure dans la mobilité personnelle et collective.

Ensuite, parce qu’il se posera la question de la responsabilité en cas d’accident. L’accident pourra provenir d’une faille dans la sécurité externe (météo, hacking, terrorisme, etc.) ou d’un incident quelconque à bord de l’engin, en relation avec le comportement anormal d’un passager ou un manque de fiabilité technique. Faudra-t-il alors, pour désigner le(s) responsable(s), incriminer les passagers, le système d’intelligence artificielle, le centre de contrôle au sol, l’entreprise qui a fabriqué l’engin ou encore l’équipe d’ingénieurs qui l’aura conçu, le régulateur qui aura accordé un certificat de navigabilité ? 

La voiture volante

Au début de 2022, l’autorité des Transports en Slovaquie a délivré un certificat de navigabilité à une voiture volante capable d’atteindre des vitesses supérieures à 160 km/h et des altitudes au-dessus de 2.500 mètres (8.000 pieds). Ce véhicule hybride voiture/avion, nommé AirCar, est doté d’un moteur BMW et peut rouler avec du carburant provenant d’une pompe à essence normale. Il faut deux minutes et quinze secondes pour transformer la voiture en aéronef, un peu comme dans cet ancien film de « Fantômas » où l’ennemi public numéro un pouvait utiliser sa Citroën DS comme une voiture ou comme un avion. Après un premier test réussi en Slovaquie, l’on parle déjà d’un prochain vol de Paris jusqu’à Londres !

Alors, verrons-nous des voitures volantes dans un avenir proche ? Rien n’est moins sûr, car ce type de transport personnel occupe une niche minuscule sur le marché du transport autonome. Et, bien sûr, il n’est pas « collectif ». En revanche, la faisabilité semble prouvée, et par conséquent il serait surprenant que le véhicule volant n’ait aucun avenir significatif.

Le taxi volant

Certains prédisent d’ailleurs que la prochaine révolution dans le vol concernera les aéronefs électriques à décollage et atterrissage verticaux (eVTOL). On les nomme « taxis volants » qui ressemblent à des drones planants utilisant de multiples petits rotors pour décoller et atterrir tels un hélicoptère. Ils devraient être bien adaptés pour proposer aux voyageurs des services de transport courte distance dans les grandes zones urbaines, par exemple pour les passagers entre les aéroports et les centres-villes. Le cabinet de conseil McKinsey a compté environ 200 projets de ce type dans le monde et comptabilisé 5,1 milliards de dollars d’investissements rien qu’en 2021. Un exemple de taxi volant est Prosperity I, un produit conçu par la firme chinoise AutoFlight qui fait appel intelligemment à des universitaires et des spécialistes de l’industrie pour convaincre les régulateurs européens de la sécurité aérienne de l’approuver. Un autre exemple de eVTOL est eh216, un taxi volant conçu par la firme chinoise EHang pouvant accueillir deux passagers et voler sans pilote. Cet engin, qui est en fait dirigé par un centre de contrôle au sol, a un rayon de 35 kilomètres entre les charges et peut atteindre 130 km/h. Mais la Chine n’est pas seule, car Airbus et Boeing, mais aussi Uber, Bell, Volocopter, Aston Martin ou encore le motoriste Rolls-Royce se sont lancés dans des projets ambitieux similaires.

Ainsi, par exemple, Airbus a lancé dès 2016, via sa filiale Vahana, un projet ambitieux de taxi volant. Le prototype Alpha One de Vahana a effectué son premier vol de test, d’une durée de 53 secondes, en février 2018 ; il fut suivi un an plus tard d’un vol plus complet montrant notamment la transition entre le décollage vertical et le vol horizontal grâce aux rotors basculants de l’aéronef. Un second prototype a vu le jour en 2019, concentré sur l’étude du cockpit. De son côté, Boeing vient d’investir 450 millions de dollars dans une joint-venture existante basée en Californie, Wisk Aero, en vue de développer des taxis volants autonomes. 

Il faut souligner que la coopération internationale se développe rapidement. Ainsi, la firme chinoise Hyundai a investi dans une startup britannique, Urban-Air Port, afin de construire au cours des cinq prochaines années 200 hubs destinés à des taxis volants dans 65 villes différentes. L’idée est intéressante, car en effet les eVTOL pourront difficilement décoller et se poser en utilisant les infrastructures routières actuelles ; il leur faudra des « vertiports ».

L’avion autonome

Les compagnies aériennes membres de l’Association internationale du transport aérien (IATA), qui compte actuellement 290 compagnies membres représentant 82% du trafic aérien mondial avant la pandémie de Covid-19, se sont engagées à atteindre « zéro émission nette de CO2 » d’ici à 2050. Un objectif déjà adopté par le secteur aérien européen. C’est évidemment un défi considérable puisque l’industrie aéronautique devra progressivement réduire ses émissions tout en répondant à la demande croissante des futurs passagers. Or, dans les conditions actuelles, pour pouvoir répondre aux besoins des dix milliards de personnes qui prendront vraisemblablement l’avion en 2050, il faudrait émettre 1,8 gigatonne de carbone pour cette seule année, soit le double du niveau observé en 2019. En cumulé depuis 2020, la réduction nécessaire dépasserait 21 gigatonnes de carbone en trente ans ! 

La solution se trouve dans la technologie. Quatre technologies sont privilégiées pour le moment : le fuselage intégré (configuration hybride aile-fuselage), le contrôle de flux actif, les nouveaux concepts de moteur, le vol sans train d’atterrissage grâce au décollage et à l’atterrissage par alimentation en surface. 

Pourtant, une autre option semble gagner en crédibilité : le vol autonome, sans pilote, pleinement automatique. Les passagers seraient accueillis et servis à bord par des robots, ce qui permettrait de ne plus avoir d’équipage de cabine. Évidemment, pour que cela soit possible, il faudra disposer notamment d’équipements de guidage et de contrôle ainsi que de systèmes « voir et éviter » totalement fiables, de liaisons de données sûres, à l’épreuve des attaques et bon marché, de systèmes automatiques de positionnement des avions afin de pouvoir éviter le contrôle du trafic aérien. A l’heure actuelle, aucune autorité ne délivrera de certificat pour voler de façon autonome, mais à l’horizon 2040 les avions-cargo et les petits avions devraient pouvoir constituer les premières applications du vol autonome. 

Il n’est pas surprenant que Airbus et Boeing soient déjà sur les rangs pour une future industrialisation de l’avion autonome. En juin 2020, Airbus a expliqué avoir achevé une série de 500 vols-tests dans le cadre de son projet d’avion de ligne autonome, baptisé « Autonomous Taxi, Take-Off and Landing » (ATTOL) pour le roulage, le décollage et l’atterrissage. La plupart de ces vols-tests ont servi à collecter les enregistrements vidéo dans le but d’entraîner l’intelligence artificielle. L’avion utilisé par Airbus – le A350-1000 XWB – était équipé de caméras qui, couplées avec l’intelligence artificielle intégrant une technologie de reconnaissance d’image, aidaient les pilotes à guider l’avion au sol. 

ANNEXE 2 : Le projet de règlemmais nomaisent européen sur l’intelligence artificielle

La Commission européenne a élaboré un projet de réglementation européenne sur l’intelligence artificielle en avril 2021. (Proposition de règlement du parlement européen et du conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’union COM/2021/206 final https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:52021PC0206) qui fait l’objet de négociations en cours et qui n’est par conséquent pas stabilisé. Nous n’entrerons donc pas dans les détails de ce texte. 

Les règles qu’il contient suivent une approche fondée sur le niveau de risque que peuvent engendrer les différents « systèmes d’intelligence artificielle », selon leur nature et leur objet :

Risques inacceptables : « La liste des pratiques interdites figurant au titre II comprend tous les systèmes d’IA dont l’utilisation est considérée comme inacceptable car contraire aux valeurs de l’Union, par exemple en raison de violations des droits fondamentaux. Les interdictions portent sur les pratiques qui présentent un risque important de manipuler des personnes par des techniques subliminales agissant sur leur inconscient, ou d’exploiter les vulnérabilités de groupes vulnérables spécifiques tels que les enfants ou les personnes handicapées afin d’altérer sensiblement leur comportement d’une manière susceptible de causer un préjudice psychologique ou physique à la personne concernée ou à une autre personne. D’autres pratiques de manipulation ou d’exploitation visant les adultes et susceptibles d’être facilitées par des systèmes d’IA pourraient être couvertes par les actes existants sur la protection des données, la protection des consommateurs et les services numériques, qui garantissent que les personnes physiques sont correctement informées et peuvent choisir librement de ne pas être soumises à un profilage ou à d’autres pratiques susceptibles de modifier leur comportement. La proposition interdit également la notation sociale fondée sur l’IA effectuée à des fins générales par les autorités publiques. Enfin, l’utilisation de systèmes d’identification biométrique à distance « en temps réel» dans des espaces accessibles au public à des fins répressives est également interdite, à moins que certaines exceptions limitées ne s’appliquent »[29].

Risques élevés : « les systèmes d’IA présentent un risque de préjudice pour la santé et la sécurité » (article 7 du projet de règlement précité). Selon le cabinet NOMOS « Il s’agit par exemple : (i) de systèmes utilisés dans certaines infrastructures critiques qui sont susceptibles de mettre en danger la vie et la santé des personnes ; (ii) de systèmes utilisés dans le domaine du maintien de l’ordre qui sont susceptibles d’interférer avec les droits fondamentaux des personnes ; (iii) de systèmes d’identification biométrique à distance ; ou encore (iv) de systèmes utilisés dans l’administration de la justice et des processus démocratiques ».

Dès lors qu’elle ne se fait pas en temps réel, la reconnaissance faciale pour l’identification des personnes est considérée comme un système d’intelligence artificielle à haut risque et devrait par conséquent être encadrée par la nouvelle règlementation. 

De même selon l’annexe III du projet de règlement les systèmes d’intelligence artificielle destinés à être utilisés en tant que composants de sécurité dans la gestion et l’exploitation du trafic routier (ceci semble inclure par conséquent les véhicules autonomes) sont considérés à haut risque. 

Selon le cabinet NOMOS, les « risques limités concernent les systèmes d’intelligence artificielle identifiés à l’article 52 du projet de règlement, et qui comprennent notamment les chatbots ou les deep fakes ». Ces systèmes pourront continuer d’être utilisés à condition de respecter certaines obligations de transparence vis-à-vis des utilisateurs.

Risques minimes : selon la Commission européenne, la grande majorité des systèmes d’intelligence artificielle correspondent à cette catégorie, qui recouvre notamment les jeux vidéo ou les filtres anti-spam intelligents. L’utilisation de ces systèmes ne sera pas soumise au respect d’obligations supplémentaires.


[1]       Cf. Projet de règlement européen, Titre II, 5.2.2. Pratiques d’intelligence artificielle interdites.


[1]       Source : Autonomous Transportation Will Arrive Faster Than Predicted And Afford Bigger Business Opportunities, Forbes, 29 juin 2020.

[2]       Source : Keolis, https://www.keolis.com/fr/notre-offre/offre-transport/vehicules-autonomes

[3]       https://unfccc.int/fr/processus-et-reunions/l-accord-de-paris/l-accord-de-paris

[4]       https://public.wmo.int/en/resources/united_in_science

[5]       https://ec.europa.eu/info/strategy/priorities-2019-2024/european-green-deal_fr

[6]       COM(2021) 550 final, « Ajustement à l’objectif 55 : atteindre l’objectif climatique de l’UE à l’horizon 2030 sur la voie de la neutralité climatique »,               
https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=CELEX:52021DC0550&from=FR


[1]       Source : fondation MAIF pour la recherche, « Voiture autonome : sans les mains mais pas sans risques ».

[2]       Source : Commission européenne, Direction générale de la recherche et de l’innovation, Ethics of connected and automated vehicles : recommendations on road safety, privacy, fairness, explainability and responsibility, Publications Office, 2020. 

[3]       Article Les sciences de l’ingénieur : Les véhicules autonomes sont également vulnérables aux défis de cybersécurité touchant les capteurs physiques, les contrôles et leurs mécanismes de connexion https://www.techniques-ingenieur.fr/actualite/articles/vehicules-autonomes-les-risques-lies-a-la-cybersecurite-doivent-etre-mieux-pris-en-compte-91530/#:~:text=Les%20v%C3%A9hicules%20autonomes%20sont%20%C3%A9galement,que%20la%20situation%20est%20alarmante

[4]       Avec ce test, le train autonome n’est plus très loin : Usine nouvelle : https://www.usinenouvelle.com/editorial/video-avec-ce-test-reussi-de-la-sncf-le-train-autonome-n-est-plus-tres-loin.N1787647. Article sur véhicule FLexy SNCF. https://www.usine-digitale.fr/article/la-sncf-lance-flexy-un-vehicule-qui-peut-passer-de-la-route-aux-rails.N1802757

[5]       Source : Financial Times, « Tesla powers up plan for full self-driving cars », 20/10/2016.

[6]       Source : Financial Times, « US opens formal probe into Tesla’s Autopilot technology », 16/08/2021.


[1] Les systèmes de vidéoprotection sans intelligence artificielle et utilisés pour des raisons de sécurité publique, sont régis en France par les articles L251-1 à L251-8 de Code de Sécurité Intérieure (CSI) qui subordonne leur installation à l’autorisation du préfet territorialement compétent. Dès lors qu’ils permettent l’identification de personnes, ils doivent également respecter les dispositions de la loi n° 78-17. du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés concernant le respect des données personnelles. Cette loi a transposé en droit français le Règlement sur la protection des données personnelles (Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE, RGPD).

[2] Les « dispositifs de vidéo augmentée ou intelligente » sont définis comme « des dispositifs vidéo auxquels sont associés des traitements algorithmiques mis en œuvre par des logiciels, permettant une analyse automatique, en temps réel et en continu, des images captées par la caméra » (projet de position relative aux conditions de déploiement des caméras dites intelligentes ou augmentées dans les espaces publics ayant fait l’objet d’une consultation publique lancée le 14 janvier 2022 cnil.fr/fr/cameras-dites-intelligentes-ou-augmentees-dans-les-espaces publics). En principe, dans les systèmes de vidéo augmentée un être humain reste présent dans le dispositif : il voit la situation et décide d’agir alors que dans le système de vidéo intelligente ou automatisée, l’algorithme fait tout et déclenche automatiquement l’alerte. Ces deux termes sont souvent utilisés indifféremment alors qu’ils revêtent des processus d’automatisation distincts. Nous n’entrerons pas dans le cadre de cette étude dans ce débat linguistique.

[3] La reconnaissance faciale est une technologie informatique qui permet de reconnaître automatiquement une personne sur la base de son visage. Pour cela, elle utilise des données biométriques. La reconnaissance faciale se fait en trois temps : 1) la détection du visage, suivie de son alignement, afin de localiser le visage d’un individu sur une image et d’en délimiter les contours à l’intérieur d’un champ ; 2) l’extraction des caractéristiques du visage et leur transformation informatique en modèle ou « gabarit » pouvant être utilisé pour la tâche de reconnaissance proprement dite ; 3) la reconnaissance du visage en recherchant une correspondance entre le gabarit et un ou plusieurs autres gabarits contenus dans une base de données. Dans le cas de la biométrie faciale, un capteur 2D ou 3D « saisit » un visage, puis le transforme en données numériques par l’opération d’un algorithme et le compare à une base de données. 

[4] Cf. « Une reconnaissance faciale éthique : un oxymore ? », PromEthosIA, avril 2020.

[5] Cf. « NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software”, 19/12/2019.

[6] La protection de L’article 9 du RGPD précité prévoit de façon claire le principe d’interdiction des traitements de données biométriques permettant d’identifier une personne de façon unique sans consentement préalable ou en dehors de toute base légale. Le principe est donc l’interdiction de la reconnaissance faciale mais uniquement en ce qui concerne l’identification des personnes. L’interdiction ne vise ni l’authentification des personnes ni leur classification.

[7] https://www.neurofeedback-neuroscience.fr/neurofeedback/

[8] https://www.objetconnecte.com/nissan-projet-brain-to-vehicule-401/

[9] https://www.prnewswire.com/fr/communiques-de-presse/hyundai-mobis-utilise-des-ondes-cerebrales-dans-la-technologie-adas-pour-la-premiere-fois-au-monde-813096887.html)

[10] Vidal C. (2019), Nos cerveaux resteront-ils humains ? Éditions Le Pommier.
Vidal C. (2020), Les neurotechnologies sous l’œil de la nouvelle loi de bioéthique, The Conversation, https://theconversation.com/les-neurotechnologies-sous-loeil-de-la-nouvelle-loi-de-bioethique-129568

[11] http://www.oecd.org/fr/sti/tech-emergentes/recommandation-innovation-responsable-dans-le-domaine-des-neurotechnologies.htm

[12] Rapport du Conseil de l’Europe, Défis communs en matière de droits de l’Homme soulevés par les différentes applications des neurotechnologies dans le domaine biomédical : https://rm.coe.int/report-final-fr/1680a43841
Rapport UNESCO : https://unesdoc.unesco.org/ark:/48223/pf0000378724

[13] www.actuia.com/actualite/chili-que-signifie-le-vote-a-lunanimite-du-projet-de-loi-sur-lexploitation-des-neurotechnologies/

[14] https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000043884384

[15] https://portail-ie.fr/analysis/2371/ethique-et-intelligence-artificielle-lexperience-morale-machine

[16] Hubert Etienne, « The dark side of the ‘Moral Machine’ and the fallacy of computational ethical decision-making for autonomous vehicles ».

[17] Source : fondation MAIF pour la recherche, « Voiture autonome : sans les mains mais pas sans risques ».

[18] Source : Commission européenne, Direction générale de la recherche et de l’innovation, Ethics of connected and automated vehicles : recommendations on road safety, privacy, fairness, explainability and responsibility, Publications Office, 2020. 

[19] Article Les sciences de l’ingénieur : Les véhicules autonomes sont également vulnérables aux défis de cybersécurité touchant les capteurs physiques, les contrôles et leurs mécanismes de connexion https://www.techniques-ingenieur.fr/actualite/articles/vehicules-autonomes-les-risques-lies-a-la-cybersecurite-doivent-etre-mieux-pris-en-compte-91530/#:~:text=Les%20v%C3%A9hicules%20autonomes%20sont%20%C3%A9galement,que%20la%20situation%20est%20alarmante

[20] Avec ce test, le train autonome n’est plus très loin : Usine nouvelle : https://www.usinenouvelle.com/editorial/video-avec-ce-test-reussi-de-la-sncf-le-train-autonome-n-est-plus-tres-loin.N1787647. Article sur véhicule FLexy SNCF. https://www.usine-digitale.fr/article/la-sncf-lance-flexy-un-vehicule-qui-peut-passer-de-la-route-aux-rails.N1802757

[21] Source : Financial Times, « Tesla powers up plan for full self-driving cars », 20/10/2016.

[22] Source : Financial Times, « US opens formal probe into Tesla’s Autopilot technology », 16/08/2021.

[23] Source : Autonomous Transportation Will Arrive Faster Than Predicted And Afford Bigger Business Opportunities, Forbes, 29 juin 2020.

[24] Source : Keolis, https://www.keolis.com/fr/notre-offre/offre-transport/vehicules-autonomes

[25] https://unfccc.int/fr/processus-et-reunions/l-accord-de-paris/l-accord-de-paris

[26] https://public.wmo.int/en/resources/united_in_science

[27] https://ec.europa.eu/info/strategy/priorities-2019-2024/european-green-deal_fr

[28] COM(2021) 550 final, « Ajustement à l’objectif 55 : atteindre l’objectif climatique de l’UE à l’horizon 2030 sur la voie de la neutralité climatique »,       
https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=CELEX:52021DC0550&from=FR

Nudge et intelligence artificielle, coup double ou coup fourré ?

Non classé

Christophe Moyen, Catherine Vidal

Novembre 2020

INTRODUCTION

Nous ne sommes pas aussi rationnels que nous le pensons. Alors que nous aimons penser que nos décisions sont le résultat de réflexion rationnelle, la vérité est que les choses dont nous ne sommes pas conscients influencent en fait notre décision tout le temps. Les progrès des sciences cognitives et comportementales révèlent que la façon dont sont présentées les différentes options, ce que l’on appelle «l’architecture de choix», influence nos décisions. Nous avons tendance à réagir différemment à une option particulière selon comment elle nous est présenté. Sur la base de ces données, Richard Thaler et Cass Sunstein ont développé la théorie du nudge (ou le coup de coude), qui expliquent que les décisions et les comportements des gens devraient être influencés de manière prévisible et non coercitive en apportant de petits changements à l’architecture de choix sur la base du « paternalisme libertarien ». Donc ces nudges peuvent nous influencer sur la bonne manière d’agir pour notre bien ou le bien commun en utilisant nos biais cognitifs et comportementaux. Or aujourd’hui, l’homme a inventé une « machine » capable de reproduire parfaitement nos biais, on pourrait même dire à notre insu, l’intelligence artificielle nourrie par toutes nos données. Ainsi l’association du nudge et de l’intelligence artificielle fera-t-elle « coup double » en nous permettant d’agir plus efficacement pour nous même ou notre environnement en exploitant au mieux nos biais ; ou au contraire cette association ne sera qu’un « coup fourré » qui permettra de mieux nous contrôler voire de nous manipuler en ayant de moins en moins de chance de s’en apercevoir ?

Définition du Nudge

Dans leur livre « Nudge: Improving Decisions About Health, Wealth, and Happiness », Richard Thaler et Cass Sunstein définissent le «coup de coude» comme «tout aspect de l’architecture de choix qui modifie le comportement des gens de manière prévisible sans interdire aucune option ou changer considérablement leurs incitations économiques. » En d’autres termes, un nudge est un changement de la façon dont les options sont présentées qui orientent les gens dans une certaine direction sans en interdire les autres options, tout en maintenant la liberté de choix des gens. 

Suggestions, avertissements, les valeurs par défaut et les recommandations en sont tous des exemples. 

Les amendes, les mandats, les menaces, les interdictions et les instructions directes ne le sont pas, car ils interdissent certaines options ou réduisent considérablement la liberté de choix. 

Un nudge est analogue au fonctionnement d’un GPS. Le GPS suggère le meilleur itinéraire, mais il ne contraint pas les conducteurs à emprunter cette voie. Le GPS permet aux conducteurs d’aller dans une direction différente s’ils le souhaitent, mais les conducteurs finissent souvent par emprunter l’itinéraire suggéré. Le nudge est donc une méthode permettant d’influencer les décisions et les comportements des gens de manière non coercitive en apportant de petits changements à l’architecture de choix.

Un architecte de choix est une personne chargée de présenter les différentes options. Vendeurs, médecins, serveurs, concepteurs de sites Web et les professeurs ne sont que quelques exemples d’architectes de choix qui donnent un « coup de coude ». Leurs décisions sur la façon dont les options sont présentées à d’autres personnes affectent les décisions que les autres prennent. C’est étayé par des preuves issues des sciences cognitives et comportementales qui suggèrent que nous prenons généralement des décisions irrationnelles en raison d’erreurs systématiques dans notre façon de raisonner.

Le paternalisme libertaire

Le paternalisme libertaire est une vision du politique qui combine deux postulats. Elle est « paternaliste » en ce qu’elle repose sur l’idée qu’il est légitime d’influencer le comportement des gens pour les aider à vivre plus longtemps, mieux et en meilleure santé. Ces objectifs seraient implicitement partagés par chacun(e), tout en étant régulièrement contrecarrés par des erreurs de jugement et des biais psychologiques. Cette vision est « libertaire » en ce que la liberté de choix des personnes doit néanmoins ne jamais être limitée. En cela, les outils classiques de la réglementation et de la taxation sont, pour les tenants du paternalisme libertaire, à éviter.

Définition de l’IA

Commençons par la définition de l’algorithme, puisque nous le verrons, toute intelligence artificielle est un algorithme. Un algorithme est un ensemble d’opérations étape par étape autonome que les ordinateurs utilisent pour effectuer des taches de calcul, de traitement des données et de raisonnement automatisé. L’algorithme informatique détaille la manière dont un programme doit se comporter. Les algorithmes sont donc la base des technologies d’intelligence artificielle.

L’intelligence artificielle (IA)  a pour objectif de permettre à des machines de prendre des décisions et de résoudre des problèmes. C’est l’ensemble des théories et des techniques mises en œuvre pour la réalisation de machines capables de simuler différents éléments de l’intelligence humaine. Deux techniques tiennent aujourd’hui le haut du panier. LeMachine Learning (ML) que l’on peut définir comment étant l’apprentissage automatique qui est un champ d’étude de l’IA qui décrit un processus systématique par lequel une machine apprend à partir d’exemples ; et le Deep Learning (DL) : qui est une déclinaison du Machine Learning directement lié aux réseaux de neurones artificiels.

Les biais heuristiques qui font l’efficacité du nudge

Les erreurs dans notre façon de raisonner résultent généralement d’heuristiques, qui sont des règles empiriques que les gens utilisent pour former des jugements et prendre des décisions. Heuristique, bien que parfois précise et utiles, conduisent souvent à des erreurs graves et systématiques, appelées «biais cognitifs», qui apparaissent lorsque les gens choisissent ce que l’heuristique suggère même si la suggestion est la mauvaise option. Ainsi, même lorsque nous prenons de «bonnes» décisions (en termes de résultats), ces décisions sont encore irrationnelles (dans un certain sens) lorsqu’elles sont le résultat de biais.

Les trois principaux biais heuristiques et cognitifs identifiés par Tversky et Kahneman dans leur recherche sont les suivants :

a) Représentativité

Les gens ont tendance à évaluer les probabilités en fonction du degré auquel A est représentatif de B. Autrement dit, à quel point A est similaire à B. Cette heuristique a lieu dans le stéréotypage. Pour Par exemple, nous pensons qu’un homme de 2m10 est plus susceptible d’être un joueur de basket-ball professionnel qu’un homme de 1 m 70 parce que la plupart des basketteurs professionnels mesurent plus de 2m. Dans ce cas, l’heuristique aboutit à un jugement précis, mais des biais se produisent lorsque la similarité et les fréquences divergent. Ceci est démontré dans une expérience de pensée sur une femme nommé Linda. Dans cette expérience de pensée, les sujets de cette expérience apprennent que Linda est une jeune femme célibataire, franche et brillante qui s’est spécialisée en philosophie. Linda est préoccupée par les problèmes de discrimination et elle participe à des manifestations de justice sociale. Après que ces descriptions ont été données aux sujets, ceux-ci sont invités à choisir s’ils pensent que Linda est: (i) une caissière de banque, ou (ii) une caissière de banque active dans un mouvement féministe. La majorité des gens ont tendance à choisir (ii) bien que ce soit une erreur logique. Dans ce cas, il est plus probable que Linda soit une caissière de banque qu’une caissière féministe parce que toutes les caissières féministes sont des caissières de banque.

Le biais cognitif qui résulte de l’heuristique de représentativité est enraciné dans le fait que les gens se fient aux similitudes et aux attentes pour choisir la description qui semble mieux assortir à Linda selon la description qu’on leur donne d’elle. Instinctivement, La description de Linda correspond à (ii) mieux que (i).

b) Disponibilité

Les gens ont tendance à évaluer la fréquence ou la probabilité d’un événement en fonction de la facilité avec laquelle un tel événement est rappelé. L’heuristique de disponibilité est étroitement lié aux biais d’accessibilité, d’évidence et de fraicheur. Les médias influencent grandement les informations qui sont à notre disposition. Par exemple, les gens ont tendance à croire que les homicides sont plus fréquents que les suicides étant donné que les informations sur les homicides sont plus accessibles (c’est-à-dire plus fréquemment rapporté dans les médias) et donc plus facilement rappelées. Cependant, plus de personnes meurent de suicide que d’homicide. Les expériences personnelles et les événements récents sont également largement plus disponibles pour nous, et plus facilement rappelés que les événements que l’on n’a pas vécu personnellement ou des événements vécus il y a longtemps.  Prenons pour exemple les achats d’assurance contre les inondations. Quelqu’un qui n’a pas connu d’inondation dans le passé immédiat est beaucoup moins susceptible de souscrire ce genre assurance (même s’ils vivent dans des plaines inondables) que quelqu’un qui en a connu (ou connait quelqu’un qui en a vécu) un. C’est le cas même si la première personne vit sur une zone inondable et que la seconde vit dans une zone où il n’y a pas de risque d’inondation significatif.

c) Ajustement et ancrage

Afin de prendre des décisions ou de déterminer une inconnue, les gens ont tendance à s’appuyer fortement sur des valeurs initiales ou familières comme points de départ, appelées ancre, pour faire des estimations. Le biais qui résulte de cette heuristique se produit lorsque le référentiel de comparaison n’est pas une bonne similitude. Thaler et Sunstein donnent un exemple dans lequel deux groupes de personnes sont invités à deviner la population de la ville de Milwaukee. Un groupe est de Chicago et l’autre de Green Bay. Le premier groupe pense que c’est la plus grande ville du Wisconsin, mais il ne pense pas que ce soit aussi grand que Chicago, ce qui l’amène à dire que la population de Milwaukee est environ un tiers de la taille de celle de Chicago (environ un million). Le second groupe de Green Bay ne connaît pas non plus la réponse exacte, mais il sait que Green Bay est composé d’environ cent mille personnes. Il sait également que Milwaukee est plus grand que Green Bay, raison pour laquelle il pense que la population de Milwaukee est d’environ trois cent mille personnes. Dans ce cas, les personnes de Chicago ont fait une estimation trop élevée alors que ceux de Green Bay en ont fait une estimation trop faible (pour information, la population de Milwaukee est d’un peu moins six cent mille personnes). Cet exemple montre que différentes personnes choisissent arbitrairement différentes ancres pour la même question dont ils ne connaissent pas la réponse, et ces ancres produisent souvent des réponses très différentes.

Et au niveau neurobiologique ?

Au  cœur  des  questions  soulevées  par  le  Nudge,  se  trouve  la  notion  de prise  de décision.  De  nombreux  champs  de  recherche  y  sont  consacrés  :  économie, sociologie, psychologie,  sciences  cognitives  etc., sans  oublier  les  débats  philosophiques  sur  le  libre arbitre (Damasio 2012, Dennett 1978, 1993, Lavazza 2019, Searle 1997).

Les neurosciences ne sont pas en reste avec l’émergence des nouvelles disciplines que sont la neuroéconomie et le neuromarketing. L’objectif est de comprendre comment les choix économiques  sont  déterminés  par  les  états  mentaux.  Grace  aux technologies  d’imagerie cérébrale  par  IRM  (imagerie  par  résonnance  magnétique)  il  est possible  de  détecter  les régions  du  cerveau  activées  quand  on  demande  au  sujet  placé  dans  la machine  de  faire  une tache cognitive  impliquant  une  prise  de  décision  dans  un  choix économique.  Les  taches  les plus utilisées sont calquées sur des jeux d’argent, loterie, paris, avec perte et gains, fictifs ou en nature. 

Toutes les études s’accordent pour montrer que des circuits impliqués dans la prise de décision sont situés dans le partie frontale du cerveau, à savoir dans le cortex préfrontal (CPF) dont  le  développement  chez  l’être  humain  a  permis  l’émergence  des  capacités  cognitives  les plus  élaborées  :  pensée,  raisonnement,    planification,  anticipation, conscience  réflexive  etc. 

Dans  les  choix  économiques,  on  peut  observer  l’activation  de  sous-régions  du  CPF  qui  sont mobilisées  de  façon  variables  selon  les  conditions  de  la  tâche  à  effectuer  :  choix rationnels basés sur la perception d’indices, choix subjectifs en l’absence d’indices, choix orientés selon l’évaluation des probabilités de récompense, de prises de risque etc.

Une  étude récente  par  IRM  a  recherché  les  effets  du  « Nudge  social »  sur  des choix économiques (Chung 2015). La tache utilisée est un jeu de loterie avec différents niveaux de risques, faible ou fort. L’IRM montre l’activation de sous-régions du CPF, les unes impliquées dans  la  prise  de  risque  objective,  et  les  autres  activées  lors  de préférences  subjectives.  Ces différentes  régions  sont  interconnectés  et  s’activent  simultanément  mais  à  des  degrés  divers selon l’évaluation des prises de risque. Ces résultats ont été comparés à ceux d’un autre groupe de participants qui avaient été préalablement informés des choix et prises de risques d’autres joueurs  fictifs  dans  cette  tâche.  Ce  message  a  eu  pour  conséquence d’orienter  les  choix personnels  de  prise  de  risque  en  fonction  des  choix  des  autres.  Cet  effet  était  corrélé  à  des modulations de l’activité des régions du CPF.

Cette  étude  prend  tout  son  intérêt  dans  le  cadre  de  la  recherche fondamentale  sur  le fonctionnement   cognitif   et   ses   corrélats   neuronaux   :   interactions  entre   rationalité   et subjectivité  dans  la  prise  de  décision,  plasticité  des choix  en  fonction de  l’environnement social.   Ces   résultats   (et   ceux   d’autres   études   par   IRM)   viennent  ainsi   confirmer   les nombreuses recherches en psychologie expérimentale et en économie comportementale sur la prise de décision (Damasio 2012, Dennett 1978, 1993, Lavazza 2019).

Mais  qu’en  faire  pratiquement ?  Certains  peuvent  en  tirer  argument pour  chercher  à développer des puces intracérébrales ou des casques de neurostimulation dans le but d’orienter les  choix  économiques.  La  réussite  de  ce  scénario  est  peu  probable.  En  effet,  les  régions  du CPF  mises  en  jeu  dans  la  prise  de  décision  ne  sont  pas  uniquement  dédiées  à  cette  fonction. 

Elles sont aussi impliquées dans d’autres processus cognitifs tout autant fondamentaux dans la vie  psychique  et  les  comportements.  Dans  l’état  actuel  de  nos connaissances,  le  projet  de  cibler  une  fonction  spécifique  sans  entraver  le  fonctionnement  normal du  cerveau  n’est  pas fondé scientifiquement (Vidal 2019).

Rappelons qu’en France, la loi de bioéthique (révision 2019/2020, http://www.assemblee-nationale.fr/15/ta/ta0343.asp) stipule    dans    l’article    12    que    « les techniques  d’imagerie  cérébrale  ne  peuvent  être  employées  qu’à  des fins  médicales  ou  de recherche  scientifique,  ou  dans  le  cadre  d’expertises  judiciaires  »,    ce  qui  exclut  de  fait l’expérimentation  en  neuromarketing  (Vidal  2020).  Cet  article  reprend les  conclusions  de l’avis  129  du  CCNE  considérant  que  l’IRM  fonctionnelle  n’est  pas  une  technique  fiable  pour  expliquer le comportement et  déconseille son emploi dans les applications « sociétales » telles que le neuromarketing (www.ccne-ethique.fr).

Une  autre  préoccupation  éthique  est  celle  des  effets  à  long  terme  du  Nudge  sur  la structure  et  le fonctionnement  du  cerveau.  Il  a  été  montré  que  le  guidage  par  GPS s’accompagne  d’une  réduction  des  capacités de  mémoire  spatiale  et de  représentation  de l’espace,  et  ce  proportionnellement  à  la  fréquence  d’usage  du GPS  (Dahmani  2020). 

Des modifications  des  connexions  entre  les  régions  cérébrales  impliquées  dans  l’orientation spatiale  (hippocampe,  cervelet)  ont  aussi  été décrites  (Fajnerova  2018).  Ces  effets  observés chez  les  adultes  pourraient  avoir  des  conséquences  néfastes  sur le  cerveau  des  enfants  et adolescents en interférant avec les processus de développement en cours chez les jeunes. 

Prise dans son ensemble, notre analyse de l’usage de plus en plus important  de  connaissances  issues  des  sciences  comportementales  dans l’élaboration des politiques en Europe révèle un intérêt croissant des  autorités  de  l’UE  –  et  de  certains  États  membres  –  pour  cette  approche. 

C’est pour mieux t’accompagner mon enfant

Un exemple de nudge qui s’est avérée efficace sur les choix des gens de devenir donneurs d’organes, n’est qu’un simple changement de défaut d’option dans les formulaires de don d’organes. Une étude montre que lorsque les formulaires ont une option par défaut qui nécessite un consentement explicite (les gens doivent cocher une case s’ils veulent être donneurs), moins de 20% des personnes deviennent généralement des donneurs. Lorsque les formulaires ont une option de désactivation par défaut (les utilisateurs doivent cocher une case s’ils ne souhaitent pas être des donneurs) plus de 98% des personnes deviennent généralement des donneurs. Cette disparité est due à l’effet par défaut – tendance à s’en tenir à ce qui est présélectionné, indépendamment de ce que c’est. 

L’utilisation de panneaux qui encouragent les clients d’un l’hôtel à réutiliser leurs serviettes et leurs draps est un exemple d’un petit coup de coude rentable qui apporte des avantages à tous. Ces panneaux affichent généralement ce genre de message : «Près de 75% des clients aident l’environnement en utilisant leurs serviettes plus d’une fois. Vous pouvez rejoindre vos compagnons de voyage et ainsi contribuez à préserver l’environnement en réutilisant les serviettes pendant votre séjour. » Pour un certain nombre de raisons possibles allant du pouvoir fondamental des normes sociales qui amènent les gens à suivre la majorité, la pression des pairs, beaucoup de gens finissent par réutiliser leurs serviettes. Inciter les clients de l’hôtel à réutiliser leurs serviettes et leurs draps est surtout bénéfique pour les architectes de choix (hôtels) car cela réduit leurs coûts liés à l’utilisation d’électricité, d’eau et de savon, ainsi qu’au travail de réapprovisionnement et de lavage des serviettes. Moins de lavage se traduit également par une réduction des coûts de remplacement étant donné que l’usure des serviettes et des draps est réduite, ce qui prolonge leur durée de vie. L’American Hotel and Lodging Association estime que ce simple nudge réduit le nombre de nettoyage de linge – ainsi que les coûts connexes – de 17%. 

L’une des illustrations les plus connues de Thaler remonte au début des années 1990 à l’aéroport de Schiphol à Amsterdam. Comme les planchers des toilettes pour homme devenaient trop collants, le responsable du nettoyage a mis en place un coup de coude pour essayer de réduire les «déversements» autour des urinoirs. Ce nudge a pris la forme d’une image de mouche placée dans chaque urinoir. L’idée avait pour but de donner aux hommes quelque chose à viser. Le résultat en a été une réduction de 80% des déversements et une réduction du nettoyage de 20% en moyenne, ce qui se traduit par une réduction de 8% les frais de nettoyage des toilettes de l’aéroport.

Aujourd’hui grâce à l’utilisation de l’intelligence artificielle, tant Microsoft que Google proposent par exemple des outils pour inciter les employés à se réserver des plages libres dans leur calendrier. Microsoft incite les utilisateurs via la fonctionnalité MyAnalytics d’Office365, a se garder des plages libres pour travailler lorsque l’on a déjà accepté beaucoup de réunion ou à transférer une nouvelle réunion à un collaborateur, mais aussi à limiter l’envoi de mail après les horaires de bureau et de rappeler les mails important non lus. Alors que Google (via Gmail) propose des outils qui remontent les mails importants non répondus en haut de la boite de réception. Il permet également le rappel des mails importants restés sans réponse depuis 3 jours.

On le voit ici, l’utilisation combinée de nudge et d’intelligence artificielle est une autre manière de pousser doucement les collaborateurs à faire le meilleur choix pour eux, puisqu’ils peuvent décider premièrement d’activer ou non ces options, puis ensuite de suivre ou pas ces recommandations. L’utilisation de l’intelligence artificielle permet ici de rendre possible de tel nudge autrement plus complexe à mettre en œuvre par d’autres méthodes numériques plus traditionnelles.

Les affinités entre le nudge et le numérique

Le numérique est à l’évidence un environnement rêvé pour le nudge. En premier lieu, nous prenons aujourd’hui beaucoup de décisions sur nos écrans au moyen d’interfaces numériques. Lorsque nous faisons des achats en ligne, contactons un service client ou comparons des offres de crédit, lorsque nous envoyons un message à des collègues ou saisissons des informations dans un logiciel professionnel, lorsque nous réagissons à un post sur un réseau social, à chaque fois nous opérons des choix. Et nous le faisons parmi des options qui nous sont présentées d’une certaine manière par les architectes (de choix) de ces interfaces. Auteurs d’un papier sur le sujet, des chercheurs de l’Université de Saint-Gall estiment que le nudge peut enrichir le travail des designers d’interfaces et les aider à concevoir des systèmes aidant les utilisateurs à faire les choix les plus bénéfiques pour eux, en exploitant ou en contrant des effets psychologiques spécifiques.

Deux autres atouts du numérique sont soulignés pour l’implémentation de nudge. D’abord, il est facile de créer des nudges à grande échelle: il est plus aisé et meilleur marché de créer une notification ou de modifier une option par défaut sur un site web pour tous les utilisateurs que de dessiner une mouche dans les urinoirs de tous les aéroports du monde. Autre avantage, le numérique permet de tester différentes variantes pour en tirer des enseignements et déterminer le nudge le plus efficace. Là aussi, il est plus simple de faire du A/B testing dans une application que d’expérimenter différentes dispositions des plats dans un self-service. Enfin, les nudges numériques peuvent être personnalisés et envoyés au moment et dans le contexte le plus opportun.

Le pouvoir des Nudges va être amplifié, grâce au numérique et à l’intelligence artificielle, à travers des objets qui vont détecter nos habitudes et comportements, et nous influencer, nous inciter à consommer… Une voix d’enceinte connectée (Alexa d’Amazon par exemple) pourrait nous inciter à faire plus de sport, à manger moins, à être plus attentif, à acheter une crème antirides ou à voter pour untel. Le nudge est souvent mis en œuvre pour surveiller notre santé et pour notre bien-être, il pourrait tout autant être une stratégie d’insistance à des fins uniquement mercantiles ou de manipulation de masse.

C’est pour mieux te manipuler mon enfant

En intégrant des connaissances de l’économie comportementale, les entreprises et les designers peuvent concevoir des architectures de choix et des coups de coude pensés sciemment pour inciter les utilisateurs à prendre les meilleures décisions, c’est l’idée du digital nudge.

Mais les manipulations sont faciles et il arrive qu’une prise en charge de l’expérience de l’employé peut ressembler davantage à de la surveillance. Récemment, Amazon a créé la polémique après avoir déposé un brevet pour un bracelet capable de suivre la position de la main des employés de ses entrepôts pour les avertir lorsqu’ils mettent un article dans le mauvais casier. Si l’intention du géant de l’e-commerce semble respectable – «éviter que les manutentionnaires ne se trompent de casier et aient à tenir un scanner à la main» – un tel suivi est de nature à générer de la méfiance, sans parler des dérives possibles. L’employé peut toujours refuser de suivre les recommandations du bracelet, donc on peut encore parler de nudge.

Autre exemple, la société Cogito a développé un outil de coaching intelligent qui analyse le contenu et la façon de parler des employés des centres d’appel. Une fois la conversation terminée, l’outil affiche des recommandations à l’écran de l’agent lui suggérant de parler plus lentement, de poser des questions ouvertes ou de montrer plus d’empathie… Là encore les employés ont toujours le choix de suivre ou non les recommandations de l’outil en toute connaissance de cause. L’outil informatique fait en quelque sorte office de manager… Manager qui saura si l’employé aura suivi les dites recommandations, ce qui peut facilement s’apparenter à une forme de pression.

Les pratiques non respectables sont particulièrement répandues sur les réseaux sociaux, où la gestion de notre vie privée est, à certains égards, plus déroutante que jamais. Facebook a permis par exemple aux utilisateurs de se retirer des sites Web partenaires de Facebook pour collecter et enregistrer leurs informations Facebook accessibles au public. Quiconque a refusé cette «personnalisation» a vu un pop-up demandant: «Êtes-vous sûr ? Permettre une personnalisation instantanée vous offrira une expérience plus riche lorsque vous naviguez sur le Web. » Jusqu’à récemment, Facebook a également mis en garde les gens contre la désactivation de ses fonctionnalités de reconnaissance faciale : «Si vous désactivez la reconnaissance faciale, nous ne pourrons pas utiliser cette technologie si un étranger utilise votre photo pour usurper votre identité.» Le bouton pour activer le réglage est lumineux et bleu; le bouton pour l’éteindre est un gris moins accrocheur.

Les chercheurs appellent ces décisions de conception et de formulation des «modèles sombres», un terme appliqué à l’expérience utilisateur qui tente de manipuler vos choix. Quand Instagram vous demande à plusieurs reprises «d’activer les notifications» et ne propose pas d’option pour refuser? C’est un motif sombre. Lorsque LinkedIn vous montre une partie d’un message InMail dans votre e-mail, mais vous oblige à visiter la plateforme pour en savoir plus, il s’agit là aussi d’un motif sombre. Quand Facebook vous redirige pour vous «déconnecter» lorsque vous essayez de désactiver ou de supprimer votre compte. C’est aussi un motif sombre. Ce genre de nudge est communément appelé « sludge ».

Des motifs sombres apparaissent partout sur le Web, incitant les gens à s’abonner à des newsletters, à ajouter des éléments à leur panier ou à s’inscrire à des services. Mais, dit Colin Gray, chercheur en interaction homme-machine à l’Université Purdue, ils sont particulièrement insidieux «lorsque vous décidez des droits à la confidentialité à céder, des données dont vous êtes prêt à vous séparer. Gray étudie les motifs sombres depuis 2015. Lui et son équipe de recherche ont identifié cinq types de base: harceler, obstruction, furtivité, interférence d’interface et action forcée. Tous ces éléments apparaissent dans les contrôles de confidentialité. Lui et d’autres chercheurs dans le domaine ont remarqué la dissonance cognitive entre les grandes ouvertures de la Silicon Valley vers la confidentialité et les outils pour moduler ces choix, qui restent remplis de langage déroutant, de conception manipulatrice, et d’autres fonctionnalités conçues pour récupérer plus de données. 

Ces jeux de protection de la vie privée ne sont pas limités aux médias sociaux. Ils sont devenus endémiques au Web en général, en particulier à la suite du règlement général européen sur la protection des données . Depuis l’entrée en vigueur du RGPD en 2018, les sites Web sont tenus de demander aux gens le consentement pour collecter certains types de données. Mais certaines bannières de consentement vous demandent simplement d’accepter les politiques de confidentialité, sans possibilité de dire non. «Certaines recherches ont suggéré que plus de 70% des bannières de consentement dans l’UE comportent une sorte de motif sombre intégré», déclare Gray. «C’est problématique lorsque vous cédez des droits substantiels.»

Récemment, des sites comme Facebook et Twitter ont commencé à donner à leurs utilisateurs un contrôle plus précis de leur vie privée sur le site Web. La vérification de la confidentialité récemment déployée par Facebook, par exemple, vous guide à travers une série de choix avec des illustrations aux couleurs vives. Mais Gray note que les valeurs par défaut sont souvent définies avec moins de confidentialité à l’esprit, et les nombreuses cases à cocher peuvent avoir pour effet de submerger les utilisateurs. «Si vous avez une centaine de cases à cocher, qui va le faire», dit-il.

Les schémas les plus sombres de tous surviennent lorsque les gens essaient de quitter ces plates-formes. Essayez de désactiver votre compte Instagram et vous constaterez que c’est extrêmement difficile. Tout d’abord, vous ne pouvez même pas le faire depuis l’application. À partir de la version de bureau du site, le paramètre est enterré à l’intérieur de «Modifier le profil» et est livré avec une série d’interstitiels. (Pourquoi désactivez-vous? Trop distrayant? Ici, essayez de désactiver les notifications. Juste besoin d’une pause? Pensez à vous déconnecter.)

«Cela met des frictions sur la manière d’atteindre votre objectif, pour vous compliquer la tâche», déclare Nathalie Nahai, l’auteur de Webs of Influence: The Psychology of Online Persuasion. Il y a des années, quand Nahai a supprimé son compte Facebook, elle a trouvé un ensemble similaire de stratégies de manipulation. «Ils ont utilisé les relations et les connexions que j’avais pour dire: « Êtes-vous sûr de vouloir arrêter? Si vous partez, vous ne recevrez pas de mises à jour de cette personne », puis affichez les photos de certains de ses amis proches. «Ils utilisent ce langage qui est, dans mon esprit, de la coercition», dit-elle. « Ils rendent psychologiquement douloureux pour vous de partir. »

Une fois soumis à l’IA, notre cerveau s’expose alors à toutes sortes de manipulations, même bienveillantes, ce qui hérisse le poil du libéral individualiste Gaspard Koenig. Il redoute l’introduction à grande échelle de « nudges » dans les algorithmes. Gaspard Koenig s’est rendu au siège de la compagnie de Didi, le « Uber » chinois. Son interlocuteur lui apprend que la compagnie de VTC envisage la possibilité d’équiper ses chauffeurs de capteurs biométriques, en plus de l’application GPS de navigation. « Le chauffeur Didi ne sera plus qu’un tas de chair et de neurones hyperconnectés, à qui l’IA indiquera quel passager prendre à bord, quelle rue emprunter, quand faire une pause et où s’arrêter, écrit Gaspard Koenig. La décision humaine la plus primaire, celle d’aller pisser (sic), pourrait être déléguée à la machine. » Le « nudge » a gagné. Le chauffeur améliore ses conditions de travail, les clients perçoivent un service de meilleure qualité et Didi optimise ses courses.

IA contre IA

Alors comment contrecarrer les manipulations initiées par ces nudges numériques ?

Cette solution pourrait être appuyée par… l’intelligence artificielle. En effet, des algorithmes pourraient tester automatiquement les sites de vente en ligne pour détecter les nudges et encore plus les sludges. Un label issu de ces inspections automatiques, pourrait ainsi être crée. De bonne machines luttant contre les mauvaises ? Bien que manichéenne, cette idée rappelle que les machines ne font que ce pour quoi elles ont été conçues. A charge donc aux consommateurs d’utiliser les possibilités offertes par l’intelligence artificielle pour défendre leurs intérêts. 

CONCLUSION

Pour Richard Bordenave, directeur général du groupe BVA, ce sont les hommes qui conçoivent les algorithmes, par la sélection des données d’entraînement et le fait qu’elles sont en grande partie comportementales. Ce sont donc les biais humains contenus dans les données choisies et l’éthique des concepteurs qu’il faut interroger. Si la finalité de l’algorithme est d’aider l’utilisateur avec des recommandations pertinentes, et que son retour est positif, la boucle est vertueuse. Si l’algorithme est programmé pour réduire le choix, en fonction du profil de l’acheteur (et non ses goûts), ou pour ajuster le prix en fonction de son parcours précédent (au lieu d’un tarif applicable à tous), il contrevient à l’éthique du nudge (transparence, équité et liberté de choix).

L’IA peut influencer les comportements pour le meilleur et pour le pire. La réflexion éthique et la connaissance des facteurs humains (biais cognitifs, facteurs émotionnels ou sociaux…) à l’œuvre dans la vraie vie deviendront critiques pour les marques. Bordenave croit aux « IA gendarmes », pour contrer les « IA voleurs ». L’algorithme des uns pourra contrôler si les comportements mesurés par les autres sont réels, les emplacements fréquentables, les commentaires authentiques, etc.

Dans tous les cas, la dimension manipulatrice des nudges numériques soulève naturellement des questions éthiques. Selon un article paru dans le NY Times, l’entreprise Uber recourt à quantités de techniques analogues pour influer sur le comportement des chauffeurs. Une approche consiste à les alerter qu’ils sont tout près d’atteindre un objectif au moment où ils s’apprêtent à terminer leur journée, une autre leur envoie la prochaine opportunité de trajet avant qu’ils aient bouclé leur course – ces techniques n’ont d’autre but que de pousser les chauffeurs à travailler plus longtemps et à accepter des courses moins lucratives pour eux…

Ainsi, outre l’indispensable liberté laissée aux utilisateurs, clients ou collaborateurs, les nudges ne sauraient être décidés et élaborés sans une communication ouverte avec ceux auxquels ils sont administrés, à la fois pour qu’ils en soient conscients et, surtout, pour qu’ils puissent juger du bien-fondé de leur visée. 

La recherche montre que la plupart des gens ne savent même pas qu’ils sont manipulés. Mais selon une étude, lorsque les gens étaient familiarisés à l’avance avec le langage pour montrer à quoi ressemblait la manipulation, deux fois plus d’utilisateurs pouvaient identifier ces modèles sombres. Au moins, il y a un espoir qu’une plus grande prise de conscience puisse redonner aux utilisateurs une partie de leur contrôle. L’éducation au nudge (et donc aux sludges) est donc plus que nécessaire.

Il y a quatre leviers importants pour développer des systèmes intelligents et éthiques : éduquer sur l’éthique des machines, expliciter des règles éthiques, écrires des outils de vérification des règles éthiques, concernant la coévolution humain-machine et l’évaluation des machines ; et enfin établir des règles juridiques. 

Pour remettre un peu d’humain dans l’IA, et surtout lui redonner du sens, Gaspard Koenig imagine une règle supérieure d’ordre moral. Celle-ci est inspirée de la « Prime Directive » imaginée dans la série de science-fiction « Star Trek ». Nous définirions par avance les normes que nous souhaitons imposer aux algorithmes qui nous gouvernent même si celles-ci sont sous-optimales pour le groupe. 

«Nudge for Good», a coutume d’écrire Richard Thaler lorsqu’il dédicace son ouvrage…

REFERENCES

Nudging : Quand le paternalisme libertaire rencontre le numérique – rodolphe Koller

Nudge – Émotions, habitudes, comportements: comment inspirer les bonnes décisions, Richard Thaler et Cass Sunstein, Vuibert 2010 (édition française)

Digital Nudging: Altering User Behavior in Digital Environments, Tobias Mirsch, Christiane Lehrer et Reinhard Jung, University of St. Gallen, 2017

The Pervasive Power of the Digital Nudge, BCG Perspectives, 2017

Guide Your Customers To Better Experiences With Behavioral Science, Forrester, 2018

Positive technology, Designing work environments for digital well-being, Deloitte Insights, 2018

Simulation-Based Trial of Surgical-Crisis Checklists, The New England Journal of Medicine, 2013;

How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, New York Times, 02.04.2017

https://lejournal.cnrs.fr/billets/rire-avec-les-robots-pour-mieux-vivre-avec

https://dataia.eu/recherche/le-projet-bad-nudge-bad-robot

The Ethics and Applications of Nudges – Valerie D. Joly – Chock University of North Florida

https://www.ictjournal.ch/articles/2019-09-25/le-numerique-pour-ameliorer-lexperience-des-employes

https://www.ictjournal.ch/articles/2019-10-10/nudging-quand-le-paternalisme-libertaire-rencontre-le-numerique

https://www.lemonde.fr/blog/internetactu/2017/07/15/tout-est-il-nudgable-lincitation-comportementale-en-ses-limites/

https://fr.wikipedia.org/wiki/Th%C3%A9orie_du_Nudge

https://www.wired.com/story/facebook-social-media-privacy-dark-patterns/

L’UNION EUROPÉENNE ET LE NUDGING – Alberto ALEMANNO

https://www.wired.com/story/neuroscience-key-people-wear-masks/

https://www.medecinesciences.org/en/articles/medsci/full_html/2016/12/medsci20163212p1130/medsci20163212p1130.html

https://la-rem.eu/2019/04/nudge/

https://www.forbes.fr/technologie/nudges-et-intelligence-artificielle-unis-pour-le-meilleur-ou-pour-le-pire/

https://www.ilec.asso.fr/article_bulletin_ilec/11254

https://www.lesechos.fr/idees-debats/livres/intelligence-artificielle-peur-sur-le-moi-1131378https://managersante.com/2020/04/13/la-sante-par-le-nudge-decryptage-dune-technique-qui-nous-veut-du-bien-malgre-nous/