Les exosquelettes connectés et leurs enjeux éthiques : esquisse d’une problématique

Technique

Geneviève Fieux-Castagnet et Kamel Bentchikou

Décembre 2019

INTRODUCTION

L’exosquelette est à l’origine une « sorte de carapace articulée et motorisée dont un être humain peut s’équiper pour démultiplier ses forces et porter des poids élevés ou parcourir des distances importantes avec moins de fatigue. L’effort est fourni par les moteurs qui équipent les membres articulés métalliques qui épousent ceux de l’utilisateur »[1]

Ces exosquelettes mécaniques ou électromécaniques sont le plus souvent munis de capteurs sur les muscles qui détectent les signaux, et de moteurs électriques en prise directe avec l’articulation pour la faire bouger. Ils sont totalement commandés par les mouvements de l’humain qui est à l’intérieur de la structure et qui guide les mouvements en toute autonomie. Ils facilitent des tâches pénibles, longues, mettant en risque le corps humain, réduisent l’effort physique et par conséquent le risque de blessure et d’accident. Ils permettent également l’employabilité de personnes qui ne pourraient pas autrement faire des tâches nécessitant des efforts importants. Mais tout recours à des exosquelettes requiert une attention aux questions de fiabilité, de sécurité et d’adaptabilité à tous les humains ainsi qu’aux conséquences de l’augmentation de la productivité qu’ils génèrent (risques psychosociaux, suppressions de postes avec la nécessité de reclasser les personnes et de les former à de nouvelles tâches etc.).

Les nouvelles générations d’exosquelettes apportent de nouvelles fonctionnalités mais posent des questions éthiques et sociétales d’une toute autre ampleur. Nous évoquerons les exosquelettes munis de capteurs permettant d’enregistrer des données analysées par un système d’intelligence artificielle (SIA), dans certains cas avec du machine learning, et ceux commandés directement par le cerveau. 

Les exosquelettes munis de capteurs permettant d’enregistrer des données analysées par l’IA

Leur fonctionnement et leur utilité

Les exosquelettes munis de capteurs permettent d’enregistrer des données qui sont analysées par le SIA. Les capteurs enregistrent des données biométriques et des données relatives à l’environnement. Les capteurs de données biométriques, soit ce qui permet d’identifier une personne et de connaître ses spécifications physiques, sont par exemple des lecteurs d’empreinte numérique, des appareils de photo numérique, des caméras de photo irienne pour l’analyse de l’iris, des microphones pour l’analyse de la voix, des capteurs d’analyse de la sudation, des capteurs des réseaux veineux, des capteurs d’effort, des capteurs inertiels pour mesurer la vitesse et le déplacement, des capteurs de la pression artérielle, des capteurs du rythme cardiaque etc. Les capteurs de données relatives à leur environnement sont par exemples des caméras, des capteurs infrarouges, des lasers, des capteurs acoustiques etc.

Par exemple, le constructeur coréen LG a dévoilé son tout nouvel exosquelette « élevé » à l’intelligence artificielle : la version perfectionnée du CLOi SuitBot. La combinaison portable LG CLOi SuitBot supporte le bas du corps et rend le levage et la flexion moins lourds. Il est doté d’une intelligence artificielle qui lui permet, grâce à la reconnaissance et à l’analyse de données biométriques et environnementales, de détecter le porteur, mais aussi de mesurer et d’analyser ses mouvements afin de lui suggérer les meilleures positions, ce qui permet d’améliorer les capacités, de réduire le risque de blessure et d’accident. 

Le CLOi SuitBot est aussi appelé combinaison robotique. Il peut se connecter aux trois autres robots CLOi : Servant Robot, Porter Robot et Shopping Cart Robot, ce qui lui permet de « faire partie d’un écosystème de travail intelligent afin de fournir des informations et des outils sur des lieux de travail tels que l’industrie, la logistique et la distribution »[2]

Le recours au machine learning permettra d’affiner et d’améliorer les opérations et les performances de l’exosquelette, de simplifier les tâches, et de faire apprendre à l’exosquelette les gestes métiers de son porteur, notamment s’ils sont dangereux. 

Leurs enjeux éthiques

Ces exosquelettes soulèvent certaines questions éthiques sensibles.

  • L’autonomie et le contrôle

Bien définir l’interaction homme/machine

L’exosquelette intelligent pouvant intervenir en toute autonomie, il faudra bien définir l’interaction entre le porteur et son exosquelette et décrire précisément les tâches effectuées par l’exosquelette en autonomie et celles effectuées par l’humain, ainsi que les modalités du passage en autonomie ou de reprise de contrôle par l’humain.

Il pourrait être décidé également que le mode autonome soit utilisé pour les agents qui ne connaissent pas du tout les gestes métiers alors que les agents expérimentés décideraient eux-mêmes du moment du passage en autonomie. La définition de l’acteur qui procède au choix de passer en mode autonome est sensible. Si c’est l’humain qui décide du passage en mode autonome, il reste au cœur de l’action et l’exosquelette demeure pour lui un assistant ; dans le cas contraire, c’est l’humain qui assiste l’exosquelette. Pour que l’humain qui est dans l’exosquelette soit totalement en sécurité, l’exosquelette pourrait le contraindre à faire certains gestes ou à s’arrêter ; ceci pourrait être vécu comme une atteinte à l’autonomie. 

En cas de machine learning, l’analyse des comportements de l’opérateur est démultipliée. La délimitation des tâches effectuées par l’humain et celles effectuées par l’exosquelette semble plus difficile à mettre en place puisque l’intérêt de ce système autoapprenant est de permettre à l’exosquelette de s’adapter et d’améliorer son utilisation. Cet exosquelette risque de prendre des décisions de lui-même et de ne plus attendre d’être commandé. Le risque de perte de contrôle de l’exosquelette par l’humain est donc accru avec aussi un risque de perte de dignité de l’humain qui pourrait se considérer comme le simple assistant de la machine. 

Le recours à l’exosquelette peut générer des biais de confiance ou des biais de défiance

Quelles seront les garanties qui empêcheront toute confiance ou dépendance excessives envers le mode autonome de l’exosquelette ? Il faudra rappeler les limites de l’exosquelette à son porteur. 

La question inverse doit être également posée : quelles seront les garanties prises pour empêcher toute peur excessive dans l’exosquelette en mode autonome ? Par exemple en cas d’intervention de l’exosquelette dans une armoire électrique haute tension, le monitoring de l’homme par l’IA est susceptible de générer du stress et de la peur, et il peut être difficile de contrôler des réticences physiques ; peut-être l’humain tentera-t-il inconsciemment ou non de s’opposer au mouvement de l’exosquelette. L’exosquelette devra être conçu en prenant en compte ces interrogations.

Réversibilité de l’augmentation

Sera-t-il possible pour l’humain d’avoir le choix de ne pas recourir à l’exosquelette ?

  • La robustesse et la fiabilité du système 

De nombreuses questions se posent quant à la robustesse et la fiabilité du SIA : 

  • Quelle est la fiabilité des algorithmes utilisés ? 
  • L’hypothèse du piratage de l’exosquelette a-t-elle été identifiée ? 
  • Existe-t-il un système d’arrêt en cas de prise de contrôle non souhaitée de l’exosquelette par un tiers ? 
  • Le risque de piratage des données du porteur par un acteur malveillant qui pourrait les utiliser pour des usages non souhaités (usurpation d’identité, piratage de mots de passe etc.) a-t-il été identifié et quelles mesures ont été prises pour limiter ce risque ? 
  • Atteinte à la vie privée 

L’exosquelette connecté capte de très nombreuses données personnelles, extrêmement sensibles comme les données biométriques, et ce, d’une façon continue pendant qu’il est porté. Ceci lui permet de s’adapter parfaitement à son porteur et à son environnement et d’augmenter la sécurité des interventions, mais cela peut aussi être vécu comme une atteinte à la vie privée. 

Ceci permet également une évaluation des performances de l’être humain. De plus ces systèmes permettraient de procéder à la surveillance des porteurs à leur insu et de contrôler leurs moments de pauses, le respect des cadences etc. L’usage de l’exosquelette devra être clairement défini et présenté d’une façon transparente à ses utilisateurs et les risques d’usages détournés ou non prévus au départ doivent faire l’objet d’un contrôle. 

L’exosquelette pouvant détecter son environnement, il sera en mesure de détecter d’autres personnes que le porteur passant dans son champ de « vision » et de capter certaines de leurs données, voire des données personnelles si ces personnes peuvent être identifiées. 

L’exosquelette connecté à d’autres objets connectés ou à des robots permettra d’enregistrer des données d’une façon démultipliée et de les transférer très rapidement au sein du réseau ce qui multiplie les risques liés au détournement des données, notamment personnelles. Se posera la question de l’agrégation, de l’anonymisation, du cryptage des données collectées par l’exosquelette. 

  • Enjeu en terme d’emploi et d’organisation du travail

Quelle sera la possibilité réelle de s’opposer à l’utilisation de l’exosquelette en entreprise ? Quel sera le droit réel de dire « non » ? L’exosquelette connecté à d’autres exosquelettes ou robots ne risque-t-il pas de menacer des emplois dès lors qu’il est capable de travailler en réseau ? La remise au travail de personnes auparavant inaptes à certaines tâches et le soulagement physique d’ouvriers aux tâches très pénibles ne doit pas être un prétexte pour mettre en place de façon insidieuse une nouvelle organisation du travail fondée sur des exosquelettes connectés entre eux, ou connectés à des robots et à des objets connectés. Ici encore l’usage doit être clairement défini, faire l’objet d’une présentation transparente à ses utilisateurs. Il doit être respecté et les doubles usages ou usages détournés vigilés.

En cas de machine learning, la question du maintien des compétences des porteurs, de la transmission de ce savoir-faire et de la réorganisation du travail est très sensible.

  • Enjeu en termes de responsabilité

La question est ici de savoir qui sera responsable en cas d’accident dû à une prise en main par l’exosquelette. 

Les exosquelettes commandés par le cerveau

Leur fonctionnement et leur utilité

Dans le cas où les exosquelettes sont commandés par le cerveau, les neurones ou les nerfs sont connectés à des capteurs qui transmettent les signaux à un ordinateur, l’IA les transformant en commande de mouvement pour l’exosquelette. Les capteurs enregistrent « des ondes cérébrales qui sont associées à l’attention reconnues par un SIA qui les traduit en un signal capable de contrôler un exosquelette » (Catherine VIDAL, Nos cerveaux resteront-ils humains ? page 43). Cette méthode requiert une forte concentration et un grand entraînement de la personne. « la maîtrise de ces neuroprothèses est étroitement liée aux capacités de plasticité du cerveau des patients. Une longue phase d’adaptation et d’apprentissage en vue de prendre conscience de son activité cérébrale est souvent nécessaire. C’est le principe du neurofeedback : le patient apprend à mobiliser son attention et trouve progressivement les meilleures stratégies mentales lui permettant d’atteindre l’objectif fixé » (Catherine VIDAL op.cit. page 43). Cette méthode est encore au stade de l’expérimentation.

Nous pouvons citer comme exemple l’implantation de deux capteurs sans fil dans le cerveau au niveau des zones qui contrôlent le mouvement. Ils enregistrent des signaux électriques du cerveau émis lors d’intentions de mouvement et les transmettent en temps réel à un ordinateur qui les décrypte et qui traduit les données en instructions codées aux membres robotisés grâce à un SIA. Cet exosquelette a été mis au point pour une personne handicapée qui est entrainée avec des simulations virtuelles simples. La personne s’entraîne à se concentrer sur des intentions de mouvements qui seront interprétables par l’algorithme et l’algorithme grâce au machine learning s’adapte au porteur de l’exosquelette. Chaque modèle est individuel et non transposable car l’activité cérébrale est spécifique à chaque patient. De plus, sa construction se fait de manière progressive : « On travaille degré de liberté par degré de liberté pour arriver à contrôler le bras dans une dimension, puis deux, jusqu’à arriver à la démonstration du contrôle des deux bras en trois dimensions, plus la rotation des poignets », détaille Guillaume Charvet. Une fois le modèle établi, le sujet peut ensuite réaliser la tâche mentale qu’il souhaite).[3]   

Cette forme d’exosquelette va permettre à des personnes handicapées de retrouver leur mobilité, leur autonomie et leur meilleure intégration sociale.

D’autres travaux sont en cours. Des chercheurs de l’université anglaise de Bath ont conçu des neurones artificiels intégrés dans une puce de quelques millimètres de large, qui pourraient à terme être utilisés pour réparer des circuits défectueux, notamment dans le cas de maladies dégénératives intervenues à la suite d’une attaque cardiaque ou d’un Alzheimer, y compris en connectant l’exosquelette directement aux systèmes nerveux. [4] 

Les activités de conception, recherche-développement, test et démonstration en matière d’exosquelettes ne cessent de s’amplifier et elles font l’objet depuis quelques années de manifestations à finalité scientifique et/ou commerciale, par exemple EXOberlin [5], Consumer Electronics Trade Show (CES, Las Vegas), Exoskeletons and Soft Wearable Robotics Day (Amsterdam). [6]

Leurs enjeux éthiques

Toute intrusion non souhaitée ou malveillante dans le système pourra être très dangereuse pour la sécurité même du porteur. 

Dès lors que l’exosquelette est utilisé dans la vie privée et en continu, les risques liés au détournement ou d’usage malveillant de données personnelles seront accrus.

Cette technologie expérimentale qui nécessite aujourd’hui un important travail du porteur de l’exosquelette et qui est utilisée pour des personnes très lourdement handicapées permettra-t-elle demain de déclencher en temps réel et facilement des actions par des intentions ? Sera-t-il possible de décrypter aisément et clairement les intentions d’un être humain ? Deviendra-t-il capable de prendre le contrôle des mouvements d’un être humain, avec les atteintes à la liberté que l’on peut imaginer ? 

Quelles seront les transformations profondes générées par ces exosquelettes sur leur porteur ? Seront-ils perçus comme de simples outils ou comme des extensions de la personne ? Le recours à ces exosquelettes ne sera pas neutre et sera susceptible de faire évoluer le porteur lui-même et son identité. Quelle modification de la perception entre le sujet/et l’objet génèreront-ils ? Il faudra mener des études sur l’impact de cette interaction sur l’être humain.

Les enjeux éthiques d’atteinte à l’autonomie, à la sécurité, à la vie privée, à l’équité deviendraient sans commune mesure avec ceux déjà exposés dans le présent document, avec en plus des enjeux liés à l’identité même du porteur et à l’expression de sa liberté. Il serait indispensable de procéder à une cartographie des risques éthiques avant tout développement pour les identifier et mettre en place des plans d’actions pour y remédier ou les atténuer.

CONCLUSION

Si les enjeux éthiques posés par l’exosquelette deviennent plus aigus au fur et à mesure que son « intelligence » augmente, des garde-fous pertinents peuvent être mis en place une fois que l’étude d’impact faite avec les parties prenantes a permis d’identifier et mesurer les risques. 

Des mesures de suppression ou d’atténuation des risques peuvent alors être prises. Parmi ces mesures, figurent la réflexion sur les algorithmes utilisés et la possibilité de mettre en place un bouton d’arrêt, le contrôle en continu des données et la maîtrise des usages qui doivent être clairement présentés aux utilisateurs, respectés et faire l’objet de vérifications fréquentes. 


[1]       Rapport sur l’Éthique de la recherche en robotique, CERNA, novembre 2014, page 51/58 – https://iatranshumanisme.com/wp-content/uploads/2016/01/38704_avis_robotique_livret.pdf

[2] https://www.freedzone.org/lg-devoile-le-lg-cloi-suitbot-une-nouvelle-combinaison-robotique-portable-003

[3] https://www.francetvinfo.fr/sante/decouverte-scientifique/grenoble-un-exosquelette-revolutionnaire-a-permis-a-un-tetraplegique-de-remarcher_3644043.html

[4] https://singularityhub.com/2019/12/06/first-ever-artificial-neuron-could-let-us-repair-brain-injuries-with-silicon/

[5]https://www.exo-berlin.de/conference.html

[6]https://www.xosoft.eu/clusterday.html

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s