Traitement en cours, merci de patienter...
Saut de ligne
Saut de ligne
Saut de ligne
Image
Image
Saut de ligne
 
Saut de ligne
Image
Saut de ligne
Sciences et technologies

Saut de ligne

Maîtriser la robotisation: un challenge pour l’avenir

Image

Par le Chef de Bataillon Cyril PUJOL

Image

La multiplication actuelle des systèmes robotisés intelligents, dotés d’une autonomie croissante au sein de notre environnement, soulève des questions essentielles d’ordre juridique, éthique, organisationnel et stratégique, qui doivent être prises en compte dès maintenant afin de maîtriser au mieux l’usage de ces équipements.

Image
Image
Depuis des décennies, nos sociétés modernes sont tout autant fascinées que méfiantes, voire effrayées par les perspectives offertes par l’univers des nouvelles technologies et plus particulièrement des systèmes robotisés autonomes. Ce phénomène a d’ailleurs été largement exploité par le cinéma de science-fiction qui en a fait un sujet de prédilection. Dans le film de Stanley Kubrick (1968), «2001, l’odyssée de l’espace», un ordinateur de bord surpuissant refuse ainsi d’être déconnecté afin de régler un problème logiciel; pour résoudre ce dilemme, il décide alors d’éliminer un à un les membres d’équipage du vaisseau. Sans tomber dans le fantasme du «Terminator» et du robot assassin incontrôlable, il est indéniable que la multiplication actuelle des systèmes robotisés intelligents, dotés d’une autonomie croissante au sein de notre environnement civil ou militaire, soulève des questions essentielles d’ordre juridique, éthique, organisationnel et stratégique, qui doivent être prises en compte dès maintenant afin de maîtriser au mieux l’usage de ces équipements.


Une révolution en marche

Même si l’on peut considérer que le développement de la robotisation n’en est encore qu’à ses prémices, nous constatons que les robots intéressent tous les secteurs d’activités tels que la médecine, l’agriculture, l’éducation, les loisirs et bien évidemment l’armée. Par ailleurs, ces automates s’avèrent de plus en plus sophistiqués, profitant des avancées permanentes dans les domaines de l’informatique embarquée, des nanotechnologies, de l’intelligence artificielle ou encore des transmissions de données.
  • Déjà une réalité
D’un point de vue militaire, les systèmes robotisés ont connu ces dernières années un essor spectaculaire, notamment à partir de leur utilisation sur les théâtres d’opération iraquien et afghan. Un seul robot (un drone) était par exemple présent en Irak en 2003 alors que 12.000 robots terrestres et aériens télé-pilotés étaient engagés cinq ans plus tard, à l’image des drones Predators, des robots Packbots pour le déminage ou encore du fameux robot «mulet» Big Dog développé par la société américaine Boston Dynamics. Le professeur P. W. Singer[i] prévoit ainsi, en se basant entre autres sur les lois d’évolution technologique[ii] et les lois d’économies d’échelle, une rapide et inéluctable généralisation des robots sur le champ de bataille. Il estime par ailleurs que ces derniers seront capables à terme de travailler en équipe et de réaliser des missions coordonnées incluant l’usage de la force. Cette prévision est parallèlement renforcée par des politiques volontaristes que conduisent certains pays comme les États Unis. Le congrès américain a ainsi voté en 2008 une augmentation de 3 à 6 milliards de dollars, à l’horizon 2018, du budget dédié à la R&D et à l’achat d’équipements robotisés. Fait marquant, en 2010, le Général Norton A. Schwartz commandant l’US Air Force annonçait avoir formé plus d’opérateurs de drones que de pilotes de F16. Avec actuellement 7.500 drones en service, ces équipements représentent aujourd’hui près de 40% des aéronefs de l’US Air Force[iii].
Les applications civiles ne sont pas en reste pour autant et la concurrence est rude. Le monde de l’automobile en fournit de bons exemples avec l’incontournable Google car qui a parcouru dans le Nevada 250.000 miles sans conducteur, ou les systèmes de stationnement automatique déjà proposés en série sur les véhicules. Les drones «légers» civils connaissent, quant à eux, une progression également fulgurante avec de nombreuses applications pour un usage privé ou professionnel, à l’image de la SNCF qui utilise des drones octocoptères pour la vérification des caténaires. Les pays asiatiques, principalement la Chine, le Japon et la Corée du Sud, investissent massivement en moyens de production et se posent en leaders du marché des robots industriels. Ils devraient ainsi représenter à eux seuls 65% des ventes en 2017 dans un marché particulièrement dynamique qui affiche une progression annuelle de 30%[iv]. Compte tenu de ces perspectives, certains n’hésitent plus à parler de «robolution», laissant entendre que la robotisation pourrait être un tournant technologique et révolutionner notre quotidien à l’instar de l’invention de la machine à vapeur au 19ème siècle.
  • Sur la voie du succès
Les raisons de ce développement exceptionnel sont naturellement nombreuses. La première, et l’une des plus souvent évoquée, est la préservation des vies humaines en particulier par l’utilisation de ces moyens dans les zones à risques (zones contaminées, de combat, minées ou inhospitalières). Ainsi, la catastrophe nucléaire de Fukushima a rappelé, à la vue des hélicoptères réalisant des norias au-dessus de la centrale pour refroidir les réacteurs, la nécessité de détenir de tels moyens robotisés «consommables» pour pouvoir intervenir sans faire courir de risques inconsidérés aux sauveteurs. Airbus Helicopter a par exemple effectué récemment une démonstration d’élingage de charge à partir d’un hélicoptère piloté au choix de manière classique ou à distance, qui aurait pu trouver toute son utilité dans une telle situation.
L’utilisation des robots présente un intérêt également certain pour remplacer l’homme dans la réalisation de tâches ingrates ou fatigantes, comme lors des missions de surveillance. En effet, ceux-ci ne sont pas soumis aux limites physiologiques et aux faiblesses humaines telles que la perte de concentration, le stress, la fatigue ou la faim. Les Américains parlent des 3D: «Dangerous, Dull, Dirty»[v]. Dans de telles situations, les robots se montrent plus performants, plus précis et plus rapides pour effectuer certaines tâches. Ils peuvent améliorer les capacités humaines en leur apportant de l’aide et en leur offrant de la liberté d’action. Ils peuvent aussi donner un avantage tactique ou stratégique ce qui intéresse les concepteurs industriels et les décideurs militaires. La doctrine israélienne précise à ce sujet: «Vous devez voir, comprendre et agir plus rapidement que votre ennemi afin de le garder dans un état permanent de choc»[vi].
Enfin, un autre motif, et non des moindres, de cet essor technologique est l’aspect financier. La robotisation représente en effet un objectif primordial de développement économique pour les grands donneurs d’ordres du milieu industriel. Comme évoqué précédemment, le marché de la robotique de service est en pleine expansion et devrait passer de 2,8 milliards en 2011 à 100 milliards de dollars d’ici à 2020, selon les estimations de la Fédération internationale de robotique. En outre, l’utilisation des systèmes robotisés s’avère souvent moins onéreuse que l’emploi de moyens humains et elle est considérée comme un gage de compétitivité[vii]. P.W. Singer souligne ainsi dans son livre «Wired for War»[viii] qu’un soldat américain, en opération durant un an sur le théâtre afghan, coûte environ 1 million de dollars alors qu’en comparaison le prix d’un Packbot s’élève seulement à 150.000 dollars.
Bien que la robotisation soit en pleine expansion dans de multiples secteurs, les perspectives d’évolution technique des systèmes concernés soulèvent néanmoins de nombreuses questions éthiques et juridiques.

Des applications à réguler dans un cadre législatif, structurel et international


  • Responsabilité juridique et questions éthiques
La première inquiétude repose en effet sur l’autonomie croissante attribuée aux systèmes robotisés. Actuellement, ces équipements restent pour la plupart pilotés par un opérateur qui demeure responsable des décisions prises. Dans ce cas de figure, l’opérateur est dit «In the Loop» et le robot ne représente alors qu’un outil déporté. Mais, qu’en est-il lorsque l’opérateur passe «On the Loop», c’est-à-dire en supervision de mission ou que le robot est en autonomie totale? Il s’avère donc nécessaire de définir des scénarios complexes et détaillés avec des comportements adaptés aux situations et aux lois. Nous voyons bien que se pose alors le problème du lien à la responsabilité juridique en cas d’accident ou de blessure sur autrui. Ce dilemme apparaît autant dans le développement d’engins robotisés civils que pour des applications militaires où la possibilité existe de voir un jour l’utilisation de robots létaux autonomes (LAR).
Dans de tels cas, quelles sont les responsabilités du fabricant, du programmateur, du propriétaire, de la chaîne de commandement? À titre d’exemples, en 2007, en Afrique du Sud, un système de défense anti-aérien automatisé a connu une défaillance technique et a tiré à l’horizontale, tuant 9 soldats. En 2009, Amnesty International a, de son côté, engagé une procédure visant à dénoncer un emploi disproportionné de la force, contre le fabricant des moteurs de drones Hermes utilisés dans la bande de Gaza lors de l’opération plomb durci. Enfin, en 2010, la Corée du Sud a déployé à ses frontières des robots SGR-A1 ayant la capacité de faire feu de manière autonome[ix].
Sur le plan purement militaire, la robotisation pose également le problème de la capacité de ces machines à identifier et catégoriser les parties prenantes (civil, militaire, ami, ennemi,…). Comment, dès lors, respecter le droit humanitaire international et les principes de discrimination et de proportionnalité qui peuvent être remis en cause par l’utilisation de robots? Cette dernière soulève d’importantes questions qui devront sans doute faire évoluer le droit des conflits armés. Ces questions qui recoupent des réflexions éthiques, juridiques et techniques, accentuées par le fait qu’il subsiste des risques de «bugs» technologiques provenant de la vulnérabilité des flux de données entre l’opérateur et le robot. Ainsi, en Irak, des insurgés ont réussi à intercepter en 2009 des images de drones transmises aux unités au sol, en piratant des données satellitaires.
Les différents points abordés soulignent la nécessité de conduire une réflexion approfondie sur le statut juridique devant encadrer l’utilisation des robots militaires et civils. Cette démarche devrait permettre de définir dans les législations nationales et internationales les limites d’emploi de ces systèmes automatisés.
  • Conséquences organisationnelles
L’attention des concepteurs et des décideurs doit aussi se porter sur la relation homme-machine et sur les implications de la présence de ces systèmes robotisés dans notre environnement. L’apparition de ces équipements bouleverse assurément nos organisations et nos façons de travailler. Evoquant le milieu industriel, C.E. Bouée, Président de Roland Berger Strategy, affirme d’ailleurs dans son livre «Confucius et les automates»[x]: « La robotisation et l’automatisation fulgurantes que nous allons connaître dans les prochaines décennies, où l’on verra se généraliser la combinaison de la machine et de l’intelligence, remettent en cause brutalement et presque de façon systémique, non seulement le rôle, mais aussi la valeur ajoutée et la fiabilité de l’homme dans le processus de production, et même de décision»[xi]. Ce phénomène devra naturellement être considéré et intégré au sein de nos unités où l’homme tient la place centrale. Quelles seront les implications de l’arrivée en masse de ces robots sur les comportements collectifs, l’esprit de corps ou le style de commandement? D’un point de vue tactique, comment intégrer ces moyens dans la conduite d’opérations combinées? En réponse à ces interrogations, une étude particulière devra être menée sur l’influence de la déshumanisation de l’action militaire: d’abord au niveau des opérateurs[xii] mais également auprès des populations avec lesquelles le maintien d’un lien social reste indispensable pour la collecte de renseignements et l’engagement des forces armées.
  • Un enjeu stratégique
Enfin, il est à noter que ces perspectives de développement de la robotisation sont susceptibles de modifier les relations d’influence entre les grandes puissances mondiales. En matière économique tout d’abord, la progression escomptée du marché de la robotique peut redistribuer les cartes de la dynamique industrielle et modifier la hiérarchie des États concernés, avec une avance significative des pays asiatiques qui se positionneraient sur du robot «low-cost». Le Japon, à la population vieillissante mais leader dans le domaine des robots humanoïdes, pourrait retrouver ainsi son potentiel de développement. En termes de stratégie, nous remarquons aussi que les États Unis ont choisi clairement d’investir dans le secteur des applications robotiques militaires. Sur le plan de la dissuasion, la détention d’une armée robotisée fournira effectivement aux pays considérés un avantage indéniable, susceptible de modifier les rapports de force sur l’échiquier géopolitique mondial. Ce dernier point laisse ainsi entrevoir un paradoxe éthique entre la nécessité, d’une part, de réguler la prolifération des systèmes robotisés létaux pour éviter les exactions possibles et atteintes aux droits de l’homme et, d’autre part, de détenir de tels systèmes afin d’assurer sa propre sécurité nationale.

Conclusion


La robotisation, phénomène bien réel aujourd’hui, progresse d’une manière fulgurante à travers le monde et bouleverse notre quotidien. Certains voient dans cette évolution la solution à tous les maux, quand d’autres font le parallèle avec la mythologie grecque et l’ouverture de la boîte de Pandore par Prométhée. Ainsi, Noel Sharkey, fondateur de l’International Comittee for Robot Arms Control, milite activement pour interdire la fabrication et l’usage des systèmes d’armes robotisés. Au bilan, cette mutation technologique, accrue par le développement de robots plus autonomes, pose de nombreuses questions qui nécessiteront une réflexion approfondie sur le plan international afin d’établir un cadre juridique et éthique clair visant à maîtriser au mieux les futures applications.


Officier de l’Aviation Légère de l’Armée de Terre, le Chef de bataillon Cyril PUJOL a commandé l’escadrille d’hélicoptères de reconnaissance et d’attaque du 5ème Régiment d’Hélicoptères de Combat. Officier stagiaire du diplôme technique, il termine un Master «mécatronique» dirigé conjointement par l’université de Rennes 1 et l’École Normale Supérieure, antenne Bretagne. Actuellement en stage de fin de scolarité, il participe notamment au projet de recherche ANR/DGA «DAISIE» consistant à la mise en place d’un démonstrateur physique de pilotage autonome en essaim de drones par algorithme de phéromone.



[i] P.W. Singer, «Wired for War: the robotics revolution and conflict in the twenty-first century», New York, Penguin Press, 2009.
[ii] Loi de Moore est une loi empirique qui pose comme acquis le doublement de la puissance des ordinateurs tous les deux ans. La limite théorique de cette loi serait la limite de miniaturisation à la taille de l’atome
[iii] Scott Gourley et Tony Skinner, «Robot Wars: unmanned ground vehicles», Jane’s Defence Weekly, 3 June 2008; Ronan Doaré, Jean-Paul Hanon et Gérard de Boisboissel, «Robots on the battlefield: contemporary issues and implications for the future», January 2014
[iv] Patrick Arnoux, «La prochaine déferlante: la robolution métamorphose violemment l’industrie mondiale», le Nouvel Économiste, 18 décembre 2014
[v] «Dangerosité, pénibilité, saleté»
[vi] Joseph Henrotin, «La robotique, acteur de la contre-insurrection?», Défense et Sécurité Internationale N°10, 2010
[vii] Patrick Arnoux, «La prochaine déferlante: la robolution métamorphose violemment l’industrie mondiale», le Nouvel Économiste, 18 décembre 2014
[viii] P.W. Singer, «Wired for War: the robotics revolution and conflict in the twenty-first century», New York, Penguin Press, 2009
[ix] «South Korea deploys robot capable of killing intruders along border with North», The Telegraph, 13 July 2010
[x] Charles Edouard Bouée et François Roche, «Confucius et les automates: l’avenir de l’homme dans la civilisation des machines», Grasset, 15 octobre 2014
[xi] Patrick Arnoux, «La prochaine déferlante: la robolution métamorphose violemment l’industrie mondiale», le Nouvel Économiste, 18 décembre 2014
[xii] «Interview with a drone pilot: It is not a video game», Spiegel Online International, 12 March 2010
Image
Image