« DEUS EX MACHINA » :
Automatisme, Autonomie, Intelligence Artificielle

.
Chloé Daniel (*)
Étudiante en Histoire/Relations Internationales

.
.
Partant de la locution latine antique  « Deus ex machina », qui implique l’intervention d’un personnage pour changer le dénouement d’une situation, Laure de Rochegonde, chercheuse au centre des études de sécurité de l’IFRI  (Institut français de Relations internationales) a publié un rapport sur les enjeux de l’autonomisation des systèmes d’armes.  Car dans les pays avancés, la course aux armements autonomes est bel et bien lancée. L’objectif est de comprendre les nombreuses ruptures politiques et stratégiques impliquées. C’est ce que notre auteure veut souligner dans cette recension du rapport.

.
Un système d’armes représente l’ensemble des dispositifs mécaniques et électroniques nécessaires à la réalisation d’une mission et à la mise en œuvre d’un armement. Ce système peut être fixe, embarqué, coordonné ou autonome. L’autonomie se réfère à la capacité à décider de la manière et du moment d’accomplir une tâche, sans supervision humaine, dans un environnement changeant. Appliquée à un système d’armes, il s’agit donc de la capacité à accomplir des missions spécifiques de manière indépendante ou avec une supervision minimale par un opérateur humain, dans des environnements complexes et imprévisibles. Elle se distingue de l’automatisme, qui est une réaction systématique d’un système préprogrammé pour un contexte spécifique.

Laure De Rochegonde explique que cette idée de déléguer des tâches à des agents qui ne sont pas humains est aussi ancienne que le travail lui-même. Mais les notions d’autonomie des systèmes d’armes émergent avec le développement de l’Intelligence Artificielle (I.A.), qui donne à ces systèmes la capacité d’accomplir des tâches requérant normalement une intelligence humaine.

Autonomisation croissante

.
Au fur et à mesure des conflits du XXème siècle se sont mis en place ces technologies dans le domaine militaire. Ce sont notamment les robots et les drones qui émergent, bien que la distinction de ces deux termes soit encore floue. Pour Laure De Rochegonde le drone est un système robotisé téléopéré, alors que le robot est un système suffisamment automatisé pour fonctionner sans être téléopéré. De même, le développement parallèle entre intelligence artificielle (IA) et autonomie créée une certaine confusion, et induit la peur qu’un système dit autonome puisse agir seul, sans maitrise humaine, grâce à l’auto-apprentissage.

Plusieurs niveaux d’autonomie se distinguent, selon 5 classifications. La plus communément admise est celle qui distingue l’implication humaine dans la boucle de décision du système d’armes : in the loop, on the loop, et out of the loop.

In, le drone est téléopéré par un être humain. On, le système d’armes agit seul mais reste surveillé par un être humain qui peut toujours prendre le contrôle. Out, dans ce système d’armes, l’être-humain n’a aucun contrôle.

Ces derniers systèmes n’existent pas encore, ils ne sont pour l’instant qu’un leurre, puisqu’aucune machine n’est construite pour savoir répondre seule à un obstacle rencontré. Néanmoins, les avancées vers l’autonomie totale sont à ce jour considérées comme une révolution dans les techniques de la guerre. Les avantages en sont nombreux, à tous niveaux : politique, réduisant les pertes humaines ; économique, peu coûteux et nécessitant moins de main d’œuvre ; opérationnel, ces systèmes sont plus rapides, précis, endurants et coordonnés sur le champ de bataille, permettant aussi de répondre à des missions de renseignement, surveillance et reconnaissance.

Ces avantages poussent inévitablement vers le développement de ces systèmes d’armes. Les puissances qui en useront pourront s’imposer sur les champs de bataille grâce à ces moyens de grande précision, permettant de régir plus rapidement que l’intelligence humaine dans un besoin urgent de décision éclairée. C’est ainsi que l’ancienne ministre des Armées française, Florence Parly, justifiait son investissement dans cette recherche.

Trois Puissances en avance

.

Cependant, l’auteure relativise son propos en rappelant que nombreuses sont les vulnérabilités des systèmes d’armes autonomes. Ils sont plus vulnérables aux cyberattaques, piratages, sabotages, il existe des risques d’erreur de la machine, donc de confiance en celle-ci, mais aussi des risques de prolifération de systèmes d’armes auprès d’acteurs jugés hostiles … Ils posent aussi des problématiques d’ordre éthique et juridique.

Pourtant, États-Unis, Chine et Russie sont les champions de l’autonomie des systèmes d’armes. Le Pentagone les considère comme des multiplicateurs de puissance. Le gouvernement de la République Populaire de Chine considère l’IA et la robotique comme des domaines technologiques prioritaires depuis 2014. Et Moscou déclare, en 2020, vouloir remplacer ses combattants par leurs « frères robotiques ». Ces puissances font tout de même face à certaines limites, entre résistances culturelles, fuite des cerveaux et faiblesse de l’écosystème entrepreneurial.

Outre ces trois puissances, Laure De Rochegonde démontre que ces innovations technologiques se font aussi dans d’autres États, tels que la France, et touchent à chacun des milieux militaires, terre, mer et air, excepté le spatial. Le milieu aérien est sans conteste celui dans lequel les développements de systèmes automatisés sont les plus avancés, les milieux terrestres, maritimes de surfaces et sous-marins rencontrant plus de difficulté malgré la diversité des projets. La maitrise de ces systèmes d’armes intégrant de l’autonomie devient donc indispensable sur les champs de batailles futurs. Il s’agit par exemple des Systèmes d’Armes Létales Autonomes (S.A.L.A.) ou des essaims de drones.

La France dans la boucle  

.

En partant de ce contexte évolutif, Laure De Rochegonde en vient à étudier le cas précis de la France. Plusieurs projets répondent à l’insertion d’autonomie et d’IA dans les systèmes d’armes par chacune des trois armées françaises. Mais nombreux restent les défis à relever, entre questions stratégiques, éthiques et politiques. L’auteure développe alors chacun de ces problèmes pour en proposer des solutions.

La France doit donc dans un premier temps accentuer ses efforts de recherche scientifique dans le secteur, en renforçant le lien entre universités et acteurs privés, en retenant ses avancées et ne les soumettant pas à des groupes étrangers. Elle doit aussi acculturer ses forces militaires, donc adapter la doctrine d’emploi de ces systèmes d’armes intégrant de l’autonomie, et instaurer une cohabitation entre les différents systèmes d’armes de génération différentes pour éviter qu’un militaire déjà formé ne soit déstabilisé.

Il s’agit aussi de repenser l’interaction homme-machine afin que la chaine de commandement humain soit respectée, une question éthique non-discutable en France.  De plus, la France doit instaurer une confiance dans ces machines, de la part des militaires comme des civils, qui ont toujours peur d’un robot destructeur entièrement autonome. Ces méthodes d’autonomisation doivent être vulgarisées et donc accessibles à la compréhension de tous, mais aussi sécurisées face aux risques de piratage, et respecter les questions éthiques et juridiques imposées. A ce sujet, l’idée serait de développer une terminologie propre aux armées avec un vocabulaire spécifique aux systèmes d’armes de plus en plus développés, pour éviter les comparaisons effrayantes avec le cerveau humain.

Enfin, Laure De Rochegonde recommande que ces avancées se fassent conjointement à l’échelle européenne, ce qui permettrait de mieux s’imposer face aux trois géants et de récolter assez de connaissances et de financements pour remplir cet objectif.

L’auteure conclue donc sur cette course à l’autonomie qui se dessine, un facteur de puissance, face auquel chaque État doit être en mesure de répondre. C’est pour cela que les forces françaises doivent se moderniser, tout en se préparant aux risques que ces systèmes d’armes impliquent. Les perspectives sont aussi prometteuses qu’inquiétantes à ce sujet : il s’agit de concilier sagesse et efficacité.

Rapport disponible sur : https://www.ifri.org/fr/publications/etudes-de-lifri/focus-strategique/deus-ex-machina-enjeux-de-lautonomisation-systemes, Focus stratégique, n° 110, mai 2022.

***
Cet article vous a intéressé ? Vous avez une remarque à nous faire ?
Vous souhaitez nous le faire savoir ?
  Cliquer ICI

Chloé DANIEL (*) est étudiante en Master Histoire – Relations internationales au sein du parcours géopolitique à l’Université catholique de Lille. Elle est diplômée d’un Bachelor en Sciences politiques et Relations internationales à l’école des Hautes Etudes Internationales et Politiques de Paris. Elle s’intéresse à la Russie et aux Etats post-soviétiques. Cela explique son échange universitaire d’un semestre à la Saint Petersburg State University, la rédaction de son mémoire de M1 sur la « géopolitique Russe en Arctique à travers le cas de Mourmansk » ainsi qu’un premier stage au Kirghizistan. Dans le cadre de son master, elle est aussi rédactrice en chef de la revue mensuelle de l’association AMRI. Elle collabore à ESPRITSURCOUF.

Bonne lecture et bonnes vacances
Rendez-vous le 9 août prochain pour le N°195
D’ici là, pour une bonne santé, prenez soin de vous.
RESPECTEZ LES CONSIGNES :
Distanciation, port du masque  …