L’INTELLIGENCE ARTIFICIELLE
ET LA GUERRE

de Patrick Toussaint(*)
avocat spécialisé en contrats internationaux

Star Wars nous a déjà familiarisé avec les robots intelligents et bavards mais la réalité arrive avec l’intelligence artificielle et la question se pose : jusqu’où ira-t-on ?

Il ne faut pas se leurrer, les Etats-Unis utilisent déjà des robots tueurs et ce marché est évalué, pour 2021, c’est-à-dire demain, à 10 Milliards de dollars et il devient difficile de connaitre exactement le nombre de robots utilisés par les Américains : de l’ordre d’environ 20.000 en 2019.

L’utilisation de robots est déjà ancienne : les petits Goliath allemands de la 2^ème guerre mondiale, téléguidés étaient destinés à se glisser sous les chars ennemis pour les faire sauter mais tout va en s’accélérant et le problème des drones Predator est posé à un double niveau : celui de leur fiabilité – il se dit que les frappes effectuées avec ces engins auraient tué à 90 % des innocents- et au niveau des militaires qui guident ses drones et déclenchent les frappes soit à propos de la distanciation qu’ils éprouvent par rapport à l’acte qu’ils commettent dans les conditions dans lesquels ils sont réalisés.

Les progrès de l’intelligence artificielle sont en mesure de démultiplier les possibilités des robots et la question des Systèmes d’Armes Létal Autonomes – SALA- que l’on appelle aussi les robots-tueurs- forcent les nations à prendre position : accepter ou non les SALA.

Des pays ont déjà répondu sans le dire : la Corée du Sud utilise pour le contrôle de la zone démilitarisée qui la sépare de la Corée du Nord, des robots armés de mitrailleuses qui détectent et tirent dans la zone qui leurs est attribuée sur toute présence humaine en totale autonomie.

Israël a également des robots qui couvrent la zone des murs qu’elle a construit et ses drones sont armés mais, à ce jour, aucune information n’a filtré permettant de savoir s’ils agissent en totale autonomie.

La limite est ténue entre les drones contrôlés et les drones automatiques : la France, qui a pris une option claire sur l’intelligence artificielle, développe pour son Système de Combat Aérien Futur, le fameux SCAF avec lequel elle travaille avec l’Allemagne et bientôt l’Espagne et peut-être d’autres, est basé, en l’état du projet, d’un essaim de drones communiquant entre eux et avec l’avion maitre, pour l’instant un Rafale, fera appel à l’intelligence artificielle car c’est elle qui permet cette coordination.

Cette formule permet de leurrer une défense adverse dite de déni d’accès mais ce sont des drones qui, d’une part, leurreront et d’autre part, détruiront les défense anti-aériennes : il faudra bien qu’il y ait des drones autonomes pour réagir très vite, qui seront alors des robots-tueurs.

Quoiqu’il en soit, les instances internationales sont saisies, plus de trente pays ont déjà déclaré renoncer aux SALA et la France, suite à un rapport parlementaire de Mr Cédric VILLANI (1) a déclaré renoncer à ses SALA ainsi que l’a déclaré Mme PARLY, Ministre des Armées à Saclay, le 5 avril 2019.

Cette décision est basée sur le respect du droit international, sur le maintien d’un contrôle humain suffisant et avec la permanence de la responsabilité du commandement.

Cette position, digne des valeurs de la France, interroge quand la France sera confrontée dans des conflits avec des pays qui n’ont pas la même conception de la valeur humaine, par exemple, et qui peuvent penser qu’un homme coûte cher à former, qu’il peut être rare et que des robots-tueurs peuvent facilement faire le travail grâce à l’intelligence artificielle car produit à moindre coût.

La question se pose quant à la Chine, par exemple, où la valeur humaine semble avoir une autre dimension et où l’intelligence artificielle sert à développer des logiciels pointus de reconnaissance faciale afin de permettre de noter chaque individu, selon des critères définis et qui peuvent être suivis pratiquement partout – C’est le monde de 1984 de George Orwell – la science a guidée par la science- fiction.

Ne nous trompons pas, les Etats-Unis, qui n’ont pas pris position officiellement sur les développements possibles de l’intelligence artificielle suivront, on peut le parier, car la guerre de Zéro mort tant recherchée le permettra et d’autres suivront, peut-être la Russie dont la natalité s’effondre et d’autres…

A ce sujet, un officier supérieur de l’ALAT a écrit un livre (2) sur les SALA en disant que leur arrivée dans les forces terrestres, il ne dit pas quel pays, est une évidence et qu’en conséquence, il faut se pencher sur le sujet et réfléchir aux propriétés qui seraient nécessaires à ces robots pour les rendre « moralement acceptables ».

Sa démarche est très intéressante car il explique que les SALA ne peuvent s’utiliser qu’avec des soldats humains acceptant la réciprocité des dangers : donc pas de vagues d’assaut composées uniquement de robots.

Sa démarche procède des sentiments que ressent ou doit avoir un soldat placé dans les mêmes circonstances et il en tire des déductions sur ce que doit être le robot.

Exemple : « Déduction n°2 : Pour éviter l’empathie des soldats humains l’accompagnant et l’aversions qui seront des populations qui seront à son contact, un SALA ne doit pas être anthropomorphique »

« Déduction n° 4 : Un SALA ne devra pas être employé comme un contrôleur des soldats humains sous peine de ne pas être accepté par les unités combattantes »

« Déduction n° 9 : Un SALA         devra être moralement autonome c’est à dire doté d’un module de jugement éthique de chaque décision ».

A la fin des déductions, il trace la synthèse et donnent les caractéristiques d’un SALA « moralement compatible ».

L’auteur a une culture scientifique poussée, je suis passé très vite sur les démonstrations mathématiques qui lui permettent de dire que les caractéristiques de son SALA sont possibles.

Ce qui est intéressant est une de ses conclusions : l’utilisation de robots, si l’on veut qu’il fasse une besogne propre, nécessite un entourage nombreux : état-major fixant les butes à atteindre, les modes d’action a très précises avec des consignes très précises sur toutes les composantes de la mission assignée, d’un tacticien qui les adapte au robot et un programmateur donc un personnel nombreux.

Cette réflexion intelligente, pragmatique – « cela va arriver, alors autant se préparer » – a le mérite de lancer une réflexion autre qu’académique. Rafraichissant.

Notes de lectures :

• Rapport parlementaire « Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne » pour consulter ce rapport http://www.enseignementsup-recherche.gouv.fr/cid128577/rapport-de-cedric-villani-donner-un-sens-a-l-intelligence-artificielle-ia.html
• « Robots tueurs Que seront les soldats de demain ? » Brice Erbland chez Armand Colin.

Pour accéder à la rubrique Livres, cliquez ICI

---

(*) Patrick Toussaint

Avocat spécialisé en fiscalité, droit des sociétés et contrats sur le plan national et international.Auditeur de l’IHEDN, Lieutenant-colonel (H) diplômé ORSEM.
Directeur juridique d’espritcors@ire depuis 2012, Conseiller « international » et membre du comité de rédaction de ESPRITSURCOUF.