par Luca MainoldiRome - À l'occasion de la présentation, le 25 mai, de l'encyclique du Pape Léon XIV consacrée à l'intelligence artificielle , il est utile de partager quelques informations sur l'utilisation de l'IA dans le domaine militaire.L'IA promet de révolutionner tous les domaines de la vie humaine, et le secteur militaire est parmi les premiers à en tirer parti. Les guerres actuellement en cours, notamment celle en Ukraine et celle au Moyen-Orient , constituent des terrains d'expérimentation pour des armes et des tactiques militaires innovantes. Parmi celles-ci figurent les systèmes robotisés, tels que les drones de toutes sortes, ainsi que diverses formes d'IA. De la logistique au renseignement, de la planification des opérations militaires à leur commandement et contrôle, de la détection des cibles au guidage des armes robotisées autonomes. Il n’existe aucun domaine où l’intelligence artificielle ne soit pas utilisée dans le cadre militaire et stratégique. Parmi les systèmes qui soulèvent de vives préoccupations éthiques figurent ceux permettant d’identifier des cibles humaines, choisies sur la base de formes de profilage automatique.« We Kill people based on metadata » , a admis sans détour l’ancien directeur de l’Agence nationale de sécurité et de la CIA , le général Michael Hayden, en 2014 . Les métadonnées ne se réfèrent pas au contenu des e-mails ou des appels téléphoniques, mais aux données relatives au message, telles que la date, l’heure et la localisation de l’expéditeur et du destinataire. L’utilisation systématique des métadonnées permet de créer des cartes relationnelles de cibles potentielles, rendant possible ce qu’on appelle le profilage environnemental : routine quotidienne, vulnérabilités potentielles, relations familiales, amicales et professionnelles. Un schéma qui est renforcé par l’utilisation d’outils d’IA tels que le système Lavender et celui appelé Hasbara utilisés par l’armée israélienne à Gaza, ainsi qu’un autre appelé Where’s my Daddy ?. Le premier permet de suivre les déplacements de milliers de personnes et d’identifier les membres potentiels du Hamas en analysant les contacts téléphoniques, les publications sur les réseaux sociaux, les discussions WhatsApp et autres, la reconnaissance faciale et bien plus encore. Sur la base des rapports élaborés par Lavender, l’autre programme, Hasbara, établit automatiquement une liste de personnes à abattre qui est ensuite transmise à « Where’s my Daddy ? ». Ce dernier système, en suivant les mouvements des téléphones portables, alerte lorsque la personne ciblée rallume son téléphone , généralement lorsqu’elle rentre chez elle. Le drame, c’est que pendant la guerre de Gaza, des milliers d’innocents ont été tués pour s’être trouvés à côté ou à proximité de cibles humaines identifiées par des systèmes d’IA qui, initialement conçus pour être utilisés sous étroite supervision humaine, ont été utilisés sans vérification rigoureuse des informations qu’ils généraient.Dans la guerre menée par Israël et les États-Unis contre l’Iran, des outils d’IA fournis par Palantir ont été utilisés. Cette société américaine fondée en 2003 domine le marché des outils d’intelligence artificielle destinés à des fins militaires et de sécurité . Le système Maven, en particulier, a joué un rôle central dans les opérations militaires en intégrant les données provenant de satellites, de drones, de radars, de signaux électroniques et d’autres sources afin de créer un « tableau opérationnel commun » du champ de bataille. Cela a permis une accélération spectaculaire du processus d’identification des cibles , permettant par exemple à une seule personne de gérer en quelques semaines ce qui, auparavant, demandait des mois à des équipes entières d’analystes. Le système, semble-t-il, intègre des modèles tels que Claude d’Anthropic et a été utilisé tant par les forces américaines que par les forces israéliennes.La généralisation de tels outils, outre qu’elle soulève de graves questions éthiques, entraînera la disparition progressive des cadres intermédiaires , qui seront remplacés par l’IA. Cela pose à son tour le problème de la sélection et de la formation des futures classes dirigeantes au plus haut niveau, étant donné que la formation par la base sera de plus en plus limitée par l’utilisation de l’IA. Avec le risque que l’intelligence artificielle devienne la seule source d’informations sur laquelle se fondent des décisions mortelles. Jusqu'au jour où ce sera l'IA elle-même qui commandera.Un risque que l'on observe déjà dans les armes autonomes capables de prendre la décision de tuer sans consulter un superviseur humain.La décision de développer et d'utiliser ce type d'armes est politique. Jusqu'à présent, les puissances occidentales ont déclaré ne pas vouloir mettre en service de systèmes autonomes létaux qui ne soient pas contrôlés par l'homme. La position d'autres puissances est plus nuancée. Selon un rapport de l'ONU, en 2020, en Libye, un drone turc équipé d'intelligence artificielle a commis le premier meurtre documenté perpétré par une machine de manière totalement autonome, sans contrôle humain. Les révélations du colonel de l'armée de l'air américaine, Tucker Hamilton, lors d'une conférence sur l'IA tenue en 2023, restent par ailleurs controversées. Il a affirmé que, lors d'une expérience simulée, le drone chargé de détruire un radar ennemi, alors qu'on lui avait ordonné de suspendre l'attaque, avait frappé son propre centre de commandement afin de pouvoir poursuivre sa mission. Les déclarations du colonel américain ont ensuite été relativisées, mais le scénario envisagé est jugé crédible.
