Intelligence artificielle, résistances humaines : Armes autonomes, un sursaut contre les « robots tueurs » ?

Julie Gacon ouvre dans Cultures monde, sur France Culture, une série sur les résistances humaines à l'intelligence artificielle avec les armes autonomes, capables de frapper sans intervention humaine. Laure de Roucy-Rochegonde, de l'IFRI, et Aymeric Elluin, d'Amnesty International, expliquent pourquoi treize ans de discussions n'ont pas produit de traité, alors que des drones autonomes frappent déjà en Ukraine. La chercheuse Anna Nadibaidze analyse ensuite le récit que les entreprises de l'IA militaire proposent aux États.

Des drones qui changent de cible

Pour ouvrir la série « Intelligence artificielle, résistances humaines » de Cultures monde, sur France Culture, Julie Gacon reçoit Laure de Roucy-Rochegonde, directrice du Centre géopolitique des technologies de l’Institut français des relations internationales (IFRI), et Aymeric Elluin, responsable plaidoyer armes à Amnesty International. Le sujet : les armes autonomes, capables de sélectionner et de frapper une cible sans intervention humaine directe, et ceux qui veulent les encadrer ou les interdire. Aymeric Elluin revient sur la frappe d’un drone russe à Zaporijjia, en Ukraine, le 6 juillet : programmé pour viser une station-service, il aurait choisi de lui-même des réservoirs de propane, faisant des victimes civiles. Laure de Roucy-Rochegonde souligne qu’il est très difficile de prouver l’autonomie d’un tel engin sans accès à son système embarqué, mais que ces cas se multiplient depuis qu’elle a commencé à travailler sur le sujet, en 2018. Aymeric Elluin décrit l’Ukraine comme un champ d’expérimentation de la dronisation et de la robotisation, avec des plateformes terrestres plus ou moins autonomes.

Pour la chercheuse, le danger est aussi la banalisation : ces informations « devraient nous questionner collectivement » au lieu d’être simplement lues dans la presse.

Treize ans de discussions sans traité

En septembre, à Genève, 128 États du groupe d’experts gouvernementaux se sont accordés sur une définition commune : une arme capable, une fois activée, d’identifier et de sélectionner une cible et d’ouvrir le feu sans opérateur humain, dans un environnement changeant. Selon Laure de Roucy-Rochegonde, les États ont longtemps attendu par crainte de s’interdire ce que leurs adversaires ne s’interdiraient pas. Aymeric Elluin rappelle que les discussions ont commencé en 2013 dans le cadre de la Convention sur certaines armes classiques, dont la conférence d’examen de novembre doit décider d’ouvrir ou non une négociation. Il défend une double approche : interdire les systèmes imprévisibles ou visant uniquement des êtres humains, encadrer les autres par un « contrôle humain significatif ». Il estime à 130 le nombre d’États favorables à un traité, face à une minorité de grandes puissances, et regrette que la France, favorable à un protocole, ne se fasse pas assez entendre. Laure de Roucy-Rochegonde parle d’une « distanciation psychique » : à terme, plus personne ne porterait le fardeau moral de l’acte de tuer. Elle raconte que, lors de son passage comme auditrice civile à l’école de guerre, la majorité des officiers de l’armée de Terre qu’elle a rencontrés étaient opposés à ces armes.

L’émission rapproche ce débat de l’interdiction de l’arbalète et de l’arc par le deuxième concile de Latran, en 1139, et du « moment Oppenheimer » de la bombe atomique.

Le récit des entreprises de l’IA militaire

Dans la dernière partie, Anna Nadibaidze, chercheuse postdoctorale au centre d’études sur la guerre de l’Université du Sud-Danemark, analyse les discours des start-up de défense. Financées par le capital-risque, elles développent leurs produits avant toute commande et appliquent la devise de la Silicon Valley, « aller vite et casser les choses », au détriment, selon elle, des protocoles de test. Leur influence passe par le lobbying, les relations avec les responsables politiques, les instances consultatives, les médias et les livres. Leur récit présente l’intelligence artificielle comme la solution aux problèmes de la guerre : un champ de bataille transparent, des décisions accélérées, peu d’humains et pas de civils à l’écran. Pour elle, les erreurs de ciblage et l’usage à Gaza du logiciel Lavender, qui génère des cibles soumises à validation humaine, démentent cette vision. Laure de Roucy-Rochegonde ajoute que les acteurs du numérique, présents dans de nombreux secteurs, peuvent négocier des contreparties dans des domaines régaliens.

« La guerre, ça reste un phénomène humain », conclut Anna Nadibaidze, qui ne croit pas à une solution technologique.

Les références de l’épisode

• « La guerre à l’ère de l’intelligence artificielle. Quand les machines prennent les armes », Laure de Roucy-Rochegonde : livre paru aux Presses universitaires de France.
• Convention sur certaines armes classiques : cadre des discussions sur les armes autonomes depuis 2013, dont la conférence d’examen se tient en novembre.
• Groupe d’experts gouvernementaux : 128 États y ont adopté en septembre une définition commune des armes autonomes.
• Coalition Stop Killer Robots : coalition lancée en 2012, dont Amnesty International est membre fondateur, qui regroupe 250 ONG dans plus de 70 pays.
• Déclaration de Paris : engagement sur le maintien du contrôle humain dans les systèmes autonomes, pris lors du sommet sur l’IA organisé en 2025 par Emmanuel Macron.
• Deuxième concile de Latran : en 1139, il avait interdit l’usage de l’arbalète et de l’arc contre des chrétiens.
• Lavender : logiciel de ciblage utilisé par l’armée israélienne à Gaza.
• Euronaval : salon naval où des industriels présentent des systèmes autonomes.

Au fil de l’épisode

• 00:01:17 : une série sur les résistances à l’intelligence artificielle
• 00:02:48 : le précédent de la bombe atomique
• 00:04:07 : présentation des invités
• 00:05:02 : le drone russe qui a changé de cible à Zaporijjia
• 00:06:29 : pourquoi l’autonomie d’une arme est difficile à prouver
• 00:10:51 : l’Ukraine et ses robots terrestres
• 00:14:44 : la définition adoptée par 128 États
• 00:18:46 : treize ans de discussions et la conférence d’examen de novembre
• 00:19:17 : les États-Unis et la France accélèrent
• 00:20:59 : les États qui freinent une négociation
• 00:22:17 : intelligence artificielle, nucléaire et technologies duales
• 00:25:04 : la mobilisation des chercheurs, des ONG et des papes
• 00:27:05 : les arguments juridiques et moraux d’Amnesty International
• 00:29:21 : le risque des armes autonomes dans le maintien de l’ordre
• 00:31:00 : le concile de Latran et l’interdiction de l’arbalète
• 00:32:45 : de la distanciation physique à la distanciation psychique
• 00:35:07 : les États favorables à un traité et la position de la France
• 00:38:44 : ce qu’en pensent les militaires et les industriels français
• 00:41:40 : la Déclaration de Paris de 2025
• 00:42:25 : l’argumentaire des entreprises de l’IA militaire
• 00:43:17 : Anna Nadibaidze et le modèle des start-up de défense
• 00:47:31 : le récit d’une guerre transparente
• 00:48:42 : Gaza et le logiciel Lavender
• 00:51:29 : l’argument de la course avec la Chine
• 00:52:13 : la dépendance des États envers les entreprises du numérique

FAQ

Qu’est-ce qu’une arme autonome ?

Selon la définition adoptée en septembre par 128 États du groupe d’experts gouvernementaux, rappelée dans l’émission, c’est une arme disposant d’un système capable, une fois activé, d’identifier et de sélectionner une cible et d’ouvrir le feu sans opérateur humain, dans un environnement changeant. Cette définition ne crée encore aucune obligation juridique.

Que demande Amnesty International sur les armes autonomes ?

Aymeric Elluin défend une double approche : interdire les systèmes imprévisibles, sans contrôle humain significatif, et ceux qui visent uniquement des êtres humains, puis encadrer les autres par des obligations. Il souhaite qu’un texte soit adopté rapidement, idéalement d’ici un an, et rappelle que plusieurs traités de désarmement ont été conclus sans les grandes puissances.

Pourquoi les États hésitent-ils à interdire les armes autonomes ?

D’après Laure de Roucy-Rochegonde, beaucoup d’États ont longtemps craint de se lier les mains et de s’interdire des systèmes que leurs adversaires développeraient quand même. Elle estime que les positions évoluent depuis la guerre en Ukraine, mais que les discussions restent très en retard sur les évolutions techniques.

Comment les entreprises de l’IA militaire défendent-elles leurs produits ?

Anna Nadibaidze explique que ces entreprises présentent l’intelligence artificielle comme une solution aux problèmes de la guerre, promettant un champ de bataille transparent et des décisions plus rapides. Leurs démonstrations montrent peu d’humains et aucun civil. Elles invoquent aussi, aux États-Unis, la nécessité de devancer la Chine.