Que seront les limites de l’IA militaire ?

Alexandre Jubelin reçoit dans Le Collimateur Laure de Roucy-Rochegonde, directrice du centre de géopolitique des technologies de l'Ifri, et Louis Perez, chercheur postdoctorant au centre Thucydide de l'Université Panthéon-Assas, pour une discussion de près de deux heures sur les limites de l'intelligence artificielle militaire. De l'aide au ciblage à Gaza et en Iran aux drones autonomes en Ukraine, du différend entre Anthropic et le département de la guerre américain aux négociations de Genève sur les systèmes d'armes létaux autonomes, ils examinent qui fixe les règles, et lesquelles.

Définir l’IA militaire, sans fantasme

Dans cet épisode du Collimateur, Alexandre Jubelin interroge Laure de Roucy-Rochegonde, directrice du centre de géopolitique des technologies de l’Ifri et autrice de « La guerre à l’âge de l’intelligence artificielle », et Louis Perez, qui a soutenu une thèse en droit sur la régulation internationale de l’IA militaire, sur les limites à donner à ces technologies. Louis Perez préfère parler de « systèmes d’IA » plutôt que « d’une IA », pour éviter l’anthropomorphisme, et propose une définition normative : des systèmes au service d’intérêts humains. Laure de Roucy-Rochegonde rappelle que la définition est elle-même un enjeu, certains acteurs la poussant pour passer sous le seuil d’une régulation, et que les usages vont de la logistique au ciblage en passant par le renseignement et la santé des armées. Tous deux soulignent les contraintes propres au militaire : la confiance dans le système, la sensibilité des données et la dépendance européenne à des fournisseurs américains, ou encore la nécessité de faire tourner des modèles au plus près du terrain, quand les communications sont brouillées.

Pour Laure de Roucy-Rochegonde, cette IA embarquée permet des systèmes peu coûteux, dont la partie logicielle se reproduit facilement.

Ce que l’IA fait déjà sur le champ de bataille

Louis Perez place en tête l’aide à la décision, du ciblage à la gestion des détenus, puis les usages cyber, évoquant le modèle Mythos d’Anthropic, présenté comme redoutable pour trouver des vulnérabilités. Laure de Roucy-Rochegonde met en premier l’autonomie des systèmes d’armes : en Ukraine, selon elle, la guerre électronique empêche souvent de garder un humain dans la boucle. Elle cite la cadence des frappes à Gaza après le 7 octobre 2023 et en Iran, « près de 1000 frappes en 12 heures », impossible sans IA d’après elle, et voit dans l’IA agentique et les essaims de drones la prochaine bascule. Alexandre Jubelin nuance : des missiles comme le Brimstone choisissaient déjà leurs cibles, et l’écosystème des start-up pousse à promettre avant de livrer.

Louis Perez rappelle les « hivers de l’IA », ces cycles où les promesses non tenues font refluer les financements.

Le cas Anthropic : qui fixe les règles ?

Les intervenants reviennent sur le différend entre Anthropic, qui produit Claude, et le département de la guerre américain. Selon leur récit, l’entreprise voulait ajouter deux lignes rouges au contrat (pas de surveillance de masse, pas d’armes entièrement autonomes) quand l’administration jugeait suffisante la formule « for all legal purposes » ; elle a été désignée « supply chain risk », un outil d’abord pensé contre les entreprises chinoises, avec des décisions de justice divergentes, puis remplacée par OpenAI. Laure de Roucy-Rochegonde y voit un camouflet pour l’administration, Claude ayant été utilisé dans l’opération Epic Fury en Iran peu après. Alexandre Jubelin juge l’argument inverse défendable : ce n’est pas à une entreprise privée de fixer les règles de la guerre dans une démocratie. Louis Perez estime que les États se sont piégés en déléguant des fonctions régaliennes, puisque le droit appliqué « by design » déplace la norme vers le concepteur. Ils évoquent aussi l’inversion du cycle de l’innovation, désormais civile, le poids des ingénieurs, la fronde des salariés de Google contre le projet Maven en 2018, les positions de Palantir et la tension entre ces géants et la démocratie.

Laure de Roucy-Rochegonde plaide pour maintenir une recherche publique, afin qu’une capacité décisive ne reste pas entre les mains d’un seul dirigeant d’entreprise.

Singularité, droit de la guerre et prospective

Sur l’intelligence artificielle générale, Laure de Roucy-Rochegonde juge sincères les craintes de chercheurs comme Yoshua Bengio ou Geoffrey Hinton et décrit un accélérationnisme répandu dans la Silicon Valley ; Louis Perez y voit surtout une diversion qui détourne l’attention d’usages bien réels, et cite le dilemme de Collingridge : une technologie devenue indispensable est beaucoup plus difficile à réguler. Côté droit, le règlement européen sur l’IA exclut les systèmes exclusivement militaires, mais pas les systèmes duaux ; la convention-cadre du Conseil de l’Europe rappelle que le droit international s’applique. À Genève, dans le cadre de la Convention sur certaines armes classiques, les discussions sur les systèmes d’armes létaux autonomes avancent difficilement, les États les plus utilisateurs s’opposant à toute norme selon Laure de Roucy-Rochegonde. Tous insistent sur un principe : l’humain reste seul responsable, alors que l’IA favorise une déresponsabilisation morale et une déshumanisation, que Louis Perez oppose à la vocation du droit international humanitaire.

À deux et dix ans, ils redoutent des dysfonctionnements et des escalades, l’accès d’acteurs non étatiques à des capacités cyber, le poids accru des grandes entreprises et une perte de contrôle progressive ; Laure de Roucy-Rochegonde appelle la France et l’Europe à porter une IA ambitieuse mais responsable.

Pour aller plus loin

• La première émission du Collimateur sur l’IA militaire
• L’état de Mythos, sur War on the Rocks
• Le dilemme de Collingridge

Les références de l’épisode

• « La guerre à l’âge de l’intelligence artificielle », Laure de Roucy-Rochegonde (PUF, 2024).
• Anthropic et Claude : entreprise et modèle au cœur du différend avec le département de la guerre américain.
• Mythos : modèle d’Anthropic présenté comme très puissant pour les opérations cyber, encadré par le projet Glasswing.
• Projet Maven : projet d’IA du département de la Défense américain, contesté en 2018 par des salariés de Google.
• Règlement européen sur l’IA : texte qui exclut les systèmes utilisés exclusivement à des fins militaires.
• Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit.
• Convention sur certaines armes classiques (1980) : cadre des discussions de Genève sur les systèmes d’armes létaux autonomes.
• Dilemme de Collingridge et loi de Gabor : notions citées sur la difficulté de réguler une technologie installée.
• John McCarthy : logicien à l’origine de l’expression « intelligence artificielle ».

Au fil de l’épisode

• 00:01:21 : présentation des invités et du sujet
• 00:04:30 : essais de définition de l’IA militaire
• 00:08:30 : la définition comme enjeu de pouvoir
• 00:12:12 : les contraintes propres à l’usage militaire : confiance, données, souveraineté
• 00:16:14 : centralisation ou IA embarquée sur le terrain
• 00:18:33 : l’état des déploiements : aide à la décision, cyber, autonomie
• 00:21:41 : la cadence des frappes à Gaza et en Iran
• 00:22:47 : l’IA agentique et les essaims de drones
• 00:26:34 : les relations entre l’État et les entreprises de l’IA
• 00:31:11 : le différend entre Anthropic et le département de la guerre
• 00:38:42 : qui doit fixer les règles, l’État ou l’entreprise ?
• 00:45:12 : OpenAI, Google et le revirement des géants vers le militaire
• 00:50:28 : IA, grandes entreprises et démocratie
• 00:52:28 : la course à l’intelligence artificielle générale
• 01:00:34 : scepticisme sur la singularité et dilemme de Collingridge
• 01:08:27 : l’état des réglementations : règlement européen et Conseil de l’Europe
• 01:13:47 : le lobbying des géants et l’effet Bruxelles
• 01:23:01 : les grands principes : contrôle humain, transparence, robustesse
• 01:24:59 : le droit international humanitaire et la Convention sur certaines armes classiques
• 01:32:16 : l’humain, seul responsable
• 01:35:19 : déresponsabilisation et déshumanisation
• 01:42:47 : un exercice de prospective à deux et dix ans

FAQ

Qu’est-ce que l’IA militaire aujourd’hui ?

Pour les invités du Collimateur, il s’agit de systèmes algorithmiques utilisés dans tout le spectre militaire : logistique, renseignement, santé, aide à la décision, ciblage, cyber et autonomie des armes. Louis Perez place en tête l’aide à la décision ; Laure de Roucy-Rochegonde met en avant l’autonomie des systèmes d’armes, observée en Ukraine, et le ciblage à Gaza et en Iran.

Pourquoi Anthropic s’est-il opposé au département de la guerre américain ?

Selon le récit fait dans l’épisode, Anthropic voulait inscrire deux lignes rouges dans son contrat : pas de surveillance de masse et pas d’armes entièrement autonomes, quand l’administration jugeait suffisante la mention « for all legal purposes ». L’entreprise a été désignée « supply chain risk », avec des décisions de justice divergentes, puis remplacée par OpenAI.

Existe-t-il un droit qui encadre l’IA militaire ?

Pas de texte spécifique, expliquent les invités. Le règlement européen sur l’IA exclut les systèmes exclusivement militaires mais couvre les systèmes duaux, et la convention-cadre du Conseil de l’Europe rappelle que le droit international s’applique. Le droit international humanitaire reste valable, mais les discussions de Genève sur les armes autonomes avancent difficilement.

Qu’est-ce que le dilemme de Collingridge ?

Louis Perez le résume ainsi : quand une technologie n’est pas encore mature, on peut la réguler facilement, mais on en mesure mal les effets ; une fois devenue indispensable, dans la vie quotidienne comme dans les armées, il devient beaucoup plus difficile de l’encadrer ou de la retirer. D’où l’urgence, selon lui, de réguler l’IA militaire dès maintenant.