IA en conflits armés : qui est responsable en cas de violation du droit ?

Dans ce Lundi de l'IHEDN, l'Institut des hautes études de défense nationale pose une question que l'arrivée de l'intelligence artificielle sur les champs de bataille rend pressante : à qui imputer une violation du droit international humanitaire quand une machine a participé à la décision ? Partant de l'opération ukrainienne Toile d'araignée de juin 2025, l'épisode donne la parole à deux conseillers juridiques de l'état-major des armées françaises. Contrôle humain, chaîne de commandement, faut-il un nouveau traité : leur réponse est nette, l'IA reste un outil et la responsabilité reste humaine.

L’IA peut exécuter, elle ne peut pas assumer

Cet épisode des Lundis de l’IHEDN, version audio d’une analyse de l’Institut des hautes études de défense nationale (IHEDN), examine la responsabilité juridique quand l’intelligence artificielle intervient dans les opérations militaires. Il part d’un exemple tiré de la guerre russo-ukrainienne : l’opération Toile d’araignée, menée en juin 2025 et préparée pendant plus d’un an sous la supervision du président Zelensky. Des drones kamikazes lancés depuis des camions, au plus profond du territoire russe, ont détruit ou sérieusement endommagé une quarantaine d’aéronefs, dont des bombardiers stratégiques, sur cinq bases aériennes, l’une d’elles à quelque 6 000 km de Kiev. Pour parer à la perte du flux de données en cas de brouillage, les forces ukrainiennes avaient embarqué de l’IA, entraînée sur des bombardiers exposés dans un musée de Kiev. Lors des entraînements, cette IA n’a pas su intégrer la présence imprévue de civils sur les pistes (mécaniciens, pompiers) et a poursuivi sa mission sans tenir compte des dommages collatéraux. Deux conseillers juridiques de l’état-major des armées (EMA) commentent ce dilemme : un commissaire en chef, conseiller juridique aux opérations, et une juriste civile spécialiste du droit des conflits armés. Pour le premier, « un système totalement autonome n’est pas possible. Ce serait illicite » ; la notion de contrôle humain approprié est centrale pour la France, et l’IA ne doit pas conduire à « une forme de paresse intellectuelle ». La conseillère pointe le double risque de la surconfiance et de la défiance envers les systèmes d’aide à la décision. Sur la responsabilité, le commissaire en chef est clair : cela « ne doit rien changer à la responsabilité du chef », car l’IA n’a pas de personnalité juridique. La conseillère insiste sur une boucle de rétroaction, qui vérifie après chaque engagement si la cible était licite. Faut-il alors un nouveau traité ? La position française, rappelée par la conseillère, est que les conventions de Genève et leurs protocoles additionnels sont assez larges pour s’adapter ; le commissaire en chef préfère « pousser au maximum l’interprétation des textes » dans des manuels et des conférences, la conclusion d’instruments universels étant très incertaine dans le contexte géopolitique actuel.

L’épisode envisage enfin l’IA comme facteur de conformité, sous condition : accélérer le traitement des cibles à faible risque pour concentrer l’analyse humaine sur les cas sensibles, en zone urbaine notamment, aider au déminage ou établir une liste de cibles protégées. Dans tous les cas, c’est l’humain qui décide in fine.

Pour aller plus loin

• Le site de l’IHEDN

Les références de l’épisode

• Opération Toile d’araignée : frappes ukrainiennes de drones kamikazes sur cinq bases aériennes russes en juin 2025, point de départ de l’analyse.
• Droit international humanitaire (DIH) : cadre juridique des conflits armés, fondé sur la distinction entre civils et combattants, la proportionnalité et les précautions dans l’attaque.
• Conventions de Genève et leurs protocoles additionnels : socle du DIH, jugé par la France assez large pour s’appliquer aux nouveaux systèmes.
• État-major des armées (EMA) : où sont en poste les deux conseillers juridiques interrogés.

Au fil de l’épisode

• 00:00:00 : la question posée et l’opération Toile d’araignée
• 00:01:25 : l’IA embarquée qui ne tient pas compte des civils sur les pistes
• 00:01:53 : les principes du DIH fragilisés par l’accélération de la décision
• 00:02:26 : « un système totalement autonome n’est pas possible » et le contrôle humain approprié
• 00:03:46 : le risque de paresse intellectuelle sous pression
• 00:04:16 : surconfiance et défiance envers l’aide à la décision
• 00:05:42 : la responsabilité du chef et l’absence de personnalité juridique de l’IA
• 00:06:13 : la boucle de rétroaction après chaque engagement
• 00:07:12 : nouveau traité ou interprétation du droit existant
• 00:09:12 : l’IA comme facteur de conformité, sous condition
• 00:10:14 : déminage et usages positifs
• 00:11:07 : la liste de cibles protégées et la décision humaine in fine

FAQ

Qui est responsable si une IA militaire viole le droit international humanitaire ?

Selon les conseillers juridiques de l’état-major des armées entendus dans l’épisode, ce sont les décideurs humains : chefs militaires et autorités politiques qui ont choisi d’employer le système. L’IA n’a pas de personnalité juridique et n’est pas un sujet de droit ; elle peut exécuter mais pas assumer, et la responsabilité reste attachée à la chaîne de commandement.

Qu’est-ce que le contrôle humain approprié défendu par la France ?

C’est l’exigence qu’un humain garde l’analyse et la décision dans l’emploi de la force, même assisté par une IA. Le commissaire en chef interrogé juge qu’un système totalement autonome serait illicite au regard des obligations conventionnelles de la France, et met en garde contre une validation mécanique des options proposées par la machine.

Pourquoi l’opération Toile d’araignée pose-t-elle un problème juridique ?

Lors des entraînements, l’IA embarquée sur les drones ukrainiens, censée prendre le relais en cas de perte de liaison, n’a pas su intégrer la présence imprévue de civils sur les pistes et a poursuivi sa mission. L’épisode y voit la limite de l’IA : elle ne peut pas examiner seule le caractère excessif des dommages collatéraux.

Faut-il un nouveau traité pour encadrer les armes autonomes ?

La position française, rappelée par la conseillère juridique de l’état-major des armées, est que les conventions de Genève et leurs protocoles additionnels suffisent. Un nouveau texte risquerait de fragmenter le droit existant et d’ouvrir des désaccords. La priorité est d’appliquer les règles : former les militaires, rédiger des guides pratiques, clarifier l’interprétation dans les forums internationaux.