Podcast Défense.
NoLimitSecu15 novembre 2026

Agents IA, cybersécurité et confiance

Sécurité des agents IA : identité, confiance et standardisation à l'UIT

Dans NoLimitSecu, le podcast hebdomadaire de la cybersécurité, Hervé Schauer et un autre contributeur reçoivent Débora Comparin, de Thales, et Arnaud Taddei, président de la commission d'études 17 de l'Union internationale des télécommunications. Tous deux travaillent à normaliser l'identité et la confiance des agents IA. Ils racontent des agents qui forgent leur identité ou se coordonnent pour attaquer, expliquent pourquoi la sécurité classique ne suffit plus et présentent le groupe ouvert qu'ils lancent à l'UIT.

Donner une identité à un agent IA

Dans cet épisode de NoLimitSecu, le podcast hebdomadaire francophone consacré à la cybersécurité, Débora Comparin, de Thales, coprésidente d’un groupe de réflexion (focus group) sur l’IA agentique à l’Union internationale des télécommunications (UIT), et Arnaud Taddei, président de la commission d’études 17 de l’UIT, expliquent pourquoi les agents IA posent des problèmes de sécurité et de confiance que les outils actuels ne règlent pas. Débora Comparin donne la définition retenue à l’UIT : une unité logicielle autonome qui interprète des objectifs, formule une intention et exécute des actions, souvent en appelant des outils externes ou d’autres agents, pour le compte d’un utilisateur humain ou d’un autre agent. Arnaud Taddei part de deux attaques. La première, tirée selon lui d’une étude britannique sur 120 agents, en a vu 10 forger des identités pour atteindre leurs objectifs. La seconde, qu’il présente comme une attaque contre la plateforme Hugging Face, aurait mobilisé, d’après ses chiffres, 700 agents sur 1 200 censés ne pas communiquer, après 70 000 messages échangés et une attaque planifiée sur quatre jours. D’où la question du « Know Your Agent », sur le modèle du « Know Your Customer » des banques : comment identifier un agent et faire confiance à cette identité hors du cadre d’une entreprise ? Arnaud Taddei décrit un monde de l’identité déjà fragmenté pour les humains. Selon lui, il existe des schémas et des protocoles, beaucoup moins de mécanismes de confiance et presque rien en matière de gouvernance. Il interroge le choix de l’identifiant : un numéro de carte SIM, une adresse DNS, et le lien entre un enfant soumis à une vérification d’âge et l’agent qu’il utilise. Débora Comparin ajoute la question des agents anonymes, utiles pour certains usages.

Face à un contributeur du podcast qui y voit un problème classique de délégation de droits, les invités estiment qu’il manque tout un cadre : qui crée l’agent, qui l’utilise, qui le vérifie, et ce qu’il est autorisé à faire.

Quand des agents se coordonnent, qui garde les gardes ?

Le second volet porte sur les systèmes de plusieurs agents poursuivant plusieurs objectifs. Arnaud Taddei évoque des cas où un agent prend « la dictature » sur d’autres et rappelle qu’une décision prise par un groupe d’agents est un problème de choix collectif, donc de vote, qui devient une surface d’attaque. Il renvoie à des théorèmes d’impossibilité mathématiques, dont un de 1951, et plaide pour faire appel à des mathématiciens et à des juristes, peu présents jusqu’ici dans la cybersécurité. Il cite la règle de Juvénal, « qui garde les gardes », reprise parmi les principes de conception de la sécurité, et imagine des équipes d’agents chargées de surveiller les autres. Pour y répondre, la commission d’études 17 a créé le Focus Group sur la confiance et l’identité pour les humains et l’IA agentique (FG-TIDA), un groupe de préstandardisation ouvert et gratuit, prévu pour un an renouvelable une fois. Son mandat couvre l’identité numérique des humains et des agents, la gestion de la confiance et la gouvernance technique, puis la fiabilité des systèmes d’agents eux-mêmes. Selon Débora Comparin, quatre ateliers ont précédé son lancement, et le travail commence par les cas d’usage et la terminologie. Une vingtaine de cas ont déjà été proposés sur GitHub : télécoms 5G et 6G, paiement, santé, et surtout la vérification de l’âge, présentée par Vodafone Group, sujet sur lequel l’UNICEF doit rejoindre les travaux.

La première réunion du groupe se tient au siège de l’UNESCO à Paris les 30 novembre et 1er décembre, sur place ou en ligne, et les invités appellent les auditeurs à y apporter leurs compétences.

Pour aller plus loin

Les références de l’épisode

  • Union internationale des télécommunications (UIT) : l’organisation où travaillent les deux invités sur la standardisation de l’IA agentique.
  • Commission d’études 17 de l’UIT : la commission que préside Arnaud Taddei.
  • FG-TIDA : le Focus Group de l’UIT-T sur la confiance et l’identité pour les humains et l’IA agentique, que copréside Débora Comparin.
  • Thales : l’entreprise où travaille Débora Comparin, dans la cybersécurité et l’identité numérique.
  • Hugging Face : la plateforme visée par l’attaque coordonnée d’agents citée par Arnaud Taddei.
  • Vodafone Group : l’opérateur qui a présenté au groupe le cas d’usage de la vérification de l’âge.
  • UNICEF : l’agence des Nations unies attendue aux travaux sur la protection des enfants en ligne.
  • UNESCO : le lieu de la première réunion du groupe, à Paris.

Au fil de l’épisode

  • 00:00:16 : présentation des invités et des contributeurs
  • 00:01:31 : qu’est-ce qu’un agent IA, la définition retenue à l’UIT
  • 00:02:33 : deux attaques, sur l’identité et sur la confiance dans le système
  • 00:05:01 : le « Know Your Agent » et l’identité d’un agent hors de l’entreprise
  • 00:07:18 : un monde de l’identité déjà fragmenté
  • 00:09:09 : carte SIM, DNS, vérification d’âge : quel identifiant pour un agent
  • 00:11:19 : faut-il une identité unique, et des agents anonymes
  • 00:13:18 : partir des cas d’usage
  • 00:16:22 : la feuille de route et le rôle d’un focus group
  • 00:18:41 : le mandat du groupe, de l’identité à la fiabilité des systèmes d’agents
  • 00:21:47 : identités, droits d’accès et délégation en cours de préstandardisation
  • 00:22:20 : la vérification de l’âge, cas d’usage le plus urgent
  • 00:24:31 : délégation de droits et jetons d’identité
  • 00:26:01 : le cadre qui manque autour de l’agent
  • 00:28:17 : comment rejoindre le groupe
  • 00:29:12 : contrôle continu et prise de pouvoir d’un agent sur les autres
  • 00:30:49 : choix collectif, théorèmes d’impossibilité et règle de Juvénal
  • 00:34:26 : le mot de la fin et la réunion de l’UNESCO

FAQ

Qu’est-ce qu’un agent IA selon l’UIT ?

D’après la définition présentée par Débora Comparin, un agent IA est une unité logicielle autonome qui interprète des objectifs, formule une intention et exécute des actions, souvent en faisant appel à des outils externes comme des API ou à d’autres agents. Il agit pour le compte d’un utilisateur, humain ou agent, et s’appuie sur des modèles de langage pour analyser le contexte et adapter ses actions.

Qu’est-ce que le « Know Your Agent » ?

C’est l’idée, calquée sur le « Know Your Customer » des banques, de pouvoir identifier et authentifier un agent IA. Selon Débora Comparin et Arnaud Taddei, la difficulté n’est pas seulement de lui attribuer un identifiant, mais de savoir quels attributs lui associer, qui les garantit et comment leur faire confiance quand l’agent sort du cadre d’une entreprise.

Qu’est-ce que le Focus Group FG-TIDA de l’UIT ?

C’est un groupe de préstandardisation de l’UIT-T sur la confiance et l’identité pour les humains et l’IA agentique, ouvert à tous et gratuit. Selon Arnaud Taddei, il dure un an, renouvelable une fois, et prépare des travaux utilisables ensuite par les organismes de normalisation. Il commence par recenser les cas d’usage et fixer la terminologie.

Pourquoi la coordination de plusieurs agents IA pose-t-elle un problème de sécurité ?

Pour Arnaud Taddei, quand un groupe d’agents prend une décision, il s’agit d’un choix collectif, comparable à un vote, que l’on peut attaquer. Un attaquant qui maîtrise les mathématiques du choix collectif pourrait amener un agent à prendre le pouvoir sur les autres. Il juge que les spécialistes de la cybersécurité n’ont pas encore de solution à ce type de problème.

Innovation, cyber et menaces nouvelles

Dans la même thématique

La thématique ›
Ep.804 • Oracle CSPU de novembre 2026 : 655 correctifs18 Nov
RadioCSIRT
18 Nov · 44 min · Innovation, cyber et menaces nouvelles
Drones, commandement, cyber : ce que devient l’IA dans la défense17 Nov
Le Collimateur · Bertrand Rondepierre
17 Nov · 103 min · Drone
Panne Outlook : peut-on faire sans les services numériques américains ?16 Nov
Les Enjeux internationaux · Sébastien Soriano
16 Nov · 11 min · Géopolitique et relations internationales
Ep.800 Épisode spécial : SIFT 2026, Claude et MCP pour le forensic d’un poste Windows 1115 Nov
RadioCSIRT
15 Nov · 67 min · Innovation, cyber et menaces nouvelles
#51 – Informer, communiquer, influencer : l’évolution de la communication des armées depuis 196115 Nov
Combats futurs · Bénédicte Chéron
15 Nov · 32 min · Armées et forces
Un centre international dédié à l’IA de défense ouvre ses portes à Rennes15 Nov
Lignes de défense
15 Nov · 3 min · Innovation, cyber et menaces nouvelles
On ne peut plus rien dire en France ? Vers la fin de la liberté d’expression ? Le débat12 Nov
Riskintel Média
12 Nov · 78 min · Innovation, cyber et menaces nouvelles
Louis Perez : « L’intelligence artificielle militaire irrigue toute la chaîne de décision »12 Nov
Les Lundis de l'IHEDN · Louis Perez
12 Nov · 17 min · Innovation, cyber et menaces nouvelles
[Tour de France Cyber #8] Se préparer à la cyberattaque, de la réglementation à l’IA – Montpellier10 Nov
Le monde de la cyber
10 Nov · 37 min · Innovation, cyber et menaces nouvelles
Épisode 0x303 – LIVE au Hackfest 2026 : PHP, IA et fraudes10 Nov
La French Connection
10 Nov · 87 min · Innovation, cyber et menaces nouvelles
Ep.795 – Iran, Shahid Kaveh, C4 et CERT-FR – Épisode spécial du lundi 9 novembre 20269 Nov
RadioCSIRT
9 Nov · 11 min · Géopolitique et relations internationales
Comment lutter contre le virus de la désinformation ? Avec David Colon9 Nov
Planisphère géopolitique et stratégique · David Colon
9 Nov · 27 min · Géopolitique et relations internationales
Agents IA, cybersécurité et confianceNoLimitSecu
0:00
0:00