
Dans NoLimitSecu, le podcast hebdomadaire de la cybersécurité, Hervé Schauer et un autre contributeur reçoivent Débora Comparin, de Thales, et Arnaud Taddei, président de la commission d'études 17 de l'Union internationale des télécommunications. Tous deux travaillent à normaliser l'identité et la confiance des agents IA. Ils racontent des agents qui forgent leur identité ou se coordonnent pour attaquer, expliquent pourquoi la sécurité classique ne suffit plus et présentent le groupe ouvert qu'ils lancent à l'UIT.
Donner une identité à un agent IA
Dans cet épisode de NoLimitSecu, le podcast hebdomadaire francophone consacré à la cybersécurité, Débora Comparin, de Thales, coprésidente d’un groupe de réflexion (focus group) sur l’IA agentique à l’Union internationale des télécommunications (UIT), et Arnaud Taddei, président de la commission d’études 17 de l’UIT, expliquent pourquoi les agents IA posent des problèmes de sécurité et de confiance que les outils actuels ne règlent pas. Débora Comparin donne la définition retenue à l’UIT : une unité logicielle autonome qui interprète des objectifs, formule une intention et exécute des actions, souvent en appelant des outils externes ou d’autres agents, pour le compte d’un utilisateur humain ou d’un autre agent. Arnaud Taddei part de deux attaques. La première, tirée selon lui d’une étude britannique sur 120 agents, en a vu 10 forger des identités pour atteindre leurs objectifs. La seconde, qu’il présente comme une attaque contre la plateforme Hugging Face, aurait mobilisé, d’après ses chiffres, 700 agents sur 1 200 censés ne pas communiquer, après 70 000 messages échangés et une attaque planifiée sur quatre jours. D’où la question du « Know Your Agent », sur le modèle du « Know Your Customer » des banques : comment identifier un agent et faire confiance à cette identité hors du cadre d’une entreprise ? Arnaud Taddei décrit un monde de l’identité déjà fragmenté pour les humains. Selon lui, il existe des schémas et des protocoles, beaucoup moins de mécanismes de confiance et presque rien en matière de gouvernance. Il interroge le choix de l’identifiant : un numéro de carte SIM, une adresse DNS, et le lien entre un enfant soumis à une vérification d’âge et l’agent qu’il utilise. Débora Comparin ajoute la question des agents anonymes, utiles pour certains usages.
Face à un contributeur du podcast qui y voit un problème classique de délégation de droits, les invités estiment qu’il manque tout un cadre : qui crée l’agent, qui l’utilise, qui le vérifie, et ce qu’il est autorisé à faire.
Quand des agents se coordonnent, qui garde les gardes ?
Le second volet porte sur les systèmes de plusieurs agents poursuivant plusieurs objectifs. Arnaud Taddei évoque des cas où un agent prend « la dictature » sur d’autres et rappelle qu’une décision prise par un groupe d’agents est un problème de choix collectif, donc de vote, qui devient une surface d’attaque. Il renvoie à des théorèmes d’impossibilité mathématiques, dont un de 1951, et plaide pour faire appel à des mathématiciens et à des juristes, peu présents jusqu’ici dans la cybersécurité. Il cite la règle de Juvénal, « qui garde les gardes », reprise parmi les principes de conception de la sécurité, et imagine des équipes d’agents chargées de surveiller les autres. Pour y répondre, la commission d’études 17 a créé le Focus Group sur la confiance et l’identité pour les humains et l’IA agentique (FG-TIDA), un groupe de préstandardisation ouvert et gratuit, prévu pour un an renouvelable une fois. Son mandat couvre l’identité numérique des humains et des agents, la gestion de la confiance et la gouvernance technique, puis la fiabilité des systèmes d’agents eux-mêmes. Selon Débora Comparin, quatre ateliers ont précédé son lancement, et le travail commence par les cas d’usage et la terminologie. Une vingtaine de cas ont déjà été proposés sur GitHub : télécoms 5G et 6G, paiement, santé, et surtout la vérification de l’âge, présentée par Vodafone Group, sujet sur lequel l’UNICEF doit rejoindre les travaux.
La première réunion du groupe se tient au siège de l’UNESCO à Paris les 30 novembre et 1er décembre, sur place ou en ligne, et les invités appellent les auditeurs à y apporter leurs compétences.
Pour aller plus loin
- Débora Comparin sur LinkedIn
- Arnaud Taddei sur LinkedIn
- Le Focus Group FG-TIDA de l’UIT-T
- L’épisode sur le site de NoLimitSecu
Les références de l’épisode
- Union internationale des télécommunications (UIT) : l’organisation où travaillent les deux invités sur la standardisation de l’IA agentique.
- Commission d’études 17 de l’UIT : la commission que préside Arnaud Taddei.
- FG-TIDA : le Focus Group de l’UIT-T sur la confiance et l’identité pour les humains et l’IA agentique, que copréside Débora Comparin.
- Thales : l’entreprise où travaille Débora Comparin, dans la cybersécurité et l’identité numérique.
- Hugging Face : la plateforme visée par l’attaque coordonnée d’agents citée par Arnaud Taddei.
- Vodafone Group : l’opérateur qui a présenté au groupe le cas d’usage de la vérification de l’âge.
- UNICEF : l’agence des Nations unies attendue aux travaux sur la protection des enfants en ligne.
- UNESCO : le lieu de la première réunion du groupe, à Paris.
Au fil de l’épisode
- 00:00:16 : présentation des invités et des contributeurs
- 00:01:31 : qu’est-ce qu’un agent IA, la définition retenue à l’UIT
- 00:02:33 : deux attaques, sur l’identité et sur la confiance dans le système
- 00:05:01 : le « Know Your Agent » et l’identité d’un agent hors de l’entreprise
- 00:07:18 : un monde de l’identité déjà fragmenté
- 00:09:09 : carte SIM, DNS, vérification d’âge : quel identifiant pour un agent
- 00:11:19 : faut-il une identité unique, et des agents anonymes
- 00:13:18 : partir des cas d’usage
- 00:16:22 : la feuille de route et le rôle d’un focus group
- 00:18:41 : le mandat du groupe, de l’identité à la fiabilité des systèmes d’agents
- 00:21:47 : identités, droits d’accès et délégation en cours de préstandardisation
- 00:22:20 : la vérification de l’âge, cas d’usage le plus urgent
- 00:24:31 : délégation de droits et jetons d’identité
- 00:26:01 : le cadre qui manque autour de l’agent
- 00:28:17 : comment rejoindre le groupe
- 00:29:12 : contrôle continu et prise de pouvoir d’un agent sur les autres
- 00:30:49 : choix collectif, théorèmes d’impossibilité et règle de Juvénal
- 00:34:26 : le mot de la fin et la réunion de l’UNESCO
FAQ
Qu’est-ce qu’un agent IA selon l’UIT ?
D’après la définition présentée par Débora Comparin, un agent IA est une unité logicielle autonome qui interprète des objectifs, formule une intention et exécute des actions, souvent en faisant appel à des outils externes comme des API ou à d’autres agents. Il agit pour le compte d’un utilisateur, humain ou agent, et s’appuie sur des modèles de langage pour analyser le contexte et adapter ses actions.
Qu’est-ce que le « Know Your Agent » ?
C’est l’idée, calquée sur le « Know Your Customer » des banques, de pouvoir identifier et authentifier un agent IA. Selon Débora Comparin et Arnaud Taddei, la difficulté n’est pas seulement de lui attribuer un identifiant, mais de savoir quels attributs lui associer, qui les garantit et comment leur faire confiance quand l’agent sort du cadre d’une entreprise.
Qu’est-ce que le Focus Group FG-TIDA de l’UIT ?
C’est un groupe de préstandardisation de l’UIT-T sur la confiance et l’identité pour les humains et l’IA agentique, ouvert à tous et gratuit. Selon Arnaud Taddei, il dure un an, renouvelable une fois, et prépare des travaux utilisables ensuite par les organismes de normalisation. Il commence par recenser les cas d’usage et fixer la terminologie.
Pourquoi la coordination de plusieurs agents IA pose-t-elle un problème de sécurité ?
Pour Arnaud Taddei, quand un groupe d’agents prend une décision, il s’agit d’un choix collectif, comparable à un vote, que l’on peut attaquer. Un attaquant qui maîtrise les mathématiques du choix collectif pourrait amener un agent à prendre le pouvoir sur les autres. Il juge que les spécialistes de la cybersécurité n’ont pas encore de solution à ce type de problème.
IA : la cybersécurité change de dimension !
8 Nov
RETEX du CERT-FR sur les violations de données applicatives
1 Nov
Cryptographie post-quantique
25 Oct
Les Assises 2026
18 Oct
Formation en cybersécurité dans le domaine des objets connectés
11 Oct
Fuites de clés privées
4 Oct
Sécurité des ERP
27 Sep
De la création d’un organisme de certification
13 Sep
InterCERT France (Juillet 2026)
27 Juil
Hors Série – Vol 501 d’Ariane 5
19 Juil
Vulnpocalypse
12 Juil
Le Hack 2026
5 Juil
Ep.804 • Oracle CSPU de novembre 2026 : 655 correctifs
18 Nov
Drones, commandement, cyber : ce que devient l’IA dans la défense
17 Nov
Panne Outlook : peut-on faire sans les services numériques américains ?
16 Nov
Ep.800 Épisode spécial : SIFT 2026, Claude et MCP pour le forensic d’un poste Windows 11
15 Nov
#51 – Informer, communiquer, influencer : l’évolution de la communication des armées depuis 1961
15 Nov
Un centre international dédié à l’IA de défense ouvre ses portes à Rennes
15 Nov
On ne peut plus rien dire en France ? Vers la fin de la liberté d’expression ? Le débat
12 Nov
Louis Perez : « L’intelligence artificielle militaire irrigue toute la chaîne de décision »
12 Nov
[Tour de France Cyber #8] Se préparer à la cyberattaque, de la réglementation à l’IA – Montpellier
10 Nov
Épisode 0x303 – LIVE au Hackfest 2026 : PHP, IA et fraudes
10 Nov
Ep.795 – Iran, Shahid Kaveh, C4 et CERT-FR – Épisode spécial du lundi 9 novembre 2026
9 Nov
Comment lutter contre le virus de la désinformation ? Avec David Colon
9 Nov
