Le monde de la cyber3 novembre 202656 min

#38 Donner une identité aux agents IA pour garder le contrôle – Zscaler

Donner une identité aux agents IA pour les sécuriser avec le Zero Trust

Leslie Fornero, qui anime Le monde de la cyber, a confié à des agents IA une bonne partie de la production de ses podcasts, jusqu'à leur ouvrir son ordinateur. Elle cherche à savoir quels risques elle prend, et comment une entreprise garde le contrôle quand ses agents seront plus nombreux que ses salariés. Ivan, directeur technique Europe du Sud chez Zscaler, explique ce que le projet Glasswing d'Anthropic a révélé sur les vulnérabilités chaînées, pourquoi chaque agent doit recevoir sa propre identité, et comment l'IA aide à détecter une attaque avant qu'elle n'aboutisse.

L’agent IA, prochain maillon faible de l’entreprise

Leslie Fornero, qui anime Le monde de la cyber, reçoit Ivan, directeur technique Europe du Sud chez Zscaler, entreprise spécialisée dans la sécurité cloud et le Zero Trust, pour une question qu’elle se pose elle-même : elle a ouvert son ordinateur, son serveur de stockage et son navigateur à des agents IA qui automatisent la production de ses podcasts, sans savoir quels risques elle prend. L’invité raconte avoir rejoint Zscaler en 2016 après une vingtaine d’années dans les télécoms, convaincu par une fuite massive de cartes bancaires passée par un sous-traitant d’une chaîne de supermarchés américaine qu’il fallait abandonner le modèle du réseau où tout le monde parle à tout le monde. Pour lui, l’IA est une rupture comparable à la révolution industrielle : elle remplacera certaines tâches et fera naître de nouveaux métiers, dont celui de contrôler les agents. Le risque tient à leur puissance : un agent qui a accès à un espace de stockage en connaît tout le contenu en quelques secondes, y compris un fichier d’augmentations de salaire qu’aucun salarié ne trouverait sans le lien exact, et une question déguisée peut lui faire livrer une information protégée sans le raisonnement moral qu’un humain se ferait. Il revient sur le projet Glasswing d’Anthropic, auquel Zscaler a participé avec d’autres acteurs : l’IA s’y est montrée capable d’enchaîner des vulnérabilités jugées mineures (les CVE) pour construire un chemin d’attaque dangereux, en rebondissant d’une machine à l’autre par des mouvements latéraux.

Sa conclusion : les vieux schémas de gestion des vulnérabilités ne tiendront pas, et il faudra de l’IA pour défendre « à la vitesse de la machine ».

Donner une identité à chaque agent

L’invité rappelle le principe du Zero Trust : aucune confiance implicite, on vérifie qui est la personne et quel appareil elle utilise avant même de lui ouvrir l’accès à une application. Avec l’IA, un poste de travail pourra faire tourner dix ou quinze agents, et le nombre d’agents dépassera largement celui des utilisateurs. Leur donner les mêmes privilèges que l’humain qui les pilote serait une erreur, surtout pour les comptes à privilèges ou les développeurs : il faut, dit-il, isoler les processus de chaque agent, notamment en analysant les données et les requêtes qu’il manipule, pour lui attribuer une identité et des droits propres. Le préalable est la visibilité : savoir quelles IA sont utilisées dans l’entreprise, par quels métiers et pour quels usages, distinguer les agents officiels des agents « fantômes », comme on l’a fait il y a dix ans pour le cloud. Viendront ensuite le contrôle des données envoyées aux IA, la protection de la propriété intellectuelle et la vérification des réponses, puisqu’une IA peut halluciner. Il plaide pour séparer les rôles : ce n’est pas à la cybersécurité de déployer l’IA, mais c’est à elle de poser les garde-fous.

Leslie Fornero raconte un incident vécu : un agent a lancé de lui-même un audit sur l’un de ses projets. Pour l’invité, ce type d’initiative va se multiplier, un agent pouvant découper sa tâche et créer d’autres agents moins restreints que lui.

Détecter l’attaque avant qu’elle ne réussisse

La dernière partie porte sur la cyber-résilience. Le risque zéro n’existant pas, l’invité insiste sur la détection : chaque étape d’une attaque, qu’elle soit menée par un humain ou par une IA, laisse des signaux faibles, et l’IA peut aider les équipes des centres opérationnels de sécurité (SOC) à les lire en heures ou en minutes plutôt qu’en jours. Le Zero Trust y contribue, car des demandes d’accès répétées trahissent des mouvements latéraux. Selon la probabilité estimée d’une attaque, on choisit de la couper ou d’attendre, pour ne pas perturber la production. Il juge un effondrement complet d’Internet peu probable, mais s’attend à davantage d’interruptions de plateformes ou de câbles, et conseille de réduire sa surface d’attaque en ne publiant une application qu’auprès de la communauté qui en a besoin.

Ce qui l’inquiète : l’avance que la vitesse de l’IA donne aux attaquants. Ce qui le rassure : l’adaptation des offres de cybersécurité et la collaboration avec des acteurs comme OpenAI et Anthropic.

Pour aller plus loin

Les références de l’épisode

Zscaler : entreprise de sécurité cloud et de Zero Trust, partenaire de l’épisode.
Projet Glasswing : programme d’Anthropic auquel Zscaler a participé, qui a montré la capacité de l’IA à enchaîner des vulnérabilités.
Anthropic et OpenAI : éditeurs d’IA dont Leslie Fornero utilise les outils de codage, et avec lesquels Zscaler dit travailler.
Zero Trust : modèle de sécurité qui supprime la confiance implicite et vérifie l’identité et l’appareil avant tout accès.
Cymbioz : remerciée pour avoir rendu l’épisode possible.

Au fil de l’épisode

00:00:56 : Leslie Fornero raconte avoir ouvert son ordinateur à des agents IA
00:02:41 : le parcours de l’invité, des télécoms à Zscaler
00:06:25 : l’IA, une révolution comparable à la révolution industrielle
00:08:38 : ce que les agents IA changent aux risques des entreprises
00:10:40 : le projet Glasswing et les vulnérabilités chaînées
00:15:18 : un exemple de vulnérabilité chaînée et les mouvements latéraux
00:17:35 : les leurres pour repérer une IA offensive
00:19:24 : le principe du Zero Trust appliqué aux agents IA
00:21:53 : donner une identité et des privilèges propres à chaque agent
00:28:29 : la visibilité sur les usages de l’IA, préalable à la gouvernance
00:34:42 : la protection des données et de la propriété intellectuelle
00:36:44 : séparer les rôles entre ceux qui déploient l’IA et la cybersécurité
00:38:44 : qu’est-ce qu’un agent IA
00:41:45 : un agent qui prend une initiative tout seul
00:43:58 : la cyber-résilience et la détection des signaux faibles
00:48:27 : le rôle du Zero Trust quand une attaque a commencé
00:50:55 : inquiétudes et raisons d’être optimiste
00:52:29 : un blackout d’Internet est-il possible

FAQ

Pourquoi les agents IA sont-ils un risque pour la sécurité des entreprises ?

Selon le directeur technique de Zscaler reçu dans l’épisode, un agent IA connaît en quelques secondes tout ce à quoi on lui donne accès, y compris des fichiers qu’un salarié ne trouverait jamais. Il n’a pas le raisonnement moral d’un humain et peut livrer une information protégée à une question déguisée. Et il y aura bien plus d’agents que d’utilisateurs à contrôler.

Qu’est-ce qu’une vulnérabilité chaînée ?

C’est l’enchaînement de failles jugées mineures, prises une à une, pour construire un chemin d’attaque dangereux. L’attaquant accède à un système peu critique, puis rebondit de machine en machine par des mouvements latéraux ou des élévations de privilèges jusqu’aux données sensibles. Le projet Glasswing d’Anthropic a montré, selon l’invité, que l’IA sait le faire mieux qu’un analyste humain.

Comment appliquer le Zero Trust aux agents IA ?

L’invité propose de donner à chaque agent une identité propre, distincte de celle de l’utilisateur, en isolant ses processus et en analysant les données et les requêtes qu’il manipule. On peut alors lui accorder des droits limités à sa tâche, comme on le fait pour un utilisateur, un objet connecté ou un système industriel dans une approche Zero Trust.

Comment l’IA aide-t-elle à détecter une cyberattaque ?

Chaque étape d’une attaque laisse des signaux, souvent faibles, et des demandes d’accès répétées peuvent trahir des mouvements latéraux. Selon l’invité, l’IA permet aux équipes des centres opérationnels de sécurité de corréler ces signaux en heures ou en minutes, d’estimer la probabilité d’une attaque et de décider s’il faut la couper avant que les données ne soient exfiltrées.