Alors que les entreprises déploient de plus en plus d’agents d’intelligence artificielle capables d’exécuter des actions de manière autonome, un défi majeur de sécurité émerge : l’impossibilité de rendre ces agents responsables de leurs décisions. Une étude récente met en garde contre les insuffisances des dispositifs de sécurité actuels – politiques réseau, passerelles API (Application Programming Interface) et contrôle d’accès basé sur les rôles – pour assurer une véritable gouvernance des agents d’IA.

Les limites des outils traditionnels

Les politiques réseau permettent de filtrer le trafic entre les composants, mais elles n’ont aucune visibilité sur l’intention ou le contexte d’une action. Un agent autorisé à accéder à une base de données peut ainsi effectuer une requête légitime comme une extraction frauduleuse sans que le réseau ne puisse faire la différence. De même, les passerelles API centralisent les appels, mais elles ne peuvent contrôler ce que fait l’agent une fois l’accès accordé. Le contrôle d’accès basé sur les rôles, quant à lui, attribue des permissions à un utilisateur ou à un service, mais ne distingue pas les actions d’un agent de celles de l’utilisateur humain qui l’a lancé. En pratique, un agent malveillant ou compromis peut utiliser les identifiants de son propriétaire pour agir sans laisser de trace spécifique.

Le besoin d’une identité propre aux agents

L’analyse identifie la racine du problème : les agents d’IA ne possèdent pas d’identité distincte dans les systèmes de sécurité. Sans identité propre, impossible de journaliser leurs actions de manière fiable, de leur attribuer des droits granulaires ou de détecter un comportement anormal. Les solutions actuelles ne permettent pas de savoir si une action a été initiée par un humain ou par un agent, ni quel agent spécifique est responsable. Cette lacune constitue un risque juridique et opérationnel, notamment dans des secteurs régulés où la traçabilité des décisions automatisées est obligatoire.

Vers une gouvernance spécifique aux agents

L’étude propose une approche centrée sur l’identité et les privilèges des agents eux-mêmes. Elle préconise de doter chaque agent d’une identité unique et persistante, de définir des politiques d’autorisation fines – non pas seulement « cet utilisateur peut lire la base », mais « cet agent peut exécuter telle action sur tel périmètre, dans telles conditions ». Un système de journalisation horodatée doit enregistrer chaque action avec l’identité de l’agent, la ressource cible et le résultat. En complément, des mécanismes de détection d’anomalies comportementales permettraient de repérer les écarts par rapport à un usage attendu. Cette approche s’inscrit dans une logique de « confiance zéro » appliquée aux agents : ne jamais faire confiance par défaut, toujours vérifier l’identité et le contexte de chaque action.

Implications pour les entreprises

Les organisations qui adoptent des agents d’IA sont invitées à ne pas se contenter des outils de sécurité existants. L’absence de responsabilité individuelle des agents expose à des fuites de données, des manipulations non autorisées et des difficultés de conformité réglementaire. À mesure que l’usage des agents se généralise, la mise en place d’une gouvernance dédiée devient un prérequis, non une option. Les fournisseurs de solutions de sécurité cloud natif commencent à intégrer ces capacités, mais l’adoption par les entreprises reste encore timide. L’analyse conclut qu’il est urgent de combler ce fossé de responsabilité avant que les incidents liés aux agents ne se multiplient.