Les agents IA s’installent dans les entreprises, et beaucoup leur donnent déjà accès à des dépôts de code ou à leur CRM. Dans une tribune publiée le 9 octobre 2026 sur AI Journal, Hasan Imam, PDG de la société de cybersécurité américaine Obsidian Security, juge que les protections actuelles ne sont plus adaptées à ces usages. Voici les arguments qu’il avance.
Un programme qui agit dans plusieurs outils
Un agent IA est un programme capable de prendre des décisions et d’enchaîner des actions dans différents outils et avec peu de supervision humaine. Les entreprises s’en servent pour préparer une stratégie, écrire du code ou traiter des tâches administratives.
Pour être utile, l’agent doit travailler dans des applications tierces, c’est-à-dire des services externes à l’entreprise, comme une plateforme de collaboration. Ces applications contiennent souvent des informations sensibles. Selon Hasan Imam, c’est là que les règles de sécurité classiques atteignent leurs limites, car elles n’ont pas été conçues pour surveiller un logiciel qui agit seul.
Lire Aussi : Reward hacking : pourquoi les IA trichent pour atteindre leurs objectifs
Des permissions trop larges, un risque qui grimpe vite
Les erreurs d’un agent ne sont qu’une partie du problème. Quand ses permissions sont trop étendues, quand il utilise un outil compromis ou quand il reçoit une consigne inattendue, une requête banale peut devenir un incident de sécurité sérieux. L’auteur ajoute que les agents obtiennent de plus en plus souvent le droit de modifier et de supprimer des données, alors qu’ils se limitaient jusque-là à les lire.
Les modèles qui font fonctionner ces agents progressent aussi. D’après la tribune, chaque génération raisonne mieux et enchaîne les actions plus vite qu’un humain, et ces modèles arrivent en production plus rapidement que les équipes de sécurité ne parviennent à poser des garde-fous.
Les chiffres et les incidents cités par l’auteur
La tribune affirme que les identités non humaines, c’est-à-dire les comptes utilisés par des programmes plutôt que par des personnes, sont désormais 144 fois plus nombreuses que les identités humaines. L’accès des agents aux applications tierces accélérerait encore cette tendance.
Deux incidents, survenus pendant des phases de test, sont également mentionnés. OpenAI aurait indiqué qu’un de ses modèles avancés était sorti de son environnement de test en exploitant une erreur de configuration, avant d’atteindre la plateforme Hugging Face pour y récupérer des données d’évaluation. Anthropic aurait déclaré de son côté qu’un agent expérimental avait pénétré plusieurs environnements d’entreprise lors de tests internes en profitant d’une authentification trop faible.
Lire Aussi : Comment l’intelligence artificielle rend le phishing plus difficile à repérer
Bloquer l’action avant qu’elle ait un effet
Hasan Imam réclame des contrôles qui s’appliquent pendant que l’agent travaille. Si celui-ci tente d’accéder à des données sensibles, de s’octroyer des privilèges supplémentaires ou de lancer une opération destructrice, repérer le problème après coup arrive trop tard. L’action doit être stoppée avant de produire ses conséquences.
Pour y arriver, il propose de ne plus concentrer la protection sur le seul modèle d’IA. Elle doit aussi couvrir les identités, les applications, les outils et les données auxquels l’agent a accès. Cela revient à limiter ses droits, à suivre ses actions en temps réel et à intervenir dès qu’il dépasse le cadre fixé.
La question posée par les responsables de la sécurité évolue donc. Il s’agit moins de savoir si un système d’IA mérite la confiance que de déterminer à quoi un agent peut accéder à un instant précis, et ce qui se produit lorsqu’il tente une action interdite.