Sécurité des agents IA

Sécurité des agents d'IA : connaître chaque agent, détecter les risques, protéger les systèmes qu'il installe

La sécurité des agents d'IA ne se résume plus à ce qu'affirme un modèle. Elle concerne désormais leurs actions : les outils qu'ils utilisent, les données qu'ils lisent, les identifiants qu'ils détiennent et les logiciels qu'ils installent eux-mêmes.

Et la plupart des équipes sont incapables de répondre à la première question : quels agents exécutons-nous réellement ? Ils résident dans des référentiels sous forme de graphes LangChain, de serveurs MCP, SKILL.md Des fichiers et des outils de codage d'IA configurés par des développeurs individuels un vendredi après-midi. Personne ne les a vérifiés, et une compétence malveillante n'est rien d'autre qu'un simple texte.

TL; DR

La sécurité des agents d'IA en quatre étapes : les identifier, les évaluer, sécuriser la boucle de sécurité, protéger les installations.

On ne peut pas sécuriser des agents qu'on ne voit pas. La sécurité des agents d'IA commence par un inventaire complet de chaque agent, serveur MCP, compétence, modèle et outil de programmation d'IA présent dans votre code.

  • Risques liés à la conception des agents : invites qui concatènent les entrées de l'utilisateur, agents appelant des outils sans guardrails, des identifiants et des compétences surprivilégiés assortis d'instructions cachées. La plupart est visible dans le code, avant le déploiement, et correspond à Les 10 meilleures applications OWASP pour les agents.
  • La sécurité à l'intérieur du circuit : Les agents de codage ont besoin de sécurité au sein de leur boucle, ils analysent et corrigent donc ce qu'ils écrivent avant que ce soit commitTed, pas des semaines plus tard avec un billet.
  • Protégez les installations : Les agents installent également les dépendances. La détection de logiciels malveillants, qui fonctionne avant même l'existence d'une signature, protège contre les paquets malveillants, quel que soit leur installateur : développeur ou agent.
  • Un flux de travail : Les résultats de l'IA sont soumis au même tri, aux mêmes tickets et aux mêmes rapports que le reste de vos résultats en matière de sécurité des applications.

Le premier pas: Créez un inventaire de l'IA dans vos référentiels, exportez-le sous forme de nomenclature d'IA (AI-BOM), puis contrôlez le nouveau code d'agent dans l'intégration continue.

Pourquoi la sécurité des agents IA est un problème différent

Une fonctionnalité LLM renvoie du texte, et un humain décide de son traitement. Un agent boucle la boucle de manière autonome : il planifie, appelle des outils, lit des pages web, des e-mails et des documents, écrit des fichiers et exécute des commandes. Chaque capacité que vous déléguez à un agent est une capacité qu’un attaquant peut exploiter.

OWASP a fait la même distinction. Les 10 meilleures applications agentiques selon l'OWASP en 2026 (ASI01 à ASI10) s'appuie sur Top 10 de l'OWASP pour les candidatures au LLMLa liste LLM décrit ce qu'affirme un modèle ; la liste agentique décrit ce que fait un agent.

La plupart des organisations utilisent désormais deux types d'agents :

  • Agents que vous intégrez à vos applications : assistants de support, copilotes internes et flux de travail construits avec des frameworks tels que LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel ou LlamaIndex, souvent connectés à des outils via serveurs MCP.
  • Agents de codage IA utilisés par vos développeurs : Claude Code, Cursor, GitHub Copilot, Windsurf et d'autres, qui écrivent du code, modifient la configuration et ajoutent des dépendances.

La sécurité des agents d'IA doit couvrir les deux, car les deux agissent avec votre autorisation.

Étape 1 : recenser tous les agents, serveurs MCP et compétences

La sécurité des agents d'IA commence par un forum de questions, et les auditeurs demandent désormais : quelle IA utilisons-nous ? Sécurité IA Xygeni Elle y répond à la source : code, configuration, manifestes et dépendances.

Il découvre des modèles, des agents et des serveurs d'agents, des frameworks d'IA, des serveurs MCP et leurs outils, compétences (SKILL.md, AGENTS.md), invites, guardrailsIl répertorie les vecteurs, les jeux de données, les points d'accès d'inférence et les outils de programmation IA configurés dans vos référentiels. Il cartographie également leurs connexions : quel agent utilise quel modèle, exécute quels outils et invoque quels serveurs MCP.

Le résultat est un inventaire d'IA vivant, exportable sous forme de nomenclature d'IA au format CycloneDX, avec un enregistrement de gouvernance par actif comprenant un champ de catégorie de risque de la loi européenne sur l'IA.

Vous voulez savoir quelle intelligence artificielle est déjà présente dans votre code ? Réservez une séance avec un ingénieur, et nous constituerons l'inventaire d'IA de l'un de vos référentiels.

Étape 2 : identifier les risques liés à la conception des agents

La plupart des vulnérabilités des agents ne sont pas exotiques. Il s'agit d'une invite construite par concaténation de chaînes, d'un agent appelant un outil sans protection des entrées ou d'une authentification aux privilèges bien plus étendus que nécessaire. Toutes ces vulnérabilités laissent des traces dans le code, ce qui permet de les détecter en intégration continue, avant le déploiement.

Risques liés aux agents d'IA détectables dans le code

Chaque risque correspond à un Top 10 de l'OWASP pour les candidatures au LLM ou ses partenaires agents, afin que les conclusions parlent le même langage que vos auditeurs.

AnalyseVoici à quoi cela ressemble en codeCartographie OWASP
Injection rapideMessages système qui concatènent le contenu utilisateur sans séparation des rôles, délimiteurs ou guardrailsLLM01
Injection indirecteAgents d'appel d'outils sans entrée guardrailsou des agents qui ingèrent des pages Web, des courriels ou des documents récupérés sans les nettoyerLLM01
Gestion des sorties non sécuriséesSortie du modèle atteignant eval ou d'autres puits dangereux, repérés à travers les fonctions et les fichiersLLM05
Identités d'agents surprivilégiéesabus d'identité non humaineIdentifiants statiques à longue durée de vie, identifiants partagés sans restriction de portée, serveurs MCP ou d'outils exécutés avec des privilèges élevésASI03
Compétences malveillantes ou typosquattéeschaîne d'approvisionnement des compétences des agentsDirectives malveillantes cachées dans SKILL.md or AGENTS.md, des noms de compétences qui imitent des compétences ou des intégrations connuesTop 10 des compétences d'agent
Secrets dans les invitesLes informations d'identification sont stockées dans les fichiers d'invite.LLM07

Chaque découverte comporte sa catégorie OWASP LLM Top 10, ainsi que les étiquettes OWASP Agentic Applications et Agentic Skills le cas échéant, et les vecteurs d'attaque de l'équipe rouge impliqués.

Les compétences méritent une attention particulière car une instruction malveillante dans un fichier de compétence est du texte, et non du code ; aucune signature ne peut donc la détecter. Une analyse par IA optionnelle évalue l'intention des fichiers de compétences et d'instructions d'agents signalés grâce à une configuration versionnée et déterministe, garantissant ainsi que chaque fichier reçoive toujours le même verdict. Cette analyse peut être exécutée sur votre propre machine hébergée, ce qui vous permet de conserver votre code et vos invites dans votre environnement. Un score de compétence combine ensuite ces signaux en une seule réponse : sûr, prudence ou installation déconseillée.

Aller plus loin: Regardez notre session Rayon d'action : quand l'agent touche à ce que vous n'avez pas demandé, sur ce qui se passe lorsque les autorisations d'un agent dépassent le cadre de sa tâche.

Étape 3 : intégrer la sécurité dans la boucle de l’agent de codage

Les agents de codage IA écrivent et commit Le code est écrit plus vite que quiconque ne peut le relire. Un problème signalé deux semaines plus tard est rarement corrigé. La correction doit intervenir pendant que l'agent est encore en service.

Le serveur Xygeni MCP s'exécute localement et fonctionne avec tout agent de codage IA compatible MCP, quel que soit le modèle utilisé. L'agent peut analyser le code qu'il vient d'écrire, lister les nouveaux problèmes, obtenir des verdicts de triage IA et demander des correctifs. SAST et SCA résultats. Il itère jusqu'à ce que la modification soit propre, avant toute autre chose. commitTed, avec les approbations définies par votre équipe.

Il utilise les mêmes moteurs, politiques et règles de mise en sourdine que le vôtre pipelineAinsi, l'agent et votre CI ne sont jamais en désaccord. Pour les développeurs travaillant avec l'agent, plugins IDE Intégrer les mêmes constats et corrections dans l'éditeur.

Étape 4 : surveiller les agents installés

Un agent de codage IA peut ajouter une dépendance de lui-même, sans vérifier la légitimité d'un nouveau paquet portant un nom familier. Les attaquants le savent et guettent les registres open source.

Défense contre les logiciels malveillants signale les paquets malveillants avant même qu'une signature existe, quel que soit leur installateur, développeur ou agent. Sur la machine du développeur, Shield Applique une politique avant toute exécution : un âge minimum pour les nouveaux paquets, une couverture pour les extensions et les plugins IDE, le blocage des indicateurs malveillants et des zones géographiques à risque, et l’isolation des points de terminaison lorsqu’une machine doit être confinée.

Envie d'aller plus loin?

Une faille dans le gestionnaire et le point de terminaison exposé qui y accède constituent un seul et même problème, dont le responsable est unique. De plus, si vous utilisez déjà un autre outil DAST, Xygeni importe ses résultats dans la même vue des risques, sans vous demander de le remplacer.

Vous voulez voir les deux couches fonctionner ensemble ? Regardez notre session Du code à l'exécution : pourquoi SAST DAST et la sécurité des applications sont tous deux essentiels pour la sécurité des applications modernes., où nous expliquons comment les résultats de recherche dans le code et les tests d'exécution se confirment mutuellement.

Un seul flux de travail, pas une autre console

La sécurité des agents d'IA est compromise lorsqu'ils deviennent un outil distinct avec leur propre file d'attente. Chez Xygeni, les résultats de l'IA suivent le même processus. Triage de l'IA, les tickets et les rapports, ainsi que le reste de vos constatations. La remédiation par IA fournit des conseils de correction contextuels pour les dix catégories OWASP LLM, et ASPM place le risque lié à l'IA au même niveau que le code, la dépendance et pipeline risque selon un point de vue.

Sécurité et conformité des agents d'IA

Les organismes de réglementation, les auditeurs et les clients demandent de plus en plus un inventaire des IA que vous utilisez et une description de la classification de leurs risques. Loi de l'UE sur l'IA et ISO / IEC 42001 Les deux poussent dans cette direction, et une nomenclature IA devient une standard élément des questionnaires d'approvisionnement.

Un inventaire des IA, comportant un champ de catégorie de risque pour chaque actif, fournit à votre équipe de gouvernance les éléments probants nécessaires à son travail. Il facilite la mise en conformité avec la loi européenne sur l'IA ; il ne s'agit pas d'une évaluation de conformité et il ne remplace pas votre analyse juridique.

ou pour les équipes de taille moyenne, c'est simple :

  1. Sur tout pull request: Sécurité des API dans l'intégration continue sur le code modifié, plus analyses DAST incrémentales.
  2. Avant commit: en tant que pre-commit porte sur les fichiers préparés.
  3. Chaque nuit ou lors de la fusion : une analyse DAST complète.
  4. Avant chaque sortie majeure : Tests d'intrusion par IA sur l'environnement de préproduction pour valider le backlog et confirmer que chaque correctif a bien comblé la faille.

Le scanner de sécurité API fonctionne partout, y compris dans les environnements isolés du réseau, et envoie des rapports à Xygeni SaaS ou à votre système. on-premiseplateforme. Les résultats sont exportés au format JSON. SARIF 2.1.0, CSV et Markdown pour pull request commentaires.

Tests de sécurité et conformité des API

Pour les équipes des secteurs bancaire, de l'assurance ou public, les tests de sécurité des API constituent également une preuve. Chaque résultat est accompagné d'étiquettes de conformité. Article 32 du RGPD, PCI DSS 4.0 (exigences 3.4, 6.4.3, 7.1, 7.2 et 8) et NISTSP 800-53 (AC-3, AC-6, IA-2, IA-5), visibles sur la plateforme et dans les sorties JSON et SARIF.

Si votre organisation relève de DORA or NIS2Les tests en temps réel vous fournissent des preuves continues entre les tests d'intrusion manuels que vos organismes de réglementation exigent encore. 

Comment mettre en œuvre la sécurité des agents IA en 7 étapes

Voici une liste de contrôle pratique, dans l'ordre permettant de mettre en œuvre le plus rapidement possible la sécurité des agents d'IA au sein d'une véritable équipe de développement.

  1. Découvrir

    Faites l'inventaire de toutes les ressources d'IA présentes dans vos référentiels.

    Analysez tous les référentiels à la recherche d'agents, de serveurs MCP, de compétences, de modèles, d'invites et d'outils de programmation IA, puis exportez le résultat sous forme de nomenclature IA (AI-BOM). Cette nomenclature servira de base à toutes les étapes suivantes.

  2. Classer

    Attribuez à chaque agent un responsable et un niveau de risque.

    Pour chaque agent, indiquez son propriétaire, les données et outils auxquels il a accès, ainsi que sa catégorie de risque au regard de la loi européenne sur l'IA. Un agent sans propriétaire est un agent que personne ne réparera.

  3. Détecter

    Code de l'agent de scan dans CI sur chaque pull request

    Exécutez la détection des risques par IA en parallèle de vos autres analyses. Commencez en mode non bloquant pour établir une base de référence, puis activez les fusions bloquantes sur les résultats critiques une fois que les équipes ont effectué le nettoyage.

  4. Évaluation

    Vérifiez les compétences avant toute installation.

    Les fichiers de compétences et d'instructions des agents scannent, tels que SKILL.md et AGENTS.mdActivez l'analyse des intentions par l'IA et considérez un verdict « ne pas installer » comme un arrêt définitif.

  5. Limiter

    autorisations de l'agent de rétrécissement

    Remplacez les identifiants statiques à longue durée de vie par des identifiants à portée limitée, cessez de partager les identifiants entre les agents et n'exécutez jamais les serveurs MCP ou d'outils avec des privilèges élevés dont ils n'ont pas besoin.

  6. Corriger dans la boucle

    Intégrez la sécurité dans la boucle de l'agent de codage

    Connectez vos agents de codage IA à un serveur MCP de sécurité afin qu'ils analysent et corrigent leur propre code avant qu'il ne soit déployé. commitTed, avec les mêmes politiques que les vôtres pipeline.

  7. Protéger

    Protégez ce qui atterrit sur les machines des développeurs

    Imposer une durée de vie minimale pour les nouveaux paquets, détecter les paquets malveillants avant même l'existence d'une signature et couvrir les extensions et les plugins des IDE, quel que soit l'utilisateur qui les installe, développeur ou agent.

Puis: Intégrez chaque découverte dans le même flux de travail de triage, de billetterie et de reporting que le reste de votre sécurité applicative, afin que les risques liés à l'IA ne se retrouvent pas dans une file d'attente à part.

Vous ne pouvez pas engager un agent que vous n'avez jamais rencontré.

La sécurité des agents d'IA ne se résume pas à un simple outil d'analyse. Il s'agit de savoir quels agents sont utilisés, d'identifier les risques liés à leur conception, d'intégrer la sécurité dès la phase de développement et de contrôler les agents installés. Commencez par un inventaire complet : tout le reste en dépend.

Vous voulez voir chaque agent, serveur MCP et compétence dans votre code ? Réservez une séance avec un ingénieur pour constituer l'inventaire IA de vos référentiels et examiner ses résultats. Ou commencer gratuitement avec l'IA SAST, SCADétection des secrets, des plugins IDE et des logiciels malveillants dans les logiciels libres. Sans carte de crédit.

FAQ sur la sécurité des agents IA

En quoi la sécurité des agents IA diffère-t-elle de la sécurité LLM ?

La sécurité des modèles de langage (LLM) concerne les données fournies par le modèle : fuites de données, réponses manipulées, résultats non sécurisés. La sécurité des agents d'IA, quant à elle, concerne leur utilisation des outils, de la mémoire, des identifiants et des autres agents. C'est pourquoi l'OWASP publie un classement distinct des 10 meilleures applications d'IA (ASI01 à ASI10), en plus du classement des 10 meilleures applications LLM.

Comment trouver les agents d'IA et les serveurs MCP dans mon organisation ?

Commencez par le code. Xygeni AI Security détecte les agents, les serveurs MCP, les compétences, les modèles, les invites et les outils de programmation IA dans vos référentiels, cartographie leurs connexions et exporte le résultat sous forme de nomenclature d'IA (AI-BOM) au format CycloneDX. Il s'exécute dans votre environnement d'intégration continue (CI) en parallèle de vos autres analyses.

Une compétence malveillante ou un serveur MCP peuvent-ils compromettre mes développeurs ?

Oui : les instructions d’une skill sont en texte clair, et un agent les exécutera avec l’autorisation du développeur. Xygeni détecte les directives malveillantes cachées et les noms de skills usurpant l’identité de la skill, peut évaluer l’intention d’une skill grâce à une analyse IA optionnelle, et attribue à chaque skill une note : sûre, à surveiller ou à ne pas installer. Protection contre les logiciels malveillants et Shield couvrir les forfaits et les extensions apportés par les agents.

sca-tools-logiciel-outils-d'analyse-de-composition
Priorisez, corrigez et sécurisez vos risques logiciels
Obtenez votre compte gratuit.
Aucune carte de crédit requise.

Sécurisez le développement et la livraison de vos logiciels.

avec la suite de produits Xygeni