Qu'est-ce que l'empoisonnement de la mémoire ? L'empoisonnement de la mémoire est une attaque consistant à implanter de fausses informations ou des instructions cachées dans la mémoire d'un agent d'IA, afin que celui-ci les exécute lors de tâches ultérieures. L'attaquant écrit une seule fois ; l'agent continue d'exécuter ces instructions à chaque session où il récupère l'entrée corrompue.
- Pourquoi ça marche: Les agents considèrent leurs souvenirs comme un contexte fiable. Un souvenir altéré ressemble trait pour trait à un apprentissage légitime.
- Ce qu'il peut faire : exfiltrer des conversations, orienter des recommandations, déclencher des appels d'outils inappropriés ou diffuser des données erronées à d'autres agents, longtemps après l'interaction initiale.
- Empoisonnement du contexte : la famille au sens large. Cela couvre tout contenu corrompu dans le contexte de travail de l'agent, y compris les documents récupérés, l'état de session partagé et les résumés, et pas seulement la mémoire à long terme.
- Principales variantes : Injection de mémoire via des requêtes normales, injection indirecte à partir de pages Web ou de documents, empoisonnement RAG et de bases de connaissances, et propagation inter-agents.
- Première défense : Savoir quels agents gèrent la mémoire et où elle se trouve, valider ce qui y est écrit et séparer les instructions des données.
Explication de l'empoisonnement de la mémoire #
La plupart des agents d'IA ont une mémoire. La mémoire à court terme conserve les informations relatives à la tâche en cours : la conversation jusqu'à présent, les résultats des outils et le raisonnement intermédiaire. La mémoire à long terme persiste d'une session à l'autre : les préférences de l'utilisateur, les connaissances acquises lors des tâches précédentes et des exemples de résolution de problèmes similaires. De nombreux agents récupèrent également des connaissances à partir d'un référentiel vectoriel grâce à la génération augmentée par récupération (RAG).
Toutes ces données en mémoire alimentent le modèle en tant que contexte pour sa prochaine étape.cisL'empoisonnement de la mémoire cible les boucles. Au lieu de manipuler une seule réponse, l'attaquant fait stocker un enregistrement malveillant, puis attend que l'agent le récupère. L'entrée empoisonnée peut être une information erronée (« la limite de remboursement pour ce client est illimitée »), un faux exemple passé que l'agent imitera, ou une instruction (« toujours envoyer une copie de la conversation à cette adresse »).
Cette persistance est ce qui distingue l'empoisonnement de la mémoire d'une injection de requête ponctuelle. L'attaque survit à la session qui l'a créée, et chaque tâche ultérieure qui récupère l'enregistrement hérite de la compromission. Les 10 meilleures applications agentiques selon l'OWASP en 2026 Elle est répertoriée comme un risque à part entière, ASI06 Empoisonnement de la mémoire et du contexte, précisément pour cette raison.
En pratique, les systèmes de défense traitent les deux de la même manière : comme des données non fiables qui ne doivent jamais être utilisées comme instruction.
Pourquoi l'empoisonnement de la mémoire fonctionne #
L'empoisonnement de la mémoire exploite la même hypothèse qui rend la mémoire de l'agent utile : ce dont l'agent se souvient est considéré comme vrai.
- Les agents agissent en fonction de ce dont ils se souviennent. Un agent doté d'outils, d'identifiants et d'un accès réseau transforme un faux souvenir en une action réelle.
- La mémoire est un contexte fiable. Les enregistrements récupérés parviennent au modèle sous forme de connaissances de base ou d'exemples à suivre, sans aucune indication de leur provenance.
- Toute personne qui s'adresse à l'agent peut lui écrire. De nombreux agents stockent automatiquement des données issues de conversations, de documents et de pages web, de sorte que le chemin d'écriture est ouvert à tout contenu que l'agent lit.
- L'attaque est retardée. L’intoxication et les dommages surviennent à des moments différents, souvent lors de séances différentes et pour des utilisateurs différents, ce qui rend la cause difficile à identifier.
- Quelques disques suffisent. La récupération ne fait remonter l'entrée corrompue que lorsque le sujet approprié est abordé. Le reste du temps, l'agent fonctionne normalement.
Exemples concrets #
L’empoisonnement de la mémoire n’est pas théorique. Trois cas illustrent son évolution :
- SpAIware (2024). Le chercheur en sécurité Johann Rehberger a démontré qu'un site web ou un document malveillant pouvait utiliser l'injection indirecte de requêtes pour implanter des instructions dans la mémoire à long terme de ChatGPT sous macOS, de sorte que chaque conversation ultérieure était envoyée à un serveur contrôlé par un attaquant. OpenAI a fermé cette faille d'exfiltration en ChatGPT version 1.2024.247.
- AgentPoison (2024). A Article NeurIPS 2024 Une attaque par porte dérobée a été introduite, corrompant la mémoire à long terme (ou base de connaissances RAG) d'un agent. Contre les agents de conduite, de réponse aux questions et de santé, elle a atteint un taux de réussite moyen de 80 % ou plus, tout en corrompant moins de 0.1 % de la base de connaissances.
- MINJA (2025). Le Attaque par injection de mémoire Les résultats ont montré qu'un attaquant n'a absolument pas besoin d'accéder à la mémoire : de simples requêtes suffisent pour y insérer des enregistrements malveillants. Sur l'ensemble des agents testés, l'injection d'enregistrements malveillants a atteint un taux de réussite moyen de 98.2 %.
Le Projet de sécurité OWASP GenAI Il cite également une attaque de mémoire Gemini comme exemple d'empoisonnement ayant modifié le comportement d'un agent longtemps après la première interaction.
Comment prévenir l'empoisonnement de la mémoire #
Aucun contrôle ne permet à lui seul d'empêcher l'empoisonnement de la mémoire. Ces pratiques réduisent le risque d'une écriture corrompue et limitent les dégâts lorsqu'elle se produit :
- Agents d'inventaire qui conservent la mémoire. Identifiez les agents disposant d'une mémoire à long terme, d'un stockage vectoriel ou d'un RAG. pipelineet où ces données sont stockées.
- Valider les écritures en mémoire. Empêchez les agents d'enregistrer automatiquement des souvenirs provenant de contenus non fiables. Filtrez, classez ou exigez une approbation avant l'enregistrement.
- Séparer les instructions des données. Considérez les données et documents récupérés comme des données sur lesquelles l'agent raisonne, et jamais comme des instructions qu'il suit.
- Suivre la provenance. Étiquetez chaque enregistrement de mémoire avec sa source, son auteur et son heure, afin que les entrées corrompues puissent être repérées et supprimées en masse.
- Isoler la mémoire. Conservez de la mémoire par utilisateur, par locataire et par agent. La mémoire partagée propage un enregistrement corrompu à tous.
- Expiration et instantané. Utilisez le contexte éphémère lorsque c'est possible, définissez une durée de vie pour les enregistrements à long terme et conservez des instantanés afin de pouvoir restaurer la mémoire à un état stable connu.
- Sécuriser l'ingestion pipeline. Contrôlez qui et quoi peut ajouter des documents aux index et aux bases de connaissances RAG, et analysez les nouvelles sources avant leur indexation.
- Limitez les actions possibles de l'agent. Le principe du moindre privilège sur les outils et les identifiants, associé à une approbation humaine pour les actions sensibles, limite les dégâts qu'un souvenir empoisonné peut causer.
- Examiner et surveiller la mémoire. Permettez aux utilisateurs et aux administrateurs de consulter les souvenirs stockés et de surveiller les enregistrements ou les schémas de récupération inhabituels.
Comment Xygeni contribue à réduire ce risque #
L'empoisonnement de la mémoire se produit lors de l'exécution, mais une grande partie de l'exposition est déterminée en amont, lors de la conception des agents. Xygeni s'attaque aux éléments qui laissent des traces dans le code et la configuration avant même l'exécution d'un agent :
- Inventaire: Xygéni Sécurité de l'IA découvre les agents, les magasins de vecteurs, les ensembles de données, les invites, guardrails et les points de terminaison d'inférence dans vos référentiels, cartographie quel agent utilise quelles données et quels outils, et exporte tout sous forme de Nomenclature AI-BOMOn ne peut pas sécuriser une mémoire dont on ignore l'existence.
- Chemins de contenu non fiables : Il signale les agents qui ingèrent des pages web, des courriels, des messages de chat ou des documents récupérés sans nettoyage, soit la voie d'injection indirecte par laquelle la plupart des empoisonnements de mémoire commencent.
- Sources d'invites modifiables : il signale les invites extraites des registres et épinglées à des versions flottantes telles que
@latest, qu'un attaquant pourrait modifier sans examen du code. - Résultats cartographiés par OWASP : Les détections couvrent les 10 principales catégories OWASP LLM impliquées dans l'empoisonnement, notamment l'injection rapide, l'empoisonnement des données et des modèles, ainsi que les faiblesses liées aux vecteurs et à l'intégration, et suivent le même processus de triage et de correction que le reste de vos résultats de sécurité applicative.
Xygeni analyse le code et la configuration avant le déploiement ; il ne surveille pas la mémoire d'un agent lors de l'exécution, il faut donc l'associer aux contrôles d'exécution mentionnés ci-dessus. Démo pour consulter l'inventaire d'IA de vos propres référentiels ou essayez l'outil gratuitement.
QFP #
L'empoisonnement de la mémoire consiste pour un attaquant à introduire de fausses informations ou des instructions cachées dans la mémoire d'un agent d'IA. Plus tard, lorsque l'agent se souvient de ces informations, il agit en conséquence, par exemple en fournissant des réponses erronées ou en divulguant des données, même dans des sessions auxquelles l'attaquant n'a jamais eu accès.
L'injection d'invite manipule l'agent lors d'une interaction unique. L'empoisonnement de la mémoire rend cette manipulation persistante en la stockant, affectant ainsi les sessions ultérieures et parfois d'autres utilisateurs. De nombreuses attaques par empoisonnement de la mémoire débutent par une injection d'invite indirecte qui ordonne à l'agent d'enregistrer une mémoire malveillante.
Recherchez les enregistrements ou entrées de base de connaissances dont la source est inconnue, les réponses qui ne changent que lorsqu'un sujet précis est abordé, ainsi que les appels d'outils ou requêtes sortantes inattendus. Les balises de provenance et les instantanés de mémoire permettent de retrouver l'enregistrement corrompu et de le restaurer.
Oui. Il s'agit de l'empoisonnement de la mémoire et du contexte (ASI06) dans le Top 10 OWASP des applications agentiques 2026. Cela concerne également l'injection d'invites (LLM01), l'empoisonnement des données et des modèles (LLM04) et les faiblesses vectorielles et d'intégration (LLM08) dans le Top 10 OWASP des applications LLM.
