Xygeni Sécherheetsglossar
Glossaire vun der Softwareentwécklung a -liwwerung fir Sécherheet

Wat ass Gedächtnisvergëftung?

Wat ass eng Erënnerungsvergëftung? Eng Erënnerungsvergëftung ass eng Attack, bei där falsch Informatiounen oder verstoppte Instruktiounen am Gedächtnis vun engem KI-Agent ageplanzt ginn, sou datt den Agent se a spéideren Aufgaben erënnert a se dann reagéiert. Den Ugräifer schreift eemol; den Agent gehorcht weider an all Sessioun, déi den vergëften Eintrag ofrufft.

  • Firwat et funktionnéiert: Agenten behandelen dat, wat se sech erënneren, als vertrauenswürdege Kontext. Eng vergëft Erënnerung gesäit genee aus wéi eppes, wat den Agent legitim geléiert huet.
  • Wat et maache kann: Gespréicher extrafiltréieren, Empfehlungen steieren, déi falsch Tool-Uriff ausléisen oder schlecht Donnéeën un aner Agenten verbreeden, laang no der ursprénglecher Interaktioun.
  • Kontextvergëftung: déi méi breet Famill. Et deckt all korruptéiert Inhalt am Aarbechtskontext vum Agent of, dorënner ofgeruff Dokumenter, gemeinsam Sessiounszoustand a Resuméen, net nëmmen d'Laangzäitgedächtnis.
  • Haaptvarianten: Speicherinjektioun duerch normal Ufroen, indirekt Injektioun vu Websäiten oder Dokumenter, RAG- a Wëssensbasisvergëftung, a Cross-Agent-Propagatioun.
  • Éischt Verteidegung: wëssen, wéi eng Agenten de Späicher späicheren a wou e sech befënnt, validéieren, wat drop geschriwwe gëtt, an Instruktiounen getrennt vun den Daten halen.

Erënnerungsvergëftung erkläert #

Déi meescht KI-Agenten erënneren sech drun. De Kuerzzäitgedächtnis enthält déi aktuell Aufgab: d'Gespréich bis elo, d'Resultater vun den Tools, d'Intermediärdenken. De Laangzäitgedächtnis bleift iwwer d'Sessiounen: Benotzerpräferenzen, Fakten aus fréiere Aufgaben, Beispiller dofir, wéi ähnlech Problemer geléist goufen. Vill Agenten kréien och Wëssen aus engem Vektorspeicher iwwer Retrieval-Augmented Generation (RAG) erëm.

All dës Erënnerung gëtt als Kontext fir säin nächste Modell zréck an de Modell gefiddert.cision. D'Gedächtnisvergëftung zielt op dës Schleif. Amplaz eng eenzeg Äntwert ze manipuléieren, späichert den Ugräifer eng béiswëlleg Opzeechnung a waart dann bis den Agent se ofruft. Den vergëften Eintrag kann e falschen Fakt sinn ("d'Remboursementslimit fir dëse Client ass onlimitéiert"), e gefälschte Beispill aus der Vergaangenheet, dat den Agent imitéiert, oder eng Instruktioun ("schéckt ëmmer eng Kopie vun der Konversatioun un dës Adress").

Dës Persistenz ass dat, wat d'Gedächtnisvergëftung vun enger eenzeger prompter Injektioun ënnerscheet. Den Attack iwwerlieft d'Sessioun, déi en erstallt huet, an all zukünfteg Aufgab, déi den Datensatz ofrufft, ierft de Kompromëss. OWASP Top 10 fir Agenturapplikatiounen 2026 lëscht et als säin eegent Risiko op, ASI06 Memory and Context Poisoning, aus genau deem Grond.

Gedächtnisvergëftung vs. Kontextvergëftung #

Déi zwee Begrëffer ginn dacks austauschbar benotzt, an OWASP gruppéiert se ënner: ASI06 Gedächtnis- a KontextvergëftungDen Ënnerscheed ass den Ëmfang: Erënnerungsvergëftung ass eng Form vu Kontextvergëftung.

DimensiounGedächtnisvergëftungKontextvergëftung
Wat korruptéiert gëttDat gespäichert Gedächtnis vum Agent: laangfristeg Opzeechnungen, geléiert Fakten, Beispiller aus der VergaangenheetAlles wat an den Aarbechtskontext vum Agent erakënnt: Erënnerung, ofgeruff Dokumenter, Tooloutput, gemeinsame Sessiounsstatus, Zesummefassungen
PersistenzIwwerlieft iwwer Sessiounen bis den Opzeechnung geläscht gëttKann eng eenzeg Sessioun oder persistent sinn, ofhängeg vun der Quell
Typeschen EntréepunktGespréicher, Dokumenter oder Säiten, déi den Agent gefrot gëtt, sech ze erënneren oder dovun ze léierenAll net vertrauenswürdege Inhalt, deen den Agent während senger Aarbecht liest
BeispillE gepflanzte Gedächtnis, dat all zukünfteg Chat un en Ugräifer schécktEn vergiftet Dokument an engem RAG-Index, dat d'Äntwert vum Agent nei schreift, wa se ofgeruff gëtt.

An der Praxis behandelen d'Verdeedeger béid op déiselwecht Manéier: als net vertrauenswierdeg Donnéeën, déi ni als Instruktioun däerfen däerfen déngen.

Firwat Gedächtnisvergëftung funktionéiert #

Gedächtnisvergëftung notzt déiselwecht Viraussetzung aus, déi den Agentengedächtnis nëtzlech mécht: wat den Agent sech erënnert, gëtt als wouer behandelt.

  • Agenten handelen no deem, wat se sech erënneren. En Agent mat Tools, Umeldungsinformatiounen an Netzwierkzougang verwandelt eng falsch Erënnerung an eng richteg Handlung.
  • Erënnerung ass e vertrauenswürdege Kontext. Déi ofgeruff Opzeechnunge kommen als Hannergrondwëssen oder Beispiller zum Nofolgen an de Modell, ouni datt e Marker seet, wou se hierkommen.
  • Jiddereen, deen mam Agent schwätzt, kann him schreiwen. Vill Agenten späicheren automatesch Erënnerungen aus Gespréicher, Dokumenter a Websäiten, sou datt de Schreifwee fir all Inhalt op ass, deen den Agent liest.
  • Den Ugrëff ass verspéit. D'Vergëftung an de Schued geschéien zu verschiddenen Zäiten, dacks a verschiddene Sessiounen a fir verschidde Benotzer, wat d'Ursaach schwéier ze verfollegen mécht.
  • E puer Opzeechnunge sinn duer. D'Retrieval muss den vergëften Entrée nëmmen dann op d'Uewerfläch bréngen, wann dat richtegt Thema opkënnt. De Rescht vun der Zäit verhält sech den Agent normal.

Aarte vu Gedächtnis a Kontextvergëftung #

All Variant mëssbraucht déiselwecht Viraussetzung: wat en Agent sech erënnert oder ofruft, gëtt als vertrauenswürdege Kontext behandelt.

VariantWéi se funktionéiertZu wat et féiere kann
Speicherinjektioun iwwer Ufroenz.B. MINJADen Ugräifer interagéiert normal mam Agent a erstellt Ufroen, sou datt den Agent e béiswëllege Rekord a sengem eegenen Erënnerung späichert.Ufroe vun anere Benotzer ausléisen d'Argumentatiounsschrëtt vum Ugräifer
Indirekt Erënnerungsinjektiounz.B. SpAIwareVerstoppte Instruktiounen an enger Websäit, E-Mail oder Dokument soen dem Agent, datt e soll eng Erënnerung späicheren, während en den Inhalt veraarbechtPersistent Exfiltratioun oder Manipulatioun iwwer zukünfteg Sessiounen
RAG a Wëssensbasisvergëftungz.B. AgentPoisonBéiswëlleg oder gesät Entréen kommen an de Vektorspeicher oder d'Wëssensbasis duerch eng net vertrauenswierdeg Verwertung. pipelineFalsch Äntwerten oder Aktiounen, wa ëmmer de vergëften Entrée erëmfonnt gëtt.
Resumé vun der KontaminatiounDen injizéierten Inhalt gëtt an eng Zesummefassung kondenséiert, déi den Agent als Erënnerung späichert.D'Injektioun iwwerlieft och nodeems den ursprénglechen Inhalt fort ass.
Vergëftung mat gemeinsamen a KräizagentenDe gemeinsame Sessiounskontext oder de Späicher gëtt tëscht Benotzer, Locataire oder kooperéierende Agenten nei benotztE vergëfte Rekord verbreet sech un all Agent oder Benotzer, deen en liest
LaangzäitgedächtnisverloschtWidderholl kleng, plausibel Ännerungen änneren dat, wat den Agent mat der Zäit gleeft.Graduell, schwéier z'entdecken Ännerungen am Verhalen

Real-Welt Beispiller #

Gedächtnisvergëftung ass net theoretesch. Dräi Fäll weisen, wéi den Ugrëff sech entwéckelt huet:

  • SpAIware (2024). De Sécherheetsfuerscher Johann Rehberger huet gewisen, datt eng béiswëlleg Websäit oder Dokument eng indirekt Promptinjektioun benotze kéint, fir Instruktiounen am Laangzäitspäicher vu ChatGPT op macOS ze planzen, sou datt all spéider Konversatioun un e Server geschéckt gouf, deen vun engem Ugräifer kontrolléiert gouf. OpenAI huet den Exfiltratiounskanal zougemaach. ChatGPT Versioun 1.2024.247.
  • AgentPoison (2024). A NeurIPS 2024 Pabeier huet eng Backdoor-Attack agefouert, déi d'Langzäitgedächtnis oder d'RAG-Wëssensbasis vun engem Agent vergëft. Géint Autofuerer, Froenbeäntwerter an Agenten am Gesondheetswiesen huet et eng duerchschnëttlech Attackerfollegsquote vun 80% oder méi erreecht, während manner wéi 0.1% vun der Wëssensbasis vergëft gouf.
  • MINJA (2025). d' Memory INjection Attack huet gewisen, datt en Ugräifer guer keen Zougang zum Speicher brauch: normal Ufroen ware genuch, fir béiswëlleg Opzeechnungen ze späicheren. Iwwer déi geteste Agenten huet et béiswëlleg Opzeechnungen mat enger duerchschnëttlecher Erfollegsquote vun 98.2% injizéiert.

d' OWASP GenAI Sécherheetsprojet nennt och eng Gemini-Memory-Attack als Beispill vun enger Vergëftung, déi d'Verhale vun engem Agent laang no der éischter Interaktioun geännert huet.

Wéi ee Gedächtnisvergëftung verhënnert #

Kee eenzege Kontrollpunkt stoppt d'Erënnerungsvergëftung. Dës Praktiken reduzéieren d'Chance vun enger vergëfterter Schreifweis a limitéieren de Schued, wann een et fäerdeg bréngt:

  • Inventaragenten, déi Erënnerung späicheren. Wësst, wéi eng Agenten e Laangzäitgedächtnis, Vektorspeicher oder RAG hunn pipelines, a wou dës Donnéeën sinn.
  • Validéiert d'Schreiwungen am Gedächtnis. Loosst Agenten net automatesch Erënnerungen aus net vertrauenswürdegen Inhalter späicheren. Filtert, klassifizéiert oder verlaangt eng Genehmegung ier en Dossier gespäichert gëtt.
  • Instruktioune vun Daten trennen. Behandelt ofgeruff Erënnerungen an Dokumenter als Daten, iwwer déi den Agent nodenkt, ni als Instruktiounen, deenen e follegt.
  • D'Provenienz vun der Streck. Markéiert all Erënnerungsdatei mat senger Quell, sengem Auteur an senger Zäit, sou datt vergiftet Entréen am Groussen a Ganzen noverfollegt a geläscht kënne ginn.
  • Erënnerung isoléieren. Späichert de Späicher pro Benotzer, pro Locataire a pro Agent. E gemeinsamt Späicher verbreet een eenzege vergëfte Rekord op jiddereen.
  • Verlafen an e Snapshot maachen. Benotzt wou méiglech ephemere Kontext, setzt en Oflafdatum fir laangfristeg Opzeechnungen a behält Snapshots, fir datt Dir de Späicher an en bekannt gudden Zoustand zerécksetze kënnt.
  • Séchert d'Einnahme pipeline. Kontrolléiert wien a wat Dokumenter zu RAG-Indexen a Wëssensbasen derbäisetzen kann, a scannt nei Quellen ier se indexéiert ginn.
  • Limitéiert wat den Agent maache kann. Déi mannst Privilegien op Tools an Umeldungsinformatiounen, plus mënschlech Genehmegung fir sensibel Aktiounen, limitéieren de Schued, deen eng vergëft Erënnerung verursaache kann.
  • Iwwerpréift a kontrolléiert d'Erënnerung. Loosst Benotzer an Administrateuren gespäichert Erënnerungen gesinn, a passt op ongewéinlech Opzeechnungen oder Ofrufungsmuster op.

Wéi Xygeni hëlleft dëse Risiko ze reduzéieren #

Gedächtnisvergëftung geschitt wärend der Lafzäit, awer e groussen Deel vun der Belaaschtung gëtt fréier decidéiert, wéi Agenten opgebaut ginn. Xygeni adresséiert déi Deeler, déi Beweiser am Code an der Konfiguratioun hannerloossen, ier en Agent leeft:

  • Inventaire: Xygeni AI Sécherheet entdeckt d'Agenten, Vektorspeicher, Datensätz, Ufroen, guardrails an Inferenz-Endpunkten an Äre Repositories, kartéiert wéi en Agent wéi eng Daten an Tools benotzt, an exportéiert alles als AI-BOMDir kënnt keng Erënnerung sécheren, vun där Dir net wësst, datt se existéiert.
  • Weeër fir net vertrauenswierdeg Inhalter: Et signaliséiert Agenten, déi Websäiten, E-Maile, Chat-Messagen oder ofgeruff Dokumenter ouni Sanéierung ophuelen, deen indirekten Injektiounswee, vu wou déi meescht Erënnerungsvergëftung ufänkt.
  • Verännerbar Promptquellen: et markéiert Ufroen, déi aus de Registere gezunn a mat schwiewende Versioune festgemaach ginn, wéi z.B. @latest, déi en Ugräifer ouni eng Codeiwwerpréiwung kéint änneren.
  • OWASP-gekartéiert Resultater: D'Detektiounen decken déi Top 10 Kategorien vum OWASP LLM of, déi mat Vergëftung involvéiert sinn, dorënner direkt Injektioun, Daten- a Modellvergëftung, a Vektor- a Embedding-Schwächen, a ginn duerch deeselwechten Triage- a Fix-Workflow wéi de Rescht vun Ären AppSec-Befunde.

Xygeni analyséiert Code a Konfiguratioun virum Asaz; et iwwerwaacht de Späicher vun engem Agent net zur Lafzäit, dofir sollt et mat den uewe genannten Lafzäitkontrollen kombinéiert ginn. Buch eng Demo fir den KI-Inventar vun Ären eegenen Repositories ze gesinn oder probéiert den Tool gratis aus.

FAQ #

Wat ass eng Gedächtnisvergëftung a vereinfachen Wierder?

Gedächtnisvergëftung ass wann en Ugräifer falsch Informatiounen oder verstoppte Instruktiounen am Gedächtnis vun engem KI-Agent gespäichert kritt. Spéider, wann den Agent dës Erënnerung erëmfonnt huet, reagéiert hien drop, zum Beispill andeems hien falsch Äntwerten gëtt oder Daten ausléist, och a Sessiounen, déi den Ugräifer ni beréiert huet.

Wat ass den Ënnerscheed tëscht enger Memo-Vergëftung an enger prompter Injektioun?

Eng Prompt-Injektioun manipuléiert den Agent während enger eenzeger Interaktioun. Eng Erënnerungsvergëftung mécht d'Manipulatioun persistent andeems se se späichert, sou datt se zukünfteg Sessiounen an heiansdo och aner Benotzer beaflosst. Vill Erënnerungsvergëftungsattacke fänken mat enger indirekter Prompt-Injektioun un, déi dem Agent seet, e béiswëllegt Erënnerung ze späicheren.

Wéi weess ech, ob d'Erënnerung vu mengem Agent vergëft gouf?

Sicht no gespäicherten Erënnerungen oder Wëssensbasis-Entréen, déi Dir net op eng legitim Quell zréckféiere kënnt, Äntwerten, déi sech nëmme änneren, wann en spezifescht Thema opkënnt, an onerwaarten Tool-Uruff oder erausgehend Ufroen. Provenanz-Tags a Memory-Snapshots erméiglechen et, den vergëftenen Datensatz ze fannen an en zréckzesetzen.

Ass Gedächtnisvergëftung an den OWASP Top 10?

Jo. Et ass ASI06 Memory and Context Poisoning an den OWASP Top 10 fir Agentic Applications 2026. Et bezitt sech och op LLM01 Prompt Injection, LLM04 Data and Model Poisoning an LLM08 Vector and Embedding Weaknesses an den OWASP Top 10 fir LLM Applications.

Start Free

Fänkt Iech gratis un.
Kee Kreditkaart erfuerderlech.

Fänkt mat engem Klick un:

Dës Informatioune ginn sécher gespäichert, wéi an der Beschreiwung vun der Konditioune vum Service an Gréisst vun der Datei

App Screenshot