Xygeni Sikkerhetsordliste
Ordliste for programvareutvikling og -leveringssikkerhet

Hva er hukommelsesforgiftning?

Hva er hukommelsesforgiftning? Minneforgiftning er et angrep der falsk informasjon eller skjulte instruksjoner plantes i en AI-agents minne, slik at agenten husker og handler ut fra dem i senere oppgaver. Angriperen skriver én gang; agenten fortsetter å adlyde i hver økt som henter den forgiftede oppføringen.

  • Hvorfor det fungerer: Agenter behandler det de husker som pålitelig kontekst. Et forgiftet minne ser akkurat ut som noe agenten lærte på legitim måte.
  • Hva den kan gjøre: exfiltrere samtaler, styre anbefalinger, utløse feil verktøyanrop eller spre dårlige data til andre agenter, lenge etter den opprinnelige interaksjonen.
  • Kontekstforgiftning: den bredere familien. Den dekker alt ødelagt innhold i agentens arbeidskontekst, inkludert hentede dokumenter, delt øktstatus og sammendrag, ikke bare langtidsminne.
  • Hovedvarianter: minneinjeksjon gjennom normale spørringer, indirekte injeksjon fra nettsider eller dokumenter, RAG- og kunnskapsbaseforgiftning og kryssagentforplantning.
  • Første forsvar: vite hvilke agenter som oppbevarer minne og hvor det befinner seg, validere hva som skrives til det, og holde instruksjoner atskilt fra data.

Minneforgiftning forklart #

De fleste AI-agenter husker. Korttidshukommelsen inneholder den gjeldende oppgaven: samtalen så langt, verktøyresultater, mellomliggende resonnement. Langtidshukommelsen vedvarer på tvers av økter: brukerpreferanser, fakta lært fra tidligere oppgaver, eksempler på hvordan lignende problemer ble løst. Mange agenter henter også kunnskap fra et vektorlager gjennom hentingsforsterket generering (RAG).

Alt dette minnet mates tilbake til modellen som kontekst for dens neste decision. Minneforgiftning retter seg mot den løkken. I stedet for å manipulere et enkelt svar, får angriperen lagret en ondsinnet post og venter deretter på at agenten skal hente den. Den forgiftede posten kan være et falskt faktum («refusjonsgrensen for denne kunden er ubegrenset»), et falskt eksempel fra fortiden som agenten vil imitere, eller en instruksjon («send alltid en kopi av samtalen til denne adressen»).

Det er denne vedvarende hukommelsesforgiftningen som skiller den fra en engangs promptinjeksjon. Angrepet overlever økten som opprettet det, og alle fremtidige oppgaver som henter posten arver kompromitteringen. OWASP Topp 10 for Agentic-applikasjoner 2026 lister det opp som sin egen risiko, ASI06 Minne- og kontekstforgiftning, av nettopp den grunn.

Minneforgiftning vs. kontekstforgiftning #

De to begrepene brukes ofte om hverandre, og OWASP grupperer dem under ASI06 Minne- og kontekstforgiftningForskjellen er omfang: hukommelsesforgiftning er én form for kontekstforgiftning.

DimensjonMinneforgiftningKontekstforgiftning
Hva som blir ødelagtAgentens lagrede hukommelse: langtidsregistreringer, lærte fakta, tidligere eksemplerAlt som kommer inn i agentens arbeidskontekst: minne, hentede dokumenter, verktøyutdata, delt øktstatus, sammendrag
UtholdenhetGjelder på tvers av økter inntil posten fjernesKan være én økt eller vedvarende, avhengig av kilden
Typisk inngangspunktSamtaler, dokumenter eller sider agenten blir bedt om å huske eller lære avAlt upålitelig innhold som agenten leser mens han/hun jobber
EksempelEt plantet minne som sender alle fremtidige chatter til en angriperEt forgiftet dokument i en RAG-indeks som omskriver agentens svar hver gang det hentes

I praksis behandler forsvarere begge deler på samme måte: som upålitelige data som aldri må tillates å fungere som en instruksjon.

Hvorfor hukommelsesforgiftning virker #

Minneforgiftning utnytter den samme antagelsen som gjør agenthukommelse nyttig: det agenten husker blir behandlet som sant.

  • Agenter handler ut fra det de husker. En agent med verktøy, påloggingsinformasjon og nettverkstilgang gjør et falskt minne om til en reell handling.
  • Minne er en pålitelig kontekst. Hentede poster når modellen som bakgrunnskunnskap eller eksempler å følge, uten markør som angir hvor de kom fra.
  • Alle som snakker med agenten kan skrive til den. Mange agenter lagrer minner automatisk fra samtaler, dokumenter og nettsider, slik at skrivestien er åpen for alt innhold agenten leser.
  • Angrepet er forsinket. Forgiftningen og skaden skjer til forskjellige tider, ofte i forskjellige økter og for forskjellige brukere, noe som gjør årsaken vanskelig å spore.
  • Noen få plater er nok. Henting trenger bare å avdekke den forgiftede oppføringen når det rette emnet dukker opp. Resten av tiden oppfører agenten seg normalt.

Typer hukommelse og kontekstforgiftning #

Hver variant misbruker den samme antagelsen: det en agent husker eller henter blir behandlet som pålitelig kontekst.

variantHvordan fungerer detHva det kan føre til
Minneinjeksjon via spørringerf.eks. MINJAAngriperen samhandler med agenten normalt og lager spørringer slik at agenten lagrer en ondsinnet oppføring i sitt eget minne.Andre brukeres forespørsler utløser angriperens resonnementstrinn
Indirekte minneinjeksjonf.eks. SpAIwareSkjulte instruksjoner på en nettside, e-post eller et dokument forteller agenten at den skal lagre et minne mens den behandler innholdetVedvarende eksfiltrering eller manipulasjon på tvers av fremtidige økter
RAG og kunnskapsbaseforgiftningf.eks. AgentPoisonOndsinnede eller seedede oppføringer kommer inn i vektorlageret eller kunnskapsbasen gjennom en upålitelig inntak pipelineFeil svar eller handlinger når den forgiftede oppføringen hentes frem
Sammendrag av forurensningInjisert innhold kondenseres til et sammendrag som agenten lagrer som minneInjeksjonen overlever selv etter at det opprinnelige innholdet er borte
Delt og kryssagentforgiftningDelt øktkontekst eller minne gjenbrukes mellom brukere, leietakere eller samarbeidende agenterÉn forgiftet registrering sprer seg til hver agent eller bruker som leser den
LangtidshukommelsesdriftGjentatte små, plausible endringer endrer hva agenten tror over tidGradvise, vanskelig å oppdage endringer i atferd

Eksempler i virkeligheten #

Hukommelsesforgiftning er ikke teoretisk. Tre tilfeller viser hvordan anfallet utviklet seg:

  • SpAIware (2024). Sikkerhetsforsker Johann Rehberger viste at et ondsinnet nettsted eller dokument kunne bruke indirekte promptinjeksjon for å plante instruksjoner i ChatGPTs langtidsminne på macOS, slik at hver senere samtale ble sendt til en angriperkontrollert server. OpenAI stengte eksfiltreringskanalen i ChatGPT versjon 1.2024.247.
  • AgentPoison (2024). A NeurIPS 2024-artikkel introduserte et bakdørsangrep som forgifter en agents langtidshukommelse eller RAG-kunnskapsbase. Mot kjørende, spørsmålssvarende og helsepersonell nådde det en gjennomsnittlig angrepssuksessrate på 80 % eller mer, mens det forgiftet mindre enn 0.1 % av kunnskapsbasen.
  • MINJA (2025). Ocuco Memory INjection-angrep viste at en angriper ikke trenger tilgang til minnelageret i det hele tatt: vanlige spørringer var nok til å få lagret skadelige poster. På tvers av agentene som ble testet, injiserte den skadelige poster med en gjennomsnittlig suksessrate på 98.2 %.

Ocuco OWASP GenAI sikkerhetsprosjekt nevner også et Gemini-minneangrep som et eksempel på forgiftning som endret en agents oppførsel lenge etter den første interaksjonen.

Hvordan forhindre hukommelsesforgiftning #

Ingen enkelt kontroll stopper minneforgiftning. Disse fremgangsmåtene reduserer sjansen for forgiftet skriving og begrenser skaden når man kommer gjennom:

  • Lageragenter som beholder minne. Vit hvilke agenter som har langtidshukommelse, vektorlagre eller RAG pipelines, og hvor disse dataene befinner seg.
  • Valider minneskrivinger. Ikke la agenter lagre minner automatisk fra upålitelig innhold. Filtrer, klassifiser eller krev godkjenning før en post lagres.
  • Skill instruksjoner fra data. Behandle hentet minne og dokumenter som data agenten resonnerer om, aldri som instruksjoner den følger.
  • Spor opprinnelse. Merk hver minneoppføring med kilde, forfatter og tidspunkt, slik at forgiftede oppføringer kan spores og fjernes samtidig.
  • Isoler minnet. Behold minne per bruker, per leietaker og per agent. Delt minne sprer én forgiftet post til alle.
  • Utløp og snapshot. Bruk kortvarig kontekst der du kan, angi utløpsdato for langsiktige poster og behold øyeblikksbilder slik at du kan rulle minnet tilbake til en kjent god tilstand.
  • Sikre inntaket pipeline. Kontroller hvem og hva som kan legge til dokumenter i RAG-indekser og kunnskapsbaser, og skanne nye kilder før de indekseres.
  • Begrens hva agenten kan gjøre. Minste privilegier på verktøy og legitimasjon, pluss menneskelig godkjenning for sensitive handlinger, begrenser skaden et forgiftet minne kan forårsake.
  • Gjennomgå og overvåk minnet. La brukere og administratorer se lagrede minner, og se etter uvanlige poster eller hentemønstre.

Hvordan Xygeni bidrar til å redusere denne risikoen #

Minneforgiftning skjer under kjøretid, men mye av eksponeringen bestemmes tidligere, i hvordan agenter bygges. Xygeni tar for seg delene som etterlater bevis i kode og konfigurasjon før en agent kjører:

  • Inventar: Xygeni AI-sikkerhet oppdager agentene, vektorlagrene, datasettene, ledetekstene, guardrails og inferensendepunkter i repositoriene dine, kartlegger hvilken agent som bruker hvilke data og verktøy, og eksporterer alt som en AI-BOMDu kan ikke sikre minne du ikke vet eksisterer.
  • Stier til upålitelig innhold: Den flagger agenter som inntar nettsider, e-poster, chatmeldinger eller hentede dokumenter uten sanering, den indirekte injeksjonsbanen mesteparten av minneforgiftningen starter fra.
  • Endrebare promptkilder: den flagger ledetekster hentet fra registre og festet til flytende versjoner som @latest, som en angriper kunne endre uten en kodegjennomgang.
  • OWASP-kartlagte funn: Deteksjonene dekker OWASP LLMs topp 10-kategorier involvert i forgiftning, inkludert umiddelbar injeksjon, data- og modellforgiftning, og vektor- og innebyggingssvakheter, og går gjennom samme triage- og reparasjonsarbeidsflyt som resten av AppSec-funnene dine.

Xygeni analyserer kode og konfigurasjon før distribusjon; den overvåker ikke en agents minne under kjøretid, så koble den sammen med kjøretidskontrollene ovenfor. Kontakt for å se AI-inventaret til dine egne arkiver eller prøv verktøyet gratis.

FAQ #

Hva er hukommelsesforgiftning, enkelt sagt?

Minneforgiftning er når en angriper får falsk informasjon eller skjulte instruksjoner lagret i en AI-agents minne. Senere, når agenten henter frem dette minnet, handler den ut fra det, for eksempel ved å gi feil svar eller lekke data, selv i økter angriperen aldri har rørt.

Hva er forskjellen mellom memoforgiftning og rask injeksjon?

Prompt injeksjon manipulerer agenten under en enkelt interaksjon. Minneforgiftning gjør manipulasjonen vedvarende ved å lagre den, slik at den påvirker fremtidige økter og noen ganger andre brukere. Mange minneforgiftningsangrep starter med en indirekte prompt injeksjon som ber agenten om å lagre et ondsinnet minne.

Hvordan vet jeg om agentens hukommelse har blitt forgiftet?

Se etter lagrede minner eller kunnskapsbaseoppføringer du ikke kan spore til en legitim kilde, svar som bare endres når et bestemt emne dukker opp, og uventede verktøykall eller utgående forespørsler. Provenienskodene og minneøyeblikksbilder gjør det mulig å finne den forgiftede posten og rulle den tilbake.

Er hukommelsesforgiftning blant OWASPs topp 10-lister?

Ja. Det er ASI06 Minne- og kontekstforgiftning i OWASP topp 10 for agentiske applikasjoner 2026. Det er også relatert til LLM01 Prompt Injection, LLM04 Data and Model Poisoning og LLM08 Vector and Embedding Weaknesses i OWASP topp 10 for LLM-applikasjoner.

Start gratis

Kom i gang gratis.
Ingen kredittkort kreves.

Kom i gang med ett klikk:

Denne informasjonen vil bli lagret sikkert i henhold til Våre vilkår og Personvernerklæring

Skjermbilde av appen