AI-agentsikkerhet

AI-agentsikkerhet: kjenn hver agent, fang risikoen, beskytt det den installerer

AI-agentsikkerhet handler ikke lenger om hva en modell sier. Det handler om hva en agent gjør: verktøyene den kaller, dataene den leser, legitimasjonen den har og pakkene den installerer på egenhånd.

Og de fleste teamene kan ikke svare på det første spørsmålet: hvilke agenter kjører vi egentlig? De ligger i arkiver som LangChain-grafer, MCP-servere, SKILL.md filer og AI-kodeverktøy som individuelle utviklere konfigurerte på en fredag ​​ettermiddag. Ingen har gjennomgått dem, og en ondsinnet ferdighet er bare ren tekst

TL; DR

AI-agentsikkerhet i fire trinn: se det, gi poeng, sikre løkken, beskytte installasjonene

Du kan ikke sikre agenter du ikke kan se. AI-agentsikkerhet starter med en oversikt over alle agenter, MCP-servere, ferdigheter, modeller og AI-kodingsverktøy i koden din.

  • Risiko i hvordan agenter er bygget opp: ledetekster som sammenkobler brukerinndata, verktøykallende agenter uten guardrails, overprivilegerte legitimasjonsopplysninger og ferdigheter med skjulte instruksjoner. Det meste er synlig i koden, før utrulling, og er tilordnet til OWASP Topp 10 for Agentic-applikasjoner.
  • Sikkerhet i løkken: Kodeagenter trenger sikkerhet i løkken sin, så de skanner og fikser det de skriver før det er committed, ikke uker senere i en billett.
  • Beskytt installasjonene: Agenter installerer også avhengigheter. Skadevaredeteksjon som fungerer før en signatur finnes, dekker ondsinnede pakker, uansett hvem som installerer dem, en utvikler eller en agent.
  • Én arbeidsflyt: AI-funn går gjennom samme sortering, tickets og rapporter som resten av AppSec-funnene dine.

Det første steget: bygg en oversikt over AI-en i lagringsplassene dine, eksporter den som en AI-BOM, og lag deretter ny agentkode i CI.

Hvorfor sikkerhet for AI-agenter er et annet problem

En LLM-funksjon returnerer tekst, og et menneske bestemmer hva som skal gjøres med den. En agent lukker den sløyfen på egenhånd: den planlegger, kaller verktøy, leser nettsider, e-poster og dokumenter, skriver filer og kjører kommandoer. Hver funksjon du gir en agent er en funksjon en angriper kan låne.

OWASP gjorde det samme skillet. OWASP Topp 10 for Agentic-applikasjoner 2026 (ASI01 til ASI10) bygger på OWASP Topp 10 for LLM-applikasjonerLLM-listen dekker hva en modell sier; agentlisten dekker hva en agent gjør.

De fleste organisasjoner bruker nå to typer agenter:

  • Agenter du bygger inn i applikasjonene dine: støtteassistenter, interne kopiloter og arbeidsflyter bygget med rammeverk som LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel eller LlamaIndex, ofte koblet til verktøy gjennom MCP-servere.
  • AI-kodingsagenter utviklerne dine bruker: Claude Code, Cursor, GitHub Copilot, Windsurf og andre, som skriver kode, redigerer konfigurasjon og legger til avhengigheter.

AI-agentsikkerhet må dekke begge deler, fordi begge handler med dine tillatelser.

Trinn 1: Lagre en oversikt over alle agenter, MCP-servere og ferdigheter

Sikkerhet for AI-agenter starter med et spørsmålstavle, og revisorer spør nå: hvilken AI kjører vi? Xygeni AI-sikkerhet svarer på det fra kilden: kode, konfigurasjon, manifester og avhengigheter.

Den oppdager modeller, agenter og agentservere, AI-rammeverk, MCP-servere og deres verktøy, ferdigheter (SKILL.md, AGENTS.md), oppfordringer, guardrails, vektorlagre, datasett, inferensendepunkter og AI-kodingsverktøyene som er konfigurert i databasene dine. Den kartlegger også hvordan de kobles til: hvilken agent som bruker hvilken modell, kjører hvilke verktøy og påkaller hvilke MCP-servere.

Resultatet er en levende AI-inventarliste, som kan eksporteres som en AI-BOM i CycloneDX-format, med en styringsrapport per aktivum som inkluderer et felt for risikokategori i henhold til EUs AI-lov.

Vil du se hvilken AI som allerede er i koden din? Bestill en time med en ingeniør, og vi bygger AI-inventaret til et av databasene dine.

Trinn 2: Oppdag risikoene i hvordan agenter er bygget opp

De fleste agentsårbarheter er ikke eksotiske. De er en ledetekst bygget av strengsammenkobling, en verktøykallende agent uten input-beskyttelse eller en legitimasjon med langt mer omfang enn agenten trenger. Alle disse etterlater fingeravtrykk i koden, slik at du kan fange dem i CI, før utrulling.

Risikoer for AI-agenter du kan fange opp i kode

Hver risiko er knyttet til OWASP Topp 10 for LLM-applikasjoner eller dets agentpartnere, slik at funnene taler samme språk som revisorene dine.

RisikoSlik ser det ut i kodenOWASP-kartlegging
Rask injeksjonSystemspørsmål som sammenkobler brukerinnhold uten rolleseparasjon, skilletegn eller guardrailsLLM01
Indirekte injeksjonVerktøykallende agenter uten innspill guardrails, eller agenter som innhenter nettsider, e-poster eller hentede dokumenter uten å bli rensetLLM01
Usikker håndtering av utdataModellutgang når eval eller andre farlige avløp, sporet på tvers av funksjoner og filerLLM05
Overprivilegerte agentidentiteterMisbruk av ikke-menneskelig identitetStatisk langvarig legitimasjon, delt legitimasjon uten omfangsinnsnevring, MCP- eller verktøyservere som kjører med forhøyede rettigheterASI03
Ondsinnede eller typosquattede ferdigheterAgentkompetanseforsyningskjedeSkjulte ondsinnede direktiver i SKILL.md or AGENTS.md, ferdighetsnavn som etterligner kjente ferdigheter eller integrasjonerAgentferdigheter Topp 10
Hemmeligheter i ledeteksterLegitimasjon lagret i ledetekstfilerLLM07

Hvert funn har sin OWASP LLM Topp 10-kategori, pluss OWASP Agentiske applikasjoner og Agentiske ferdigheter-tagger der de gjelder, og de involverte angrepsvektorene for det røde laget.

Ferdigheter fortjener spesiell oppmerksomhet fordi en ondsinnet instruksjon i en ferdighetsfil er prosa, ikke kode, og ingen signatur kan se den. En AI-gjennomgang basert på aktivering av algoritmer (AI) bedømmer intensjonen til flaggede ferdighets- og agentinstruksjonsfiler med et versjonert, deterministisk oppsett, slik at den samme filen alltid får samme vurdering. Den kan kjøres på din egen selvhostede modell, slik at kode og ledetekster ikke trenger å forlate miljøet ditt. En poengsum på ferdighetsnivå slår deretter sammen disse signalene til ett svar: trygg, forsiktig eller ikke installer.

Gå dypere: se økten vår Eksplosjonsradius: Når agenten berører det du ikke ba om, om hva som skjer når en agents tillatelser går lenger enn oppgaven.

Trinn 3: plasser sikkerhet i kodeagentens sløyfe

AI-kodingsagenter skriver og commit kode raskere enn noen kan gjennomgå den. Et funn som dukker opp i en sak to uker senere blir sjelden rettet. Rettelsen må skje mens agenten fortsatt jobber.

Xygeni MCP-serveren kjører lokalt og fungerer med alle AI-kodingsagenter som støtter MCP, uansett hvilken modell den kjører på. Agenten kan skanne koden den nettopp skrev, liste opp nye problemer, få AI-vurderinger og be om rettelser for SAST og SCA funn. Den itererer til endringen er ren, før noe er committed, med godkjenningene teamet ditt angir.

Den bruker de samme motorene, retningslinjene og lydregler som din pipeline, slik at agenten og CI-en din aldri er uenige. For utviklerne som jobber sammen med agenten, IDE-pluginer ta med de samme funnene og rettelsene inn i editoren.

Trinn 4: Beskytt hvilke agenter som installeres

En AI-kodingsagent kan legge til en avhengighet på egenhånd, og den vil ikke stoppe for å sjekke om en helt ny pakke med et kjent navn er legitim. Angripere vet dette, og det er i registrene med åpen kildekode de venter.

Forsvar mot skadelig programvare flagger ondsinnede pakker før en signatur finnes, den som installerer dem, en utvikler eller en agent. På utviklerens maskin, Shield håndhever policy før noe kjører: en minimumsalder for nye pakker, dekning for IDE-utvidelser og plugins, blokkering av ondsinnede indikatorer og risikable geografier, og endepunktisolering når en maskin må innesluttes.

Vil du gå dypere?

En feil i behandleren og det eksponerte endepunktet som når den er ett problem, med én eier. Og hvis du allerede kjører et annet DAST-verktøy, importerer Xygeni resultatene til samme risikovisning, uten å be deg om å erstatte det.

Vil du se begge lagene fungere sammen? Se økten vår Fra kode til kjøretid: Hvorfor SAST + DAST er begge essensielle for moderne AppSec, hvor vi går gjennom hvordan kodefunn og kjøretidstester bekrefter hverandre.

Én arbeidsflyt, ikke en annen konsoll

AI-agentsikkerhet svikter når den blir et separat verktøy med sin egen kø. I Xygeni går AI-funn gjennom den samme trakten, AI-triage, billetter og rapporter som resten av funnene dine. AI Remediation gir kontekstbevisst veiledning om feilrettinger for alle ti OWASP LLM-kategorier, og ASPM setter AI-risiko ved siden av kode, avhengighet og pipeline risiko i ett perspektiv.

AI-agentsikkerhet og samsvar

Regulatorer, revisorer og kunder ber i økende grad om en oversikt over AI-en du bruker og hvordan risikoen er klassifisert. EUs AI-lov og ISO / IEC 42001 begge beveger seg i den retningen, og en AI-BOM er i ferd med å bli en standard element i anskaffelsesspørreskjemaer.

En AI-inventarliste med et risikokategorifelt per aktivum gir styringsteamet ditt bevisgrunnlaget for det arbeidet. Den støtter beredskapen til EUs AI-lov; den er ikke en samsvarsvurdering, og den erstatter ikke din juridiske gjennomgang.

eller mellomstore team er enkelt:

  1. På hver pull request: API-sikkerhet i CI på den endrede koden, pluss trinnvise DAST-skanninger.
  2. Før commit: som en pre-commit gate på iscenesatte filer.
  3. Hver natt eller ved sammenslåing: en full DAST-skanning.
  4. Før hver større utgivelse: AI-penetrasjonstesting mot staging for å validere etterslepet og bekrefte at hver rettelse lukket hullet.

API-sikkerhetsskanneren kjører hvor som helst, inkludert miljøer med luftgap, og rapporterer til Xygeni SaaS eller din on-premises-plattformen. Resultatene kommer ut som JSON, SARIF 2.1.0, CSV og Markdown for pull request kommentarer.

API-sikkerhetstesting og samsvar

For team i bank, forsikring eller offentlig sektor er API-sikkerhetstesting også bevis. Hvert funn har samsvarsmerker for GDPR artikkel 32, PCI DSS 4.0 (krav 3.4, 6.4.3, 7.1, 7.2 og 8) og NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), synlig i plattformen og i JSON- og SARIF-utdata.

Hvis organisasjonen din faller inn under DORA or 2 NOK, kjøretidstesting gir deg kontinuerlig bevis mellom de manuelle penetrasjonstestene regulatorene dine fortsatt krever. 

Slik implementerer du sikkerhet for AI-agenter i 7 trinn

Her er den praktiske sjekklisten, i den rekkefølgen som får AI-agentsikkerheten til å fungere raskest i et ekte utviklingsteam.

  1. Utforsk

    Lagre alle AI-ressurser i databasene dine

    Skann alle repositorier for agenter, MCP-servere, ferdigheter, modeller, ledetekster og AI-kodingsverktøy, og eksporter resultatet som en AI-BOM. Dette er grunnlinjen din, og listen som alle andre trinn fungerer ut fra.

  2. Klassifisere

    Gi hver agent en eier og et risikonivå

    For hver agent, registrer hvem som eier den, hvilke data og verktøy den kan nå, og dens risikokategori i henhold til EUs AI-lov. En agent ingen eier er en agent ingen vil fikse.

  3. oppdage

    Skann agentkoden i CI på hver pull request

    Kjør AI-risikodeteksjon ved siden av de andre skanningene dine. Start i ikke-blokkerende modus for å se grunnlinjen, og blokker deretter sammenslåinger på kritiske funn når teamene har ryddet opp.

  4. Anmeldelse

    Gjennomgå ferdigheter før noen installerer dem

    Skann ferdighets- og agentinstruksjonsfiler som SKILL.md og AGENTS.md, slå på gjennomgang av AI-intensjon og behandle en «ikke installer»-dom som en hard stopp.

  5. begrense

    Krymp agenttillatelser

    Erstatt statiske legitimasjonsopplysninger med lang levetid med omfangsspesifikke legitimasjonsopplysninger, slutt å dele legitimasjonsopplysninger mellom agenter, og kjør aldri MCP- eller verktøyservere med forhøyede rettigheter de ikke trenger.

  6. Fiks i løkken

    Sett sikkerheten inn i kodeagentens sløyfe

    Koble AI-kodingsagentene dine til en sikkerhets-MCP-server, slik at de skanner og fikser sin egen kode før den committed, med de samme retningslinjene som din pipeline.

  7. Beskytt

    Beskytt hva som lander på utviklermaskiner

    Håndhev en minimumsalder for nye pakker, oppdag skadelige pakker før en signatur finnes, og dekk IDE-utvidelser og plugins, uansett hvem som installerer dem, en utvikler eller en agent.

Deretter: Send alle funn inn i samme arbeidsflyt for triage, ticketing og rapportering som resten av AppSec-en din, slik at AI-risiko ikke ender opp i en egen kø.

Du kan ikke sikre deg en agent du aldri har møtt

AI-agentsikkerhet er ikke bare én skanner til. Det handler om å vite hvilke agenter du kjører, fange opp risikoen i hvordan de er bygget, plassere sikkerhet i kodeagentens sløyfe og beskytte hvilke agenter som installeres. Start med inventaret: alt annet avhenger av det.

Vil du se alle agenter, MCP-servere og ferdigheter i koden din? Bestill en time med en ingeniør å bygge AI-inventaret for databasene dine og gjennomgå funnene. Eller start gratis med AI SAST, SCA, hemmelighetsdeteksjon, IDE-pluginene og skadelig programvaredeteksjon på pakker med åpen kildekode. Ingen kredittkort.

Vanlige spørsmål om sikkerhet for AI-agenter

Hvordan er sikkerhet for AI-agenter forskjellig fra sikkerhet for LLM?

LLM-sikkerhet handler om hva en modell sier: lekkede data, manipulerte svar, usikkert utdata. AI-agentsikkerhet handler om hva en agent gjør med verktøy, minne, legitimasjon og andre agenter. Derfor publiserer OWASP en egen topp 10-liste for agentapplikasjoner (ASI01 til ASI10) i tillegg til LLM topp 10.

Hvordan finner jeg AI-agentene og MCP-serverne i organisasjonen min?

Start med koden. Xygeni AI Security oppdager agentene, MCP-serverne, ferdighetene, modellene, ledetekstene og AI-kodingsverktøyene i databasene dine, kartlegger hvordan de kobler seg til og eksporterer resultatet som en AI-BOM i CycloneDX-format. Den kjører i CI ved siden av de andre skanningene dine.

Kan en ondsinnet ferdighet eller MCP-server kompromittere utviklerne mine?

Ja: instruksjonene for en ferdighet er i ren tekst, og en agent vil følge dem med utviklerens tillatelser. Xygeni flagger skjulte ondsinnede direktiver og utgir seg for å være ferdighetsnavn, kan bedømme en ferdighets intensjon med en pålogget AI-gjennomgang, og vurderer hver ferdighet som trygg, forsiktig eller ikke installer. Forsvar mot skadelig programvare og Shield dekke pakkene og utvidelsesagenter bringer inn.

sca-tools-programvare-verktøy for komposisjonsanalyse
Prioriter, utbedre og sikre programvarerisikoene dine
Få din gratis konto.
Ingen kredittkort kreves.

Sikre programvareutviklingen og -leveringen din

med Xygeni-produktpakken