Az MI-ügynökök biztonsága már nem arról szól, hogy mit mond egy modell. Arról szól, hogy mit csinál egy ügynök: az általa meghívott eszközökről, az általa beolvasott adatokról, a birtokában lévő hitelesítő adatokról és a saját maga telepített csomagokról.
És a legtöbb csapat nem tudja megválaszolni az első kérdést: melyik ügynököket futtatjuk valójában? Ezek LangChain gráfokként, MCP szerverekként, adattárakban élnek. SKILL.md fájlok és mesterséges intelligencia által kódolt eszközök, amelyeket az egyes fejlesztők péntek délután konfiguráltak. Senki sem nézte át őket, és egy rosszindulatú készség csak sima szöveg
TL, DR
AI-ügynökök biztonsága négy lépésben: lásd meg, pontozd, biztosítsd a ciklust, védd a telepítéseket
Nem lehet olyan ügynököket biztonságossá tenni, amelyeket nem lát. Az AI-ügynökök biztonsága a kódban található összes ügynök, MCP-kiszolgáló, készség, modell és AI-kódolóeszköz leltározásával kezdődik.
- Az ügynökök felépítésének kockázata: felhasználói bemenetet összefűző promptok, eszközhívó ügynökök nélkül guardrails, túlzottan privilegizált hitelesítő adatok és készségek rejtett utasításokkal. Ezek nagy része látható a kódban, a telepítés előtt, és a OWASP Top 10 ügynökségi alkalmazásokhoz.
- Biztonság a hurkon belül: A kódoló ágenseknek biztonságra van szükségük a ciklusukon belül, ezért átvizsgálják és kijavítják az általuk írt dolgokat, mielőtt az létrejönne. committed, nem hetekkel később egy jegyben.
- Védje a telepítéseket: Az ügynökök függőségeket is telepítenek. Az aláírás létezése előtt működő kártevőészlelés a rosszindulatú csomagokat is lefedi, függetlenül attól, hogy ki telepíti azokat, legyen az fejlesztő vagy ügynök.
- Egy munkafolyamat: A mesterséges intelligencia által megállapított eredmények ugyanazon a triázson, jegyeken és jelentéseken mennek keresztül, mint a többi alkalmazásbiztonsági megállapítás.
Az első lépés: Készítsen leltárt a mesterséges intelligenciáról a tárolóiban, exportálja azt AI-BOM-ként, majd csatlakoztassa az új ügynökkódot a konfigurációs konfigurációhoz (CI).
Miért jelent más problémát a mesterséges intelligencia által biztosított ügynökök biztonsága?
Egy LLM funkció szöveget ad vissza, és egy ember eldönti, hogy mit kezdjen vele. Az ágens maga zárja le ezt a ciklust: tervez, meghívja az eszközöket, weboldalakat, e-maileket és dokumentumokat olvas, fájlokat ír és parancsokat futtat. Minden képesség, amit egy ágensnek adsz, egy olyan képesség, amit a támadó kölcsönözhet.
Az OWASP ugyanezt a különbséget tette. OWASP top 10 ügynökségi alkalmazásokhoz 2026-ban (ASI01-től ASI10-ig) a következőre épül: OWASP Top 10 LLM alkalmazásokhozAz LLM lista azt fedi le, amit egy modell mond; az ágensek listája pedig azt, amit egy ágens csinál.
A legtöbb szervezet ma már kétféle ügynököt működtet:
- Az alkalmazásaiba beépíthető ügynökök: támogatási asszisztensek, belső másodpilóták és olyan keretrendszerekkel épített munkafolyamatok, mint a LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel vagy LlamaIndex, amelyek gyakran eszközökhöz kapcsolódnak a következőkön keresztül: MCP szerverek.
- A fejlesztők által használt mesterséges intelligencia kódoló ágensek: Claude Code, Cursor, GitHub Copilot, Windsurf és mások, amelyek kódot írnak, konfigurációt szerkesztenek és függőségeket adnak hozzá.
A mesterséges intelligencia ügynökeinek biztonságának mindkettőre ki kell terjednie, mivel mindkettő az Ön engedélyeivel működik.
1. lépés: Minden ügynök, MCP-kiszolgáló és készség leltározása
A mesterséges intelligencia ágenseinek biztonsága egy kérdőívvel kezdődik, és az auditorok most azt kérdezik: milyen mesterséges intelligenciát futtatunk? Xygeni AI biztonság a forrásból válaszol rá: kód, konfiguráció, manifesztek és függőségek.
Felfedezi a modelleket, ügynököket és ügynökszervereket, mesterséges intelligencia keretrendszereket, MCP szervereket és azok eszközeit, készségeit (SKILL.md, AGENTS.md), utasításokat, guardrails, vektortárolókat, adathalmazokat, következtetési végpontokat és a tárolóidban konfigurált mesterséges intelligencia kódoló eszközöket. Azt is feltérképezi, hogyan kapcsolódnak egymáshoz: melyik ügynök melyik modellt használja, melyik eszközöket futtatja, és melyik MCP-kiszolgálókat hívja meg.
Az eredmény egy élő MI-leltár, amely AI-BOM-ként exportálható CycloneDX formátumban, eszközönkénti irányítási rekorddal, amely tartalmazza az EU AI Act kockázati kategória mezőjét.
Szeretnéd látni, hogy milyen mesterséges intelligencia van már a kódodban? Foglaljon időpontot egy mérnökkel, és mi felépítjük az egyik adattárad mesterséges intelligenciával kapcsolatos leltárát.
2. lépés: az ügynökök felépítésében rejlő kockázatok felismerése
A legtöbb ügynök sebezhetősége nem egzotikus. Lehetnek karakterlánc-összefűzéssel létrehozott promptok, eszközhívó ügynökök bemeneti korlát nélkül, vagy olyan hitelesítő adatok, amelyek sokkal nagyobb hatókörrel rendelkeznek, mint amennyire az ügynöknek szüksége van. Mindegyik ujjlenyomatot hagy a kódban, így a telepítés előtt észlelhetők a konfigurációelemzésben (CI).
A kódban felfedezhető MI-ügynökök kockázatai
Minden kockázat a következőhöz kapcsolódik: OWASP Top 10 LLM alkalmazásokhoz vagy annak ágens társai, így a megállapítások ugyanazon a nyelven beszélnek, mint az auditorok.
| Kockázat | Így néz ki kódban | OWASP-leképezés |
|---|---|---|
| Azonnali injekció | Rendszerkérések, amelyek szerepkörök szerinti elkülönítés, elválasztójelek vagy egyéb elválasztójelek nélkül fűzik össze a felhasználói tartalmat guardrails | LLM01 |
| Közvetett befecskendezés | Szerszámhívó ügynökök bemenet nélkül guardrails, vagy olyan ügynökök, amelyek nem ellenőrzött weboldalakat, e-maileket vagy lekért dokumentumokat fogadnak be | LLM01 |
| Nem biztonságos kimeneti kezelés | Modell kimeneti elérése eval vagy más veszélyes nyelőhelyek, funkciókon és fájlokon keresztül nyomon követve | LLM05 |
| Túlzottan privilegizált ügynökidentitásokNem emberi identitással való visszaélés | Statikus, hosszú élettartamú hitelesítő adatok, megosztott hitelesítő adatok hatókör-szűkítés nélkül, emelt szintű jogosultságokkal futó MCP vagy eszközkiszolgálók | ASI03 |
| Rosszindulatú vagy elgépelésekkel teli készségekÜgynöki készség ellátási lánc | Rejtett rosszindulatú utasítások a SKILL.md or AGENTS.md, olyan készségnevek, amelyek ismert készségeket vagy integrációkat utánoznak | Ügynöki készségek top 10 |
| Titkok a promptokban | A promptfájlokban tárolt hitelesítő adatok | LLM07 |
Minden megállapítás tartalmazza az OWASP LLM Top 10 kategóriáját, valamint az OWASP Agentic Applications és Agentic Skills címkéket, ahol alkalmazhatók, valamint az érintett red team támadási vektorokat.
A készségek különös figyelmet érdemelnek, mivel a készségfájlban található rosszindulatú utasítás szöveg, nem kód, és aláírás nem láthatja azt. Egy engedélyezésen alapuló mesterséges intelligencia általi felülvizsgálat verziózott, determinisztikus beállításokkal értékeli a megjelölt készség- és ügynökutasítás-fájlok szándékát, így ugyanaz a fájl mindig ugyanazt az ítéletet kapja. Futtatható a saját, önállóan üzemeltetett modelleden, így a kódnak és a promptoknak nem kell elhagyniuk a környezetedet. A készségszint pontszám ezután egyetlen válaszba egyesíti ezeket a jeleket: biztonságos, óvatosság vagy ne telepítse.
Menj mélyebbre: nézd meg az ülésünket Robbanási sugár: Amikor az ügynök ahhoz nyúl, amit nem kértél, arról, hogy mi történik, ha egy ügynök jogosultságai túlmutatnak a feladatán.
3. lépés: helyezze a biztonságot a kódoló ügynök ciklusába
AI kódoló ügynökök írnak és commit gyorsabban írja meg a kódot, mint ahogy azt bárki át tudja tekinteni. Egy két héttel később érkező hibajegy ritkán javítható ki. A javításnak akkor kell megtörténnie, amikor az ügynök még dolgozik.
A Xygeni MCP szerver lokálisan fut, és bármilyen MCP-t támogató mesterséges intelligenciával kódoló ügynökkel működik, függetlenül attól, hogy a modellen fut. Az ügynök beolvashatja az újonnan írt kódot, listázhatja az új problémákat, lekérheti a mesterséges intelligencia triage ítéleteit, és javításokat kérhet. SAST és a SCA eredmények. Addig ismétlődik, amíg a változás nem válik egyértelművé, mielőtt bármi is történne committed, a csapatod által meghatározott jóváhagyásokkal.
Ugyanazokat a motorokat, irányelveket és némítási szabályokat használja, mint a tiéd pipeline, így az ügynök és a konfigurációs interfész soha nem vitatkozik. Az ügynökkel együtt dolgozó fejlesztők számára a IDE bővítmények ugyanazokat a megállapításokat és javításokat vigye be a szerkesztőbe.
4. lépés: Védje meg, hogy milyen ügynökök telepítve vannak
Egy mesterséges intelligencia által fejlesztett kódolóügynök képes önállóan függőségeket hozzáadni, és nem áll meg annak ellenőrzése előtt, hogy egy ismerős nevű vadonatúj csomag legitim-e. A támadók tudják ezt, és a nyílt forráskódú rendszerleíró adatbázisokban várakoznak.
Kártevővédelem megjelöli a rosszindulatú csomagokat, mielőtt létezne aláírás, függetlenül attól, hogy ki telepíti őket, legyen az fejlesztő vagy ügynök. A fejlesztő gépén Shield betartatja a szabályzatot, mielőtt bármi is futna: minimális életkor az új csomagokhoz, lefedettség az IDE-bővítményekre és bővítményekre, a rosszindulatú indikátorok és a kockázatos földrajzi területek blokkolása, valamint végpontok elkülönítése, amikor egy gépet el kell különíteni.
Szeretnél mélyebbre menni?
A kezelő hibája és az azt elérő végpont egyetlen probléma, egyetlen tulajdonossal. És ha már futtatsz egy másik DAST eszközt, a Xygeni importálja annak eredményeit ugyanabba a kockázati nézetbe anélkül, hogy kérné a cseréjét.
Szeretnéd látni, hogy a két réteg együtt működik? Nézd meg az adásunkat A kódtól a futási környezetig: Miért SAST + A DAST mindkettő elengedhetetlen a modern alkalmazásbiztonsághoz, ahol bemutatjuk, hogyan erősítik meg egymást a kóderedmények és a futásidejű tesztek.
Egy munkafolyamat, nem egy másik konzol
A mesterséges intelligencia ügynökeinek biztonsága kudarcot vall, amikor különálló eszközzé válik, saját várakozási sorral. A Xygeniben a mesterséges intelligencia által talált eredmények ugyanazon a tölcséren mennek keresztül, AI Triage, jegyeket és jelentéseket, mint a többi megállapítást. Az AI Remediation kontextus-érzékeny javítási útmutatást nyújt mind a tíz OWASP LLM kategóriához, és ASPM a mesterséges intelligencia kockázatát a kód, a függőség és a pipeline kockázat egy nézőpontból.
AI-ügynökök biztonsága és megfelelősége
A szabályozók, az auditorok és az ügyfelek egyre gyakrabban kérik a mesterséges intelligencia leltárát és annak kockázatbesorolását. EU AI törvény és a ISO / IEC 42001 mindkettő ebbe az irányba halad, és egy AI-BOM egyre inkább standard tétel a beszerzési kérdőívekben.
Egy MI-leltár, amely eszközönként kockázati kategória mezőt tartalmaz, bizonyítékokkal látja el az irányító csapatot a munkához. Támogatja az EU MI-törvényre való felkészültséget; nem minősül megfelelőségértékelésnek, és nem helyettesíti a jogi felülvizsgálatot.
vagy közepes méretű csapatok esetében egyszerű:
- Mindegyiken pull request: API biztonság a CI-ben a megváltozott kódon, valamint növekményes DAST-vizsgálatok.
- Előtt commit: mint pre-commit kapu a szakaszos fájlokon.
- Éjszakánként vagy egyesítéskor: teljes DAST vizsgálat.
- Minden nagyobb kiadás előtt: AI áttesztelés a staginggel szemben a várólistán szereplőkkel, hogy validálja a várólistát és megerősítse, hogy minden javítás bezárta a hiányosságot.
Az API biztonsági szkenner bárhol fut, beleértve a légréses környezeteket is, és jelentést készít a Xygeni SaaS-nek vagy az Ön számára. on-premises platform. Az eredmények JSON formátumban jelennek meg, SARIF 2.1.0, CSV és Markdown a következőhöz: pull request hozzászólás.
API biztonsági tesztelés és megfelelőség
A banki, biztosítási vagy közszférában dolgozó csapatok számára az API biztonsági tesztelése szintén bizonyíték. Minden megállapítás megfelelőségi címkével van ellátva. GDPR 32. cikk, PCI DSS 4.0 (3.4., 6.4.3., 7.1., 7.2. és 8. követelmény) és NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), látható a platformon és a JSON és SARIF kimenetben.
Ha szervezete a következő feltételek hatálya alá tartozik: DÓRA or NIS2A futásidejű tesztelés folyamatos bizonyítékot szolgáltat a szabályozók által igényelt manuális penetrációs tesztek között.
Hogyan valósítsuk meg a mesterséges intelligencia által biztosított ügynökbiztonságot 7 lépésben
Íme a gyakorlati ellenőrzőlista abban a sorrendben, ahogyan a mesterséges intelligencia ügynökök biztonsága a leggyorsabban működésbe lép egy valódi fejlesztőcsapatban.
- Ismerj meg minket
Létrehozza az összes mesterséges intelligencia eszközt a tárházaiban
Szkenneld át az összes adattárat ügynökök, MCP-kiszolgálók, készségek, modellek, promptok és AI kódolóeszközök után, majd exportáld az eredményt AI-BOM-ként. Ez az alapvonalad, és minden további lépés ebből a listából indul ki.
- osztályoz
Adjon meg minden ügynöknek egy tulajdonost és egy kockázati szintet
Minden ügynök esetében rögzítse, hogy ki a tulajdonosa, milyen adatokhoz és eszközökhöz férhet hozzá, valamint az EU AI Act szerinti kockázati kategóriáját. Egy olyan ügynököt, amelyet senki sem birtokol, senki sem fog megjavítani.
- Felismerni
Szkennelje be az ügynökkódot a CI-ben minden alkalommal pull request
Futtassa a mesterséges intelligencián alapuló kockázatészlelést a többi vizsgálat mellett. Kezdje nem blokkoló módban az alapállapot megtekintéséhez, majd miután a csapatok kitisztították a hibát, végezzen blokkegyesítéseket a kritikus megállapítások alapján.
- Áttekintés
A készségek ellenőrzése a telepítés előtt
Szkennelje be a készség- és ügynöki utasításfájlokat, például
SKILL.mdés aAGENTS.md, kapcsolja be a mesterséges intelligencia általi szándékfelülvizsgálatot, és a „telepítés mellőzése” ítéletet kezelje határozott leállásként. - korlátozhatják
Zsugorítóügynök-engedélyek
Cserélje le a statikus, hosszú élettartamú hitelesítő adatokat hatókörön belüliekre, állítsa le a hitelesítő adatok megosztását az ügynökök között, és soha ne futtasson MCP-t vagy eszközkiszolgálókat olyan emelt szintű jogosultságokkal, amelyekre nincs szükségük.
- Javítás a ciklusban
Helyezze a biztonságot a kódoló ügynök ciklusába
Csatlakoztassa mesterséges intelligenciával működő kódoló ügynökeit egy biztonsági MCP-kiszolgálóhoz, hogy azok beolvassák és kijavítsák a saját kódjukat, mielőtt az… committed, ugyanazokkal a szabályzatokkal, mint a tiéd pipeline.
- Védje
Védd meg, mi kerül a fejlesztői gépekre
Minimum életkor meghatározása az új csomagokra, a rosszindulatú csomagok észlelése még az aláírás létezése előtt, valamint az IDE-kiterjesztések és bővítmények lefedése, függetlenül attól, hogy ki telepíti azokat – legyen az fejlesztő vagy ügynök.
Ezután: Minden megállapítást ugyanabba a triázs, ticketing és jelentési munkafolyamatba irányítson, mint az alkalmazásbiztonság többi részét, így a mesterséges intelligencia okozta kockázat nem kerül önálló sorban állásba.
Nem tudsz olyan ügynököt szerezni, akivel soha nem találkoztál
Az AI-ügynökök biztonsága nem csak egy újabb ellenőrzés. Azt jelenti, hogy tudjuk, mely ügynököket futtatjuk, felismerjük a felépítésükben rejlő kockázatokat, beépítjük a biztonságot a kódoló ügynök ciklusába, és védjük, hogy mely ügynökök települnek. Kezdjük a leltárral: minden más ettől függ.
Szeretnéd látni a kódodban található összes ügynököt, MCP-kiszolgálót és képességet? Foglaljon időpontot egy mérnökkel hogy létrehozza a repozitóriumok mesterséges intelligenciával létrehozott leltárát és áttekintse az eredményeket. Vagy ingyenes kezdés AI-val SAST, SCA, titkos kódok észlelése, IDE bővítmények és kártevő-észlelés nyílt forráskódú csomagokon. Nincs hitelkártya.
MI-ügynökök biztonsági GYIK
Miben különbözik az AI-ügynökök biztonsága az LLM biztonságától?
Az LLM biztonsága arról szól, hogy mit mond egy modell: kiszivárgott adatok, manipulált válaszok, nem biztonságos kimenet. Az AI-ügynökök biztonsága arról szól, hogy egy ügynök mit csinál az eszközökkel, a memóriával, a hitelesítő adatokkal és más ügynökökkel. Ezért az OWASP egy külön Top 10 listát tesz közzé az ügynökségi alkalmazásokhoz (ASI01-től ASI10-ig) az LLM Top 10 mellett.
Hogyan találom meg a szervezetemben található AI-ügynököket és MCP-kiszolgálókat?
Kezdje a kóddal. A Xygeni AI Security feltérképezi az ügynököket, MCP-kiszolgálókat, készségeket, modelleket, promptokat és AI-kódoló eszközöket a tárolóidban, feltérképezi a csatlakozásukat, és az eredményt AI-BOM-ként exportálja CycloneDX formátumban. CI-ben fut a többi szkennelésed mellett.
Egy rosszindulatú képesség vagy MCP-kiszolgáló veszélyeztetheti a fejlesztőim munkáját?
Igen: a készség utasításai egyszerű szövegek, és egy ügynök a fejlesztő engedélyeivel követi őket. A Xygeni megjelöli a rejtett rosszindulatú utasításokat és a készségneveket utánzó elemeket, egy mesterséges intelligencia általi felülvizsgálattal megítélheti a készség szándékát, és minden készséget biztonságosnak, óvatosnak vagy telepítésmentesnek minősít. Kártevővédelem és Shield fedezze a csomagok és a bővítmények behozatalát ügynökök által.







