Lt; DR #
Agentinis dirbtinio intelekto saugumas – tai dirbtinio intelekto sistemų, kurios veikia, o ne atsako, apsaugos praktika: agentai, kurie planuoja keliais etapais, saugo atmintį, iškviečia įrankius per tokius protokolus kaip MCP ir veikia su deleguotais prisijungimo duomenimis jūsų programinės įrangos viduje ir kūrimo gyvavimo cikle. Tai raginimo lygio saugumo viršutinis rinkinys, nes gedimo režimas nebėra blogas atsakymas. Tai netyčinis veiksmas, atliekamas naudojant jūsų organizacijos tapatybę.
Kam priklauso: programų saugumas, darbas su tapatybėmis. Tai nėra atskira dirbtinio intelekto funkcija.
Kuo jis skiriasi: Keturios savybės, kurių pokalbių robotui trūksta: autonomija, prieiga prie įrankių, nuolatinė atmintis ir deleguota tapatybė.
Nuorodų taksonomija: OWASP 10 geriausių agentinių programų 2026 m. sąrašas, ASI01–ASI10, paskelbtas 2025 m. gruodžio mėn.
Kur iš tikrųjų slypi rizika: daugiausia tapatybė, tiekimo grandinė ir vykdymas, o ne pats modelis.
Kas yra agentinis dirbtinio intelekto saugumas? #
Modelis, kuris įrašo kažką neteisingai, yra gėdinga. Agentas, kuris įrašo kažką neteisingai į apvalkalo komandą, a pull request arba gamybinė duomenų bazė yra incidentas.
Būtent šis vienas pokytis – nuo teksto generavimo iki veiksmo atlikimo – yra pagrindinė šios disciplinos egzistavimo priežastis. Kiekvienas, klausiantis, kas yra agentinis dirbtinio intelekto saugumas, paprastai reaguoja į konkretų momentą: kažkas pastebėjo, kad inžinerijos organizacijos asistentas dabar turi prisijungimo duomenis, prieigą prie įrankių, nuolatinę atmintį ir galimybę juos sujungti be žmogaus įsikišimo tarp kiekvieno žingsnio.
Agentinio dirbtinio intelekto saugumas – tai praktikų rinkinys, kuris leidžia išlaikyti tą galimybę jūsų pasirinktose ribose. Jis apima, kokius įrankius agentas gali pasiekti, kokią tapatybę jis naudoja, ką jis prisimena tarp sesijų, kuriais kitais agentais jis pasitiki ir kas nutinka tuo metu, kai jis bando atlikti kažką negrįžtamo. → Kas yra agentas SDLC?
Agentinio dirbtinio intelekto saugumo reikšmė: keturios savybės, kurios sukuria riziką #
Agentinio dirbtinio intelekto saugumo reikšmė tampa konkreti, kai pažvelgiame į tai, ką agentas turi, ko neturi pokalbių robotas. Keturios savybės, kurių kiekviena pažeidžia valdiklį, kuriuo programos saugumas rėmėsi metų metus.
Dešimt rizikų: OWASP 10 svarbiausių agentinėms programoms #
Nuoroda į taksonomiją yra OWASP 10 geriausių agentinių programų 2026 m., paskelbta 2025 m. gruodžio 9 d. OWASP agentų saugumo iniciatyva su daugiau nei 100 bendraautorių. Tai papildo LLM geriausiųjų dešimtuką, o ne jį pakeičia, nes dauguma agentų taip pat yra LLM taikytojai ir paveldi šias rizikas.
Atkreipkite dėmesį į sąrašo formą. Tik du ar trys įrašai yra apie modelį. Likę yra tapatybės, tiekimo grandinės, vykdymo ir pasitikėjimo problemos, todėl agentinio dirbtinio intelekto saugumas priklauso komandai, kuri jau valdo šį modelį. paraiškos saugumas o ne atskiroje dirbtinio intelekto funkcijoje.
Kas yra agentinio dirbtinio intelekto saugumas praktikoje? Šeši kontrolės elementai #
Sistemos apibūdina riziką. Tai kontrolės priemonės, kurios ją mažina, tokia tvarka, kokia dauguma komandų gali jas pritaikyti.
- Sudarykite veikiančių agentų ir MCP serverių inventorizaciją. Ne patvirtintų agentų sąrašas, o tikrasis. Nepatvirtintų agentų įrankių naudojimas yra norma, o ne išimtis, ir jūs negalite nustatyti to, ko neradote.
- Įrankio paviršiaus apimtį apimkite pagal agentą. Mažiausios privilegijos taikomos įrankiams, ne tik vartotojams. Didžiausias perteklinis veiksnumas atsiranda dėl patogumo, o ne dėl atakų.
- Peržiūrėkite konfigūraciją, pvz., kodą. Įgūdžių failai, taisyklių failai ir MCP serverio apibrėžimai yra instrukcijos su įgaliojimais. MITRE ATLAS dokumentuoja taisyklių failo užpakalinės durys kaip realus atvejo tyrimas, o ne mintinis eksperimentas.
- Atskira tapatybė kiekvienam agentui. Jei audito žurnale negalima nustatyti, kuris agentas atliko veiksmą, jūsų reagavimas į incidentą prasideda nuo archeologijos.
- Vykdyti diegimo ir vykdymo metu. Kai kūrėjo kompiuteryje paleidžiamas kenkėjiškas paketas arba nepatvirtintas MCP serveris, blokavimas yra paskutinis dalykas, kurį galima pigiai atlikti. → Priklausomybės užkarda galiniame taške
- Palikite pėdsaką, kuris išliktų po incidento. Laivų kilmė, anomalijų aptikimas pipelines ir galiniai taškai, susieti su tapatybe, kuri juos sukūrė.
Šių agentų kuriamas kodas turi būti tikrinamas taip pat, kaip ir patys agentai. 2025 m. „GenAI“ Code Security Ataskaitoje, apimančioje daugiau nei 100 modelių, atliktų su 80 užduočių, nustatyta, kad 45 % dirbtinio intelekto sugeneruotų pavyzdžių iš karto nustatė OWASP 10 populiariausių pažeidžiamumų. Generavimo greitis nėra standartinis saugumo elementas. → Kaip DevAI patvirtina sugeneruotą kodą IDE aplinkoje
Kas nėra agentinis dirbtinio intelekto saugumas? Kur yra ribos #
Sąlygos sutampa, ir dėl to kenčia pokalbiai dėl viešųjų pirkimų.
- GenAI saugumas yra pagrindinė disciplina: visa generatyvinė dirbtinio intelekto (DI) sritis jūsų programinėje įrangoje ir aplink ją. Agentinės DI apsaugos sritis yra svarbiausia jos dalis, apimanti veikiančias sistemas.
- LLM saugumas apima modelį ir jo užduotis. Būtinas ir nepakankamas tuo metu, kai modelis įgyja įrankius.
- MCP saugumas dar siauresnis: protokolo sluoksnis, jungiantis agentą su išorinėmis sistemomis. OWASP MCP 10 geriausių apima jį ir lieka beta versijos juodraščiu, todėl laikykite jį besiformuojančiu, o ne jau įveiktu.
- AI-SPM yra dirbtinio intelekto išteklių padėties valdymas, kuris yra to atitikmuo ASPMTai atsako į tai, kas egzistuoja, o ne į tai, ką agentui leidžiama daryti.
- Tapatybės ir prieigos valdymas valdo realią šio dalyko dalį, tačiau įprastas IAM daro prielaidą apie žmogų arba paslaugą, o ne apie nedeterministinį veikėją, kuris pats nusprendžia dėl savo kito žingsnio.
Karkasai, į kuriuos verta remtis #
Vertinkite sistemą pagal jos publikavimo būseną, o ne pagal tai, kiek ji skamba moderniai.
Dėl reguliavimo būkite iš ankstocise. The ES AI aktas nustato tam tikrų sistemų dokumentavimo ir priežiūros pareigas, o agentų inventorius pateikia įrodymus apie tai. Šiuo metu nėra jokio reglamento, įvardijančio agentų dirbtinio intelekto saugumą kaip privalomą kontrolę, o teiginys kitaip skatina nepageidaujamą pataisą viešųjų pirkimų cikle.
Nuo apibrėžimo iki programos #
Agentinio dirbtinio intelekto saugumo reikšmė tampa svarbi tik tada, kai ji tampa agentų, įrankių ir tapatybių, kurias galite iš tikrųjų matyti, sąrašu.
Tokia yra darbo tvarka. Suraskite jau esančius agentus, MCP serverius, įgūdžių failus ir dirbtinio intelekto išteklius, įskaitant nedeklaruotus. Įvertinkite juos pagal realius atakų kelius, o ne pagal gryną pavojingumą. Tada vykdykite politiką toje vietoje, kur kitu atveju būtų vykdomas nesaugus paketas, modelis ar įrankis.
„Xygeni“ apima šiuos tris judesius visame kode, pipeline ir galinį tašką viename rizikos modelyje kartu su jau valdomais programos rezultatais. Suplanuokite demonstracinę versiją kad matytumėte savo agentą ir dirbtinio intelekto inventorių.
DUK #
Jūsų vardu veikiančio dirbtinio intelekto laikymas jūsų pasirinktose ribose: įrankiai, kuriuos jis gali iškviesti, tapatybė, kurią jis naudoja, ką jis prisimena ir ką jam leidžiama vykdyti.
Ta agento konfigūracija peržiūrima kaip kodas, kiekvienas agentas veikia su savo srities tapatybe, o nesaugūs diegimai arba nepatvirtinti MCP serveriai blokuojami kompiuteryje, o ne aptinkami atliekant pakartotinę analizę.
Skubus įskiepijimas yra vienas iš įėjimo taškų, ASI01. Agentinio dirbtinio intelekto saugumas apima tai, kas vyksta po to: kokį įrankį pasiekia užgrobtas agentas, kieno prisijungimo duomenimis ir ar veiksmą galima atšaukti.
Beveik neabejotinai taip. Kodavimo asistentai, turintys prieigą prie įrankių ir MCP ryšius, yra agentai. Dauguma organizacijų juos paleidžia dar prieš tai, kai kas nors oficialiai nusprendžia tai padaryti.
Programų saugumas, darbas su tapatybėmis. Ištekliai yra saugyklose. pipelineir kūrėjų kompiuteriuose, o nuosavybės padalijimas dažniausiai sukuria antrą darbų sąrašą, o ne sumažina riziką.
