TP; DR #
Agentlik AI xavfsizligi - bu javob berish o'rniga ishlaydigan AI tizimlarini himoya qilish amaliyotidir: bir nechta bosqichlarni rejalashtiradigan, xotirani saqlaydigan, MCP kabi protokollar orqali vositalarni chaqiradigan va dasturiy ta'minotingiz va ishlab chiqish hayot aylanishingiz ichida vakolatli hisob ma'lumotlari bilan ishlaydigan agentlar. Bu tezkor darajadagi xavfsizlikning yuqori to'plamidir, chunki ishlamay qolish rejimi endi yomon javob emas. Bu sizning tashkilotingiz identifikatori ostida amalga oshirilgan kutilmagan harakatdir.
Kimga tegishli: ilova xavfsizligi, identifikatsiya bilan ishlash. Alohida AI funktsiyasi emas.
Uni nimadan farq qiladi: Chatbotda to'rtta xususiyat mavjud emas: avtonomiya, vositalarga kirish, doimiy xotira va vakolatli identifikatsiya.
Malumot taksonomiyasi: 2025-yil dekabr oyida nashr etilgan OWASPning Agentlik Ilovalari bo'yicha Top 10 taligi 2026, ASI01 dan ASI10 gacha.
Xavf aslida qayerda joylashgan: asosan identifikatsiya, ta'minot zanjiri va bajarilish, modelning o'zi emas.
Agentlik AI xavfsizligi nima? #
Noto'g'ri narsa yozadigan model sharmandalikdir. Shell buyrug'iga noto'g'ri narsa yozadigan agent, a pull request yoki ishlab chiqarish ma'lumotlar bazasi hodisadir.
Matn yaratishdan tortib, harakat qilishgacha bo'lgan aynan shu o'zgarish ushbu fanning mavjudligining asosiy sababidir. Agentlik sun'iy intellekt xavfsizligi nima deb so'ragan har bir kishi odatda ma'lum bir lahzaga munosabat bildiradi: kimdir muhandislik tashkilotidagi yordamchi endi ishonch yorliqlariga, vositalarga kirish huquqiga, doimiy xotiraga va har bir qadam orasida odamsiz ularni birlashtirish uchun avtonomiyaga ega ekanligini payqadi.
Agentlik AI xavfsizligi - bu siz tanlagan chegaralar ichida ushbu imkoniyatni saqlaydigan amaliyotlar to'plami. Unda agent qaysi vositalarga murojaat qilishi mumkinligi, qaysi identifikatsiya ostida harakat qilishi, sessiyalar orasida nimani eslab qolishi, qaysi boshqa agentlarga ishonishi va qaytarib bo'lmaydigan narsani amalga oshirishga urinayotgan paytda nima sodir bo'lishi qamrab olinadi. → Agent nima? SDLC?
Agentlik AI xavfsizligining ma'nosi: Xavfni keltirib chiqaradigan to'rtta xususiyat #
Agentning sun'iy intellekt xavfsizligi haqidagi ma'nosi, chatbotda bo'lmagan va agentda mavjud bo'lgan narsalarga nazar tashlasangiz, aniqroq bo'ladi. To'rtta xususiyat, ularning har biri ilova xavfsizligi yillar davomida tayanib kelgan boshqaruvni buzadi.
O'nta xavf: Agentlik ilovalari uchun OWASPning eng yaxshi 10 taligi #
Malumot taksonomiyasi bu Agentlik ilovalari bo'yicha OWASPning 2026-yilgi eng yaxshi 10 taligi, 2025-yil 9-dekabrda tomonidan nashr etilgan OWASP Agentlik Xavfsizlik Tashabbusi 100 dan ortiq ishtirokchilar bilan. Ko'pgina agentlar ham LLM ilovalari bo'lgani va bu xavflarni ham meros qilib olgani uchun, u LLM Top 10 ni almashtirish o'rniga kengaytiradi.
Ro'yxatning shakliga e'tibor bering. Model haqida faqat ikki yoki uchta yozuv mavjud. Qolganlari identifikatsiya, ta'minot zanjiri, ijro va ishonch muammolari, shuning uchun agentlik AI xavfsizligi allaqachon egalik qiladigan jamoaga tegishli. dastur xavfsizligi alohida AI funktsiyasida emas.
Agentlik AI xavfsizligi amalda nima? Oltita boshqaruv usuli #
Ramkalar xavfni tavsiflaydi. Bu ko'pgina jamoalar amalda qo'llashi mumkin bo'lgan tartibda uni kamaytiradigan boshqaruv elementlari.
- Haqiqatda ishlayotgan agentlar va MCP serverlarini inventarizatsiya qiling. Tasdiqlangan ro'yxat emas, balki haqiqiy ro'yxat. Tasdiqlanmagan agent vositalari istisno emas, balki norma hisoblanadi va siz topmagan narsangizni qamrab ololmaysiz.
- Har bir vosita uchun asbob yuzasini o'lchang. Eng kam imtiyoz nafaqat foydalanuvchilarga, balki vositalarga ham qo'llaniladi. Haddan tashqari faollikning aksariyati hujum orqali emas, balki qulaylik orqali yuzaga keladi.
- Kod kabi konfiguratsiyani ko'rib chiqing. Ko'nikma fayllari, qoidalar fayllari va MCP server ta'riflari vakolatli ko'rsatmalardir. MITRE ATLAS hujjatlashtiradi qoidalar fayli orqa eshik fikrlash tajribasi emas, balki haqiqiy amaliy tadqiqot sifatida.
- Har bir agent uchun alohida identifikatsiya. Agar audit jurnalida qaysi agent chora ko'rgani aytilmasa, sizning hodisaga munosabatingiz arxeologiyadan boshlanadi.
- O'rnatish va bajarish vaqtida amalga oshirish. Zararli paket yoki tasdiqlanmagan MCP serveri ishlab chiquvchi mashinasida ishga tushgan payt blokirovka qilish arzon bo'lgan oxirgi nuqtadir. → Oxirgi nuqtada bog'liqlik xavfsizlik devori
- Hodisadan omon qolgan izni saqlang. Kemalar uchun manba, anomaliyani aniqlash pipelineva uni yaratgan identifikatsiyaga bog'langan so'nggi nuqtalar.
Ushbu agentlar ishlab chiqaradigan kod agentlarning o'zlari kabi bir xil tekshiruvni talab qiladi. 2025 GenAI Code Security 80 ta vazifa bo'yicha 100 dan ortiq modellarni qamrab olgan hisobotda sun'iy intellekt tomonidan yaratilgan namunalarning 45 foizida OWASP Top 10 zaifliklari darhol paydo bo'lganligi aniqlandi. Yaratish tezligi sukut bo'yicha xavfsizlik bilan bog'liq emas. → DevAI IDEda yaratilgan kodni qanday tekshiradi
Agentlik AI xavfsizligi nima emas? Chegaralar qayerda joylashgan #
Shartlar bir-biriga mos keladi va xaridlar bo'yicha muzokaralar bundan zarar ko'radi.
- GenAI xavfsizligi ota-ona intizomi: dasturiy ta'minotingiz ichidagi va atrofidagi barcha generativ AI. Agentlik AI xavfsizligi uning eng muhim kichik to'plami bo'lib, ishlaydigan tizimlarni qamrab oladi.
- LLM xavfsizligi model va uning ko'rsatmalarini qamrab oladi. Model vositalarni qo'lga kiritgan paytda zarur va yetarli emas.
- MCP xavfsizligi yanada torroq: agentni tashqi tizimlar bilan bog'laydigan protokol qatlami. OWASP MCP Top 10 uni qamrab oladi va beta-loyiha bo'lib qolmoqda, shuning uchun uni o'rnatilgan emas, balki paydo bo'layotgan deb hisoblang.
- AI-SPM AI aktivlari ustidan holatni boshqarish, uning hamkasbi ASPMBu agentga nima qilishga ruxsat berilganiga emas, balki mavjud bo'lgan narsaga javob beradi.
- Identifikatsiya va kirishni boshqarish Buning haqiqiy qismiga egalik qiladi, ammo an'anaviy IAM o'zining keyingi qadamini hal qiladigan deterministik bo'lmagan aktyorni emas, balki inson yoki xizmatni nazarda tutadi.
Tayanchga arziydigan ramkalar #
Tizimni uning qanchalik dolzarb ekanligiga emas, balki nashr holatiga qarab baholang.
Tartibga solish bo'yicha, oldindan bo'lingcise. The Evropa Ittifoqining AI qonuni muayyan tizimlarga hujjatlashtirish va nazorat qilish majburiyatlarini yuklaydi va agent inventarizatsiyasi ularga qarshi dalillarni taqdim etadi. Hozirda hech bir qoida agent AI xavfsizligini majburiy nazorat sifatida belgilamaydi va aks holda da'vo qilish xaridlar siklida siz xohlamagan tuzatishni keltirib chiqaradi.
Ta'rifdan dasturgacha #
Agentlik AI xavfsizligi ma'nosi faqat siz aslida ko'rishingiz mumkin bo'lgan agentlar, vositalar va identifikatorlar ro'yxatiga aylangandan keyingina muhimdir.
Ish shunday tartibda bajariladi. Agentlar, MCP serverlari, ko'nikma fayllari va allaqachon mavjud bo'lgan AI aktivlarini, shu jumladan e'lon qilinmaganlarini ham aniqlang. Ularni jiddiylik darajasiga emas, balki haqiqiy hujum yo'llariga qarab baholang. Keyin siyosatni xavfli paket, model yoki vosita aks holda bajarilishi mumkin bo'lgan nuqtada amalga oshiring.
Xygeni kod bo'ylab ushbu uchta harakatni qamrab oladi, pipeline va oxirgi nuqta, siz allaqachon boshqaradigan dastur topilmalari bilan bir qatorda bitta xavf modelida. Namoyishni rejalashtiring o'z agentingiz va AI inventarizatsiyangizni ko'rish uchun.
FAQ #
Sizning nomingizdan ishlaydigan AIni siz tanlagan chegaralar ichida saqlash: u chaqirishi mumkin bo'lgan vositalar, foydalanadigan identifikator, eslab qoladigan narsalar va bajarishga ruxsat berilgan narsalar.
Agent konfiguratsiyasi kod kabi ko'rib chiqiladi, har bir agent o'zining cheklangan identifikatori bilan ishlaydi va xavfli o'rnatishlar yoki tasdiqlanmagan MCP serverlari postmortemda aniqlanmasdan, mashinada bloklanadi.
Tezkor in'ektsiya bitta kirish nuqtasidir, ASI01. Agentlik AI xavfsizligi keyin nima bo'lishini qamrab oladi: o'g'irlangan agent qaysi vositaga yetib boradi, kimning ishonch yorlig'i ostida va harakatni bekor qilish mumkinmi.
Deyarli, albatta, ha. Asboblarga kirish huquqi va MCP ulanishlariga ega kodlash yordamchilari agentlardir. Ko'pgina tashkilotlar ularni kimdir rasman qaror qabul qilishidan oldin boshqaradi.
Ilova xavfsizligi, identifikatsiya bilan ishlash. Aktivlar omborlarda saqlanadi, pipelineva ishlab chiquvchi mashinalari, va egalikni bo'lish kamroq xavf o'rniga ikkinchi ortda qolishiga olib keladi.
