TL; DR #
Agentlik süni intellekt təhlükəsizliyi, cavab vermək əvəzinə hərəkət edən süni intellekt sistemlərinin təhlükəsizliyini təmin etmək təcrübəsidir: birdən çox addım planlaşdıran, yaddaşı saxlayan, MCP kimi protokollar vasitəsilə alətləri çağıran və proqram təminatınızda və inkişaf həyat dövrünüzdə səlahiyyətli etimadnamələrlə işləyən agentlər. Bu, sorğu səviyyəli təhlükəsizliyin bir üst dəstidir, çünki xəta rejimi artıq pis cavab deyil. Bu, təşkilatınızın kimliyi altında görülən gözlənilməz bir hərəkətdir.
Kimə məxsusdur: tətbiq təhlükəsizliyi, şəxsiyyətlə işləmək. Ayrı bir süni intellekt funksiyası deyil.
Onu fərqləndirən nədir: Çatbotun çatışmayan dörd xüsusiyyəti var: Muxtariyyət, alətlərə giriş, daimi yaddaş və nümayəndəlik şəxsiyyəti.
İstinad taksonomiyası: 2025-ci ilin dekabr ayında dərc olunmuş OWASP-ın Agentlik Tətbiqləri üzrə Top 10 siyahısı 2026, ASI01-dən ASI10-a qədər.
Risk əslində haradadır: əsasən modelin özü deyil, şəxsiyyət, təchizat zənciri və icra.
Agentlik Süni İntellekt Təhlükəsizliyi nədir? #
Səhv bir şey yazan model utancvericidir. Shell əmrinə səhv bir şey yazan agent, a pull request və ya istehsal verilənlər bazası bir hadisədir.
Mətn yaratmaqdan hərəkətə keçməyə qədər olan tək bir dəyişiklik, bu sahənin mövcudluğunun əsas səbəbidir. Agent süni intellekt təhlükəsizliyinin nə olduğunu soruşan hər kəs adətən müəyyən bir anla reaksiya verir: kimsə mühəndislik təşkilatındakı bir köməkçinin artıq etimadnaməsinə, alətlərə girişinə, daimi yaddaşa və hər addım arasında insan olmadan onları bir-birinə bağlamaq üçün muxtariyyətə sahib olduğunu gördü.
Agentlik süni intellekt təhlükəsizliyi, bu qabiliyyəti seçdiyiniz sərhədlər daxilində saxlayan təcrübələr toplusudur. Bu, agentin hansı vasitələrə çata biləcəyini, hansı kimlik altında hərəkət etdiyini, sessiyalar arasında nəyi xatırladığını, hansı digər agentlərə etibar etdiyini və geri dönməz bir şey icra etməyə çalışdığı anda nə baş verdiyini əhatə edir. → Agent nədir SDLC?
Agentlik Süni İntellekt Təhlükəsizliyinin Mənası: Risk Yaradan Dörd Xüsusiyyət #
Agentin süni intellekt təhlükəsizliyinin mənası, agentin çatbotda olmayan şeylərə baxdıqda daha konkret olur. Dörd xüsusiyyət, hər biri tətbiq təhlükəsizliyinin illərdir etibar etdiyi bir nəzarəti pozur.
On Risk: Agent Tətbiqləri üçün OWASP-ın Ən Yaxşı 10-luğu #
İstinad taksonomiyası budur OWASP Agent Tətbiqləri 2026-cı il üçün Top 10, 9 dekabr 2025-ci ildə tərəfindən dərc edilib OWASP Agent Təhlükəsizlik Təşəbbüsü 100-dən çox töhfəçi ilə. Əksər agentlər də LLM tətbiqləri olduğundan və bu riskləri də miras aldıqları üçün, LLM-in Top 10-luğunu əvəz etmək əvəzinə genişləndirir.
Siyahının formasına diqqət yetirin. Yalnız iki və ya üç giriş model haqqındadır. Qalanları şəxsiyyət, təchizat zənciri, icra və etibar problemləridir, buna görə də agent süni intellekt təhlükəsizliyi artıq sahib olan komandaya məxsusdur. tətbiqi təhlükəsizlik ayrı bir süni intellekt funksiyasında deyil.
Agentlik Süni İntellekt Təhlükəsizliyi Praktikada Nədir? Altı Nəzarət #
Çərçivələr riski təsvir edir. Bunlar əksər komandaların onları qəbul edə biləcəyi ardıcıllıqla riski azaldan nəzarət vasitələridir.
- Əslində işləyən agentləri və MCP serverlərini inventarlaşdırın. Təsdiqlənmiş siyahı deyil, əsl siyahıdır. Təsdiqlənməmiş agent alətləri istisna deyil, normadır və tapmadığınızı əhatə edə bilməzsiniz.
- Alət səthini hər bir agent üçün ölçün. Ən az imtiyaz yalnız istifadəçilərə deyil, alətlərə də tətbiq olunur. Həddindən artıq aktivliyin əksəriyyəti hücum vasitəsilə deyil, rahatlıqla əldə edilir.
- Kod kimi konfiqurasiyanı nəzərdən keçirin. Bacarıq faylları, qayda faylları və MCP server tərifləri səlahiyyətli təlimatlardır. MITRE ATLAS sənədləşdirir qaydalar faylının arxa qapısı düşüncə təcrübəsi deyil, real bir iş araşdırması kimi.
- Hər agent üçün ayrıca şəxsiyyət. Əgər audit jurnalı sizə hansı agentin tədbir gördüyünü deyə bilmirsə, hadisəyə cavabınız arxeologiya ilə başlayır.
- Quraşdırma və icra zamanı tətbiq edin. Zərərli paketin və ya təsdiqlənməmiş MCP serverinin geliştirici maşınında işlədiyi anda bloklamanın ucuz olduğu son nöqtədir. → Son nöqtədə asılılıq firewall
- Hadisədən sağ çıxan bir iz saxlayın. Gəmilərin mənşəyi, anomaliya aşkarlanması pipelinevə son nöqtələr, onu yaradan kimliyə bağlıdır.
Bu agentlərin hazırladığı kod, agentlərin özləri ilə eyni diqqətlə yoxlanılmalıdır. 2025 GenAI Code Security 80 tapşırıq üzrə 100-dən çox modeli əhatə edən hesabatda süni intellekt tərəfindən yaradılan nümunələrin 45%-nin OWASP Top 10 zəifliklərini qutudan çıxarmadan təqdim etdiyi aşkar edilib. Yaratma sürəti standart olaraq təhlükəsizliklə əlaqəli deyil. → DevAI IDE-də yaradılan kodu necə təsdiqləyir
Agentlik Süni İntellekt Təhlükəsizliyi Nə Deyil? Sərhədlərin Harada Olduğu #
Şərtlər üst-üstə düşür və satınalma danışıqları bundan əziyyət çəkir.
- GenAI təhlükəsizliyi əsas intizamdır: proqram təminatınızda və ətrafındakı bütün generativ süni intellekt. Agent süni intellekt təhlükəsizliyi, fəaliyyət göstərən sistemləri əhatə edən ən əhəmiyyətli alt dəstidir.
- LLM təhlükəsizliyi modeli və onun göstərişlərini əhatə edir. Model alətlər qazandığı anda zəruri və qeyri-kafi.
- MCP təhlükəsizliyi daha da dardır: agenti xarici sistemlərlə birləşdirən protokol təbəqəsi. OWASP MCP Top 10 əhatə edir və beta versiyası olaraq qalır, ona görə də onu həll olunmuş yox, yeni bir versiya kimi qəbul edin.
- Süni intellekt-SPM süni intellekt aktivləri üzərində duruş idarəetməsi, onun həmkarıdır ASPMBu, agentin nə etməsinə icazə verildiyinə deyil, mövcud olana cavab verir.
- Şəxsiyyət və girişin idarə edilməsi Bunun real bir hissəsinə sahibdir, lakin ənənəvi IAM öz növbəti addımını təyin edən qeyri-determinist aktyor deyil, insan və ya xidmət fərz edir.
Bağlanmağa Dəyərli Çərçivələr #
Çərçivəni nə qədər aktual səsləndiyinə görə deyil, nəşr statusuna görə qiymətləndirin.
Tənzimləmədə əvvəlcədən oluncise. The AB AI Aktı müəyyən sistemlərə sənədləşdirmə və nəzarət vəzifələri qoyur və agent inventarı onlara qarşı dəlillər təqdim edir. Hal-hazırda heç bir qayda agent süni intellekt təhlükəsizliyini tələb olunan nəzarət kimi təyin etmir və əks halda iddia etmək satınalma dövründə istəmədiyiniz düzəlişə səbəb olur.
Tərifdən Proqrama #
Agentlik süni intellektinin təhlükəsizliyi yalnız görə biləcəyiniz agentlərin, alətlərin və şəxsiyyətlərin siyahısına çevrildikdən sonra əhəmiyyət kəsb edir.
İşin ardıcıllığı belədir. Agentləri, MCP serverlərini, bacarıq fayllarını və elan edilməmişləri də daxil olmaqla, artıq mövcud olan süni intellekt aktivlərini kəşf edin. Onları xam ciddiliyə görə deyil, real hücum yollarına görə qiymətləndirin. Daha sonra təhlükəli paketin, modelin və ya alətin əks halda icra edəcəyi nöqtədə siyasəti tətbiq edin.
Xygeni koddakı bu üç hərəkəti əhatə edir, pipeline və son nöqtə, artıq idarə etdiyiniz tətbiq tapıntıları ilə yanaşı, bir risk modelində. Bir demo planlaşdırın öz agentinizi və süni intellekt inventarınızı görmək üçün.
FAQ #
Sizin adınızdan hərəkət edən süni intellektinizi seçdiyiniz sərhədlər daxilində saxlamaq: çağıra biləcəyi alətlər, istifadə etdiyi kimlik, yadda saxladığı və icrasına icazə verilən şeylər.
Həmin agent konfiqurasiyası kod kimi nəzərdən keçirilir, hər bir agent öz əhatə dairəsi ilə işləyir və təhlükəli quraşdırmalar və ya təsdiqlənməmiş MCP serverləri ölüm sonrası aşkar edilmək əvəzinə maşında bloklanır.
Sürətli inyeksiya giriş nöqtələrindən biridir, ASI01. Agent süni intellekt təhlükəsizliyi sonradan nə baş verdiyini əhatə edir: ələ keçirilmiş agentin hansı alətə çatdığını, kimin etimadnaməsi altında olduğunu və əməliyyatın geri qaytarıla biləcəyini.
Demək olar ki, bəli. Alətlərə çıxışı və MCP əlaqələri olan kodlaşdırma köməkçiləri agentlərdir. Əksər təşkilatlar onları kimsə rəsmi olaraq qərar verməzdən əvvəl idarə edirlər.
Tətbiq təhlükəsizliyi, şəxsiyyətlə işləmək. Aktivlər depolarda yaşayır, pipelines və geliştirici maşınları, mülkiyyətin bölünməsi isə daha az risk yaratmaq əvəzinə, ikinci bir gecikmə yaradır.
