TL;DR: agent qoşqu mühəndisliyi və onun gizli hücum səthi
Agent qoşqu mühəndisliyi, hər şeyi süni intellekt modeli (təlimatlar, alətlər, icazələr, yaddaş və geribildirim dövrələri) ətrafında quraraq onu işləyən agentə çevirmək təcrübəsidir. Əsl təhlükəsizlik riskinin əksəriyyətinin yaşadığı yer model deyil, məhz bu qoşqudur.
- Növbə: Komandalar tənzimləmə tapşırıqlarını dayandırdı və qoşqu mühəndisliyinə başladı. Agent = model + qoşqu.
- Problem: qoşqu, əgər varsa, sənədlər kimi nəzərdən keçirilən düz mətnli fayllarda (qaydalar, bacarıqlar, MCP konfiqurasiyaları) yaşayır.
- Dəlillər: Qaydalar Faylının Arxa Qapısı və real MCP CVE-ləri göstərir ki, hücum edənlər artıq onu hədəfə alıblar.
- Düzeltme: Qoşquya kod kimi yanaşın. Göndərilməzdən əvvəl onu inventarlaşdırın, nəzərdən keçirin və skan edin.
Süni intellektlə bağlı hər bir təhlükəsizlik söhbəti nəticədə modelə toxunur. Jailbreak edilə bilərmi? Halüsinasiya olacaqmı? Provayder məlumatlarımız üzərində təlim keçirmi?
Ədalətli suallar. Amma onlar getdikcə daha çox səhv suallar verirlər. Süni intellekt agenti istehsal cədvəlini sildikdə, arxa qapını açdıqda və ya müştəri siyahısını tanımadığı birinə e-poçtla göndərdikdə, model nadir hallarda uğursuz olur. Model, qolu imkan verdiyi şeyi etdi.
Agent = model + qoşqu
Son bir il ərzində sənaye süni intellektlə qurmağın nə demək olduğunu sakitcə dəyişdi. Sürətli mühəndislik kontekst mühəndisliyinə, kontekst mühəndisliyi isə daha böyük bir şeyə yol verdi: agent qoşqu mühəndisliyi.
İdeya sadədir. Model özü-özlüyündə əlləri olmayan bir düşünmə mühərrikidir. Qoşqu ona əl və iş verən hər şeydir: izlədiyi təlimatlar, çağıra biləcəyi alətlər, saxladığı icazələr, saxladığı yaddaş və səhvlərini aşkar edən yoxlamalar. Martin Fowlerin saytı qoşqu mühəndisliyini kodlaşdırma agenti istifadəçilərinin agentləri etibarlı etmək üçün indi gördüyü iş kimi təsvir edir və bu il nəşr olunan akademik çərçivə alətə giriş və layihə yaddaşından tutmuş icazələrə və yoxlamaya qədər bütün məsuliyyəti on bir hissəyə bölür.
Nəticələr realdır. Agent qoşqu mühəndisliyi ilə məşğul olan komandalar bildirirlər ki, yalnız qoşqunun dəyişdirilməsi, altında eyni modelin olması agentin nəticələrini kəskin şəkildə dəyişə bilər. Bu, təhlükəsizlik sahəsində çalışan hər kəs üçün narahatedici bir məqam yaradır: əgər qoşqu agentin necə davranacağına qərar verirsə, qoşqu da onun necə sui-istifadə olunacağına qərar verir.
Asılılıq quraşdırmaq kimi adi bir şeyi götürək. Bir geliştirici paketin adını yoxlamaq üçün fasilə verir. Düzgün aləti olan agent sadəcə əmri işlədir və paket zərərlidirsə, modeldəki heç bir şey onu dayandıra bilməz. SafeDev Talks-ın bu bölümündə məhz bunu izah edirik: süni intellekt agentləri asılılıqlar quraşdırdıqda nə dəyişir özləri və agent qoşqu mühəndisliyinin niyə səssizcə təchizat zənciri probleminə çevrildiyi.
Agent qoşqu mühəndisliyi depoda necə görünür
Tərtibatçıların süni intellekt agentlərindən istifadə etdiyi və heç vaxt skan etmədiyiniz fayllarda lazımi məlumatları ehtiva edən bir depo açın:
- Qaydalar və təlimat sənədləri (
AGENTS.md,.cursorrules, Kopilot təlimatları) agentə necə davranmağı izah edir. - Bacarıq faylları Agentin tələb olunduqda yüklədiyi paketin təkrar istifadə edilə bilən imkanları.
- MCP server konfiqurasiyaları agenti alətlərə, verilənlər bazalarına və API-lərə qoşur.
- Sistem sorğuları və sorğu şablonları tətbiq koduna daxil edilmişdir.
- Agent naqilləriagentin hansı alətlərə çata biləcəyi, hansı məlumatları əldə edə biləcəyi və arada bir sədd olub-olmadığı.
Hamısı sadə mətndir. Hamısı commitkodla yanaşı ted. Və bütün bunlar sənədlərin nəzərdən keçirildiyi şəkildə nəzərdən keçirilir: qısa bir baxış, təsdiq, birləşmə. Lakin bu faylların hər biri agentə nə etməli olduğu və nəyə toxuna biləcəyi barədə səssizcə yenidən yaza bilər.
Agent qoşqu mühəndisliyinin əsl nəticəsi budur: proqram təminatınızdakı ən güclü konfiqurasiya indi ən az nəzərdən keçirilmişdir.
Hücumçular artıq fərq etdilər
Bu, nəzəri məsələ deyil. Qoşqunun qısa, lakin təsirli bir hadisə tarixçəsi var.
- Qaydalar Faylının Arxa Qapısı. 2025-ci ilin mart ayında tədqiqatçılar qaydalar faylının içərisində gizlənmiş Unicode simvollarının süni intellekt kodlaşdırma köməkçilərinə görünən cavablarında qeyd etmədən arxa qapılı kodu daxil etməyi tapşırdığı bir hücumu aşkar etdilər. Faylı oxuyan bir rəyçi qeyri-adi bir şey görmədi. İndi o, kataloqlaşdırılıb MITRE ATLAS AML.CS0041 iş araşdırması.
- Zəhərlənmiş MCP alətləri. 2025-ci il ərzində tədqiqatçılar dəfələrlə agentlərin alət təsvirlərinə dolayı yolla etibar etdiklərini göstərdilər, buna görə də zərərli MCP serveri sadəcə özünü düzgün təsvir etməklə agenti idarə edə bilər. Elə həmin il, CVE-2025-6514 Geniş şəkildə yüklənmiş MCP klientində, CVSS-də 9.6 balla qiymətləndirilən etibarsız bir serverə qoşulduqda uzaqdan əmr icrasına icazə verilirdi.
- Həddindən artıq səlahiyyət. The LLM Tətbiqləri üçün OWASP-ın Ən Yaxşı 10-luğu həddindən artıq agentliyi ən böyük risk kimi sadalayır: agentlərə tapşırıq tələb etdiyindən daha çox alət, icazə və ya muxtariyyət verilir. Bu, model qüsuru deyil. Bu, qoşqu dizaynının bir hissəsidir.cision.
Nümunəyə diqqət yetirin. Bu hücumların heç biri modeli qırmır. Onlar qoşquları qırır və model qalanını sədaqətlə edir.
Təhlükəsizlik yığınınız niyə bunu görmür
Ən çətin tərəfi də budur. Əksər təşkilatlar artıq yaxşı AppSec alətlərindən istifadə edir və demək olar ki, heç biri bu təbəqə üçün hazırlanmayıb.
Statik analiz kodu başa düşür, lakin modelin nə olduğunu və ya sistem sorğusuna axan etibarsız mətnin nə üçün vacib olduğunu bilmir. Kompozisiya analizi paketləri inventarlaşdırır, lakin MCP serverlərini və ya bacarıq fayllarını sadalamır. Gizli skanerlər agent konfiqurasiya faylında olan bir API açarını qaçıra bilər. Bu alətlərin heç biri qüsurlu deyil. Onlar sadəcə konfiqurasiyanın əmr vermədiyi bir dünya üçün yaradılmışdır.
Beləliklə, agent qoşqu mühəndisliyi sürətlə hərəkət edir və təhlükəsizlik görə biləcəyi hissəni - modeli və kodu nəzərdən keçirir. Qoşqu arada yerləşir.
Qoşqu bağlamaq üçün beş vərdiş
Agent qoşqu mühəndisliyinin yeni bir komandaya ehtiyacı yoxdur. Qoşquya olduğu kimi yanaşan bir neçə vərdiş lazımdır: icra edilə bilən niyyət.
| Vərdiş | Niyə bu məsələ | Nə |
|---|---|---|
| 1. Hər qoşqu inventarını doldurun | Heç kimin elan etmədiyi agentləri təmin edə bilməzsiniz. | Anketdən deyil, koddan və konfiqurasiya fayllarından depolarınızdakı hər modeli, agenti, MCP serverini, bacarığı və sorğunu tapın. |
| 2. Kod kimi qoşqu fayllarını nəzərdən keçirin | Qaydalar, bacarıqlar və MCP konfiqurasiyaları agentin etdiklərini yenidən yaza bilər, lakin onlar sənədləşmə kimi nəzərdən keçirilir. | Onlara eyni şeyi verin pull request tətbiq məntiqi kimi yoxlama, o cümlədən gizli simvolların yoxlanılması. |
| 3. Agentin yüklədiyi məlumatları sancaqlayın | Dəyişdirilə bilən etiket tərəfindən istinad edilən bir sorğu və ya model kod dəyişikliyi olmadan yenidən göstərilə bilər. | Dəyişməz versiyalara sorğu və modelləri sancın. |
| 4. Hər lavaboya qoruyucu məhəccər qoyun | Əldə edilən sənədlər, alət çıxışı və istifadəçi məzmunu hamısı inyeksiya edilmiş təlimatları modelə daşıya bilər. | Məzmunun modelə çata biləcəyi hər yerə bir məhəccər qoyun. |
| 5. Etimadnamələri ələ keçirməyin | Süni intellekt provayderinin açarları sorğu fayllarında və agent konfiqurasiyalarında hücumçu üçün asan bir qazancdır. | Onları silin və sirləri tapmaq üçün qoşqu fayllarını skan etməyə davam edin. Bu, asan bir həlldir. |
Yalnız modeli deyil, qoşqunu bərkidin
Xygeni AI Təhlükəsizlik Agent qoşqu mühəndisliyinin öz izini qoyduğu yerdən başlayır: depolarınızda. Kod bazanızdakı süni intellekt aktivlərini (modellər, agentlər, MCP serverləri, bacarıqlar, göstərişlər və s.) aşkar edir. guardrails, və istifadədə olan süni intellekt kodlaşdırma alətləri) koddan, asılılıqlardan və həmin alətlərin geridə qoyduğu konfiqurasiya fayllarından götürülmüşdür.
Daha sonra bacarıq fayllarını, qayda fayllarını və MCP konfiqurasiyalarını sənədləşdirmə kimi deyil, təhlükəsizlik artefaktları kimi təhlil edir və agent naqillərində sistem sorğusuna çatan etibarsız məzmun və ya qoruyucu rabitəsi olmayan axtarış lavabosu kimi sorğu-injeksiya sinif risklərini aşkarlayır. Xygeni-nin sirlərini skan etmək, sorğularda və agent konfiqurasiya fayllarında süni intellekt provayderinin etimadnaməsini qeyd edir və süni intellekt yığınının asılılıqları imza mövcud olmazdan əvvəl hər şeylə eyni zərərli proqram aşkarlanmasına nail olur.
FAQ
Agent qoşqu mühəndisliyi nədir?
Agent qoşqu mühəndisliyi, etibarlı bir agent kimi davranması üçün süni intellekt modeli (təlimatlar, alətlər, icazələr, yaddaş, kontekst və doğrulama dövrləri) ətrafında mühitin dizayn edilməsi intizamıdır. Model əsaslandırma təmin edir; qoşqu agentin nə görə və nə edə biləcəyinə qərar verir.
Agent qoşqu mühəndisliyi təcili mühəndislikdən nə ilə fərqlənir?
Prompt engineering tək bir təlimat formalaşdırır. Agent qoşqu mühəndisliyi agentin işlədiyi bütün sistemi bir çox addım, alət və sessiya boyunca formalaşdırır. Prompt qoşqudakı tək bir fayldır.
Niyə qoşqu təhlükəsizlik riski daşıyır?
Çünki o, agentin nə etməyə icazə verildiyini idarə edir və nadir hallarda təhlükəsizlik artefaktları kimi nəzərdən keçirilən düz mətnli fayllarda yaşayır. Qaydalar faylını və ya MCP konfiqurasiyasını pozaraq, modelə toxunmadan agenti idarə edirsiniz.
Agentin təhlükəsizliyini kim təmin etməlidir?
Tətbiq təhlükəsizliyi, agentləri quran və konfiqurasiya edən mühəndislərlə işləmək. Qoşqu göndərdiyiniz proqram təminatının bir hissəsidir, buna görə də kodunuzun qalan hissəsi ilə eyni baxış, skanlama və inventar proseslərinə aiddir.







