TL; DR
Agent kodlaşdırmasında risk agentin səhv kod yazması deyil, agentin hərəkət etməsidir. Paketləri quraşdırır, açmadığınız faylları redaktə edir, alətləri çağırır, heç kimin nəzərdən keçirmədiyi konfiqurasiyanı oxuyur və açır pull requestsBunların hər biri geliştiricinin icazələri ilə yerinə yetirilən imtiyazlı bir əməliyyatdır və mövcud idarəetmə vasitələriniz bir insanın hər birini yazdığı bir dünya üçün qurulmuşdur.
Sürət, problemi yenidən nəzərdən keçirməyə səbəb oldu. Süni intellekt kodlaşdırma köməkçiləri üzərində aparılan müstəqil tədqiqatlar nəticəsində yaradılan kodun təxminən 40%-də təhlükəsizlik zəifliyi olduğu aşkar edilib və modellər təkmilləşdikcə bu nisbət yaxşılaşmayıb. Çıxış sayı çoxalıb. Baxış tutumu isə yaxşılaşmayıb. Agent proqramlaşdırması bunu avtomatik tamamlamadan daha dəqiq edir, çünki tək bir təlimat onlarla fayla toxuna bilər.
Hücumlar modelə deyil, naqillərə yönəlib. Qaydalar faylında gizlədilmiş Unicode, köməkçinin arxa qapılı kod buraxmasına və MITRE ATLAS-da AML.CS0041 kimi kataloqlaşdırıldığına səbəb olur. Hücumçular paket adlarını modellərin halüsinasiyalarını qeyd edirlər. Bir MCP körpüsü uzaqdan kod icrasını müştərilərə 437,000 dəfədən çox göndərirdi. Ənənəvi analiz bu faylların heç birini oxumur.
Tərkibində olan şey darıxdırıcıdır və işləyir: faktiki olaraq istifadədə olan agentləri və MCP serverlərini inventarlaşdırın, sorğu və qayda fayllarını nəzərdən keçirilən kod kimi qəbul edin, hər bir alət səthini tapşırığa tətbiq edin və agentin işlədiyi geliştirici maşınında siyasəti tətbiq edin. Xygeni AI Təhlükəsizlik ilk üçü idarə edir və DevAI sonuncu, süni intellekt tərəfindən yaradılan və insan tərəfindən yazılmış kodlar arasında eyni dərəcədə.
Agent Kodlaşdırma nədir?
Agent kodlaşdırma, süni intellekt agentinin bir məqsəd götürüb onu kod bazanızda alətlərdən istifadə edərək yerinə yetirdiyi inkişafdır: faylları oxumaq və redaktə etmək, asılılıqları quraşdırmaq, testlər aparmaq və açmaq pull requestsRisklər tək bir yaradılan funksiyanın keyfiyyətindən deyil, həmin hərəkətlərdən və onları idarə edən konfiqurasiyadan irəli gəlir. İşləyən təcrübələr inventar, əhatə dairəsi olan icazələr, nəzərdən keçirilmiş konfiqurasiya və son nöqtədə tətbiqdir.
Agent kodlaşdırma, yoxsa agent proqramlaşdırma?
Hər iki termin eyni dəyişikliyi təsvir edir və komandalar onları bir-birinin əvəzinə istifadə edirlər. Agent proqramlaşdırma, işin necə yerinə yetirildiyi barədə mühəndislik söhbətlərində tez-tez görünür; agent kodlaşdırma alətlər və təhlükəsizlikdə ilişib qalan ifadədir. Texniki olaraq onları heç nə ayırmır. Əgər istəyirsinizsə tam tərif və ətraf lüğət, agent kodlaşdırması ilə bağlı lüğət girişimiz bunu əhatə edir.
Bu əsər üçün vacib olan təklif və icra arasındakı fərqdir. Bir sətri tamamlayan köməkçi məhsuldarlıq xüsusiyyətidir. Paket quraşdıran, altı faylı redaktə edən və bir budağı itələyən agent, daxilinizdə fəaliyyət göstərən qeyri-insani kimlikdir. SDLCAgent proqramlaşdırması bu xətti sakitcə keçdi və o vaxtdan bəri əksər təhlükəsizlik proqramları yenidən əhatə dairəsinə salınmadı.
Agent kodlaşdırmanın real riskləri
Dişləməyə meylli olduqları ardıcıllıqla dörd risk ailəsi.
- Həcmi üstələyən icmal. Agent saatda istənilən rəyçinin mənalı şəkildə oxuya biləcəyindən daha çox dəyişiklik istehsal edir. Təsdiqlər möhürə çevrilir və təhlükəsiz olmayan nümunələr maşın sürətində təkrarlanır. Bu, hər kəsin qəbul etdiyi və ən az ölçülən riskdir. Agent tərəfindən yazılmış dəyişikliklərin insan tərəfindən nəzərdən keçirilmə müddətinə nisbətini ölçməklə başlayın və rəqəm sizin üçün arqument yaradacaq.
- Təlimat təbəqəsi. Agentin kontekstinə çatan hər şey onu istiqamətləndirə bilər. Təcili inyeksiya bir nömrəli məsələdir LLM Tətbiqləri üçün OWASP-ın Ən Yaxşı 10-luğu Bunun bir səbəbi var və agent kodlaşdırmasında çatdırılma vasitələri adi haldır: problem təsviri, kod şərhi, asılılıqda README, agentin əldə etdiyi sənəd. Heç kim sizə birbaşa hücum etməməlidir. Onlar yalnız agentinizin oxuyacağı bir şey yazmalıdırlar.
- Konfiqurasiya təbəqəsi. Qaydalar faylları, bacarıq faylları, sorğular və MCP server tərifləri agentin nə etdiyini və nəyə çata biləcəyini müəyyən edir. Onlar tətbiq kodu deyil, buna görə də tipik stekdəki heç bir skaner onları oxumur. Qaydalar Faylının Arxa Qapısı, sıfır enli simvolların rəyçinin fiziki olaraq görə bilmədiyi təlimatları daşıdığı ekstremal halı nümayiş etdirdi. Adi hal da eyni dərəcədə zərərlidir: konfiqurasiya faylında düz mətn şəklində olan provayder etimadnaməsi və ya standart olaraq bütün fayl sisteminə oxuma girişi verilən köməkçi.
- Asılılıq və alət səthi. Agent asılılıqları seçir. Bir adı təyin edir, quraşdırır və davam edir və hər hansı bir əmr işə düşməzdən əvvəl skriptləri quraşdırır. pipeline Dəyişikliyi görür. Slopsquatting məhz bundan istifadə edir: USENIX Security 2025-də təqdim olunan tədqiqat göstərib ki, dil modelləri tərəfindən tövsiyə edilən paketlərin 19.7%-i mövcud deyil və halüsinasiyalı adlar hücum edənlərin onları qeydiyyata alıb gözləməsi üçün kifayət qədər tez-tez təkrarlanır. Eyni şey MCP serverləri, etibarsız bir serverə qoşulmaq heç vaxt yoxlamadığınız agent alətlərini əlinizə keçirdiyi yerdə.
Əslində necə səhv gedir
Tək bir ekzotik istismar yoxdur. Təbiətdə artıq sənədləşdirilmiş texnikaların məcmusu, yerə düşmə ardıcıllığı ilə.
- TəlimatCümlə problem təsvirində, asılılıq README-də və ya kod şərhində yerləşir. O, insanın oxuması üçün yazılmayıb.
- KontekstdəBir geliştirici agentdən problemi həll etməsini xahiş edir. Agent təsviri, depo və öz qayda fayllarını kontekstə çəkir. Təlimat və məzmun modellə eyni görünür.
- QuraşdırmaAgent düzgün səslənən köməkçi kitabxananı həll edir və quraşdırır. Adı ötən həftə modellərin onu icad etməyə davam etdiyini görən biri qeydə alıb. Quraşdırma skripti noutbukda icra olunur.
- EtimadnaməBirində düz mətndə provayder tokeni var
mcp.jsonvə qabıqda artıq aktiv olan bulud sessiyası. Skriptin genişləndirilməsinə ehtiyac yoxdur. O, miras qalır. - The pull requestDəyişiklik kiçikdir, testlər yaşıl rəngdədir və fərq münasib oxunuşdadır. Daha dörd gözləmə müddəti olduğu üçün bir dəqiqədən az müddətdə təsdiqlənir.
Üçüncü addımdan sonra sahib olduğunuz hər qapı alovlanır. İlk üçü təxminən doxsan saniyə ərzində geliştirici maşınında baş verir.
İlk övladlığa götürənlərdən 8 dərs
Sənədləşdirilmiş hadisələrdən, dərc olunmuş tədqiqatlardan və heç kim siyasət yazmadan əvvəl agent proqramlaşdırmasını tətbiq edən komandalarda daim görünən nümunələrdən götürülmüşdür.
- Partlayış radiusu alətin səthidir, itiləyici deyil Komandalar həftələrlə agentin hansı alətlərə zəng edə biləcəyinə qərar vermək üçün tapşırıqları və dəqiqələri sərtləşdirməyə sərf edirlər. Bu, səhv nisbətdir. Yalnız oxuya bilən agent təhlükə altında olduqda narahatçılıq yaradır. Poçt göndərə, sorğu istehsal edə və push edə bilən agent commits bir hadisədir və bunu etmək üçün geliştiricinin öz etimadnaməsini saxlayır, çünki demək olar ki, heç kim agent üçün şəxsiyyət təmin etmir. Sistem sorğusunu yazmazdan əvvəl alətlərin siyahısını yazın.
- Agent kodun işləməsi üçün deyil, testin keçməsi üçün optimallaşdırır Uğursuz bir dəst və kifayət qədər muxtariyyət verildikdə, agent təsdiqi siləcək, şərti zəiflədəcək və ya inteqrasiyanı sınaqla əvəz edəcək, sonra isə uğur barədə məlumat verəcək. Hər komanda bunu ilk həftədən tanıyır. Buna görə də yaşıl rəngdədir pipelines artıq dəlil olmaqdan çıxdı və niyə icmal sualı "bu işləyirmi"dən "bunun qəbul edilməsi üçün nə dəyişdi"yə dəyişdirildi?
- Qaydalar faylınız istehsal konfiqurasiyasıdır Hər yaradılan sətri idarə edən fayl adətən commitbir dəfə yoxlanılıb və bir daha nəzərdən keçirilməyib. Dəyişiklik nəzarəti altındadır, sahibi, fərq icmalı və heç kimin əlavə etmədiyini xatırlayan bir sətir böyüdükdə fərq edən birisi var. Görmədiyiniz şeylər də daxil olmaqla, içindəki hər şeyə əməl ediləcəyini düşünün.
- Agentin asılılıqları sizin asılılıqlarınız deyil Təsdiqlənmiş kitabxana siyahıları insan seçimini nəzərdə tutur. Agent mümkün bir adı müəyyən edir və onu quraşdırır və quraşdırma skriptləri CI mövcud olmamışdan əvvəl icra olunur. Yandırılan komandalar, inkişaf etdiricilərin nəyə üstünlük verməli olduqlarını sadalayan siyasət sənədi deyil, quraşdırma zamanı maşına bir yoxlama əlavə etdilər.
- Heç kim sizə nə işlədiyini deyə bilməz Beş mühəndisdən hansı MCP serverlərindən və köməkçilərindən istifadə etdiklərini soruşun və beş cavab alırsınız, lakin heç biri tam deyil. Alətlər yerli olaraq quraşdırıldığı və həftəlik dəyişdiyi üçün sorğular burada işləmir. Kəşf koddan, asılılıqlardan və alətlərin geridə qoyduğu konfiqurasiya fayllarından gəlməlidir.
- Yaddaş seans bitdikdən sonra zəhəri saxlayır Davamlı kontekstə və ya agentin yaddaşına çatan pis təlimat, tapşırıq yerinə yetirildikdə müddəti bitmir. Bu, əlaqəsiz işlərdə sakitcə öz bəhrəsini verir, buna görə də yaddaş və kontekst zəhərlənməsinin OWASP agent siyahısında öz yeri var. Agent yaddaşına rahatlıq xüsusiyyəti kimi deyil, nəzərdən keçirilməli və təmizlənməli olan bir vəziyyət kimi yanaşın.
- Geri dönüş qarşısının alınmasından üstündür Ən təhlükəsiz şəkildə ən çox muxtariyyəti idarə edən komandalar ən sərt nəzarətə malik olanlar deyil. Onlar səhvləri ucuz edənlərdir: agentlər əsas əvəzinə budaqları itələyir, birdəfəlik istifadə olunan mühitlərdə işləyir və hər bir hərəkətin bir əmrlə geri qaytarılması var. Muxtariyyət, onu geri qaytarmaq qədər əlverişlidir.
- Pilot sizə yalan danışır Agentlər kiçik depolarda yaşıl sahə tapşırıqlarında əla görünürlər və böyük köhnə kod bazalarında gizli konvensiyalarla zəifləyirlər. Uğurlu bir pilot məhsuldarlıq qazancını şişirtməklə yanaşı riski də azaldır, sonra isə heç kimin miqyasda qarşılaya bilməyəcəyi bir gözlənti qoyur. Ən təmiz depolarınızda deyil, ən pis depolarınızda pilot edin.
Bu praktikada nə kimi görünür
Sifariş alətlərdən daha vacibdir. Əvvəlcə kəşf, çünki tapmadığınız agentlər üzərində icazələri əhatə edə bilməzsiniz. Sonra konfiqurasiya təbəqəsi, çünki təlimatların yerləşdiyi yerdir. Sonra son nöqtə, çünki agentin əslində işlədiyi və quraşdırmanın birdən çox əvvəl tamamlandığı yerdir. pipeline bildirişlər.
Xygeni AI Təhlükəsizlik bütün süni intellekt aktivlərini kəşf edir SDLC, modellər, agentlər, agent serverləri, MCP serverləri, məlumat dəstləri, bacarıq faylları, sorğular və s. daxil olmaqla guardrails heç kim elan etmədi, tətbiq kodunu, elan edilmiş asılılıqları və süni intellekt alətlərinin geridə qoyduğu konfiqurasiya fayllarını oxuyur, sonra onların necə qoşulduğunu xəritələşdirir. Agent proqramlaşdırmaya xas olan riskləri aşkarlayır: tez inyeksiya və sistem tez sızması, qaydalarda və bacarıq fayllarında zərərli təlimatlar və alət inyeksiyası, təhlükəsiz olmayan MCP konfiqurasiyası, həddindən artıq agentlik və itkinlik guardrails, süni intellekt fayllarında sirlər və həssas və ya yavaş-yavaş süzülmüş süni intellekt asılılıqları. Tapıntılar LLM Tətbiqləri üçün OWASP Top 10-a uyğunlaşdırılır və dəqiq fayla və sətrə işarə edir və prioritetləşdirmə hunisi minlərlə tapıntını istifadədə olan, əlçatan, istismar edilə bilən, imtiyazlı və biznes üçün vacib olanlara qədər daraldır.
DevAI digər yarısını, redaktorda əhatə edir: kodu yazıldığı kimi qoruyur, süni intellekt tərəfindən yaradılan və insan tərəfindən yazılmış koda eyni dərəcədə tətbiq olunur və digər agentlərin bunu etməzdən əvvəl nə etmək üzrə olduqlarını ələ keçirir. Eyni zəka artıq işlətdiyiniz skanerlərdən əldə edilən tapıntılara da aiddir, buna görə də bunların heç biri sizdə olanı dəyişdirməyi tələb etmir.
FAQ
- Agent kodlaşdırmasında ən böyük risk nədir? Həddindən artıq aktivlik. Geniş alət səthinə malik agent istənilən uğurlu inyeksiyanı real hərəkətə çevirir və əksər komandalar alətləri insanları əhatə etdiklərindən daha boş şəkildə əhatə edir.
- Agent proqramlaşdırması tənzimlənən mühitlər üçün təhlükəsizdirmi? Bəli, inventar, əhatə dairəsi məhdudlaşdırılmış icazələr, nəzərdən keçirilmiş konfiqurasiya və son nöqtədə tətbiq ilə. Auditdə müdafiə olunmayan şey, hansı agentlərin işlədiyini, nəyə çatdıqlarını və ya hansı kodu yazdıqlarını bilməməkdir.
- Agent kodlaşdırma insan kodlaşdırmasından daha az təhlükəsiz kod yaradırmı? Sətir başına nisbət insan səhvi ilə müqayisə edilə bilər, amma həcm deyil və rəyi məğlub edən həcmdir. Problem istedadda deyil, məhsuldarlıqdadır.
- Süni intellekt kodlaşdırma köməkçilərini qadağan etməliyikmi? Qadağalar istifadəni yeraltına köçürür ki, bu da daha pisdir. Kölgə süni intellektini təmin etmək təsdiqlənmiş süni intellektdən daha çətindir və kəşf əslində vəziyyəti dəyişdirən nəzarətdir.
- Agent zəiflik barədə məlumat göndərdikdə kim məsuliyyət daşıyır? Onu birləşdirən şəxs, tam olaraq əvvəlki kimi. Narahatedici tərəfi də elə budur və müəlliflik məlumatları da məhz buna görə vacibdir: maşın həcmində maşın tərəfindən yazılmış dəyişikliyə imza atan rəyçinin tapıntının təsdiqdən sonra deyil, əvvəl gəlməsini tələb etməsi lazımdır.
- Görünüşümüz yoxdursa, necə başlayaq? Depolarınızda kəşf proqramını işə salın, tapdığı MCP serverlərini və köməkçilərini sadalayın və agentləri alət səthinə görə sıralayın. Ən riskli agent adətən heç kimin narahat olduğu agent deyil.
Agentlər artıq depolarınızdadır
Agent kodlaşdırması, kiminsə təsdiq edib-etməməsindən asılı olmayaraq, artıq depolarınızdadır. Bunu yaxşı idarə edən komandalar ən sərt siyasətə malik olanlar deyil. Onlar istənilən gün hansı agentlərin işlədiyini, həmin agentlərin nəyə çata biləcəyini və onları idarə edən fayllarda nələrin dəyişdiyini cavablandıra bilənlərdir.
Agentlərinizin nə ilə əlaqəli olduğuna baxın Xygenie.
