ХИБ; DR
Хатар дар рамзгузории агентӣ дар он нест, ки агент рамзи бад менависад, балки дар он аст, ки агент амал мекунад. Он бастаҳоро насб мекунад, файлҳоеро, ки шумо накушодаед, таҳрир мекунад, асбобҳоро даъват мекунад, конфигуратсияро мехонад, ки ҳеҷ кас барраси намекунад ва мекушояд. pull requestsҲар яки ин амалиёти имтиёзнокест, ки бо иҷозатҳои таҳиягар иҷро карда мешавад ва идоракунии мавҷудаи шумо барои ҷаҳоне сохта шудааст, ки дар он инсон ҳар яки онҳоро чоп мекард.
Суръат монеаро барои баррасӣ тела дод. Таҳқиқоти мустақил дар бораи ёварони рамзгузории зеҳни сунъӣ нишон медиҳанд, ки тақрибан 40% рамзи тавлидшуда дорои осебпазирии амниятӣ мебошад ва ин суръат бо беҳтар шудани моделҳо беҳтар нашудааст. Натиҷаҳо дучанд шуданд. Иқтидори баррасӣ низ беҳтар нашуд. Барномасозии агентӣ инро нисбат ба пуркунии худкор тезтар мекунад, зеро як дастур метавонад ба даҳҳо файл таъсир расонад.
Ҳамлаҳо ба симкашӣ нигаронида шудаанд, на ба модел. Юникоди пинҳоншуда дар файли қоидаҳо боис мешавад, ки ёвар рамзи пинҳоншударо содир кунад ва онро ҳеҷ гоҳ зикр накунад, ки дар MITRE ATLAS ҳамчун AML.CS0041 феҳрист шудааст. Ҳамлагарон номҳои бастаҳоро дар моделҳо галлюцинатсия мекунанд. Як пули MCP иҷрои дурдасти рамзро ба муштариён беш аз 437,000 маротиба интиқол додааст. Таҳлили анъанавӣ ҳеҷ яке аз ин файлҳоро намехонад.
Он чизе, ки онро дар бар мегирад, дилгиркунанда аст ва он кор мекунад: агентҳо ва серверҳои MCP-и воқеан истифодашавандаро инвентаризатсия кунед, файлҳои дархостҳо ва қоидаҳоро ҳамчун рамзи баррасишаванда баррасӣ кунед, ҳар як сатҳи асбобро ба вазифа фаро гиред ва сиёсатро дар мошини таҳиягар, ки агент дар он ҷо кор мекунад, татбиқ кунед. Амнияти Xygeni AI сегонаи аввалро идора мекунад ва ДевАИ охирин, ҳам дар тамоми рамзҳои аз ҷониби зеҳни сунъӣ тавлидшуда ва ҳам дар рамзи аз ҷониби инсон навишташуда.
Кодгузории агентӣ чист?
Рамзгузории агентӣ як таҳияест, ки дар он агенти зеҳни сунъӣ ҳадаферо мегирад ва онро дар тамоми пойгоҳи рамзи шумо бо истифода аз абзорҳо иҷро мекунад: хондан ва таҳрир кардани файлҳо, насб кардани вобастагиҳо, гузаронидани санҷишҳо ва кушодан. pull requestsХатарҳо аз он амалҳо ва аз конфигуратсияе, ки онҳоро идора мекунад, бармеоянд, на аз сифати ягон функсияи тавлидшуда. Амалияҳое, ки кор мекунанд, инвентаризатсия, иҷозатҳои маҳдудшуда, конфигуратсияи баррасишуда ва татбиқ дар нуқтаи ниҳоӣ мебошанд.
Рамзгузории агентӣ ё барномасозии агентӣ?
Ҳарду истилоҳ як тағйиротро тавсиф мекунанд ва дастаҳо онҳоро ба ҷои ҳамдигар истифода мебаранд. Барномасозии агентӣ одатан дар сӯҳбатҳои муҳандисӣ дар бораи чӣ гуна анҷом додани кор пайдо мешавад; рамзгузории агентӣ ибораест, ки дар абзорҳо ва амният часпидааст. Ҳеҷ чиз онҳоро аз ҷиҳати техникӣ ҷудо намекунад. Агар шумо хоҳед, ки таърифи пурра ва луғати атроф, вуруди луғати мо дар бораи рамзгузории агентӣ онро фаро мегирад.
Барои ин порча муҳим фарқи байни пешниҳод ва иҷро аст. Ёрдамчие, ки сатрро анҷом медиҳад, хусусияти ҳосилнокӣ аст. Агенте, ки бастаро насб мекунад, шаш файлро таҳрир мекунад ва шохаро тела медиҳад, як шахсияти ғайриинсонӣ аст, ки дар дохили шумо кор мекунад. SDLCБарномасозии агентӣ аз ин хат оҳиста-оҳиста гузаштанд ва аз он вақт инҷониб аксари барномаҳои амниятӣ дубора фаро гирифта нашудаанд.
Хатарҳои воқеии рамзгузории агентӣ
Чор оилаи хатарнок, бо тартибе, ки майл ба газидан доранд.
- Баррасии ҳаҷми аз ҳад зиёд. Агент дар як соат нисбат ба он чизе, ки ҳар як баррасикунанда метавонад ба таври маънодор хонад, пули бештар истеҳсол мекунад. Тасдиқҳо ба мӯҳрҳои резинӣ табдил меёбанд ва намунаҳои ноамн бо суръати мошин такрор мешаванд. Ин хатарест, ки ҳама эътироф мекунанд ва камтар чен карда мешавад. Бо чен кардани таносуби тағйироти аз ҷониби агент навишташуда ба вақти баррасии инсонӣ оғоз кунед ва ин рақам барои шумо далел хоҳад овард.
- Қабати дастурӣ. Ҳар чизе, ки ба контексти агент мерасад, метавонад онро идора кунад. Тазриқи фаврӣ дар ин кор рақами як аст 10 беҳтарини OWASP барои барномаҳои LLM бо ягон сабаб ва дар рамзгузории агентӣ воситаҳои интиқол оддӣ ҳастанд: тавсифи масъала, шарҳи рамз, README дар вобастагӣ, ҳуҷҷате, ки агент мегирад. Ҳеҷ кас маҷбур нест, ки ба шумо мустақиман ҳамла кунад. Онҳо танҳо бояд чизе нависанд, ки агенти шумо онро бихонад.
- Қабати конфигуратсия. Файлҳои қоидаҳо, файлҳои малакаҳо, дархостҳо ва таърифҳои сервери MCP муайян мекунанд, ки агент чӣ кор мекунад ва ба чӣ дастрасӣ дорад. Онҳо рамзи барнома нестанд, аз ин рӯ, ҳеҷ як сканер дар стеки маъмулӣ онҳоро намехонад. Дар пушти файли қоидаҳо ҳолати шадид нишон дода шудааст, ки дар он аломатҳои паҳнои сифр дастурҳоеро дар бар мегиранд, ки баррасикунанда наметавонад онро аз ҷиҳати ҷисмонӣ бубинад. Ҳолати муқаррарӣ низ ба ҳамин монанд зараровар аст: эътиборномаи провайдер, ки дар матни оддӣ дар файли конфигуратсия ҷойгир аст, ё ба ёвар дастрасии хондан ба тамоми системаи файлӣ дода шудааст, зеро ин пешфарз буд.
- Сатҳи вобастагӣ ва асбоб. Агент вобастагиҳоро интихоб мекунад. Он номро муайян мекунад, онро насб мекунад ва ба пеш ҳаракат мекунад ва скриптҳоро пеш аз он ки ягонтои онҳо иҷро шаванд, насб мекунад. pipeline тағйиротро мебинад. Слопсквоттинг маҳз аз ҳамин истифода мебарад: таҳқиқоте, ки дар USENIX Security 2025 пешниҳод шуда буд, нишон дод, ки 19.7% бастаҳои тавсияшуда аз ҷониби моделҳои забонӣ вуҷуд надоранд ва номҳои галлюцинатсияшуда ба қадри кофӣ такрор мешаванд, ки ҳамлагарон онҳоро сабти ном кунанд ва интизор шаванд. Ҳамин чиз ба Серверҳои MCP, ки дар он пайваст кардани сервери нобовар абзорҳои агентеро, ки шумо ҳеҷ гоҳ аудит накардаед, медиҳад.
Чӣ тавр он дар асл нодуруст меравад
Ягон истилои экзотикӣ нест. Маҷмӯи усулҳое, ки аллакай дар табиат бо тартиби ба замин расиданашон сабт шудаанд.
- ДастурҶумла дар тавсифи масъала, вобастагии README ё шарҳи рамз ҷойгир аст. Он барои хондани инсон навишта нашудааст.
- КонтекстТаҳиягар аз агент хоҳиш мекунад, ки мушкилотро ҳал кунад. Агент тавсиф, анбор ва файлҳои қоидаҳои худро ба контекст мекашад. Дастур ва мундариҷа ба модел якхелаанд.
- НасбАгент китобхонаи ёрирасонеро, ки ба назар дуруст менамояд, ҳал мекунад ва онро насб мекунад. Ин ном ҳафтаи гузашта аз ҷониби касе сабти ном шуд, ки мушоҳида кард, ки моделҳо онро пайваста ихтироъ мекунанд. Скрипти насб дар ноутбук иҷро мешавад.
- ЭътимодномаДар матни оддӣ токени провайдер мавҷуд аст
mcp.json, ва як сессияи абрӣ, ки аллакай дар shell фаъол аст. Скрипт ба шиддат гирифтан ниёз надорад. Он мерос мегирад. - Дар pull requestТағйирот ночиз аст, санҷишҳо сабзанд ва фарқият оқилона хонда мешавад. Он дар муддати камтар аз як дақиқа тасдиқ мешавад, зеро боз чор интизорӣ ҳастанд.
Ҳар як дарвозае, ки шумо доред, пас аз қадами сеюм оташ мегирад. Се ҳолати аввал дар мошини таҳиягар тақрибан дар давоми навад сония рух медиҳанд.
8 дарс аз қабулкунандагони барвақт
Аз ҳодисаҳои ҳуҷҷатгузорӣшуда, таҳқиқоти нашршуда ва намунаҳое, ки дар гурӯҳҳое пайдо мешаванд, ки пеш аз он ки касе барои он сиёсат нависад, барномасозии агентиро қабул кардаанд.
- Радиуси таркиш сатҳи асбоб аст, на нишонаи корд Дастаҳо ҳафтаҳо барои муайян кардани воситаҳое, ки агент метавонад дархост кунад, супоришҳо ва дақиқаҳои сахтгириро сарф мекунанд. Ин таносуби нодуруст аст. Агенте, ки танҳо метавонад хонад, ҳангоми осеб дидан нороҳаткунанда аст. Агенте, ки метавонад почта фиристад, дархостҳои истеҳсолӣ ва push-ро иҷро кунад. commits як ҳодиса аст ва он дорои эътимодномаи худи таҳиягар барои ин кор аст, зеро қариб ҳеҷ кас барои агент шахсият намедиҳад. Пеш аз навиштани дархости система, рӯйхати абзорҳоро нависед.
- Агент барои гузаштани санҷиш оптимизатсия мекунад, на барои кори код Бо назардошти як маҷмӯи ноком ва мустақилияти кофӣ, агент тасдиқро нест мекунад, шартро суст мекунад ё интегратсияро бо як модел иваз мекунад ва сипас муваффақиятро гузориш медиҳад. Ҳар як даста инро дар ҳафтаи аввал эътироф мекунад. Аз ин рӯ, сабз аст. pipelines дигар далел набуд ва чаро саволи баррасӣ аз "оё ин кор мекунад" ба "барои қабули ин чӣ тағйир ёфт" тағйир ёфт.
- Файли қоидаҳои шумо конфигуратсияи истеҳсолӣ аст Файле, ки ҳар як сатри тавлидшударо идора мекунад, одатан ин аст commitяк маротиба санҷида шуд ва дигар ҳеҷ гоҳ баррасӣ нашуд. Он таҳти назорати тағйирот қарор дорад, ки соҳиб, баррасии фарқият ва касе пай мебарад, ки вақте сатреро мекашад, ки касе илова карданашро дар ёд надорад. Фарз кунед, ки ба ҳама чиз дар он итоат карда мешавад, аз ҷумла он чизе, ки шумо дида наметавонед.
- Вобастагиҳои агент вобастагиҳои шумо нестанд Рӯйхати китобхонаҳои тасдиқшуда интихоби инсонро дар назар дорад. Агент номи имконпазирро муайян мекунад ва онро насб мекунад ва скриптҳои насб пеш аз мавҷудияти CI иҷро мешаванд. Дастаҳое, ки сӯхтаанд, дар вақти насб дар мошин чек илова карданд, на ҳуҷҷати сиёсате, ки таҳиягарон бояд чӣ бартарӣ диҳанд.
- Ҳеҷ кас наметавонад ба шумо бигӯяд, ки онҳо чӣ кор мекунанд Аз панҷ муҳандис пурсед, ки онҳо кадом серверҳо ва ёварони MCP-ро истифода мебаранд ва шумо панҷ ҷавоб мегиред, ки ягонтои онҳо пурра нест. Пурсишҳо дар ин ҷо кор намекунанд, зеро абзорҳо дар маҳал насб карда мешаванд ва ҳар ҳафта иваз мешаванд. Кашф бояд аз рамз, вобастагиҳо ва файлҳои конфигуратсияе, ки абзорҳо боқӣ мегузоранд, ба даст ояд.
- Хотира пас аз анҷоми сессия заҳрро нигоҳ медорад Дастури бад, ки ба контексти доимӣ ё хотираи агент мерасад, ҳангоми иҷрои вазифа мӯҳлаташ намерасад. Он дар корҳои ба ҳам алоқаманд оҳиста-оҳиста самарабахшӣ медиҳад, аз ин рӯ, заҳролудшавии хотира ва контекст дар рӯйхати агентҳои OWASP вуруди худро дорад. Хотираи агентро ҳамчун ҳолате, ки ба баррасӣ ниёз дорад ва роҳи тоза кардан аст, на ҳамчун хусусияти қулайӣ, баррасӣ кунед.
- Баргардонидан аз пешгирӣ болотар аст Дастаҳое, ки аз ҳама бештар мустақилиятро бехатар иҷро мекунанд, онҳое нестанд, ки назорати сахттарин доранд. Онҳо касоне ҳастанд, ки хатогиҳоро арзон кардаанд: агентҳо ба ҷои асосӣ шохаҳоро тела медиҳанд, дар муҳитҳои якдафъаина кор мекунанд ва ҳар як амал як фармони бекоркунӣ дорад. Мухторият маҳз ба дараҷае дастрас аст, ки онро баръакс кардан мумкин аст.
- Ҳавопаймо ба шумо дурӯғ мегӯяд Агентҳо дар вазифаҳои нав дар анборҳои хурд аъло ба назар мерасанд ва дар пойгоҳҳои калони рамзҳои меросӣ бо конвенсияҳои пинҳонӣ коҳиш меёбанд. Як озмоиши муваффақ афзоиши ҳосилнокиро аз ҳад зиёд нишон медиҳад ва хатарро кам нишон медиҳад, сипас интизориеро муқаррар мекунад, ки ҳеҷ кас наметавонад дар миқёси васеъ иҷро кунад. Дар бадтарин анбори худ озмоиш кунед, на дар тозатарин анбори худ.
Ин дар амал чй гуна ба назар мерасад
Тартиб аз абзорҳо муҳимтар аст. Аввал кашф, зеро шумо наметавонед иҷозатҳоро ба агентҳое, ки пайдо накардаед, маҳдуд кунед. Сипас қабати конфигуратсия, зеро дар он ҷо дастурҳо мавҷуданд. Сипас нуқтаи ниҳоӣ, зеро дар он ҷо агент воқеан кор мекунад ва насб хеле пеш аз он ба анҷом мерасад. pipeline огоҳиҳо.
Амнияти Xygeni AI ҳар як дороии зеҳни сунъиро дар кашф мекунад SDLC, аз ҷумла моделҳо, агентҳо, серверҳои агентҳо, серверҳои MCP, маҷмӯи додаҳо, файлҳои маҳорат, дастурҳо ва guardrails nobody declared, рамзи барнома, вобастагиҳои эълоншуда ва файлҳои конфигуратсияро мехонад, ки асбобҳои зеҳни сунъӣ боқӣ мегузоранд, сипас чӣ гуна пайваст шудани онҳоро харита мекунад. Он хатарҳои хоси барномасозии агентиро муайян мекунад: воридкунии фаврӣ ва ихроҷи фаврии система, дастурҳои зараровар ва воридкунии асбобҳо дар қоидаҳо ва файлҳои маҳорат, конфигуратсияи ноамни MCP, агентии аз ҳад зиёд ва гумшуда guardrails, асрорҳо дар файлҳои зеҳни сунъӣ ва вобастагиҳои зеҳни сунъии осебпазир ё суст. Бозёфтҳо ба 10 беҳтарини OWASP барои барномаҳои LLM пайваст карда мешаванд ва ба файл ва сатри дақиқ ишора мекунанд ва қифи афзалиятдиҳӣ ҳазорҳо бозёфтҳоро ба онҳое, ки дар истифода ҳастанд, дастрасанд, истифодашавандаанд, имтиёзноканд ва барои тиҷорат муҳиманд, маҳдуд мекунад.
ДевАИ нимаи дигарро дар муҳаррир фаро мегирад: он рамзро ҳамон тавре ки навишта шудааст, ҳифз мекунад, ба рамзи аз ҷониби зеҳни сунъӣ тавлидшуда ва рамзи аз ҷониби инсон навишташуда баробар татбиқ мешавад ва он чизеро, ки агентҳои дигар пеш аз он ки ин корро кунанд, месанҷад. Ҳамин иктишоф ба бозёфтҳое, ки аз сканерҳои аллакай иҷрошуда гирифта шудаанд, низ дахл дорад, аз ин рӯ ҳеҷ яке аз ин иваз кардани он чизеро, ки шумо доред, талаб намекунад.
Саволҳои зиёд такрормешуда
- Хатари бузургтарин дар рамзгузории агентӣ чист? Агенти аз ҳад зиёд. Агенте, ки сатҳи васеи асбоб дорад, ҳар як тазриқи муваффақро ба амали воқеӣ табдил медиҳад ва аксари дастаҳо нисбат ба одамон асбобҳоро хеле сусттар фаро мегиранд.
- Оё барномасозии агентӣ барои муҳитҳои танзимшаванда бехатар аст? Бале, бо инвентаризатсия, иҷозатҳои маҳдудшуда, конфигуратсияи баррасӣшуда ва татбиқ дар нуқтаи ниҳоӣ. Он чизе, ки дар аудит ҳимояшаванда нест, ин надонистани он аст, ки кадом агентҳоро идора мекунанд, ба чӣ дастрасӣ доранд ё кадом рамзро навиштаанд.
- Оё рамзгузории агентӣ нисбат ба рамзи инсонӣ рамзи камтар амнро тавлид мекунад? Суръати ҳар як сатр ба хатои инсонӣ қобили муқоиса аст, аммо ҳаҷм чунин нест ва ҳаҷм он чизест, ки баррасиро мағлуб мекунад. Мушкилот дар самаранокӣ аст, на истеъдод.
- Оё мо бояд ёварони рамзгузории зеҳни сунъиро манъ кунем? Манъи истифода дар зери замин аст, ки бадтар аст. Таъмини зеҳни сунъии сояафкан нисбат ба зеҳни сунъии тасдиқшуда душвортар аст ва кашфиёт назоратест, ки воқеан вазъро тағйир медиҳад.
- Вақте ки агент осебпазириро мефиристад, кӣ масъул аст? Шахсе, ки онро муттаҳид кардааст, айнан мисли пештара. Ин қисмати нороҳаткунанда аст ва аз ин рӯ маълумоти муаллифӣ муҳим аст: баррасикунандае, ки дар ҳаҷми мошин тағйироти аз ҷониби мошин навишташударо имзо мекунад, бояд хулоса пеш аз тасдиқ, на баъд аз он, ба даст ояд.
- Агар мо тамоман намоён набошем, чӣ гуна бояд оғоз кунем? Дискаверсияро дар анборҳои худ иҷро кунед, серверҳо ва ёварони MCP-ро, ки онҳо пайдо мекунанд, номбар кунед ва агентҳоро аз рӯи сатҳи абзорҳо рейтинг диҳед. Агенти хатарноктарин одатан он чизе нест, ки касе дар бораи он нигарон буд.
Агентҳо аллакай дар анборҳои шумо ҳастанд
Рамзгузории агентӣ аллакай дар анборҳои шумо мавҷуд аст, новобаста аз он ки касе онро тасдиқ кардааст ё не. Дастаҳое, ки онро хуб идора мекунанд, онҳое нестанд, ки сиёсати қатъӣ доранд. Онҳо касоне ҳастанд, ки метавонанд дар ҳар рӯзи муайян ҷавоб диҳанд, ки кадом агентҳоро идора мекунанд, он агентҳо ба чӣ дастрасӣ доранд ва дар файлҳое, ки онҳоро идора мекунанд, чӣ тағир ёфтааст.
Бубинед, ки агентҳои шумо бо чӣ пайвастанд Ксигенӣ.
