Амнияти занҷираи таъминоти агенти зеҳни сунъӣ қаблан содда буд, асосан аз он сабаб, ки инсон ҳамеша байни номи баста ва сохт меистод. Дар тӯли бист сол, ин тамоми модел буд: касе номро пеш аз ворид шуданаш мехонд. На ҳамеша бодиққат. Аммо касе онро мехонд.
Акнун он рафтааст. Имрӯз аз як модели зеҳни сунъӣ барои китобхона пурсед ва тақрибан аз панҷ бастаи тавсияшуда яктоаш вуҷуд надорад. Ҳамлагарон инро медонанд, аз ин рӯ онҳо аввал ин номҳоро сабт мекунанд. Агент онҳоро насб мекунад, месанҷад ва ба пеш ҳаракат мекунад ва касе дар ин миён чизе намехонад. Маҳз дар ҳамин ҷо амнияти занҷираи таъминоти агентҳои зеҳни сунъӣ айни замон ноком мешавад: на дар ягон сенарияи оянда, балки дар pipelineимрӯз кор мекунад.
Ин соҳа ду даҳсоларо барои сохтани назорат дар атрофи таҳиягар сарф кардааст, ки мехонад, баррасӣ мекунад ва қарор қабул мекунад. Он таҳиягар дигар нуқтаи охирини санҷишӣ пеш аз ворид шудани вобастагӣ ба сохтмон нест. Пас, саволи асосӣ дар он нест, ки оё зеҳни сунъии агентӣ хатари навро ба вуҷуд меорад, балки он чизест, ки пас аз аз байн рафтани нуқтаи санҷиши инсонӣ дар асл боқӣ мемонад.
Аз «Пешниҳодҳои зеҳни сунъӣ» то «Амалҳои зеҳни сунъӣ»
Ду сол пеш, як ҳампилот блоки рамзро пешниҳод кард, таҳиягар онро хонд ва таҳиягар қарор кард, ки онро нигоҳ дорад ё не. Ин ҷараёни корӣ қариб аз байн рафтааст. Асбобҳои агентӣ ҳоло вобастагиҳоро насб мекунанд, контейнерҳоро мегардонанд ва триггер мекунанд. pipeline мустақилона қадам мегузоранд, аксар вақт танҳо пас аз ин ҳодиса ва танҳо дар сурати хато шудани чизе гузориш медиҳанд.
Ин тағйирот дар марҳилаҳо сурат гирифт ва аксари дастаҳо аз он чизе, ки сиёсати амниятии хаттии онҳо эътироф мекунад, дар ин самт пештар рафтаанд. Асбобҳои аввали агентӣ пеш аз ҳар тағйирот тасдиқ мепурсиданд ва таҳиягарон зуд-зуд "ҳа"-ро пахш мекарданд, ки қадами тасдиқ маънои онро надошт. Агентҳои имрӯза асосан тамоман намепурсанд. Онҳо танҳо барои амалҳое, ки ҳамчун ҳассос қайд карда шудаанд, ба монанди иҷро кардани скрипти shell ва маъмулӣ, халал мерасонанд. pull request Сатрҳое, ки аз ҷониби агент тавлид шудаанд, метавонанд ба ҳазорҳо сатрҳо дучор шаванд, ки ҳеҷ як инсон пеш аз якҷояшавӣ онҳоро аз аввал то ба охир намехонад.
Мушкилоти иҷозатҳо инро боз ҳам мураккабтар мекунад. Дар аксари танзимот, агент танҳо ҳамчун таҳиягар кор мекунад ва ба ҳама чизҳое, ки мошини таҳиягар метавонад ба онҳо дастрасӣ дошта бошад: тағирёбандаҳои муҳит, токенҳои абрӣ, эътимодномаҳои регистр, калидҳои SSH. Вақте ки агент чизеро насб мекунад ва скрипт ҳангоми насб кор мекунад, он радиуси пурраи таркиши одамеро, ки онро тақлид мекунад, мерос мегирад. Дар ин ҷо амнияти занҷираи таъминоти агенти зеҳни сунъӣ аз масъалаи сиёсат даст мекашад ва ба масъалаи иҷозатҳо табдил меёбад: агент ба эксплойти нав ниёз надорад, он танҳо ба дастрасие, ки аллакай дорад, ниёз дорад.
капитани киштии баҳрӣ Муҳаммад Алӣ Аъробӣ, дар ҳамон панел суханронӣ карда, онро ба таври возеҳ баён кард: "Ман фикр мекунам, ки таҳиягар ҳоло қисми сатҳи ҳамла аст."
Ростқавлона гуфтан меарзад, ки ин чӣ чизро иваз кард. Инсоне, ки а package.json фарқият аллакай як назорати заиф буд; қариб ҳеҷ кас пеш аз тасдиқи тағйирот ҳар як вобастагии гузаришро тасдиқ намекард. Агентҳо ҳатман як системаи қавӣро вайрон намекарданд. Онҳо баҳонаи охиринро барои як баҳонаи заиф бартараф карданд. Он чизе ки тағйир ёфт, ин нест, ки хатар нав аст, балки он аст, ки он ҳоло бо суръати комилан дигар ҳаракат мекунад: баъзе ҳисобҳо ҳаҷми ҳамлаи занҷираи таъминоти соли гузаштаро тақрибан панҷ маротиба нисбат ба соли гузашта нишон медиҳанд ва каҷ ба ҷои хаттӣ экспоненсиалӣ ба назар мерасад.
Лаҳзаи насб: Вақте ки касе тамошо намекунад, чӣ тағйир меёбад
Галлюцинатсияшуда ва номҳои бастаҳои зараровар нав нестанд. Типосквотинг солҳо боз аз хатогиҳои чопкунии инсонӣ истифода мебарад: як ҳарфи нодуруст ва таҳиягар чизи нодурустро насб мекунад. Ҳоло фарқ дар он аст, ки номро модел, на шахс, аз аввал ихтироъ мекунад ва ин корро пешгӯишаванда мекунад.
Рақамҳо инро ба тиҷорат табдил медиҳанд, на ба як чизи кунҷковӣ. Тақрибан 20% бастаҳои тавсияшуда аз ҷониби моделҳои кушодаасос вуҷуд надоранд (барои моделҳои тиҷоратӣ наздик ба 5%) ва дар байни номҳои сохташудаи омӯхташуда, 43% дар даҳ дархости такрорӣ якхела такрор мешаванд. Ин такрорпазирӣ он чизест, ки намунаи ҳамларо қобили коркард мегардонад: ба ҳамлагар лозим нест, ки тахмин кунад, ки таҳиягар чӣ менависад. Модел ба онҳо боэътимод ва ройгон мегӯяд.
Як варианти навтар бо номи HalluSquatting пеш меравад. Ба ҷои нашри бастаи зараровар бо номи галлюцинатсияшуда, ҳамлагар дастурҳои зарароварро дар дохили README, файли малака ё тавсифи сервери MCP ҷойгир мекунад ва сипас интизор мешавад, ки агент ҳамон номи анбор ё асбобро галлюцинатсия кунад ва онро ба он ворид кунад. Дар мақолаи ахир, ки инро бо воридкунии фаврӣ занҷирбандӣ мекунад, пешгӯии қариб комили номҳои қалбакии анбор барои лоиҳаҳои нав ва иҷрои пурраи код бар зидди ёварони воқеии рамзгузорӣ, аз ҷумла Cursor, Windsurf ва Copilot гузориш дода шудааст. Азбаски бори фоидаовар матни оддӣ аст, на рамзи иҷрошаванда, аксари асбобҳои сканкунӣ чизе барои қайд кардан надоранд.
Ҳамчун Xygeni Корманди тадқиқот Луис Родригес онро ҳангоми муҳокима чунин баён кунед: «Мо солҳо барои сохтани воситаҳои дифоъ аз рамзи зараровар сарф кардем. Имзоҳо, қуттиҳои рег, таҳлили рафтор. HalluSquatting ба ҳеҷ яке аз инҳо ниёз надорад. Он танҳо ба як README-и боварибахш ниёз дорад.» Дастурҳои матни оддӣ, ки агент онҳоро ҳамчун контексти боэътимод мехонад, мустақиман аз сканерҳое, ки барои сабти файли иҷрошаванда сохта шудаанд, мегузаранд.
Ин қабатест, ки аксари абзорҳои AppSec то ҳол барои дидан сохта нашудаанд, ки ин пеш аз ... аст.cisчаро Xygeni's Огоҳии барвақти нармафзори зараровар (MEW) Ин равиш дар сатҳи платформа вуҷуд дорад: таҳлили пайваста ва воқеӣ аз бастаҳои нав нашршуда дар регистрҳо ба монанди npm, PyPI ва Maven, ки барои муайян кардани рафтори зараровар пеш аз мавҷудияти имзои оммавӣ тарҳрезӣ шудааст, ба ҷои интизор шудани CVE барои чанд рӯз пас.
Зарфҳо, CI/CD, ва пайдоиш: Оё шумо ҳоло ҳам метавонед исбот кунед, ки дар сохтори шумо чӣ ҳаст?
Агент кам ба илова кардани сатр таваққуф мекунад package.jsonОн файлҳои Docker-ро таҳрир мекунад, сохторҳои бисёрмарҳиларо аз нав месозад ва ба онҳо таъсир мерасонад. pipeline мустақиман конфигуратсия, ворид кардани худи системаи сохтан ба ҷои танҳо дарахти манбаъ.
Ин маҳз дар он ҷоест, ки посухи соҳа ба хатари занҷираи таъминот, SBOMва SLSA provenance, бояд нигоҳ медошт. Сипас, дар моҳи майи соли 2026, як ҳамлагар ба як нигоҳдоранда фишинг карда, токени дуздидашударо барои нашри "ятим" истифода бурд. commit бе ягон волидайн дар таърихи лоиҳа ва онро барои заҳролуд кардани кэши сохтмон истифода бурд. Бастаҳои натиҷавӣ, ки ҳаштоду чорто буданд, бо манбаи пурра эътиборнок ва дуруст имзошудаи сатҳи олӣ фиристода шуданд. Ҳар як санҷиши автоматӣ гузашт. Нармафзори зараровар воқеӣ буд ва аз ин рӯ, аз ҷиҳати техникӣ, ҳуҷҷатҳое буданд, ки тарзи сохта шудани онро исбот мекарданд.
Хулосаи нороҳаткунанда: пайдоиш исбот мекунад, ки сохтмон бо ҳар чизе, ки дода шудааст, чӣ кор кардааст, на он чизе, ки ба он дода шудааст, сазовори эътимод аст. Вурудро пеш аз мавҷуд будани артефакт заҳролуд кунед ва тасдиқ сабти ростқавлона ва тасдиқшавандаи сохтмони ноодилона аст. Амнияти занҷираи таъминоти агенти зеҳни сунъӣ наметавонад пурра ба абзорҳои тасдиқкунӣ, ки барои ҷаҳоне сохта шудаанд, ки дар он инсон, на модел, қарор додааст, ки ба сохтмон чӣ дохил мешавад, супорида шавад.
Як чораи амалии коҳишдиҳӣ ноҷолиб, вале муассир аст: давраи хунуккунӣ, ки интизори чанд рӯз пас аз нашри версияи нави баста пеш аз қабули он аст. Аксари ҳодисаҳои фаъоли занҷираи таъминот дар ин равзанаи аввал қайд карда мешаванд ва ошкор карда мешаванд, аз ин рӯ, таъхири панҷрӯза саҳми назарраси ҳодисаҳои соли гузаштаро безарар мегардонд. ҳамлаҳои ба услуби кирм монанд, бо арзиши тамоман ҳеҷ чиз ба ҷуз фаврӣiacy.
Git, Review ва нуқтаи назоратии инсонии коҳишёбанда
Баррасии код ва commit Таърих муддати тӯлонӣ ҳамчун лангари эътимод барои «касе ба ин нигоҳ кард» хизмат кардааст. Вақте ки агентҳо ин лангарро меларзонанд commitва торафт бештар якҷоя мешаванд, бе он ки дар лаҳзаи рух додани ин ҳодиса инсон дар ҳалқа бошад.
Мушкилоти эътимод ҳангоми насб кардани агент бо нусхабардории ҷавоби Stack Overflow яксон нест, ҳарчанд ҳарду аз навиштани рамзи аслӣ гузаранд. Як порчаи Stack Overflow аз ҷониби шахси воқеӣ навишта шудааст ва тавассути овоздиҳии мусбат ва манфӣ ба таври ғайрирасмӣ аз ҷониби ҳамкорон баррасӣ шудааст. Тавсияи тавлидшуда аз ҷониби зеҳни сунъӣ як натиҷаи эҳтимолӣ аст, ки ҳеҷ яке аз ин хусусиятҳоро надорад ва таҳиягар онро дастӣ нусхабардорӣ мекунад, ба номи баста, санаи охирини навсозӣ ва масъалаҳои кушода нигоҳ мекунад. Агенте, ки онро насб мекунад, барои ҳеҷ яке аз инҳо таваққуф намекунад, агар чизе ба таври возеҳ барои таваққуф сохта нашуда бошад.
Ин мушкили аслии гузариш ба чап аст. Гузариши анъанавии гузариш ба чап тезтарин чизеро дар назар дорад, ки дар pipeline таҳиягарест, ки метавонад омӯзонида, таҳрик дода ва баррасӣ карда шавад. Вақте ки чизе, ки зудтарин ҳаракат мекунад, ба ҷои он агенти мустақил аст, амнияти Shift-Left бояд ба нуқтаҳои назоратӣ, ки агент наметавонад роҳи худро пайдо кунад, аз нав пайваст карда шавад: қуттии рег, назорати баромад ва тирезаҳои хунуккунӣ, на ҳуҷҷати сиёсате, ки касе онро татбиқ намекунад.
Амнияти занҷираи таъминоти агенти зеҳни сунъӣ: Чӣ агенти бехатар Pipeline Дар асл талаб мекунад
Барои зинда мондан аз ин синфи нави кирм, нӯҳ назорати гуногун дар рӯзи аввал комилан иҷро шуданро талаб намекунад. Барои дастаи дорои захираҳои маҳдуд, ду чиз аз дигарон муҳимтар аст:
- Агентро ҳамеша бо қуттии рег истифода баред. Онро дар microVM ё контейнер бо танҳо директорияи лоиҳаи ҷорӣ иҷро кунед, то агенти осебдида роҳе ба токенҳо, эътимодномаҳо ё файлҳои хост надошта бошад. Ин арзонтарин идоракунии дастрас ва онест, ки баҳонаи камтаринро барои гузаштан аз он дорад.
- Пеш аз насб кардани версияҳои нави бастаҳо, равзанаи хунуккуниро илова кунед. Чанд рӯз аксар вақт барои он ки ҳамлаи мустақими занҷираи таъминот пеш аз расидан ба сохтори шумо ошкор шавад, кофӣ аст.
Саввумӣ, барои дастаҳое, ки метавонанд ба он такя кунанд: эҷоди намоёнии CVE ва нармафзори зараровар мустақиман ба pipeline, скан кардани тасвири контейнер (на танҳо рамзи сарчашма, зеро дар тасвири асосӣ бисёр осебпазириҳо мавҷуданд) ва пайдо кардани натиҷаҳо ҳамчун pull request шарҳҳое, ки таҳиягарон пеш аз якҷояшавӣ мебинанд.
Ҳодисаи ахир вазъиятро мушаххас мекунад. Дар моҳи июли соли 2026, як модели зеҳни сунъӣ, ки таҳти арзёбии дохилӣ қарор дошт, аз як роҳи ягонаи иҷозатдодашудаи шабакаи қуттии реги худ, прокси-кэши бастаҳо, истифода бурд, то ба интернети кушода бирасад ва бидуни дастури инсон, инфрасохтори берунаро барои расидан ба ҳадафи асосӣ зери хатар гузорад. Роҳи фирор инфрасохтори вобастагӣ буд: ягона пайвасте, ки ҳар як қуттии реги барои имкон додани он сохта шудааст. Агар агенти шумо барои кор кардан ба феҳристи бастаҳо ниёз дошта бошад, ин пайвастшавӣ ҷузъиёти паҳлӯии модели амниятии шумо нест. Ин модели амниятӣ аст. Тафсири пурраи Xygeni дар бораи он ки чӣ гуна ин фирор воқеан рух додааст, сазовори хондан аст: Рог аз рӯи тарҳ.
Таҷҳизоти асосӣ
- Нуқтаи охирини назоратии инсонӣ нопадид мешавад, на заиф. Идоракунии тарроҳӣ, ки аз хондани номи баста аз ҷониби касе вобаста нестанд.
- Слопскваттинг ва Ҳаллускваттинг кишоварзӣ мебошанд, на назариявӣ. Номҳои галлюцинатсияшудаи такроршаванда ва ворид кардани матни оддӣ аллакай дар табиат истифода мешаванд.
- Манбаъ ва SBOMисбот кунед, ки як сохтмон чӣ кор кардааст, на он чизе, ки ба он ғизо дода шудааст. Ба сертификатсияи сатҳи олӣ ҳамчун зарурӣ, на ҳамчун кофӣ муносибат кунед.
- Маҳдудият, на ошкоркунӣ, он чизест, ки айни замон хатарро бозмедорад. Санги қуттӣ, идоракунии баромад ва тирезаҳои хунуккунӣ вақтеро мехаранд, ки сканкунии асосёфта ба имзо имконнопазир аст.
- Инвентаризатсия кунед, ки агентҳои шумо воқеан ба он чизе, ки ба он дастрасӣ доранд, дастрасӣ пайдо кунед. На ҳуҷҷати сиёсат. Токенҳои воқеӣ, эътимодномаҳои воқеӣ, баромади воқеии шабака.
Ин мақола бар асоси баҳси SafeDev Talk-и Xygeni асос ёфтааст "Вақте ки агентҳои зеҳни сунъӣ вобастагиҳоро насб мекунанд", бо иштироки капитани Docker Муҳаммад-Алӣ Аъробӣ. Чаҳорчӯбаи пурраи сахтгирии ӯ аз нӯҳ назорат дар номаи иттилоотии ӯ, Docker Security Dispatch ва Луис Родригес, афсари тадқиқотӣ дар Xygeni, муфассалтар баррасӣ шудааст.
Саволҳои зуд-зуд додашаванда: Амнияти занҷираи таъминоти агенти сунъӣ
Оё насб кардани баста аз ҷониби агент мушкили эътимод ба куллӣ фарқ мекунад, нисбат ба нусхабардории пешниҳоди Stack Overflow аз ҷониби таҳиягар, ё танҳо версияи тезтари ҳамон як мушкил?
Ҳарду, бо таносубҳои гуногун. Механизм тезтар аст, аммо фосилаи эътимод аз ҷиҳати сохторӣ низ васеътар аст: ҷавоби Stack Overflow аз ҷониби як шахс навишта шудааст ва ғайрирасмӣ аз ҷониби ҳамсолон баррасӣ шудааст, дар ҳоле ки тавсияи бастаи тавлидшуда аз ҷониби зеҳни сунъӣ натиҷаи эҳтимолӣ аст, ки баррасии муодили он вуҷуд надорад ва таҳиягар онро дастӣ нусхабардорӣ мекунад, то ҳол санҷиши тасодуфиро татбиқ мекунад, агенти беназорат пурра аз он мегузарад.
Барои ин чӣ лозим аст SBOM барои боэътимод сабт кардани "як агент инро илова кард ва ин аст сабаби он"?
Имрӯзҳо SBOM ва пайдоиш standardбар асоси фарзияе сохта шуда буданд, ки инсон ҳар як вобастагиро аз худ кардаастcision, ва онҳо ҳанӯз майдоне барои кадом агент, кадом версияи модел ё кадом дархост тағйироти додашударо ба вуҷуд овардааст, надоранд. Пур кардани ин фосила ё васеъ кардани форматҳои мавҷудаи тасдиқкунӣ ё пайгирии аудити алоҳида, ки аз ҷониби агент огоҳ аст, ки маълумотро сабт мекунад, лозим аст.cisпайдоиши ион дар баробари пайдоиши сохтмон.
Оё версияи "shift-left" вуҷуд дорад, ки то ҳол вақте кор мекунад, ки тезтарин чиз дар pipeline оё агенти мустақил аст, на таҳиягар?
Бале, аммо он бояд нуқтаи санҷишро тағйир диҳад, на танҳо вақтро. Shift-left, ки дар асоси баррасии инсонӣ сохта шудааст, ба суръати агент миқёспазир нест; shift-left, ки дар асоси қуттии рег, маҳдудиятҳои баромад ва cooldowns насб карда шудааст, метавонад агенти осебдидаро пеш аз расидан ба истеҳсолот дастгир кунад, зеро ин идоракунӣ аз хондани чизе аз ҷониби касе вобаста нест.
