Дафъаи оянда, ёвари зеҳни сунъӣ бастаеро барои насб тавсия медиҳад, оё шумо тафтиш мекунед, ки оё он воқеан вуҷуд дорад? Аксари таҳиягарон ин корро намекунанд. Ин фосила байни пешниҳод ва тасдиқ ҷоест, ки ҳамлаҳои slopsquatting оғоз мешаванд ва дар тӯли камтар аз се сол, таҳдид аз исботи консепсия аз ҷониби як муҳаққиқ ба иҷрои дурдасти код дар дохили агентҳои рамзгузории мустақил табдил ёфтааст. Ин мақола таҳаввулоти slopsquatting ва маънои ҳар як марҳиларо барои дастаҳои AppSec ва DevSecOps пайгирӣ мекунад.
Дар ин ҷо нав ҳастед? Бо дастури мо оғоз кунед slopsquatting чист ва чӣ гуна аз он муҳофизат кардан мумкин аст, сипас барои ҷадвали вақт баргардед.
Ҳамлаи лопсквоттинг дар як параграф
Ҳамлаи нишебӣ бастаи зарароварро бо номе сабт мекунад, ки моделҳои зеҳни сунъӣ эҳтимолан галлюцинатсия мекунанд. Дар ҷое, ки чопи чопӣ аз хатои инсонӣ истифода мебарад дархостҳо барои дархостҳо, slopsquatting худи моделро истифода бурда, номи қобили қабулеро, ки дар ягон феҳрист вуҷуд надорад, ихтироъ мекунад, сипас ҳамлагар ин номи дақиқро пеш аз он ки касе қонунӣ кунад, эълон мекунад. Ин истилоҳ аз ҷониби Сет Ларсон, таҳиягари амниятӣ дар Бунёди нармафзори Python, пешниҳод шудааст ва аз ҷониби Эндрю Несбитт маъмул гардонида шудааст. Он чизе, ки намунаро арзишманд мегардонад, ин аст, ки он чӣ қадар зуд пухта расидааст.
Таҳаввулоти нишебӣ
2023: аввалин аломати огоҳкунанда
Бар Ланядо, муҳаққиқи амниятӣ, мушоҳида кард, ки якчанд LLM-ҳо пайваста бастаеро бо номи ... тавсия медиҳанд. оғӯши рӯй-кли, ки вуҷуд надорад (асбоби воқеӣ бо насб мекунад pip install -U “huggingface_hub[cli]”). Барои нишон додани хатар, ӯ бастаи холӣ бо номи галлюцинатсияро бор кард. Дар давоми се моҳ он беш аз 30,000 маротиба, бе ягон таблиғ зеркашӣ карда шуд ва номи қалбакӣ ҳатто дар README-и анбори марбут ба таҳқиқоти як ширкати бузурги технологӣ пайдо шуд. Баста безарар буд. Дарс чунин набуд: номи галлюцинатсия танҳо бояд ба қадри кофӣ мувофиқ бошад, ки касе онро силоҳ кунад.
2024: аз паёми блог то фарогирии асосӣ
Дар моҳи марти соли 2024, рӯзномаи The Register дар бораи моделҳои зеҳни сунъӣ, ки бо итминон номҳои бастаҳои нармафзорро ихтироъ мекарданд ва таҳиягарон онҳоро зеркашӣ мекарданд, хабар дод, ки баъзеи онҳо эҳтимолан бо нармафзори зараровар заҳролуд шудаанд. Ин фарогирӣ на аз ҷиҳати он чизе, ки аз ҷиҳати техникӣ ошкор мекард, балки аз он чизе, ки нишон медод, муҳим буд: оғӯши рӯй-кли дигар кунҷковии якдафъаина набуд, балки аввалин нишонаи як намунаи ҷиддӣ буд, ки матбуоти асосии технологӣ бояд онро қайд кунад, пеш аз таҳқиқоти бузург, ки як сол пас доираи онро тасдиқ кард.
2025: аввалин андозагирии қатъӣ
Мақолаи USENIX Security 2025 бо номи "Мо бастае барои шумо дорем!" (Spracklen et al.) 16 модели тавлиди рамзро, ки тиҷоратӣ ва кушодаасос мебошанд, дар 576,000 намунаҳои Python ва JavaScript озмоиш кард. Он slopsquatting-ро аз латифа ба маълумот интиқол дод:
- 19.7% бастаҳои тавсияшуда вуҷуд надоштанд.
- Моделҳои кушодаасос нисбат ба моделҳои тиҷоратӣ (5.2%) хеле зуд-зуд галлюцинатсия мешуданд (ба ҳисоби миёна 21.7%).
- Бадтарин ҷинояткорон, CodeLlama 7B ва 34B, дар беш аз як сеяки баромадҳои худ галлютсинатсия карданд.
- Дар ҳамаи моделҳо, муҳаққиқон беш аз 205,000 номҳои беназири галлюцинатсияро сабт карданд, ки ин маҷмӯа барои ҳавасмандгардонии маъракаҳои устувор дар саросари экосистемаҳо кофӣ аст.
Таҳқиқот инчунин тарзи ташаккули қалбакиро гурӯҳбандӣ кард: 38% омехтаҳое буданд, ки ду номи воқеии бастаро муттаҳид мекарданд (маҳз ҳамон намунае, ки баъдтар ба вуҷуд омад тағйироти рамзии реактивӣ аз jscodeshift ва мод-коди реактивӣ), 13% вариантҳои хаттии бастаҳои воқеӣ буданд ва 51% сохтаҳои холис буданд, ки эҳтимолан имконпазиранд, аммо комилан ихтироъ шудаанд. Ин гурӯҳи аввал барои дифоъ аз ҳама муҳимтар аст, зеро номе, ки аз ду асбоби воқеӣ бо ҳам дӯхта шудааст, дар як нигоҳ душвортарин аст.
Муҳимтарин бозёфт барои ҳамлагарон: галлютсинатсияҳо тасодуфӣ нестанд ва дар ҳар кӯшиш тағйир намеёбанд. Вақте ки муҳаққиқон дархостҳои якхеларо даҳ маротиба такроран иҷро карданд, 43% номҳои галлютсинатсияшуда дар ҳар як давидан пайдо шуданд ва 58% беш аз як маротиба такрор шуданд. Ба ҳамлагар лозим нест, ки тахмин кунад. Онҳо рафтори моделро мушоҳида мекунанд, номҳоеро, ки пайваста такрор мешаванд, қайд мекунанд ва аввал онҳоро сабт мекунанд. Ин такрорпазирӣ он чизест, ки галлютсинатсияи якдафъаинаро ба ҳамлаи миқёспазир табдил медиҳад.
2026: аз бастаҳои ҷудогона то агентҳои мустақил
Имсол далелҳои равшантаринро ба миён овард, ки лопсквоттинг дигар танҳо ба нусхабардории таҳиягар ва часбонидани пешниҳодшуда маҳдуд намешавад. насб.
Дар моҳи январи соли 2026, муҳаққиқи амниятӣ Чарли Эриксен бастаи галлюцинатсияшудаи npm-ро пайдо кард. тағйироти рамзии реактивӣ, ки дастурҳои агентҳои тавлидшудаи зеҳни сунъӣ аллакай тавассути форкҳо дар 237 анбор паҳн шуда буданд ва агентҳо то ҳол кӯшиш мекарданд, ки онро ҳар рӯз насб кунанд. Он аз як commit файлҳои маҳорати агентҳои навишташудаи зеҳни сунъӣ, ки ҳеҷ як инсон онҳоро баррасӣ накардааст. Эриксен ин номро худаш, барои дифоъ, пеш аз он ки ҳамлагар онро бо силоҳ истифода барад, сабти ном кард.
Алоҳида, бастаи воқеан зараровар бо номи воридоти истифоданашуда, галлюцинатсияшуда дар ҷои қонунӣ eslint-plugin-unused-imports, ҳатто пас аз он ки npm онро таҳти назорати амниятӣ қарор дод, насбкуниҳоро идома дод ва нишон дод, ки ҳамлаи slopsquatting чӣ қадар вақт метавонад пас аз қайд шуданаш қурбониёнро пайдо кунад.
Сипас, дар моҳи июли соли 2026, муҳаққиқон усули марбут ба онро бо номи "HalluSquatting" тавсиф карданд, ки галлютсинатсияро бо воридкунии фаврӣ пайваст мекунад: агенти рамзгузории зеҳни сунъӣ, ки захираи галлютсинатсияшударо аз номи корбар мегирад, метавонад ба рамзи иҷрошавандаи ҳамлагар ворид карда шавад. Ин эволютсияи slopsquatting-ро аз хатари насби ғайрифаъол ба вектори фаъоли иҷрои рамзи дурдаст дар дохили ҷараёнҳои кории таҳияи агентӣ васеъ мекунад.
Чаро "рамзгузории вибратсия" сатҳи ҳамларо васеъ кард
Агар рамзи тавлидшудаи зеҳни сунъӣ махсус мебуд, Slopsquatting чандон аҳамияте намедошт. Аммо чунин нест. Афзоиши ёварони рамзгузорӣ, агентҳои мустақил ва ҷараёнҳои кории "рамзгузории vibe", ки дар он таҳиягарон пеш аз иҷро кардани он камтар аз рамзро аз назар мегузаронанд, сатҳи ҳамларо бо ду роҳи мушаххас тағйир додааст.
Аввалан, нуқтаи вуруд дигар танҳо таҳиягар нест. Ҳамлаи хатои чопӣ аз як нафар вобаста буд, ки хато менавишт. Акнун хато дар дохили модел пайдо мешавад ва ба садҳо таҳиягароне паҳн мешавад, ки саволҳои монандро медиҳанд ва ҳамон тавсияи галлюцинатсияро мегиранд.
Дуюм, сатҳи ҳамла дар занҷир ба боло ҳаракат кард. Дигар тамошои рамзе, ки инсон менависад, кофӣ нест. Гурӯҳҳо бояд вобастагиҳоеро, ки ёвари зеҳни сунъӣ пешниҳод мекунад, серверҳои MCP-ро, ки он ба онҳо пайваст мешавад ва агентҳоеро, ки бастаҳоро бе иштироки инсон насб мекунанд, тамошо кунанд. AppSec-и анъанавӣ, ки барои баррасии анборҳо ва инсон сохта шудааст. commits, ҳеҷ гоҳ барои мушоҳида кардани он ҳамкорӣ байни таҳиягар, зеҳни сунъӣ ва феҳрист тарҳрезӣ нашуда буд, ки маҳз дар он ҷое аст, ки ҳоло slopsquatting пинҳон аст.
Ин барои пешгирӣ чӣ маъно дорад
Ҳеҷ яке аз инҳо зеҳни сунъии тавлидкунандаро аз ҷиҳати табиӣ ноамн намекунад. Он хатари занҷираи таъминотро ба вуҷуд меорад, ки абзорҳои анъанавӣ барои дастгир кардан сохта нашудаанд ва принсипҳои тасдиқкуниро, ки мо аллакай ба ҳама гуна вобастагии беруна татбиқ мекунем, талаб мекунад: ба таври пешфарз ба он эътимод накунед, манбаъро тасдиқ кунед ва ин тасдиқкуниро автоматӣ кунед, ба ҷои такя ба хотираи ҳар як таҳиягар. Дастури пурраи дифоӣ дар дастури мо барои... Амнияти занҷираи таъминоти зеҳни сунъӣ, аммо нусхаи кӯтоҳ ин аст, ки тасдиқи дастӣ, гарчанде ки ҳанӯз зарур аст, миқёспазириро аз лаҳзае, ки номи галлюцинатсияшуда метавонад ба ҳазорҳо таҳиягарон якбора бирасад, қатъ мекунад ё агент метавонад онро бе баррасии инсонӣ насб кунад.
Бастаҳои галлюцинатсияшударо пеш аз насб кардани агент қатъ кунед
Ҳолатҳои соли 2026 як хусусият доранд: ин ҳодисаи хатарнок бидуни иштироки инсон рух медиҳад. Ин фосилаи дақиқ аст. Ксигенӣ Shield барои сохта шудааст. Shield як агенти сабук дар нуқтаи ниҳоии таҳиягар аст, ки бастаҳои зарароварро дар вақти насб масдуд мекунад ва бо истифода аз Огоҳии барвақти нармафзори зараровар (MEW) ҳукмҳое, ки пеш аз мавҷуд будани ягон имзо кор мекунанд. Вақте ки ёвари зеҳни сунъӣ ё агенти мустақил кӯшиш мекунад, ки бастаи нав ба қайд гирифташудаи галлюцинатсияшударо насб кунад, Shield онро ҳангоми гирифтани он арзёбӣ мекунад ва масдуд мекунад, аз ин рӯ скрипти насб ҳеҷ гоҳ иҷро намешавад, новобаста аз он ки инсон тамошо мекард ё не. Ҳар як блок ба як чиз ворид мешавад. Ксигенӣ консол ҳамчун рамзи шумо, ёфтаҳои сохтан ва вақти иҷро, ва Shield дар баробари EDR-и мавҷудаи шумо кор мекунад, на бар зидди он.
Оғоз ройгон. Нақшаи таҳиягарони Xygeni 0 евро аст: 10 анбор, 200 скан дар як моҳ, то 5 саҳмгузор, бе корти кредитӣ. Sign up with GitHub, GitLab ё Google-ро истифода баред ва аввалин сканкунии худро дар камтар аз 10 дақиқа иҷро кунед; Shield Ҳифзи нуқтаҳои ниҳоӣ ба зудӣ ба нақшаи таҳиягар ворид мешавад.
Саволҳои зиёд такрормешуда
Оё менеҷери бастаҳо метавонад мустақилона аз slopsquatting пешгирӣ кунад?
На пурра. Муайянкунии бархӯрди npm номҳоеро, ки ба бастаҳои мавҷуда хеле монанданд, масдуд мекунад, ки ин ба пешгирии хатогиҳои чопӣ мусоидат мекунад, аммо номи галлюцинатсияшуда як сатри нав аст, ки бархӯрдеро муайян намекунад. Агар ҳамлагар бастаи галлюцинатсияшударо пеш аз насб кардани таҳиягар сабт кунад, насб бе хато анҷом меёбад, зеро баста воқеан вуҷуд дорад. Пешгирӣ ба тасдиқи пайдоиш ва рафтори баста ниёз дорад, на танҳо санҷишҳои худи реестр.
Чӣ гуна парвандаҳои агентҳои соли 2026 аз парвандаҳои қаблии slopsquatting фарқ мекунанд?
Ҳодисаҳои қаблӣ аз нусхабардории фармони пешниҳодшудаи насб аз ҷониби инсон вобаста буданд. Дар ҳолатҳои 2026, агентҳои мустақил бастаҳои галлюцинатсияшударо бидуни баррасии инсон насб ё кӯшиш мекарданд, ки насб кунанд ва техникаи HalluSquatting бо пайваст кардани галлюцинатсия бо ворид кардани фаврӣ барои ноил шудан ба иҷрои дурдасти код дар дохили ҷараёни кории агент пеш рафт.
