Мушкилот дар як ҷумла
Дафъаи оянда як Ёвари зеҳни сунъӣ бастаро барои насб тавсия медиҳад, оё шумо воқеан санҷидани он бастаро мехоҳед, ки вуҷуд дошта бошад? Аксари таҳиягарон ин корро накардаанд. Ин фосила байни пешниҳод ва тасдиқ маҳз ҷоест, ки ҳамлаҳои slopsquatting оғоз мешаванд ва аз ин рӯ, фаҳмидани ҳам таҳаввулоти slopsquatting ва ҳам пешгирии амалии slopsquatting барои дастаҳои AppSec ва DevSecOps ба авлавияти воқеӣ табдил ёфтааст.
Ҳамлаи лопсквоттинг чист?
Ҳамлаи лопсквоттинг як варианти он аст чопкунӣ (амалияи бақайдгирии номи домен ё номи баста, ки номи қонуниро тавассути хатои маъмулӣ тақлид мекунад, масалан дархостҳо ба ҷои дархостҳо, умедворем, ки хатои чопии худи корбар онҳоро мустақиман ба он мерасонад), аммо бо фарқияти муҳим дар он ки хато аз куҷо сарчашма мегирад. Typosquatting аз хатогиҳои чопкунии инсонӣ истифода мебарад. Ҳамлаи slopsquatting аз хатогиҳои моделҳои калони забонӣ истифода мебарад: LLM номи бастаеро "галлютсинатсия мекунад", ки комилан қонунӣ садо медиҳад, аммо дар ягон феҳристи давлатӣ вуҷуд надорад ва ҳамлагар аввал бо сабти номи дақиқ пеш аз он ки касе бо ниятҳои нек ин корро кунад, ба он ҷо мерасад.
Механизми ҳамлаи маъмулии лопсквоттинг содда аст ва маҳз ҳамин соддагӣ онро самаранок мегардонад:
- Як таҳиягар аз ёвари зеҳни сунъӣ хоҳиш мекунад, ки дар ҳалли мушкилоти рамзгузорӣ кӯмак кунад.
- Модел роҳи ҳалеро тавлид мекунад, ки бастаеро ворид мекунад ё насб мекунад, ки ҳеҷ гоҳ вуҷуд надошт.
- Ҳамлагар, ки мушоҳида кардааст, ки якчанд моделҳо пайваста номи якхелаи галлюцинатсияро такрор мекунанд, он бастаро дар npm, PyPI ё дигар феҳристи оммавӣ бо рамзи зараровар дар дохили он сабт мекунад. Ин лаҳзаест, ки галлюцинатсия ба ҳамлаи воқеии slopsquatting табдил меёбад.
- Таҳиягари навбатӣ, ки ҳамон пешниҳодро мегирад ва онро тасдиқ намекунад, бастаи ҳозираи воқеиро насб мекунад, ки як роҳи пинҳонӣ ба муҳити онҳост.
Истилоҳи "slopsquatting" аз ҷониби Сет Ларсон, таҳиягари доимии амниятӣ дар Бунёди нармафзори Python, пешниҳод шуда, аз ҷониби Эндрю Несбитт маъмул гардонида шудааст, то маҳз ҳамин намунаро тавсиф кунад: "галлютсинатсияи бастабандӣ" ба вектори ҳамла табдил ёфтааст.
Таҳаввулоти нишебӣ: чӣ гуна кунҷковии тадқиқотӣ ба таҳдиди воқеӣ табдил ёфт
Чизи қобили таваҷҷӯҳ дар таҳаввулоти слопсквоттинг на танҳо мафҳум аст; муҳим он аст, ки он то чӣ андоза зуд аз мушоҳидаи тадқиқотӣ ба синфи ҳамлаи ҳуҷҷатӣ ва ченшаванда гузаштааст.
2023: Аввалин аломати огоҳкунанда. Бар Ланядо, муҳаққиқи амниятӣ мушоҳида карданд, ки якчанд LLM-ҳо борҳо бастаеро бо номи " оғӯши рӯй-кли, ки вуҷуд надорад (бастаи воқеӣ бо насб карда шудааст pip install -U “huggingface_hub[cli]”). Барои нишон додани хатар, ӯ версияи холии он бастаро ба феҳристи давлатӣ бор кард. Дар давоми се моҳ, он беш аз 30,000 зеркашӣ гирифт, бе ягон таблиғ. Номи галлюцинатсияшуда ҳатто дар README-и анбори марбут ба таҳқиқоти Alibaba пайдо шуд ва нишон дод, ки чӣ гуна ин номҳои "қалбакӣ" метавонанд ба ҳуҷҷатҳои воқеӣ ворид шаванд ва заминаро барои ҳамлаҳои минбаъдаи "slopsquatting" фароҳам оваранд.
2024: Хатар аз паёми блоги як муҳаққиқ ба фарогирии технологияи асосӣ мегузарад. Дар моҳи марти соли 2009 2024, Феҳрист гузориш дод, ки чӣ гуна моделҳои зеҳни сунъӣ бо итминон номҳои бастаҳои нармафзорро, ки таҳиягарон сипас зеркашӣ мекарданд, ихтироъ мекарданд, ки баъзеи онҳо эҳтимолан бо нармафзори зараровар заҳролуд мешуданд. Ин фарогирӣ на барои он чизе, ки аз ҷиҳати техникӣ ошкор мекард, балки барои он чизе, ки нишон медод, муҳим буд: парвандаи huggingface-cli дигар кунҷковии якдафъаина набуд; ин аввалин нишонаи як намунаи ҷиддӣ буд, ки матбуоти асосии технологӣ бояд онро нишон диҳад, пеш аз таҳқиқоти бузурги илмӣ, ки як сол пас ин миқёсро тасдиқ мекард.
2025: Аввалин андозагирии қатъӣ ва миқёси калони мушкилот. Мақолаи "Мо барои шумо баста дорем! Таҳлили ҳамаҷонибаи галлютсинатсияҳои бастабандӣ аз ҷониби LLM-ҳои тавлидкунандаи рамз" (Спраклен ва ҳамкорон, ки дар он муаррифӣ шудаанд) Симпозиуми бехатарии USENIX) 16 модели тавлиди рамз, ки ҳам тиҷоратӣ (GPT-4, GPT-3.5) ва ҳам манбаи кушода (CodeLlama, DeepSeek, WizardCoder, Mistral) мебошанд, дар 576,000 намунаи рамзи Python ва JavaScript санҷида шуданд. Натиҷаҳо нуқтаи равшанеро дар таҳаввули слопскваттинг нишон медиҳанд, ки онро аз як ҳикоя ба маълумот интиқол медиҳанд:
- 19.7% бастаҳои тавсияшуда аз ҷониби моделҳо вуҷуд надоштанд.
- Моделҳои кушодаасос нисбат ба моделҳои тиҷоратӣ (5.2%) хеле зуд-зуд галлюцинатсия мешуданд (ба ҳисоби миёна 21.7%).
- Дар ҳамаи моделҳои санҷидашуда, муҳаққиқон беш аз 205,000 номҳои беназири бастаҳои галлюцинатсияшударо сабт карданд, ки ҳавзи кофӣ барои ҳавасманд кардани ҳамлаҳои пайвастаи лопскваттинг дар экосистемаҳои гуногун аст.
Як ҷузъиёти муҳими таҳқиқот ва эҳтимолан сабаби суръат гирифтани таҳаввулоти slopsquatting ба ҷои нопадид шудан, ин аст, ки номҳои галлюцинатсияшуда тасодуфӣ нестанд ва онҳо дар ҳар кӯшиш тағйир намеёбанд. Ҳамон моделҳо майл доранд, ки ҳамон номҳои ихтироъшударо ҳангоми додани дархостҳои монанд такрор кунанд, ки ин маънои онро дорад, ки ҳамлагар набояд тахмин кунад. Онҳо танҳо бояд рафтори моделро мушоҳида кунанд, номҳоеро, ки пайваста такрор мешаванд, муайян кунанд ва онҳоро пеш аз он ки таҳиягари воқеӣ ин корро кунад, сабт кунанд. Таҳлили пайгирии ин такроршавандагӣ нишон дод, ки вақте ки муҳаққиқон дархостҳои якхеларо даҳ маротиба такрор карданд, 43% номҳои бастаҳои галлюцинатсияшуда дар ҳар як давидан пайдо шуданд, ки далели он аст, ки аксари галлюцинатсияҳо артефактҳои такроршаванда мебошанд, на садои якдафъаина. Ин такроршавандагӣ он чизест, ки галлюцинатсияи якдафъаинаро ба ҳамлаи slopsquatting миқёспазир табдил медиҳад.
2026: Аз бастаҳои ҷудогона то агентҳои мустақил. Аз бастаҳои ҷудогона то агентҳои мустақил. Имсол далелҳои равшантаринро ба миён овард, ки slopsquatting дигар танҳо ба нусхабардории фармони пешниҳодшудаи насби pip ё npm install аз ҷониби таҳиягар маҳдуд намешавад. Дар моҳи январи соли 2026, муҳаққиқи амниятӣ Чарли Эриксен муайян кард, ки агентҳои рамзгузории зеҳни сунъӣ аллакай дастурҳоеро, ки ба бастаи npm-и галлюцинатсияшуда, react-codeshift (номест, ки эҳтимолан ду асбоби воқеиро, jscodeshift ва react-codemod-ро муттаҳид мекунад), дар 237 анбори захиравӣ ишора мекунанд, паҳн кардаанд ва агентҳо то ҳол кӯшиш мекунанд, ки онро ҳар рӯз насб кунанд. Эриксен ин номро худаш, пеш аз он ки ҳамлагар онро силоҳ кунад, ба қайд гирифт. Алоҳида, як бастаи воқеии зараровар бо номи unused-imports, ки ба ҷои eslint-plugin-unused-imports галлюцинатсия шудааст, дар аввали соли 2026 тақрибан 233 зеркашии ҳафтаинаро сабт мекард, сарфи назар аз он ки npm онро таҳти назорати амниятӣ қарор дод, ки нишонаи он аст, ки чӣ қадар ҳамлаи slopsquatting метавонад қурбониёнро ҳатто пас аз қайд шуданаш ҷалб кунад. Чанде пеш, дар моҳи июли соли 2026, муҳаққиқон як усули марбут ба онро бо номи "HalluSquatting" тавсиф карданд, ки галлютсинатсияи зеҳни сунъиро бо воридкунии фаврӣ пайваст мекунад, то агенти рамзгузории зеҳни сунъӣ, ки захираи галлютсинатсияшударо аз номи корбар мегирад, метавонад ба рамзи иҷрошавандаи ҳамлагар ворид шавад ва таҳаввулоти slopsquatting-ро аз хатари насби ғайрифаъол ба вектори фаъоли иҷрои рамзи дурдаст дар дохили ҷараёнҳои кории таҳияи агентӣ васеъ кунад.
Чаро "рамзгузории vibe" сатҳи ҳамлаҳои лопскваттингро васеъ кард
Агар рамзи тавлидшудаи зеҳни сунъӣ як амалияи махсус мебуд, ҳамлаҳои Slopsquatting чандон аҳамияте надоштанд. Ин тавр нест. Афзоиши ёварони рамзгузорӣ, агентҳои мустақил ва ҷараёнҳои кории "рамзгузории vibe", ки дар он таҳиягарон пеш аз иҷро кардани он камтар ва камтар рамзро баррасӣ мекунанд, сатҳи ҳамлаи нармафзорро бо ду роҳи мушаххас тағйир додааст ва ҳарду таҳаввулоти Slopsquatting-ро суръат мебахшанд:
- Нуқтаи вуруд дигар танҳо таҳиягар нест. Қаблан ҳамлаи хатои чопкунӣ аз як нафар вобаста буд. Акнун ин хато метавонад дар дохили худи модел пайдо шавад ва ба садҳо таҳиягарони гуногун, ки саволҳои монандро медиҳанд ва ҳамон тавсияи галлюцинатсияро мегиранд, паҳн шавад ва доираи ҳамлаи якхелаи хатогиҳои чопкуниро зиёд кунад.
- Сатҳи ҳамла дар занҷир болотар ҳаракат кардааст. Дигар тамошои рамзе, ки инсон менависад, кофӣ нест. Гурӯҳҳо инчунин бояд вобастагиҳоеро, ки ёвари зеҳни сунъӣ пешниҳод мекунад, серверҳои MCP-ро, ки он ба онҳо пайваст мешавад ва агентҳоеро, ки бастаҳоро мустақилона бидуни баррасии мустақими инсонӣ насб мекунанд, тамошо кунанд. AppSec-и анъанавӣ, ки барои баррасии анборҳо ва маълумоти инсонӣ сохта шудааст. commits, ҳеҷ гоҳ барои мушоҳидаи ин таъсири мутақобилаи нав байни таҳиягар, зеҳни сунъӣ ва феҳристи бастаҳо тарҳрезӣ нашуда буд, ки маҳз дар он ҷо ҳамлаҳои slopsquatting ҳоло пинҳон мешаванд.
Ҳеҷ яке аз инҳо маънои онро надорад, ки зеҳни сунъии тавлидкунанда аз ҷиҳати табиӣ ноамн аст. Ин маънои онро дорад, ки он як навъи нави хатари занҷираи таъминотро муаррифӣ мекунад, ки абзорҳои анъанавии амниятӣ барои муайян кардан сохта нашудаанд ва яке аз ҳамон принсипҳои тасдиқкуниро, ки мо аллакай ба ҳама гуна вобастагии беруна татбиқ мекунем, талаб мекунад: ба таври пешфарз эътимод накунед, манбаъро тасдиқ кунед ва ин тасдиқкуниро автоматӣ кунед, ба ҷои такя ба хотира ё ҳушёрии ҳар як таҳиягар. Ин автоматизатсия асоси ҳама гуна стратегияи воқеии пешгирии слопскваттинг аст.
Пешгирии лопсквоттинг: имрӯз дастаҳо чӣ кор карда метавонанд
Хабари хуш ин аст, ки пешгирии лопскваттинг ба абзорҳои аҷиб ниёз надорад. Он истифодаи мунтазами амалияҳои гигиенаи вобастагиро талаб мекунад, ки аллакай мавҷуданд, аммо бисёр дастаҳо лаҳзае, ки зеҳни сунъӣ, ки ба он боварӣ доранд, рамзро "пешниҳод" мекунад, суст мешаванд. Як равиши муассири пешгирии лопскваттинг одатан инҳоро муттаҳид мекунад:
- Пеш аз насб кардани бастаи нав, онро дастӣ тасдиқ кунед, хусусан вақте ки он аз пешниҳоди ёвари зеҳни сунъӣ бармеояд. Тасдиқ кунед, ки он дар феҳристи расмӣ мавҷуд аст, кӣ онро нигоҳ медорад, кай нашр шудааст ва оё рақамҳои зеркашии он воқеӣ ба назар мерасанд. Ин одати ягона арзонтарин шакли пешгирии лопскваттинг барои ҳама гуна даста аст.
- Ҳеҷ гоҳ фикр накунед, ки рамзи тавлидшуда аз ҷониби AI пешфарз бехатар аст. Қисмати коде, ки "кор мекунад", маънои онро надорад, ки вобастагиҳои он қонунӣ мебошанд. Баррасии вобастагӣ бояд қисми баррасии код бошад, на истисно аз он.
- Файлҳои қулф ва тасдиқи ҳэшро истифода баред барои пин кардани версияҳои дақиқ ва пешгирӣ кардани ивазкунии навсозии хомӯш дар бастаи дигар аз бастаи аслии аудитшуда.
- Истифодаи сканкунии вобастагӣ, ки намунаҳои хатарро берун аз CVE-ҳои маълум қайд мекунад: бастаҳои ғайримуқаррарӣ, номҳои шубҳанок ба бастаҳои мавҷуда монанд, нигоҳдорандагони нав бе сабти кор ё скриптҳои насб бо рафтори ғайриоддӣ. Бастаи нав нашршуда бо қариб ҳеҷ таърихе нест, ки номи чизеро, ки "қариб" шинос аст, тақлид мекунад ва маҳз намунаи аксари ҳамлаҳои slopsquatting аст, ки то ҳол сабт шудаанд.
- Ба феҳристҳои давлатӣ бо ҳамон шубҳа муносибат кунедcism мисли ҳама гуна манбаи дигари берунаи тасдиқнашуда. Дар он аст, ки pip насб кунед or насб хато намекунад, далели қонуният нест.
- Гурӯҳҳои рушди қатора дар бораи он, ки рамзгузории бо ёрии зеҳни сунъӣ масъулияти тасдиқи он чизеро, ки насб карда мешавад, аз байн намебарад; он танҳо қадамеро илова мекунад, ки бояд ҳамчун як қисми ҳама гуна нақшаи ҷиддии пешгирии лопскваттинг ба ҷараёни кор ворид карда шавад.
Ҳеҷ яке аз ин тадбирҳо худ аз худ нав нест. Он чизе ки тағйир ёфтааст, миқёс аст: вақте ки пешниҳоди вобастагӣ дигар аз Stack Overflow ё ҳамкораш намеояд, балки аз моделе, ки метавонад ҳамон як хатои галлюцинатсияро барои ҳазорҳо таҳиягарони гуногун такрор кунад, санҷиши дастӣ, дар ҳоле ки ҳанӯз зарур аст, худ аз худ кофӣ нест. Аз ин рӯ, дастаҳои бештар ин қабати пешгирии лопскваттингро дар дохили худ автоматӣ мекунанд. Таҳлили таркиби нармафзор (SCA) асбобҳо, ба ҷои он ки онро ба интизоми таҳиягарони инфиродӣ вогузор кунед.
Ин пеш азcisЭли чаро ASPM платформаҳо мисли Ксигенӣ муайянкунии вобастагии шубҳанокро, ки чопкунии чопӣ, нофаҳмиҳои вобастагӣ ва бастаҳои зараровари маълумро дар як таҳлили сарчашмаи кушода ва вобастагии зеҳни сунъӣ фаро мегирад, эҷод кунед pipeline, аз ин рӯ, пешгирии слопскваттинг аз он вобаста нест, ки ҳар як таҳиягар ҳар дафъае, ки ёвари зеҳни сунъӣ вобастагии навро пешниҳод мекунад, онро тафтиш кунад.
Саволҳои зиёд такрормешуда
Оё ҳамлаи slopsquatting бо ҳамлаи typosquatting яксон аст?
Не, комилан не. Ҳарду бақайдгирии номи қалбакии бастаро барои фиреб додани касе, ки онро насб мекунад, дар бар мегиранд, аммо манбаи хато фарқ мекунад. Typosquatting аз хатогиҳои чопкунии инсонӣ истифода мебарад. Ҳамлаи slopsquatting аз номҳои бастаҳое, ки аз ҷониби моделҳои зеҳни сунъӣ ихтироъ шудаанд (галлютсинатсияшуда), ки ҳамлагар онҳоро пеш аз он ки қонунӣ вуҷуд дошта бошад, сабт мекунад.
Оё менеҷери баста метавонад аз ин гуна ҳамла ба таври худкор пешгирӣ кунад?
На пурра, маҳз аз ҳамин сабаб пешгирии slopsquatting наметавонад дар сатҳи мудири бастаҳо қатъ шавад. Агар ҳамлагар бастаи галлюцинатсияшударо пеш аз он ки таҳиягар кӯшиш кунад, ки онро насб кунад, насб бе ягон хатогӣ анҷом меёбад, зеро баста воқеан вуҷуд дорад, ҳарчанд он зараровар аст. Пешгирии муассир ба тасдиқи иловагии пайдоиш ва рафтори баста ниёз дорад.
Оё ин танҳо ба моделҳои кушодаасос таъсир мерасонад?
Не. Таҳқиқоти Спраклен ва ҳамкоронаш галлютсинатсияҳоро дар ҳар як модели санҷидашуда, аз ҷумла моделҳои тиҷоратӣ, муайян карданд, гарчанде ки бо суръати хеле пасттар (5.2% дар муқоиса бо 21.7% барои моделҳои кушодаасоси арзёбӣшуда). Ҳеҷ як модел комилан аз ин мушкилот холӣ нест, ки ин яке аз сабабҳои он аст, ки эволютсияи slopskvotting бо рушди рамзгузории бо ёрии зеҳни сунъӣ дар маҷмӯъ ҳамқадам аст.
Оё ин хатари назариявӣ аст ё аллакай истифода шудааст?
Дар оғӯши рӯй-кли Дар ин ҳолат, бастаи холӣ, ки аз ҷониби як муҳаққиқ боргузорӣ шудааст ва дар тӯли се моҳ беш аз 30,000 маротиба бе ягон таблиғ зеркашӣ шудааст, нишон медиҳад, ки хатар танҳо назариявӣ нест: номи галлюцинатсияшуда танҳо бояд дар дархостҳои гуногун ба қадри кофӣ мувофиқ бошад, то касе онро ба як ҳамлаи воқеии лопскваттинг табдил диҳад.
