Мушкилот дар як ҷумла
Дафъаи оянда як Ёвари зеҳни сунъӣ бастаро барои насб тавсия медиҳад, оё шумо воқеан санҷидани он бастаро мехоҳед, ки вуҷуд дошта бошад? Аксари таҳиягарон ин корро накардаанд. Ин фосила байни пешниҳод ва тасдиқ маҳз ҷоест, ки ҳамлаҳои slopsquatting оғоз мешаванд ва аз ин рӯ, фаҳмидани ҳам таҳаввулоти slopsquatting ва ҳам пешгирии амалии slopsquatting барои дастаҳои AppSec ва DevSecOps ба авлавияти воқеӣ табдил ёфтааст.
Ҳамлаи лопсквоттинг чист?
Ҳамлаи лопсквоттинг як варианти он аст чопкунӣ (амалияи бақайдгирии номи домен ё номи баста, ки номи қонуниро тавассути хатои маъмулӣ тақлид мекунад, масалан дархостҳо ба ҷои дархостҳо, умедворем, ки хатои чопии худи корбар онҳоро мустақиман ба он мерасонад), аммо бо фарқияти муҳим дар он ки хато аз куҷо сарчашма мегирад. Typosquatting аз хатогиҳои чопкунии инсонӣ истифода мебарад. Ҳамлаи slopsquatting аз хатогиҳои моделҳои калони забонӣ истифода мебарад: LLM номи бастаеро "галлютсинатсия мекунад", ки комилан қонунӣ садо медиҳад, аммо дар ягон феҳристи давлатӣ вуҷуд надорад ва ҳамлагар аввал бо сабти номи дақиқ пеш аз он ки касе бо ниятҳои нек ин корро кунад, ба он ҷо мерасад.
Механизми ҳамлаи маъмулии лопсквоттинг содда аст ва маҳз ҳамин соддагӣ онро самаранок мегардонад:
- Як таҳиягар аз ёвари зеҳни сунъӣ хоҳиш мекунад, ки дар ҳалли мушкилоти рамзгузорӣ кӯмак кунад.
- Модел роҳи ҳалеро тавлид мекунад, ки бастаеро ворид мекунад ё насб мекунад, ки ҳеҷ гоҳ вуҷуд надошт.
- Ҳамлагар, ки мушоҳида кардааст, ки якчанд моделҳо пайваста номи якхелаи галлюцинатсияро такрор мекунанд, он бастаро дар npm, PyPI ё дигар феҳристи оммавӣ бо рамзи зараровар дар дохили он сабт мекунад. Ин лаҳзаест, ки галлюцинатсия ба ҳамлаи воқеии slopsquatting табдил меёбад.
- Таҳиягари навбатӣ, ки ҳамон пешниҳодро мегирад ва онро тасдиқ намекунад, бастаи ҳозираи воқеиро насб мекунад, ки як роҳи пинҳонӣ ба муҳити онҳост.
Истилоҳи "slopsquatting" аз ҷониби Сет Ларсон, таҳиягари доимии амниятӣ дар Бунёди нармафзори Python, пешниҳод шуда, аз ҷониби Эндрю Несбитт маъмул гардонида шудааст, то маҳз ҳамин намунаро тавсиф кунад: "галлютсинатсияи бастабандӣ" ба вектори ҳамла табдил ёфтааст.
Таҳаввулоти нишебӣ: чӣ гуна кунҷковии тадқиқотӣ ба таҳдиди воқеӣ табдил ёфт
Чизи қобили таваҷҷӯҳ дар таҳаввулоти слопсквоттинг на танҳо мафҳум аст; муҳим он аст, ки он то чӣ андоза зуд аз мушоҳидаи тадқиқотӣ ба синфи ҳамлаи ҳуҷҷатӣ ва ченшаванда гузаштааст.
2023: Аввалин аломати огоҳкунанда. Бар Ланядо, муҳаққиқи амниятӣ мушоҳида карданд, ки якчанд LLM-ҳо борҳо бастаеро бо номи " оғӯши рӯй-кли, ки вуҷуд надорад (бастаи воқеӣ бо насб карда шудааст pip install -U “huggingface_hub[cli]”). Барои нишон додани хатар, ӯ версияи холии он бастаро ба феҳристи давлатӣ бор кард. Дар давоми се моҳ, он беш аз 30,000 зеркашӣ гирифт, бе ягон таблиғ. Номи галлюцинатсияшуда ҳатто дар README-и анбори марбут ба таҳқиқоти Alibaba пайдо шуд ва нишон дод, ки чӣ гуна ин номҳои "қалбакӣ" метавонанд ба ҳуҷҷатҳои воқеӣ ворид шаванд ва заминаро барои ҳамлаҳои минбаъдаи "slopsquatting" фароҳам оваранд.
2024: Хатар аз паёми блоги як муҳаққиқ ба фарогирии технологияи асосӣ мегузарад. Дар моҳи марти соли 2009 2024, Феҳрист гузориш дод, ки чӣ гуна моделҳои зеҳни сунъӣ бо итминон номҳои бастаҳои нармафзорро, ки таҳиягарон сипас зеркашӣ мекарданд, ихтироъ мекарданд, ки баъзеи онҳо эҳтимолан бо нармафзори зараровар заҳролуд мешуданд. Ин фарогирӣ на барои он чизе, ки аз ҷиҳати техникӣ ошкор мекард, балки барои он чизе, ки нишон медод, муҳим буд: парвандаи huggingface-cli дигар кунҷковии якдафъаина набуд; ин аввалин нишонаи як намунаи ҷиддӣ буд, ки матбуоти асосии технологӣ бояд онро нишон диҳад, пеш аз таҳқиқоти бузурги илмӣ, ки як сол пас ин миқёсро тасдиқ мекард.
2025: Аввалин андозагирии қатъӣ ва миқёси калони мушкилот. Когаз «Мо барои шумо баста дорем! Таҳлили ҳамаҷонибаи галлютсинатсияҳои бастабандӣ тавассути LLM-ҳои тавлидкунандаи рамз» (Спраклен ва дигарон, дар Амнияти USENIX Symposium) 16 модели тавлиди рамз, ки ҳам тиҷоратӣ (GPT-4, GPT-3.5) ва ҳам манбаи кушода (CodeLlama, DeepSeek, WizardCoder, Mistral)-ро дар 576,000 намунаи рамзи Python ва JavaScript озмоиш карданд. Натиҷаҳо нуқтаи равшанеро дар таҳаввули слопскваттинг нишон медиҳанд ва онро аз як ҳикоя ба маълумот интиқол медиҳанд:
- 19.7% бастаҳои тавсияшуда аз ҷониби моделҳо вуҷуд надоштанд.
- Моделҳои кушодаасос хеле зуд-зуд галлюцинатсия мешуданд (21.7% ба ҳисоби миёна) нисбат ба моделҳои тиҷоратӣ (5.2%).
- Бадтарин ҷинояткорон, CodeLlama 7B ва CodeLlama 34B, дар беш аз як сеяки натиҷаҳои худ галлютсинатсия кардаанд.
- Дар ҳамаи моделҳои санҷидашуда, муҳаққиқон сабти ном карданд 205,000 номҳои беназири бастаҳои галлюцинатсияшуда, ҳавзе, ки ба қадри кофӣ калон аст, ки ҳамлаҳои пайвастаи лопсквоттингро дар саросари экосистемаҳои сершумор таъмин кунад.
- Як тафсилоти махсусан муҳим барои пешгирӣ: тақрибан 38% Номҳои галлюцинатсияшуда ба бастаҳои воқеӣ хеле монанд буданд, ки эҳтимолияти пайдо шудани онҳоро бо нигоҳи аввал кам мекунад.
Як ҷузъиёти муҳими таҳқиқот ва эҳтимолан сабаби суръат гирифтани таҳаввулоти slopsquatting ба ҷои нопадид шудан, ин аст, ки номҳои галлюцинатсияшуда тасодуфӣ нестанд ва онҳо дар ҳар кӯшиш тағйир намеёбанд. Ҳамон моделҳо майл доранд, ки ҳамон номҳои ихтироъшударо ҳангоми додани дархостҳои монанд такрор кунанд, ки ин маънои онро дорад, ки ҳамлагар набояд тахмин кунад. Онҳо танҳо бояд рафтори моделро мушоҳида кунанд, номҳоеро, ки пайваста такрор мешаванд, муайян кунанд ва онҳоро пеш аз он ки таҳиягари воқеӣ ин корро кунад, сабт кунанд. Таҳлили пайгирии ин такроршавандагӣ нишон дод, ки вақте ки муҳаққиқон дархостҳои якхеларо даҳ маротиба такрор карданд, 43% номҳои бастаҳои галлюцинатсияшуда дар ҳар як давидан пайдо шуданд ва 58% беш аз як маротиба такрор шуданд, ки ин далели он аст, ки аксари галлюцинатсияҳо артефактҳои такроршаванда мебошанд, на садои якдафъаина. Ин такроршавандагӣ он чизест, ки галлюцинатсияи якдафъаинаро ба ҳамлаи slopsquatting миқёспазир табдил медиҳад.
2026: Аз бастаҳои ҷудогона то агентҳои мустақил. Имсол далелҳои равшантаринро нишон дод, ки лопсквоттинг дигар танҳо ба нусхабардории таҳиягар ва часбонидани пешниҳодшуда маҳдуд намешавад. pip насб кунед or насб фармон. Дар моҳи январи соли 2026, муҳаққиқ Чарли Эриксен дар Aikido Security муайян кард, ки агентҳои рамзгузории зеҳни сунъӣ аллакай дастурҳоеро паҳн кардаанд, ки ба бастаи галлюцинатсияшудаи npm ишора мекунанд. тағйироти рамзии реактивӣ (номест, ки эҳтимолан ду асбоби воқеиро бо ҳам мепайвандад, jscodeshift ва мод-коди реактивӣ), дар саросари 237 анбор, ки агентҳо то ҳол кӯшиш мекунанд, ки онро ҳар рӯз насб кунанд. Эриксен номро худаш, пеш аз он ки ҳамлагар онро силоҳ кунад, сабти ном кард. Алоҳида, як бастаи воқеии зараровар бо номи воридоти истифоданашуда, галлюцинатсияшуда дар ҷои қонунӣ eslint-plugin-unused-imports, дар аввали соли 2026 тақрибан 233 зеркашии ҳафтаинаро сабт мекард, сарфи назар аз он ки npm онро таҳти назорати амниятӣ қарор дод, ки ин нишонаи он аст, ки ҳамлаи slopsquatting чӣ қадар вақт метавонад қурбониёнро ҳатто пас аз қайд шуданаш ҷалб кунад. Ба наздикӣ, дар моҳи июли соли 2026, муҳаққиқон як усули марбут ба онро бо номи "HalluSquatting" тавсиф карданд, ки галлютсинатсияи зеҳни сунъиро бо воридкунии фаврӣ пайваст мекунад, то агенти рамзгузории зеҳни сунъӣ, ки захираи галлютсинатсияшударо аз номи корбар мегирад, метавонад ба рамзи иҷрошавандаи ҳамлагар ворид шавад ва таҳаввулоти slopsquatting-ро аз хатари насби ғайрифаъол ба вектори фаъоли иҷрои рамзи дурдаст дар дохили ҷараёнҳои кории таҳияи агентӣ васеъ мекунад.
Чаро "рамзгузории vibe" сатҳи ҳамлаҳои лопскваттингро васеъ кард
Агар рамзи тавлидшудаи зеҳни сунъӣ як амалияи махсус мебуд, ҳамлаҳои Slopsquatting чандон аҳамияте надоштанд. Ин тавр нест. Афзоиши ёварони рамзгузорӣ, агентҳои мустақил ва ҷараёнҳои кории "рамзгузории vibe", ки дар он таҳиягарон пеш аз иҷро кардани он камтар ва камтар рамзро баррасӣ мекунанд, сатҳи ҳамлаи нармафзорро бо ду роҳи мушаххас тағйир додааст ва ҳарду таҳаввулоти Slopsquatting-ро суръат мебахшанд:
- Нуқтаи вуруд дигар танҳо таҳиягар нест. Қаблан ҳамлаи хатои чопкунӣ аз як нафар вобаста буд. Акнун ин хато метавонад дар дохили худи модел пайдо шавад ва ба садҳо таҳиягарони гуногун, ки саволҳои монандро медиҳанд ва ҳамон тавсияи галлюцинатсияро мегиранд, паҳн шавад ва доираи ҳамлаи якхелаи хатогиҳои чопкуниро зиёд кунад.
- Сатҳи ҳамла дар занҷир болотар ҳаракат кардааст. Дигар тамошои рамзе, ки инсон менависад, кофӣ нест. Гурӯҳҳо инчунин бояд вобастагиҳоеро, ки ёвари зеҳни сунъӣ пешниҳод мекунад, серверҳои MCP-ро, ки он ба онҳо пайваст мешавад ва агентҳоеро, ки бастаҳоро мустақилона бидуни баррасии мустақими инсонӣ насб мекунанд, тамошо кунанд. AppSec-и анъанавӣ, ки барои баррасии анборҳо ва маълумоти инсонӣ сохта шудааст. commits, ҳеҷ гоҳ барои мушоҳидаи ин таъсири мутақобилаи нав байни таҳиягар, зеҳни сунъӣ ва феҳристи бастаҳо тарҳрезӣ нашуда буд, ки маҳз дар он ҷо ҳамлаҳои slopsquatting ҳоло пинҳон мешаванд.
Ҳеҷ яке аз инҳо маънои онро надорад, ки зеҳни сунъии тавлидкунанда аз ҷиҳати табиӣ ноамн аст. Ин маънои онро дорад, ки он як навъи нави хатари занҷираи таъминотро муаррифӣ мекунад, ки абзорҳои анъанавии амниятӣ барои муайян кардан сохта нашудаанд ва яке аз ҳамон принсипҳои тасдиқкуниро, ки мо аллакай ба ҳама гуна вобастагии беруна татбиқ мекунем, талаб мекунад: ба таври пешфарз эътимод накунед, манбаъро тасдиқ кунед ва ин тасдиқкуниро автоматӣ кунед, ба ҷои такя ба хотира ё ҳушёрии ҳар як таҳиягар. Ин автоматизатсия асоси ҳама гуна стратегияи воқеии пешгирии слопскваттинг аст.
Пешгирии лопсквоттинг: имрӯз дастаҳо чӣ кор карда метавонанд
Хабари хуш ин аст, ки пешгирии лопскваттинг ба абзорҳои аҷиб ниёз надорад. Он истифодаи мунтазами амалияҳои гигиенаи вобастагиро талаб мекунад, ки аллакай мавҷуданд, аммо бисёр дастаҳо лаҳзае, ки зеҳни сунъӣ, ки ба он боварӣ доранд, рамзро "пешниҳод" мекунад, суст мешаванд. Як равиши муассири пешгирии лопскваттинг одатан инҳоро муттаҳид мекунад:
- Пеш аз насб кардани бастаи нав, онро дастӣ тасдиқ кунед, хусусан вақте ки он аз пешниҳоди ёвари зеҳни сунъӣ бармеояд. Тасдиқ кунед, ки он дар феҳристи расмӣ мавҷуд аст, кӣ онро нигоҳ медорад, кай нашр шудааст ва оё рақамҳои зеркашии он воқеӣ ба назар мерасанд. Ин одати ягона арзонтарин шакли пешгирии лопскваттинг барои ҳама гуна даста аст.
- Ҳеҷ гоҳ фикр накунед, ки рамзи тавлидшуда аз ҷониби AI пешфарз бехатар аст. Қисмати коде, ки "кор мекунад", маънои онро надорад, ки вобастагиҳои он қонунӣ мебошанд. Баррасии вобастагӣ бояд қисми баррасии код бошад, на истисно аз он.
- Файлҳои қулф ва тасдиқи ҳэшро истифода баред барои пин кардани версияҳои дақиқ ва пешгирӣ кардани ивазкунии навсозии хомӯш дар бастаи дигар аз бастаи аслии аудитшуда.
- Истифодаи сканкунии вобастагӣ, ки намунаҳои хатарро берун аз CVE-ҳои маълум қайд мекунад: бастаҳои ғайримуқаррарӣ, номҳои шубҳанок ба бастаҳои мавҷуда монанд, нигоҳдорандагони нав бе сабти кор ё скриптҳои насб бо рафтори ғайриоддӣ. Бастаи нав нашршуда бо қариб ҳеҷ таърихе нест, ки номи чизеро, ки "қариб" шинос аст, тақлид мекунад ва маҳз намунаи аксари ҳамлаҳои slopsquatting аст, ки то ҳол сабт шудаанд.
- Ба феҳристҳои давлатӣ бо ҳамон шубҳа муносибат кунедcism мисли ҳама гуна манбаи дигари берунаи тасдиқнашуда. Дар он аст, ки pip насб кунед or насб хато намекунад, далели қонуният нест.
- Гурӯҳҳои рушди қатора дар бораи он, ки рамзгузории бо ёрии зеҳни сунъӣ масъулияти тасдиқи он чизеро, ки насб карда мешавад, аз байн намебарад; он танҳо қадамеро илова мекунад, ки бояд ҳамчун як қисми ҳама гуна нақшаи ҷиддии пешгирии лопскваттинг ба ҷараёни кор ворид карда шавад.
Ҳеҷ яке аз ин тадбирҳо худ аз худ нав нест. Он чизе ки тағйир ёфтааст, миқёс аст: вақте ки пешниҳоди вобастагӣ дигар аз Stack Overflow ё ҳамкораш намеояд, балки аз моделе, ки метавонад ҳамон як хатои галлюцинатсияро барои ҳазорҳо таҳиягарони гуногун такрор кунад, санҷиши дастӣ, дар ҳоле ки ҳанӯз зарур аст, худ аз худ кофӣ нест. Аз ин рӯ, дастаҳои бештар ин қабати пешгирии лопскваттингро дар дохили худ автоматӣ мекунанд. Таҳлили таркиби нармафзор (SCA) асбобҳо, ба ҷои он ки онро ба интизоми таҳиягарони инфиродӣ вогузор кунед.
Ин пеш азcisЭли чаро ASPM платформаҳо мисли Ксигенӣ муайянкунии вобастагии шубҳанокро, ки чопкунии чопӣ, нофаҳмиҳои вобастагӣ ва бастаҳои зараровари маълумро дар як таҳлили сарчашмаи кушода ва вобастагии зеҳни сунъӣ фаро мегирад, эҷод кунед pipeline, аз ин рӯ, пешгирии слопскваттинг аз он вобаста нест, ки ҳар як таҳиягар ҳар дафъае, ки ёвари зеҳни сунъӣ вобастагии навро пешниҳод мекунад, онро тафтиш кунад.
Саволҳои зиёд такрормешуда
Оё ҳамлаи slopsquatting бо ҳамлаи typosquatting яксон аст?
Не, комилан не. Ҳарду бақайдгирии номи қалбакии бастаро барои фиреб додани касе, ки онро насб мекунад, дар бар мегиранд, аммо манбаи хато фарқ мекунад. Typosquatting аз хатогиҳои чопкунии инсонӣ истифода мебарад. Ҳамлаи slopsquatting аз номҳои бастаҳое, ки аз ҷониби моделҳои зеҳни сунъӣ ихтироъ шудаанд (галлютсинатсияшуда), ки ҳамлагар онҳоро пеш аз он ки қонунӣ вуҷуд дошта бошад, сабт мекунад.
Оё менеҷери баста метавонад аз ин гуна ҳамла ба таври худкор пешгирӣ кунад?
На пурра, маҳз аз ҳамин сабаб пешгирии slopsquatting наметавонад дар сатҳи мудири бастаҳо қатъ шавад. Агар ҳамлагар бастаи галлюцинатсияшударо пеш аз он ки таҳиягар кӯшиш кунад, ки онро насб кунад, насб бе ягон хатогӣ анҷом меёбад, зеро баста воқеан вуҷуд дорад, ҳарчанд он зараровар аст. Пешгирии муассир ба тасдиқи иловагии пайдоиш ва рафтори баста ниёз дорад.
Оё ин танҳо ба моделҳои кушодаасос таъсир мерасонад?
Не. Таҳқиқоти Спраклен ва ҳамкоронаш галлютсинатсияҳоро дар ҳар як модели санҷидашуда, аз ҷумла моделҳои тиҷоратӣ, муайян карданд, гарчанде ки бо суръати хеле пасттар (5.2% дар муқоиса бо 21.7% барои моделҳои кушодаасоси арзёбӣшуда). Ҳеҷ як модел комилан аз ин мушкилот холӣ нест, ки ин яке аз сабабҳои он аст, ки эволютсияи slopskvotting бо рушди рамзгузории бо ёрии зеҳни сунъӣ дар маҷмӯъ ҳамқадам аст.
Оё ин хатари назариявӣ аст ё аллакай истифода шудааст?
Дар оғӯши рӯй-кли Дар ин ҳолат, бастаи холӣ, ки аз ҷониби як муҳаққиқ боргузорӣ шудааст ва дар тӯли се моҳ беш аз 30,000 маротиба бе ягон таблиғ зеркашӣ шудааст, нишон медиҳад, ки хатар танҳо назариявӣ нест: номи галлюцинатсияшуда танҳо бояд дар дархостҳои гуногун ба қадри кофӣ мувофиқ бошад, то касе онро ба як ҳамлаи воқеии лопскваттинг табдил диҳад.
