2023 թվականին Բար Լանյադո անունով անվտանգության հետազոտողը անցկացրեց մի աննկատելի փորձ։ Նա նկատեց, որ արհեստական բանականության կոդավորման օգնականները շարունակում էին խորհուրդ տալ Python փաթեթ, որը կոչվում էր գրկախառնվող դեմք-կլի, մի փաթեթ, որը գոյություն չուներ։ Այսպիսով, նա ստեղծեց այն՝ դատարկ տեղապահ, որը վերբեռնվեց մոդելների հորինած ճշգրիտ անվամբ։ Նա ոչ մի ֆունկցիոնալություն և օգտակար բեռ չավելացրեց։ Նա պարզապես սպասեց։
Երեք ամսվա ընթացքում փաթեթը ներբեռնվել էր ավելի քան 30,000 անգամ։ Հալյուցինացված տեղադրման հրամանը նույնիսկ հայտնվել էր խոշոր տեխնոլոգիական ընկերությանը պատկանող README հանրային պահոցում։ Լանյադոյի փաթեթը անվնաս էր։ Սակայն փորձը ապացուցեց մի անհանգստացնող բան. հարձակվողը կարող է կանխատեսել, թե ինչ կհորինի արհեստական բանականությունը, նախ գրանցել այն և թույլ տալ մշակողներին ինքնուրույն տեղադրել այն։ Այդ տեխնիկան այժմ անուն ունի, անփույթ նստած, և դա ծրագրային ապահովման մատակարարման շղթայում ամենաարագ աճող սպառնալիքներից մեկն է։
Ի՞նչ է սլոփսքվաթինգը։
Սլոփսքվաթինգը դա է մատակարարման շղթայի հարձակում որում հարձակվողը գրանցում է վնասակար ծրագրային փաթեթ այնպիսի անվան տակ, որը արհեստական բանականության կոդավորման օգնականները կանխատեսելիորեն հալյուցինացիաներ են ունենում։ Երբ մշակողը օգնություն է խնդրում արհեստական բանականության գործիքից, և այն առաջարկում է տեղադրել հավանական թվացող, բայց գոյություն չունեցող կախվածություն, հարձակվողն արդեն իսկ հայտարարել է այդ անունը հանրային գրանցամատյանում, ուստի «օգտակար» առաջարկը ոչնչի փոխարեն տեղադրում է վնասակար ծրագիր։
Տերմինը հետևյալն էր՝ հորինվել է 2025 թվականի ապրիլին Սեթ Լարսոնի կողմից, Python Software Foundation-ի անվտանգության մշակող-ռեզիդենտ։ Սա խաղ է տառասխալ, ավելի հին հարձակումը, որտեղ հանցագործները գրանցում են հայտնի փաթեթների սխալ գրությունները (խնդրանքներ փոխարեն հարցումներ)։ Տարբերությունը սխալի աղբյուրն է. typosquatting-ը շահագործում է մարդկային տպագրական սխալները, մինչդեռ slopsquatting-ը շահագործում է արհեստական բանականության «slop»-ը՝ վստահ, սահուն, սխալ արդյունքը, որը ստեղծում են մեծ լեզվական մոդելները։
Ինչու է սլոփսքաթինգը իրականում աշխատում
Դուք կարող եք ենթադրել, որ արհեստական ինտելեկտի հալյուցինացիաները պատահական աղմուկներ են. ամեն անգամ տարբեր կեղծ անուն, անհնար է զենք դարձնել: Հետազոտությունները հակառակն են ասում, և սա է ամբողջ իմաստը:
Գիտական ուսումնասիրություն, որը ներկայացվել է USENIX Security 2025 (Spracklen et al.) փորձարկվել են 16 մեծ լեզվական մոդելներ՝ 576,000 գեներացված կոդի նմուշների վրա։ Պարզվել է, որ առաջարկվող փաթեթների 19.7%-ը գոյություն չունի. ընդհանուր առմամբ՝ 205,474 եզակի հալյուցինացիոն անուններ։ Կարևոր է նշել, որ այդ հալյուցինացիաները կրկնվողԿեղծ անունների 43%-ը կրկին հայտնվել է կրկնվող հարցումների ժամանակ, իսկ 58%-ը՝ նույն հարցման տասը գործարկումների ժամանակ։ Բաց կոդով մոդելները հալյուցինացրել են փաթեթները դեպքերի 21.7%-ում. նույնիսկ GPT-4-ի նման առևտրային մոդելները դա արել են դեպքերի 5.2%-ում՝ քսանից մեկը։
Կրկնելիությունն է, որ քայքը վերածում է հարձակման։ Հարձակվողը կարիք չունի կռահելու։ Նրանք կարող են գործարկել հայտնի հուշումներ, գրանցել, թե մոդելները որ գոյություն չունեցող փաթեթներն են անընդհատ առաջարկում, և գրանցել այդ անունները որպես վնասակար ծրագիր։ Արհեստական բանականությունն է իրականացնում դրանց թիրախավորումը։
Ինչպես է ծավալվում անփույթ նստացույցի հարձակումը
Հարձակման շղթան կարճ է, ինչը մասամբ պատճառն է, որ այն վտանգավոր է։
- Դիտարկեք. Հարձակվողը արհեստական ինտելեկտի կոդավորման օգնականներին հուշում է մշակման ընդհանուր առաջադրանքներ և գրանցում է այդ գործիքների կողմից հորինված, բայց գրանցամատյանում գոյություն չունեցող փաթեթների անունները։
- Գրանցվել: Նրանք հրապարակում են վնասակար փաթեթ այդ հալյուցինացված անուններից մեկի տակ՝ մաքուր README-ով, հավանական մետատվյալներով և տեղադրման սկրիպտում թաքնված օգտակար բեռով։
- Սպասեք: Մշակողը (կամ ինքնավար կոդավորող գործակալը) արհեստական բանականության գործիքին նմանատիպ հարց է տալիս, ստանում է նույն հալյուցինացված խորհուրդը և գործարկում է այն։ տեղադրել.
- Կատարել։ Փաթեթի տեղադրման կեռիկը գործարկվում է, գաղտնիքներ է արտահոսում, հակառակ shell-ի բացում կամ հետին դուռ է տեղադրվում, և վտանգը հոսում է դեպի կառուցվածքների և արտադրության մեջ։
Ինքնավար կոդավորող գործակալները 3-րդ քայլը շատ ավելի հավանական են դարձնում: Գործակալը, որը կախվածություններ է տեղադրում առանց մարդկային ստուգման, հեռացնում է միակ ստուգիչ կետը, որտեղ մշակողը կարող էր կանգ առնել և մտածել. «Ես երբեք չեմ լսել այդ փաթեթի մասին»:
Իրականում որքա՞ն վատ է։
Ավելի վատ է դառնում, ոչ թե ավելի լավ։ USENIX ուսումնասիրությունը փորձարկել է 16 մոդել և դեռևս պարզել է, որ առաջարկվող փաթեթների գրեթե հինգից մեկը գոյություն չունի, ուստի սա խնդիր չէ, որը սահմանափակվում է միայն հին կամ թույլ գործիքներով։ Եվ միայն մարզման տվյալներից աշխատող կոդավորման օգնականը ոչ մի կերպ չի կարող իմանալ, թե արդյոք իր առաջարկած փաթեթի անունը անվտանգ է, հալյուցինացիաներ ունի, թե արդեն նշվել է որպես վնասակար ծրագիր. այն իրական ժամանակում չունի գրանցամատյանի տեսք։ Սա լաբորատոր հետաքրքրասիրություն չէ։ Սա հենց այն վարքագիծն է, որի վրա մշակողները այժմ օրական տասնյակ անգամներ են հույսը դնում։
Անփույթ գրոհների կազմակերպումը նույնպես մասշտաբավորվում է մատակարարման շղթայի հիգիենայի ավելի լայն փլուզման հետ մեկտեղ: 2025 թվականին մեծ ծավալի վնասակար փաթեթների արշավները դարձան մատակարարման շղթայի հարձակումների հիմնական գործառնական մոդելը, ինչպես փաստաթղթավորված է Xygeni-ի «2026 թվականի նոր AppSec հարձակումների միտումները» գրքում. հարձակվողները հրապարակում են մեծ ծավալով, ընդունում են արագ վերացումներ և հույսը դնում են հավանականության վրա, իսկ արհեստական ինտելեկտի հալյուցինացիաները նրանց տրամադրում են բարձր կոնվերսիա ունեցող անունների կայուն մատակարարում՝ գրանցելու համար:
Ինչպես պաշտպանվել անփույթ սվոթինգից
Անհարմար ճշմարտությունն այն է, որ ստորագրության վրա հիմնված գործիքները չեն կարող սա բռնել: Անփույթ կերպով պահպանված փաթեթը բոլորովին նոր է. CVE գոյություն չունի, ստորագրություն գոյություն չունի, և այն կարող է ակտիվ լինել ընդամենը մի քանի ժամ մինչև ջնջումը, բավականաչափ երկար ժամանակ՝ հազարավոր տեղադրումներ կուտակելու համար: Արդյունավետ պաշտպանությունը հիմնված է չորս գործելակերպի վրա.
- Երբեք մի տեղադրեք արհեստական բանականության կողմից առաջարկվող փաթեթը՝ առանց ստուգելու դրա գոյությունը և օրինականությունը։ Ստուգեք իրական ներբեռնումների պատմությունը, պահպանիչը և պահոցը, ոչ միայն այն, որ անունը ճիշտ է հնչում։
- Հայտնաբերեք վնասակար ծրագրերը վարքագծով, այլ ոչ թե ստորագրություններով։ Գնահատեք փաթեթը հրապարակման պահին՝ հիմնվելով դրա տեղադրման գործողությունների, ցանցային զանգերի և այլնի վրա։ մշուշոտման նախշեր, այսպիսով, վնասակար փաթեթը նշվում է հայտնվելու պահին, այլ ոչ թե դրա մասին արդեն հայտնի դառնալուց հետո։
- Տեղադրեք կախվածության firewall մշակողների և գրանցամատյանի միջև։ Կասկածելի կամ նոր փաթեթները ավտոմատ կերպով կարանտինացրեք նախքան դրանց կառուցմանը հասնելը, հանրային գրանցամատյանին լռելյայնորեն վստահելու փոխարեն։
- Գույքագրեք, թե ինչ արհեստական բանականություն է աշխատում ձեր համակարգում pipeline. Կոդավորման օգնականները և կախվածություններ տեղադրող ինքնավար գործակալները ձեր հարձակման մակերեսի մասն են կազմում։ Արհեստական նյութերի ցանկ (AI-BOM) դա տեսանելի է դարձնում։
Ծալովի նստացույցը ավելի մեծ փոփոխության ախտանիշներից մեկն է
Անփույթ կերպով սքվաթինգը ավելի լայն օրինաչափության ամենացայտուն օրինակն է. արհեստական բանականությունն այժմ և՛ ձեր կոդը գրողն է, և՛ այն, ինչին հարձակվողները մատնացույց են անում ձեր մատակարարման շղթայում: Դրանից առանձին պաշտպանվելը բավարար չէ. այն պետք է ներառվի ավելի լայն ռազմավարության մեջ: Ամբողջական պատկերի համար տե՛ս մեր ուղեցույցը: Արհեստական բանականության մատակարարման շղթայի անվտանգություն, որը ներառում է վնասակար փաթեթներ, MCP ռիսկերըև արհեստական բանականության կողմից ստեղծված կոդ՝ դրանց հաղթահարմանն ուղղված պաշտպանության հետ մեկտեղ։
Դադարեք անփույթ նստել, նախքան այն կհասնի ձեր կառուցվածքին
Slopsquatted փաթեթը կանգնեցնելու ամենաարդյունավետ վայրը այն պահն է, երբ մշակողը փորձում է այն տեղադրել, նախքան տեղադրման սկրիպտը երբևէ կաշխատի։ Ահա թե ինչ է կատարվում։ Քսիգենի Shield Թեմա. Shield մշակողի վերջնակետում տեղակայված թեթև գործակալ է, որը տեղադրման ժամանակ արգելափակում է վնասակար փաթեթները՝ օգտագործելով Վնասակար ծրագրերի վաղ նախազգուշացում (MEW) դատավճիռներ, որոնք գործում են նախքան որևէ ստորագրության գոյությունը։ Երբ արհեստական բանականության օգնականը առաջարկում է հալյուցինացված կախվածություն, և մշակողը գործարկում է տեղադրել, Shield Գնահատում է փաթեթը ներբեռնվելուն պես և արգելափակում է այն. վնասակար հետտեղադրման սկրիպտը երբեք չի կատարվում, և անվտանգության թիմը տեսնում է փորձը ամբողջական համատեքստով։
Քանի որ MEW-ն գնահատում է փաթեթի վարքագիծը հրապարակման պահին (տեղադրման ժամանակ գործողություններ, ցանցային զանգեր, խեղաթյուրման օրինաչափություններ), Shield բռնում է հենց այն նոր, դեռևս ստորագրություն չունեցող փաթեթները, որոնցից կախված է slopsquatting-ը, ինչպես նաև տպագրական սխալները, կախվածության խառնաշփոթը և պահպանողի կողմից խախտումը: Յուրաքանչյուր բլոկ հոսում է նույն Xygeni կոնսոլ, ինչ ձեր կոդը, կառուցվածքը և կատարման ժամանակը, ուստի նոր փաթեթներ չկան: dashboard և ոչ մի նոր մատակարարի հետ հարաբերություն, և Shield աշխատում է ձեր առկա EDR-ի հետ մեկտեղ, այլ ոչ թե դրա դեմ։
Սկսեք անվճար։ Xygeni-ի մշակողների համար նախատեսված պլանը €0 է՝ 10 պահոց, ամսական 200 սկանավորում, մինչև 5 մասնակից, առանց վարկային քարտի։ Sign up with GitHub, GitLab կամ Google և կատարեք ձեր առաջին սկանավորումը 10 րոպեից էլ քիչ ժամանակում։ Shield Վերջնակետերի պաշտպանությունը շուտով հասանելի կլինի մշակողների պլանում։
ՀՏՀ
Անտառային սվոթինգը իրական սպառնալիք է, թե՞ պարզապես տեսական։
Դա իրական է։ Հետազոտող Բար Լանյադոյի կողմից 2023 թվականին իրականացված հայեցակարգի ապացույցի ուսումնասիրության արդյունքում պարզվել է, որ հալյուցինացված անվան տակ տեղապահով փաթեթ է հայտնաբերվել (գրկախառնվող դեմք-կլի) ներբեռնվել է ավելի քան 30,000 անգամ երեք ամսվա ընթացքում: USENIX Security 2025 ուսումնասիրությունը պարզել է, որ արհեստական բանականության կողմից խորհուրդ տրվող փաթեթների 19.7%-ը գոյություն չունի, և այդ հալյուցինացված անունների 43%-ը կրկնվում է հուշումների միջոցով, ինչը նշանակում է, որ հարձակվողները կարող են կանխատեսել և գրանցել դրանք:
Ի՞նչ տարբերություն կա անփույթ նստացույցի և տպագրական սխալների միջև։
Typosquatting-ը օգտագործում է մարդկային տպագրական սխալները՝ գրանցելով հայտնի փաթեթների ուղղագրական սխալները (խնդրանքներ համար հարցումներ)։ Slopsquatting-ը շահագործում է արհեստական բանականության հալյուցինացիաները՝ գրանցելով վստահ, բայց սխալ փաթեթների անունները, որոնք հորինում են մեծ լեզվական մոդելները։ Երկուսն էլ նպատակ ունեն խաբել մշակողին և ստիպել տեղադրել վնասակար փաթեթ, բայց սխալը, որը նրանք զենք են դարձնում, տարբեր է։
Կարո՞ղ եմ վստահել արհեստական բանականության կոդավորման օգնականներին՝ կախվածություններ առաջարկելու համար։
Ոչ առանց ստուգման: Նույնիսկ առաջատար առևտրային մոդելները մոտ 5%-ում հալյուցինացիաներ են առաջացնում գոյություն չունեցող փաթեթների մոտ, իսկ ավելի նոր վերլուծությունները ցույց են տվել, որ ներկայիս մոդելից կախվածության թարմացման առաջարկների գրեթե 28%-ը հալյուցինացիաներ էին: Միշտ համոզվեք, որ առաջարկվող փաթեթն իսկապես գոյություն ունի և օրինական է, նախքան այն տեղադրելը:
Ինչպե՞ս պաշտպանեմ իմ կոդի բազան անկանոն կուտակումներից։
Ստուգեք արհեստական բանականության կողմից առաջարկվող փաթեթները տեղադրելուց առաջ, հայտնաբերեք վնասակար ծրագրերը հրապարակման պահին վարքագծով, այլ ոչ թե ստորագրության սպասելով, տեղադրեք կախվածության firewall մշակողների և հանրային գրանցամատյանների միջև և պահպանեք ձեր համակարգում աշխատող արհեստական բանականության գործիքների և գործակալների AI-BOM ցանկը։ pipeline.
