Slopsquatting: Hücumçular Süni İntellekt Halüsinasiyalarını Necə Silahlandırırlar

Slopsquatting nədir? Hücumçular süni intellekt halüsinasiyalarını necə silahlandırırlar

2023-cü ildə Bar Lanyado adlı təhlükəsizlik tədqiqatçısı sakit bir təcrübə apardı. O, süni intellekt kodlaşdırma köməkçilərinin Python adlı bir paket tövsiyə etdiyini gördü. qucaqlaşmaq-üz-cli, mövcud olmayan bir paket. Beləliklə, o, onu yaratdı: modellərin icad etdiyi adın altında yüklənmiş boş bir yer tutucu. O, heç bir funksionallıq və faydalı yük əlavə etmədi. Sadəcə gözlədi.

Üç ay ərzində paket 30,000-dən çox dəfə yüklənmişdi. Halüsinasiyalı quraşdırma əmri hətta böyük bir texnologiya şirkətinə məxsus README ictimai depoya da yol tapmışdı. Lanyadonun paketi zərərsiz idi. Lakin təcrübə narahatedici bir şey sübut etdi: hücumçu süni intellektdən nə icad edəcəyini təxmin edə, əvvəlcə onu qeydiyyatdan keçirə və tərtibatçıların özləri quraşdırmasına icazə verə bilər. Bu texnikanın indi bir adı var, slopsquattingvə bu, proqram təminatı təchizatı zəncirində ən sürətlə böyüyən təhdidlərdən biridir.

Slopsquatting nədir?

Yamacda çömbəlmə təchizat zəncirinə hücum təcavüzkarın zərərli proqram paketini süni intellekt kodlaşdırma köməkçilərinin əvvəlcədən halüsinasiya etdiyi bir ad altında qeydiyyata aldığı. Bir geliştirici süni intellekt alətindən kömək istədikdə və alət inandırıcı səslənən, lakin mövcud olmayan bir asılılıq quraşdırmağı təklif etdikdə, təcavüzkar artıq bu adı ictimai reyestrdə iddia edib, buna görə də "faydalı" təklif heç nə əvəzinə zərərli proqram quraşdırır.

Termin idi 2025-ci ilin aprel ayında Set Larson tərəfindən hazırlanmışdır, Python Proqram Təminatı Fondunda təhlükəsizlik üzrə rezident-developer. Bu, bir oyundur typosquatting, cinayətkarların məşhur paketlərin səhv yazılışlarını qeydə aldığı köhnə hücum (tələblər yerinə sorğuFərq səhvin mənbəyidir: tiposquatting insan səhvlərindən, slopsquatting isə süni intellekt "slop"undan, yəni böyük dil modellərinin yaratdığı inamlı, səlis, səhv çıxışdan istifadə edir.

Niyə slopsquatting həqiqətən işləyir

Süni intellekt halüsinasiyalarının təsadüfi bir səs olduğunu düşünə bilərsiniz: hər dəfə fərqli bir saxta ad, silah kimi istifadə etmək mümkün deyil. Tədqiqat bunun əksini deyir və əsas məsələ də budur.

Təqdim olunan həmyaşıdlar tərəfindən nəzərdən keçirilmiş bir araşdırma USENIX Security 2025 (Spracklen et al.) 576,000 yaradılan kod nümunəsi üzərində 16 böyük dil modelini sınaqdan keçirdi. Məlum oldu ki, tövsiyə olunan paketlərin 19.7%-i mövcud deyil: ümumilikdə 205,474 unikal halüsinasiyalı ad. Ən əsası, bu halüsinasiyalar təkrar oluna bilərSaxta adların 43%-i təkrarlanan sorğularda, 58%-i isə eyni sorğunun on çalışmasında təkrarlanıb. Açıq mənbəli modellər halüsinasiyaları 21.7%-də göstərib; hətta GPT-4 kimi kommersiya modelləri də bunu 5.2%-də edib: iyirmidən birində.

Təkrarlanma qabiliyyəti qəribəliyi hücuma çevirir. Hücumçunun təxmin etməsinə ehtiyac yoxdur. Onlar məşhur sorğuları işə sala, modellərin təklif etdiyi mövcud olmayan paketləri qeyd edə və bu adları zərərli proqram kimi qeyd edə bilərlər. Hədəfləməni süni intellekt onlar üçün həyata keçirir.

Slopsquatting hücumu necə baş verir

Hücum zənciri qısadır və bu da onun təhlükəli olmasının səbəblərindən biridir:

  • Müşahidə etmək. Təcavüzkar süni intellekt kodlaşdırma köməkçilərinə ümumi inkişaf tapşırıqları təklif edir və həmin alətlərin icad etdiyi, lakin reyestrdə olmayan paket adlarını qeyd edir.
  • Qeydiyyatdan keçin. Onlar halüsinasiyalı adlardan biri altında təmiz README, mümkün metaməlumatlar və quraşdırma skriptində gizlədilmiş faydalı yüklə zərərli bir paket dərc edirlər.
  • Gözləmək. Bir geliştirici (və ya muxtar kodlaşdırma agenti) süni intellekt alətinə oxşar sual verir, eyni halüsinasiyalı tövsiyəni alır və işə salır qurmaq.
  • İcra et. Paketin quraşdırma prosesi işə düşür, sirləri açır, əks qabığı açır və ya arxa qapı quraşdırır və bu kompromis qurğulara və istehsala axır.

Muxtar kodlaşdırma agentləri 3-cü addımı daha çox ehtimal edir. İnsan yoxlaması olmadan asılılıqlar quraşdıran agent, geliştiricinin fasilə verib "Mən bu paket haqqında heç eşitməmişəm" deyə düşünə biləcəyi yeganə yoxlama nöqtəsini silir.

Həqiqətən nə qədər pisdir?

Daha da pisləşir, daha yaxşı deyil. USENIX tədqiqatı 16 modeli sınaqdan keçirdi və yenə də tövsiyə olunan hər beş paketdən təxminən birinin mövcud olmadığını aşkar etdi, buna görə də bu, yalnız köhnə və ya daha zəif alətlərlə məhdudlaşan problem deyil. Təkcə təlim məlumatlarından işləyən kodlaşdırma köməkçisinin təklif etdiyi paket adının təhlükəsiz, halüsinasiyalı və ya artıq zərərli proqram kimi qeyd olunub-olunmadığını bilmək üçün heç bir yolu yoxdur: onun reyestrin real vaxt görüntüsü yoxdur. Bu, laboratoriya marağı deyil. Bu, hazırlayıcıların indi gündə onlarla dəfə etibar etdikləri davranışdır.

Slopsquatting də təchizat zəncirinin gigiyenasında daha geniş yayılmış çöküşlə birlikdə genişlənir. 2025-ci ildə yüksək həcmli zərərli paket kampaniyaları təchizat zəncirinə hücumlar üçün əsas əməliyyat modelinə çevrildi, çünki Xygeni-nin 2026-cı il üçün Yeni AppSec Hücum Trendləri sənədləşdirir: hücum edənlər həcmdə dərc edir, sürətli ləğvləri qəbul edir və ehtimala güvənirlər və süni intellekt halüsinasiyaları onlara qeydiyyatdan keçmək üçün yüksək konversiyalı adların sabit bir tədarükü verir.

Slopsquatting-dən necə qorunmaq olar

Narahatedici həqiqət odur ki, imza əsaslı alətlər bunu tuta bilmir. Slopsquatted paketi tamamilə yenidir; heç bir CVE, imza yoxdur və silinməzdən əvvəl cəmi bir neçə saat ərzində, minlərlə quraşdırmanı toplamaq üçün kifayət qədər aktiv ola bilər. Effektiv müdafiə dörd təcrübəyə əsaslanır:

  • Süni intellekt tərəfindən təklif edilən paketi mövcudluğunu və qanuniliyini təsdiqləmədən heç vaxt quraşdırmayın. Sadəcə adın düzgün səslənməsini deyil, həm də əsl yükləmə tarixçəsini, saxlayıcısını və depolarını yoxlayın.
  • Zərərli proqramı imzalara deyil, davranışlara görə aşkar edin. Paketi quraşdırma vaxtı hərəkətləri, şəbəkə zəngləri və digər göstəricilər üzrə dərc vaxtına görə qiymətləndirin obfuskasiya nümunələri, beləliklə, zərərli paket artıq məlum olduqdan sonra deyil, göründüyü anda işarələnir.
  • Geliştiricilər və qeydiyyatdan keçərkən arasında asılılıq firewall qurun. Şübhəli və ya yeni paketləri, standart olaraq ictimai reyestrə etibar etmək əvəzinə, bir quruluşa çatmadan əvvəl avtomatik olaraq karantinə alın.
  • Süni intellektinizin nə işlədiyini inventarlaşdırın pipeline. Kodlaşdırma köməkçiləri və asılılıqları quraşdıran muxtar agentlər hücum səthinizin bir hissəsidir. Süni intellekt Materialları Bəyannaməsi (Sİ-BOM) bunu görünən edir.

Slopsquatting daha böyük bir dəyişikliyin əlamətlərindən biridir

Slopsquatting daha geniş bir modelin ən aydın nümunəsidir: Süni intellekt artıq həm kodunuzu yazan, həm də hücum edənlərin təchizat zəncirinizdə göstərdiyi şeydir. Bundan təcrid olunmuş şəkildə müdafiə olunmaq kifayət deyil; bu, daha geniş bir strategiyanın daxilindədir. Tam mənzərə üçün təlimatımıza baxın Süni intellekt təchizat zənciri təhlükəsizliyizərərli paketləri əhatə edən, MCP risklərivə süni intellekt tərəfindən yaradılan kod, onları həll edən müdafiə vasitələri ilə yanaşı.

Tikintiyə çatmamışdan əvvəl slopsquatting-i dayandırın

Slopsquatted paketini dayandırmağın ən təsirli yolu, quraşdırma skripti işə düşməzdən əvvəl, geliştiricinin onu quraşdırmağa çalışdığı andır. Məhz budur Xygenie Shield edir. Shield geliştiricinin son nöqtəsində quraşdırma zamanı zərərli paketləri bloklayan yüngül bir agentdir. Zərərli Proqramın Erkən Xəbərdarlığı (MEW) hər hansı bir imza mövcud olmazdan əvvəl işləyən hökmlər. Süni intellekt köməkçisi halüsinasiyalı bir asılılıq təklif etdikdə və geliştirici işə saldıqda qurmaq, Shield paket yükləndikcə onu qiymətləndirir və bloklayır: zərərli quraşdırma sonrası skript heç vaxt icra olunmur və təhlükəsizlik qrupu cəhdi tam kontekstdə görür.

MEW paketin davranışını dərc edildiyi anda qiymətləndirdiyindən (quraşdırma zamanı hərəkətlər, şəbəkə zəngləri, qarışıqlıq nümunələri), Shield slopsquatting-in asılı olduğu yeni, imzasız paketləri, eləcə də yazı səhvlərini, asılılıq qarışıqlığını və texniki işçinin kompromisini tutur. Hər blok kodunuz, quruluşunuz və icra müddəti tapıntılarınızla eyni Xygeni konsoluna axır, buna görə də yeni bir şey yoxdur. dashboard və yeni satıcı münasibətləri yoxdur və Shield mövcud EDR-inizlə yanaşı işləyir, ona qarşı deyil.

Pulsuz başlayın. Xygeni-nin Geliştirici planı 0 avrodur: 10 depo, ayda 200 skan, 5-ə qədər töhfəçi, kredit kartı tələb olunmur. Sign up with GitHub, GitLab və ya Google-a daxil olun və ilk skanınızı 10 dəqiqədən az müddətdə işə salın; Shield Son nöqtə qorunması tezliklə Geliştirici planına daxil olacaq. 

FAQ

Slopsquatting real təhlükədir, yoxsa sadəcə nəzəri?

Bu, realdır. Tədqiqatçı Bar Lanyadonun 2023-cü ildə hazırladığı konsepsiya sübutunda halüsinasiyalı bir ad altında bir yer tutucu paket görülmüşdür (qucaqlaşmaq-üz-cli) üç ay ərzində 30,000-dən çox dəfə yüklənib. USENIX Security 2025 tədqiqatı göstərib ki, süni intellekt tərəfindən tövsiyə edilən paketlərin 19.7%-i mövcud deyil və bu halüsinasiyalı adların 43%-i sorğular arasında təkrarlanır, yəni təcavüzkarlar onları proqnozlaşdıra və qeydiyyata ala bilərlər.

Slopsquatting ilə typoskvotting arasındakı fərq nədir?

Typosquatting, məşhur paketlərin səhv yazılışlarını qeyd etməklə insan səhvlərindən istifadə edir (tələblər üçün sorğuSlopsquatting, böyük dil modellərinin uydurduğu etibarlı, lakin səhv paket adlarını qeyd etməklə süni intellekt halüsinasiyalarından istifadə edir. Hər ikisinin məqsədi geliştiricini zərərli paket quraşdırmağa məcbur etməkdir, lakin onların silahlandırdıqları səhv fərqlidir.

Asılılıqlar təklif etmək üçün süni intellekt kodlaşdırma köməkçilərinə etibar edə bilərəmmi?

Doğrulama olmadan olmaz. Hətta aparıcı kommersiya modelləri belə, təxminən 5%-də mövcud olmayan paketləri halüsinasiya edirlər və daha yeni təhlillər mövcud modeldən asılılıq yüksəltmə təkliflərinin təxminən 28%-nin halüsinasiya olduğunu aşkar etdi. Təklif olunan paketin həqiqətən mövcud olduğunu və quraşdırmadan əvvəl qanuni olduğunu həmişə təsdiqləyin.

Kod bazamı slopskvottingdən necə qoruya bilərəm?

Quraşdırmadan əvvəl süni intellekt tərəfindən təklif olunan paketləri yoxlayın, imza gözləmək əvəzinə, dərc zamanı davranışa görə zərərli proqram təminatını aşkar edin, tərtibatçılar və ictimai reyestrlər arasında asılılıq firewall qurun və kompüterinizdə işləyən süni intellekt alətləri və agentlərinin süni intellekt-BOM inventarını saxlayın. pipeline.

sca-tools-proqram-kompozisiya-analiz-alətləri
Proqram təminatı risklərinizi prioritetləşdirin, aradan qaldırın və təhlükəsizləşdirin
Pulsuz Hesabınızı əldə edin.
Kredit kartı tələb olunmur.

Proqram təminatınızın hazırlanmasını və çatdırılmasını təmin edin

Xygeni Məhsul Dəsti ilə