אין 2023, האט א זיכערהייטס-פארשער מיטן נאמען באר לאניאדא דורכגעפירט א שטילן עקספערימענט. ער האט באמערקט אז קינסטלעכע אינטעליגענץ קאדירונג אסיסטענטן האבן כסדר רעקאמענדירט א פּיטהאן פעקל מיטן נאמען... אומאַרמענדיק פּנים-קלי, אַ פּעקל וואָס האָט נישט עקזיסטירט. אַזוי האָט ער עס באַשאַפֿן: אַ ליידיקן פּלעטהאָולדער, אַרויפגעלאָדן אונטער דעם גענויעם נאָמען וואָס די מאָדעלן האָבן אויסגעטראַכט. ער האָט נישט צוגעגעבן קיין פֿונקציאָנאַליטעט און קיין פּיילאָוד. ער האָט נאָר געוואַרט.
אינערהאלב דריי חדשים, איז דער פּעקל אראפגעלאָדן געוואָרן מער ווי 30,000 מאָל. די האַלוצינירטע אינסטאַל באַפֿעל האט אפילו געפֿונען זײַן וועג אין אַ עפֿנטלעכן רעפּאָזיטאָרי README וואָס געהערט צו אַ גרויסער טעכנאָלאָגיע פֿירמע. לאַניאַדאָס פּעקל איז געווען ומשעדלעך. אָבער דער עקספּערימענט האָט באַוויזן עפּעס פֿאַרדראָסנדיק: אַן אַטאַקירער קען פֿאָרויסזאָגן וואָס אַן AI וועט אויפֿטראַכטן, רעגיסטרירן עס ערשט, און לאָזן דעוועלאָפּערס עס אינסטאַלירן אַליין. יענע טעכניק האט איצט אַ נאָמען, שלאָפּסקוואַטינג, און עס איז איינע פון די שנעלסט-וואקסנדיקע סכנות אין די ווייכווארג צושטעל קייט.
וואָס איז סלאָפּסקוואַטינג?
סלאָפּסקאַטינג איז אַ צושטעל קייט אַטאַק אין וועלכן אַן אַטאַקער רעגיסטרירט אַ בייזוויליקע ווייכווארג פּעקל אונטער אַ נאָמען וואָס קינסטלעכע אינטעליגענץ קאָדירונג אַסיסטאַנטן פאָרויסזאָגבאר האַלוסינירן. ווען אַ דעוועלאָפּער בעט אַן AI געצייַג פֿאַר הילף און עס פֿאָרשלאָגט צו ינסטאַלירן אַ פּלאַוזיבלע-קלינגענדיק אָבער נישט-עקזיסטירנדיקע אָפּהענגיקייט, האָט דער אַטאַקער שוין געפֿאָדערט דעם נאָמען אין דער עפֿנטלעכער רעגיסטרי, אַזוי די "נוצלעכע" פֿאָרשלאָג ינסטאַלירט מאַלוואַרע אַנשטאָט גאָרנישט.
דער טערמין איז געווען אויסגעטראַכט אין אַפּריל 2025 דורך סעט לאַרסאָן, זיכערהייט דעוועלאָפּער-אין-רעזידענץ ביי דער פּיטהאָן ווייכווארג פאָונדאַציע. עס איז אַ שפּיל אויף טיפּאָסקוואַטטינג, די עלטערע אטאקע וואו פארברעכער רעגיסטרירן פאַלשע שרייבונגען פון פּאָפּולערע פּעקלעך (בעטן אַנשטאָט פון requestsדער אונטערשייד איז די מקור פון דעם טעות: טיפּאָסקוואַטינג נוצט אויס מענטשלעכע טיפּאָס, בשעת סלאָפּסקוואַטינג נוצט אויס קינסטלעכע אינטעליגענץ "סלאָפּ": די זיכערע, גלאַט, פאַלשע רעזולטאַט וואָס גרויסע שפּראַך מאָדעלן פּראָדוצירן.
פארוואס סלאָפּסקוואַטינג אַרבעט טאַקע
איר קענט אננעמען אז קינסטלעכע אינטעליגענץ האַלוצינאַציעס זענען צופעליקע גערוישן: יעדעס מאָל אַן אַנדער פאַלשער נאָמען, אוממעגלעך צו באַוואָפן. די פאָרשונג זאָגט אַנדערש, און דאָס איז דער גאַנצער פונט.
א שטודיע מיט א גלייכגילטיקן רעצענזיע איז פארגעשטעלט געווארן ביי USENIX Security 2025 (Spracklen et al.) האט געטעסט 16 גרויסע שפראך מאדעלן איבער 576,000 גענערירטע קאוד מוסטערן. עס האט געפונען אז 19.7% פון רעקאמענדירטע פעקלעך האבן נישט עקזיסטירט: 205,474 אייגנארטיגע האַלוצינירטע נעמען אין גאנצן. קריטיש, די האַלוצינאציעס זענען געווען ריפּיטאַבאַל43% פון פאַלשע נעמען זענען ווידער דערשינען נאָך איבערגעחזרטע פּראָמפּטן, און 58% זענען ווידער דערשינען נאָך צען מאָל די זעלבע אָנפֿרעג איז דורכגעפֿירט געוואָרן. אָפֿן-קוואַל מאָדעלן האָבן האַלוצינירט פּאַקאַדזשאַז 21.7% פֿון דער צייט; אפילו קאָמערציעלע מאָדעלן ווי GPT-4 האָבן דאָס געטאָן 5.2% פֿון דער צייט: איינס אין צוואַנציק.
איבערחזרנדיקייט איז וואָס פאַרוואַנדלט אַ קווירק אין אַן אַטאַקע. אַן אַטאַקירער דאַרף נישט טרעפן. זיי קענען לויפן פּאָפּולערע פּראָמפּטס, רעקאָרדירן וועלכע נישט-עקזיסטירנדיקע פּאַקאַדזשאַז די מאָדעלן פֿאָרשלאָגן, און רעגיסטרירן די נעמען ווי מאַלוואַרע. די קינסטלעכע אינטעליגענץ טוט די טאַרגעטינג פֿאַר זיי.
ווי אזוי א שלאפסקוואטינג אטאקע אנטוויקלט זיך
די אטאקע קייט איז קורץ, וואָס איז טייל פון פארוואס עס איז געפערלעך:
- איך האב געקוקט. דער אטאקירער פרעגט קינסטלעכע אינטעליגענץ קאדירונג אסיסטענטן מיט אלגעמיינע אנטוויקלונג אויפגאבעס און לאגט די פעקל נעמען וואס יענע געצייג ערפינדן אבער וואס עקזיסטירן נישט אין רעגיסטרי.
- פאַרשרייַבן. זיי פאַרעפֿנטלעכן אַ בייזוויליקן פּעקל אונטער איינעם פֿון יענע האַלוצינירטע נעמען, מיט אַ ריינעם README, גלייבלעכע מעטאַדאַטאַ, און אַ פּיילאָוד באַהאַלטן אין אַן אינסטאַל סקריפּט.
- וואַרטן. א דעוועלאָפּער (אָדער אַן אויטאָנאָמער קאָדירונג אַגענט) פרעגט אַן AI געצייַג אַ ענלעכע קשיא, באַקומט די זעלבע האַלוצינירטע רעקאָמענדאַציע, און לויפט ינסטאַלירן.
- ויספירן. די פּעקעדזש'ס אינסטאַל הוק פייַערט, עקספילטרירט סודות, עפֿנט אַ ריווערס שאָל, אָדער פּלאַנצט אַ באַקטיר, און דער קאָמפּראָמיס פליסט אַראָפּ אין בילדס און פּראָדוקציע.
אויטאנאמישע קאדירונג אגענטן מאכן שריט 3 פיל מער מסתבר. אן אגענט וואס אינסטאלירט אפהענגיקייטן אן מענטשליכע איבערקוקונג נעמט אוועק דעם איין טשעקפונט וואו א דעוועלאפער וואלט אפשר אפגעשטעלט און געטראכט, "איך האב קיינמאל נישט געהערט פון יענעם פעקל."
ווי שלעכט איז עס טאַקע?
ערגער, נישט בעסער. די USENIX שטודיע האט געטעסט 16 מאָדעלן און נאך אלץ געפונען אז כמעט איינס פון פינף רעקאמענדירטע פעקלעך עקזיסטירן נישט, ממילא איז דאס נישט קיין פראבלעם באגרענעצט צו עלטערע אדער שוואכערע געצייג. און א קאדירונג אסיסטענט וואס ארבעט פון טרענירונג דאטן אליין האט נישט קיין וועג צו וויסן צי דער פעקל נאמען וואס ער האט נאר וואס פארגעשלאגן איז זיכער, האלוצינירט, אדער שוין געצייכנט אלס מאלווער: ער האט נישט קיין רעאל-צייט בליק אויף די רעגיסטרי. דאס איז נישט קיין לאבאראטאריע נייגעריקייט. דאס איז די גענויע אויפפירונג אויף וואס דיוועלאפערס פארלאזן זיך יעצט צענדליגער מאל א טאג.
סלאָפּסקוואַטינג וואַקסט אויך מיטן ברייטערן צוזאַמענברוך אין סופּליי טשיין היגיענע. אין 2025, זענען הויך-וואָלומען בייזוויליקע-פּאַקעט קאַמפּיינז געוואָרן דער באַזע אָפּערייטינג מאָדעל פֿאַר סופּליי טשיין אַטאַקעס, ווי Xygeni'ס New AppSec Attack Trends for 2026 דאָקומענטירט: אַטאַקערס פאַרעפֿנטלעכן אין וואָלומען, אָננעמען שנעלע טייקאַונז, און פֿאַרלאָזן זיך אויף וואַרשיינלעכקייט, און AI כאַלוסאַניישאַנז געבן זיי אַ קעסיידערדיקן צושטעל פון הויך-קאָנווערסיע נעמען צו רעגיסטרירן.
ווי אזוי זיך צו באַשיצן קעגן סלאָפּסקוואַטינג
די אומבאַקוועמע אמת איז אַז אונטערשריפט-באַזירטע מכשירים קענען דאָס נישט כאַפּן. אַ צעבראָכענער פּאַקעט איז גאָר נייַ; קיין CVE עקזיסטירט נישט, קיין אונטערשריפט עקזיסטירט נישט, און עס קען זיין לעבעדיק בלויז פֿאַר שעה איידער עס ווערט אַראָפּגענומען, לאַנג גענוג צו זאַמלען טויזנטער אינסטאַלאַציעס. עפעקטיווע פֿאַרטיידיקונג רוט אויף פֿיר פּראַקטיקעס:
- קיינמאָל נישט אינסטאַלירן אַ פּעקל וואָס אַן AI פֿאָרשלאָגט אָן צו באַשטעטיקן אַז עס עקזיסטירט און איז לעגיטים. קוק די עכטע דאַונלאָוד געשיכטע, וישאַלטער, און רעפּאָזיטאָרי, נישט נאָר אַז דער נאָמען קלינגט ריכטיק.
- דעטעקטירן מאַלוואַרע לויט נאַטור, נישט חתימות. געבן א באורטייל פאר א פעקל ביי ארויסגעבן צייט לויט זיינע אינסטאלירונג-צייט אקציעס, נעץ רופן, און פארשטויכונג מוסטערן, אַזוי ווערט אַ בייזוויליק פּעקל געמאָלדן אין דעם מאָמענט וואָס עס דערשיינט אַנשטאָט נאָכדעם וואָס עס איז שוין באַקאַנט.
- שטעל א דעפּענדענסי פיירוואַל צווישן דעוועלאָפּערס און די רעגיסטרי. קאַראַנטין פארדעכטיקע אדער גאָר נייע פּעקלעך אויטאָמאַטיש איידער זיי דערגרייכן אַ בילד, אַנשטאָט צו פאַרלאָזן זיך אויף דעם עפנטלעכן רעגיסטרי דורך דיפאָלט.
- אינווענטאַר וואָס קינסטלעכע אינטעליגענץ לויפט אין דיין pipeline. קאָדירונג אַסיסטאַנטן און אויטאָנאָמע אַגענטן וואָס ינסטאַלירן דיפּענדאַנסיז זענען טייל פון דיין אַטאַק ייבערפלאַך. א קינסטלעכע אינטעליגענץ מאַטעריאַלן רעכענונג (AI-BOM) מאכט דאָס קענטיק.
סלאָפּסקאַטינג איז איין סימפּטאָם פון אַ גרעסערער ענדערונג
סלאָפּסקאַטינג איז דער שאַרפסטער בייַשפּיל פֿון אַ ברייטערן מוסטער: קינסטלעכע אינטעליגענץ איז איצט ביידע די זאַך וואָס שרײַבט אײַער קאָד און די זאַך וואָס אַטאַקירער ווײַזן אויף אין אײַער צושטעל קייט. זיך פֿאַרטיידיקן קעגן דעם אַליין איז נישט גענוג; עס געהערט אין אַ ברייטערער סטראַטעגיע. פֿאַר דעם גאַנצן בילד, זעט אונדזער גייד צו קינסטלעכע אינטעליגענץ צושטעלן קייט זיכערהייט, וואָס דעקט בייזוויליקע פּאַקאַדזשאַז, MCP ריזיקעס, און קינסטלעך-אינטעליגענץ-גענערירטע קאָד צוזאַמען מיט די פֿאַרטיידיקונגען וואָס אַדרעסירן זיי.
הער אויף צו שלאָפּן-סקוואַטן איידער עס דערגרייכט דיין בויען
דער עפעקטיווסטער אָרט צו האַלטן אַ צעבראָכענעם פּעקל איז דער מאָמענט וואָס אַ דעוועלאָפּער פּרוּווט עס צו ינסטאַלירן, איידער דער ינסטאַלירונג סקריפּט לויפט בכלל. דאָס איז וואָס... קסיגעני Shield טוט. Shield איז אַ לייכטער אַגענט אויף דעם דעוועלאָפּער'ס ענדפּוינט וואָס בלאָקירט בייזוויליקע פּאַקאַדזשאַז ביי דער אינסטאַלאַציע צייט, ניצנדיק מאַלוואַרע פרי וואָרענונג (MEW) אורטיילן וואָס אַרבעטן איידער קיין אונטערשריפט עקזיסטירט. ווען אַן AI אַסיסטאַנט פֿאָרשלאָגט אַ האַלוצינירט אָפּהענגיקייט און דער דעוועלאָפּער לויפט ינסטאַלירן, Shield עוואַלויִרט דאָס פּעקל ווי עס ווערט געכאפט און בלאָקירט עס: דער בייזוויליקער נאָך-אינסטאַלאַציע סקריפּט ווערט קיינמאָל נישט אויסגעפירט, און די זיכערהייט מאַנשאַפֿט זעט דעם פּרוּוו מיט פולן קאָנטעקסט.
ווייל MEW באַמערקט אַ פּעקל'ס נאַטור אין דעם מאָמענט וואָס עס ווערט פאַרעפֿנטלעכט (אינסטאַלאַציע-צייט אַקציעס, נעץ רופן, פֿאַרשוואַרצונג מוסטערן), Shield כאַפּט פּונקט די גאָר נייע, נאָך-נישט-אונטערגעשריבענע פּעקלעך אויף וועלכע סלאָפּסקוואַטינג איז אָפּהענגיק, צוזאַמען מיט טיפּאָסקוואַטינג, דעפּענדענסי צעמישעניש, און מאַינטענדער קאָמפּראָמיס. יעדער בלאָק פליסט אין דער זעלבער Xygeni קאָנסאָל ווי אייער קאָד, בילד, און ראַנטיים געפינסן, אַזוי עס איז נישטאָ קיין נייע dashboard און קיין נייע פארקויפער באציאונג, און Shield לויפֿט לעבן אייער עקזיסטירנדיקער EDR, נישט קעגן אים.
אָנהייבן פריי. Xygeni'ס דעוועלאָפּער פּלאַן איז €0: 10 רעפּאָזיטאָריעס, 200 סקענס אַ חודש, ביז 5 ביישטייערער, קיין קרעדיט קאַרטל. Sign up with GitHub, גיטלאַב, אדער גוגל און לויפט אייער ערשטע סקען אין ווייניגער ווי 10 מינוט; Shield ענדפּוינט שוץ קומט באַלד צום דעוועלאָפּער פּלאַן.
FAQ
איז סלאָפּסקאַטינג אַן עכטע סכּנה אָדער נאָר טעאָרעטיש?
עס איז עכט. א 2023 באַווייַז פון קאָנצעפּט דורך פאָרשער באַר לאַניאַדאָ האט געזען אַ פּלאַץ האָלדער פּאַקעט אונטער אַ האַלוצינירט נאָמען (אומאַרמענדיק פּנים-קלי) אראפגעלאדנט מער ווי 30,000 מאל אין דריי חדשים. א USENIX זיכערהייט 2025 שטודיע האט געפונען אז 19.7% פון AI-רעקאמענדירטע פעקלעך עקזיסטירן נישט, און 43% פון די האַלוצינירטע נעמען איבערחזרן זיך איבער פראמפטן, וואס מיינט אז אנפאלער קענען זיי פאראויסזאגן און רעגיסטרירן.
וואָס איז דער חילוק צווישן סלאָפּסקוואַטינג און טיפּאָסקוואַטינג?
טיפּאָסקוואַטינג נוצט אויס מענטשלעכע טיפּאָס דורך רעגיסטרירן פאַלשע שרייבונגען פון פּאָפּולערע פּאַקאַדזשאַז (בעטן פֿאַר requestsסלאָפּסקאַטינג נוצט אויס קינסטלעכע אינטעליגענץ האַלוצינאַציעס דורך רעגיסטרירן די זיכערע אָבער פאַלשע פּעקל נעמען וואָס גרויסע שפּראַך מאָדעלן דערפינדן. ביידע צילן צו נאַרן אַ דעוועלאָפּער צו ינסטאַלירן אַ בייזוויליקן פּעקל, אָבער דער טעות וואָס זיי נוצן ווי אַ וואָפן איז אַנדערש.
קען איך צוטרויען קינסטלעכע אינטעליגענץ קאָדירונג אַסיסטאַנטן צו פֿאָרשלאָגן דעפּענדענסיעס?
נישט אָן וועריפיקאַציע. אפילו פירנדיקע קאמערציעלע מאָדעלן האַלוצינירן פּאַקאַדזשאַז וואָס עקזיסטירן נישט אַרום 5% פון די צייט, און נייַע אַנאַליז האט געפונען אַז כּמעט 28% פון די פֿאָרשלאָגן פֿאַר אַפּגרעידס פֿאַר דיפּענדאַנסיז פֿון אַ קראַנט מאָדעל זענען געווען האַלוצינירט. שטענדיק באַשטעטיקן אַז אַ פֿאָרגעלייגט פּאַקאַדזש עקזיסטירט טאַקע און איז לעגיטימאַט איידער איר עס אינסטאַלירט.
ווי אזוי באשיצ איך מיין קאודבאזע פון סלאפסקוואטינג?
וועריפיצירט קינסטלעך אינטעליגענץ-פארגעשלאגענע פּעקלעך איידער איר אינסטאלירט, דעטעקטירט מאַלוואַרע לויט נאַטור ביים ארויסגעבן אנשטאט ווארטן אויף אן אונטערשריפט, שטעלט א דעפּענדענסי פיירוואַל צווישן דעוועלאָפּערס און עפנטלעכע רעגיסטריז, און האַלט אן קינסטלעך אינטעליגענץ-באָם אינווענטאַר פון די קינסטלעך אינטעליגענץ מכשירים און אגענטן וואָס לויפן אין אייער סיסטעם. pipeline.
