HalluSquating, קורץ פאר adversarial hallusination squating, איז אן אטאקע אין וועלכער איינער רעגיסטרירט די רעפאזיטארי, פעקל אדער סקיל נעמען וואס אן AI מאדעל וועט מסתמא אויסטראכטן, און דערנאך ווארט אויף אן אגענט צו גיין זוכן איינס. דער אגענט גלויבט אז ער נעמט אן עכטן פראיעקט. אנשטאט באקומט ער אטאקירער-קאנטראלירטן אינהאלט, טראגנדיק אינסטרוקציעס וואס דער אגענט עקסעקוטירט דערנאך דורך זיין אייגענעם טערמינאל. עס ארבעט אין גרויסן פארנעם ווייל האלוצינאציעס זענען נישט ראנדאם: די זעלבע אויסגעטראכטע נעמען קומען צוריק איבער מאדעלן און איבער לויפן, אזוי קענען זיי פאראויסגעזאגט און רעגיסטרירט ווערן פון פאראויס. HalluSquating איז טיפאסקוואַטינג וואס אן אגענט איז פאר א דעוועלאפער. איינער ווארט אויף א מענטש צו שרייבן א טעות. דער צווייטער ווארט אויף א מאשין צו זיך פארשטעלן.
וואָס איז האַלוסקוואַטינג? אַ אַרבעטס דעפֿיניציע #
סופּליי טשיין אטאקעס האבן שטענדיק געדארפט א טעות צו לאַנדן אויף. טיפּאָסקוואַטינג דאַרף עמעצער צו געבן א פעט פינגער א פּעקעדזש נאָמען. דעפּענדענסי צעמישעניש דאַרף אַ סאָלווער צו בעפֿאָרצוגן דעם עפֿנטלעכן רעגיסטרי איבער דעם פּריוואַטן. ביידע וואַרטן אויף אַ טעות וואָס עפּעס מאַכט עווענטועל.
האַלוסקוואַטינג וואַרט נישט אויף אַ טעות. עס וואַרט אויף אַן אויסגעפינס.
אַלזאָ די אַרבעטס דעפֿיניציע: HalluSquatting איז אַ סאַפּליי טשיין אַטאַקע אין וועלכער אַ קעגנער פֿאָר-רעגיסטרירט רעסורס אידענטיפֿיקאַטאָרן וואָס גרויסע שפּראַך מאָדעלן זענען סטאַטיסטיש מסתּמא צו פֿאַבריצירן, אַזוי אַז ווען אַן AI אַגענט נעמט די אויסגעטראַכטע רעסורס, נעמט ער צוריק אַטאַקירער-קאָנטראָלירט אינהאַלט אַנשטאָט אַ לעגיטימען פּראָיעקט. דער רעסורס קען זיין אַ GitHub רעפּאָזיטאָרי, אַ פּעקל אויף אַ עפֿנטלעכן רעגיסטרי, אַ פּלוגין אָדער אַן אַגענט סקיל. וואָס זיי האָבן אין זיך איז אַז דער אַגענט האָט געבעטן עפּעס מיטן נאָמען, און דער נאָמען האָט געהערט צו עמעצן וואָס האָט ערוואַרטעט דעם רוף.
די טעכניק איז פאָרמעל באַשריבן געוואָרן אין היט זיך פון אַגענטישע באָטנעץ: סקאַלירבאַרע אַנטאַרגעטעד פּראָמפּטווער אַטאַקעס דורך וניווערסאַלע און טראַנספעראַבאַל אַדווערסאַריאַל האַלוסקוואַטינג, ארויסגעגעבן דעם 8טן יולי 2026 דורך פארשער פון תל אביב אוניווערסיטעט, טעכניאן און אינטואיט. די אויסשטעל פון דער ארבעט איז אזוי וויכטיג ווי דער מעכאניזם. עס באשרייבט אן אומגעצילטע אטאקע: דער שונא דארף קיינמאל נישט קיין קאנאל צו קיין ספעציפישן קרבן. קיין אימעיל, קיין מעסעדזש, קיין צוטריט. זיי רעגיסטרירן נעמען און לאזן דעם עקא-סיסטעם טאן די ליפערונג.
האַלוצינאַציע קניענדיק, צעבראָכן אין זיינע דריי טיילן #
דער פולער נאמען דערקלערט דעם מעכאניזם בעסער ווי דער קורצער, ממילא איז עס ווערט צו צענעמען.
- האַלוצינאַציע. ווען אַ מאָדעל טרעפט אַן אומבאַקאַנטע בקשה, זאָגט עס נישט אַז עס ווייסט נישט. עס פּראָדוצירט עפּעס גלייבלעך. ווען מען בעט אים וועגן דעם רעפּאָזיטאָרי פֿון אַ געצייַג וואָס עס האָט נישט געזען, קאָנסטרויִרט עס אַ גלייבלעך באַזיצער און פּראָיעקט נאָמען אין דער פֿאָרעם וואָס אַזעלכע אידענטיפֿיקאַטאָרן נעמען געוויינטלעך אָן.
- סקוואַטינג. די זעלבע לאָגיק ווי טיפּאָסקוואַטינג און סייבערסקוואַטינג. פֿאַרנעמען אַ נאָמען איידער דער לעגיטימער פאָדערער טוט דאָס, אָדער איידער עמעצער באַמערקט אַז עס איז קיינמאָל נישט געפאָדערט געוואָרן.
- קעגנער. דאָס איז וואָס פֿאַרוואַנדלט אַ נויסאַנס אין אַן אַטאַקע. פּשוטע האַלוצינאַציע-סקוואַטינג איז אָפּאָרטוניסטיש: רעגיסטרירט נעמען וואָס אַ מאָדעל טענד צו באַליבטן, און דערנאָך האָפענט. די אַדווערסאַרישע ווערסיע איז באַוואוסטזיניק, ניצנדיק אוניווערסאַלע און טראַנספֿעראַבלע טריגערס וואָס פירן מאָדעלן צו אַ ספּעציפֿישן אַטאַקירער-געקליבענעם נאָמען. דאָס נעמט אַוועק די וואַרטן און מאַכט די אַטאַקע ווידערהאָלבאר.
צוזאמענגעשטעלט, די HalluSquatting באדייטונג אין איין שורה: לאז דעם מאָדעל אויסטראכטן א נאמען וואס דו האסט שוין, און דערנאך לאז דעם אגענט האנדלען דערמיט.
פארוואס זענען האַלוסינאַציעס פאָרויסזאָגבאר גענוג צו פאַרמען? #
די אינסטינקטיווע טענה איז אז האַלוצינאַציעס זענען צופעליק, אַזוי מען קען גאָרנישט בויען אויף זיי. די מעסטונגען זאָגן אַנדערש, און דאָס איז די איינציקע וויכטיקסטע זאַך צו פֿאַרשטיין וועגן וואָס האַלוסקוואַטינג איז.
| Scenario | וואס עס מיינט | האַלוצינאַציע ראַטע |
|---|---|---|
| סקיל אינסטאַלאַציע פּראָמפּטס | דער אַגענט דערפינדט דעם אידענטיפיצירער יעדעס מאָל ווען מען פרעגט אים. | אַרויף צו קסנומקס% |
| רעפּאָזיטאָרי קלאָונינג פּראָמפּטס | בעטן אַן אַגענט צו קלאָנירן אַ פּראָיעקט איז אַ מטבע-וואַרף קעגן אײַך | אַרויף צו קסנומקס% |
| רעפּאָזיטאָריעס ארויסגעגעבן אין 2025 | לעצטע פראיעקטן ווערן כמעט שטענדיק אויסגעטראכט אנשטאט דערמאנט | 92.4% דורכשניט |
| רעפּאָזיטאָריעס ארויסגעגעבן 2019 אָדער פריער | איינגעשטעלטע פראיעקטן ווערן רעפּראָדוצירט פאַרלעסלעך. פרישקייט איז די וועריאַבל. | 0.9% דורכשניט |
צוויי מוסטערן טוען דעם שאדן. ערשטנס, פרישקייט טרייבט פאבריצירן. מאדעלן רעפראדוצירן די אידענטיפיצירער פון לאנג-געגרינדעטע פראיעקטן פארלעסלעך און ערפינדן די אידענטיפיצירער פון פרישע מיט א שנעלקייט וואס דערנענטערט זיך צו זיכערקייט. אלעס וואס איז דערשינען נאך דעם טרענירונג אפשניט איז א ליידיגע פלאץ וואס דער מאדעל פילט אויס. צווייטנס, האלוצינאציעס טראנספערירן זיך. די זעלבע פאבריצירטע נעמען קומען צוריק איבער פארשידענע יסודות מאדעלן און איבער איבערגעחזרטע לויפן, אזוי אז אן אטאקירער דארף נישט וויסן וועלכע אסיסטענט א ציל ניצט. איין רעגיסטרירטער נאמען באדעקט עטלעכע.
יענע קאָמבינאַציע איז וואָס פֿאַרוואַנדלט אַ קווירקיקייט אין אינפֿראַסטרוקטור. אַ נאָמען וואָס איז אויסגעטראַכט איין מאָל דורך איין מאָדעל איז אַ קוריאָזיטעט. אַ נאָמען וואָס איז אויסגעטראַכט קאָנסיסטענט, דורך עטלעכע מאָדעלן, ווען איינער פרעגט וועגן אַ טרענדינג געצייַג, איז אַ פֿאַרשפּרייטונג קאַנאַל.
ווי אזוי ארבעט א האַלוסקוואַטינג אַטאַק? #
די קייט האט פינף לינקס, און די באמערקנסווערטע זאך איז ווי ווייניק דער אטאקירער טוט נאך'ן אויפשטעלן.
1. פאָרויסזאָגן. דער אטאקירער פּראָפילירט וועלכע אידענטיפיצירער מאָדעלן פאַבריצירן פֿאַר אַ געגעבענער קלאַס פֿון בקשה: קלאָנירן דעם רעפּאָזיטאָרי, אינסטאַלירן דעם סקיל, צולייגן דעם פּאַקעט. לעצטע און טרענדינג רעסורסן געבן די העכסטע פּראָדוקציע.
2. רעגיסטרירן. זיי פאָדערן די נעמען אויף דער עכטער פּלאַטפאָרמע. די רעפּאָזיטאָרי עקזיסטירט. דער פּאַקעט רעזאַלווז. גאָרנישט פיילז אַ גרונטלעכע עקזיסטענץ קאָנטראָל, ווייל דער רעסורס עקזיסטירט טאַקע.
3. זוימען. די רעסורס איז אָנגעפילט מיט אינהאַלט געשריבן צו ווערן געלייענט ווי אינסטרוקציעס דורך אַ מאָדעל: אַן אַדווערסאַריאַל פּראָמפּט אין אַ README, אַ קאָנפיגוראַציע טעקע, דאָקומענטאַציע אָדער די רעסורס באַשרייַבונג. דאָס איז פּראָמפּטווער, און עס איז ענג פֿאַרבונדן מיט אינדירעקט. פּינטלעך ינדזשעקשאַןדי פּיילאָוד איז נישט בפֿרט קאָד, עס איז שפּראַך געצילט אויף וואָס עס לייענט ווייטער.
4. ברענגען. א דעוועלאָפּער בעט אַן אַגענט צו קלאָנירן דעם רעפּאָזיטאָרי אָדער אינסטאַלירן די סקיל. דער אַגענט האַלוצינירט דעם נאָמען, לאַנדט אויף דעם אַטאַקירער'ס רעסורס און ציט זיין אינהאַלט אין זיין אייגענעם קאָנטעקסט ווי מאַטעריאַל וואָס מען האָט אים געבעטן צו צוריקקריגן.
5. אויספירן. די איינגעבעטעטע אינסטרוקציעס כאַפּן דעם אַגענט'ס אויספירונג. ווײַל איצטיקע אַגענטן קומען מיט אינטעגרירטע טערמינאַלן, איז דער דעמאָנסטרירטער רעזולטאַט געווען ווײַטערע געצייַג אויספירונג און ווײַטערע קאָד אויספירונג, וואָס האָט געענדיקט מיט אַ באָט אינסטאַלירט אויפן האָסט.
יענע לעצטע פֿאַרבינדונג איז וואָס גיט דער פֿאָרשונג איר טיטל. יעדע קאָמפּראָמיטירטע מאַשין פֿאַרבינדט זיך מיט אַן אַגענטישן באָטנעט: אַ נעץ וואָס פֿאַרשפּרייט זיך נישט דורך שוואַכקייטן אָדער שוואַכע קרעדענצן, נאָר דורך אַגענטן וואָס לייענען אינסטרוקציעס וואָס זיי זענען קיינמאָל נישט באַשערט געווען צו פֿאָלגן, אויף מאַשינען וואָס קיינער האָט נישט גלייך געצילט.
האַלוסקוואַטינג קעגן טיפּאָסקוואַטינג קעגן סלאָפּסקוואַטינג #
די דריי ווערן גענוצט אויסטוישלעך און זיי זענען נישט די זעלבע זאך. דער חילוק איז ווער מאכט דעם טעות און וואס פאסירט ווייטער.
| טעכניק | ווער מאַכט דעם טעות | וואָס דער אַטאַקירער וואַרט אויף |
|---|---|---|
| טיפּאָסקוואַטטינג | אַ מענטש, וואָס שרייבט נישט ריכטיק אָדער געדענקט נישט ריכטיק אַן עכטן נאָמען | א פינגער-פארלוסט אויף א נאמען וואס עקזיסטירט יא |
| שלאָפּסקוואטינג | א מאָדעל, וואָס ערפינדט אַ פּעקל נאָמען וואָס אַ דעוועלאָפּער אינסטאַלירט דערנאָך | אַ דעוועלאָפּער וואָס טראַסט אַן אַסיסטאַנט'ס רעקאָמענדאַציע |
| האַלוסקוואַטינג | א מאָדעל, וואָס ערפינדט אַ רעסורס, אַן אַגענט נעמט עס און לויפט עס. | גאָרנישט. דער אַגענט נעמט, לייענט און אויספירט אַליין. |
סלאָפּסקוואַטינג איז דער נאָענטסטער קרוב און דער געמיינזאַמער אָוועס: רעגיסטריר פּעקעדזש נעמען מאָדעלן האַלוצינירן, וואַרטן ביז עמעצער זאָל דורכפירן די אינסטאַלאַציע. האַלוסקוואַטינג עס עסאַלירט אין צוויי ריכטונגען. די ציל באַוועגט זיך פון דעם דעוועלאָפּער צום אַגענט, וואָס נעמט אַוועק די מענטשלעכע קאָנטראָל גאָר. און די שטעלונג באַוועגט זיך פון אָפּאָרטוניסטיש צו קעגנעריש, ווייל דער נאָמען קען ווערן געפירט אַנשטאָט נאָר געהאָפט.
די ענדערונג איז וויכטיגסט פאר די טימז וואס טוען שוין אַגענטישע קאָדירונג, וואו די דעcisיאָן, די זוכעניש און די אויספירונג פּאַסירן אין איין שריט אין אַ פּראָצעס וואָס דער דעוועלאָפּער האָט געבעטן און קוקט מער נישט אויף.
פארוואס עקזיסטירנדע קאנטראלן פארפעלן עס #
יעדע הנחה הינטער קאַנווענשאַנעל סאַפּליי טשיין סקרינינג קערט זיך דאָ איבער, וואָס איז דער ומבאַקוועמער טייל.
דער עיקר איז אז יעדער איינער פון די קאנטראלן פרעגט עפעס א ווערסיע פון "האט איינער דאס שוין געזען". קעגן א נאמען רעגיסטרירט פיר שעה צוריק, איז די ערליכע ענטפער ניין, און ניין איז נישט קיין בלאק.
צומאכן דאס פענצטער איידער דער אגענט עפנט עס #
די נוצלעכע פראגע איז נישט צי אייערע דעוועלאפערס וואלטן זיך פארליבט אין אן אויסגעטראכטן פעקל נאמען. עס איז צי עפעס אין אייער pipeline וואָלט באַמערקן אַ דעפּענדענסי וואָס איז פֿיר שעה אַלט, האָט נישט קיין געשיכטע, און איז צוגעגעבן געוואָרן דורך אַן אַגענט אַנשטאָט אַ מענטש.
דריי קאָנטראָלן פֿאַרמאַכן רובֿ פֿון יענעם פֿענצטער, און קיינער פֿון זיי פֿאָדערט נישט צו טרעפֿן וועלכע נעמען אַן אַטאַקירער האָט רעגיסטרירט.
באַהאַנדלט עלטער און אָפּשטאַם ווי אַ טויער. אַ רעסורס וואָס איז געשאַפֿן געוואָרן פֿאַר שעה צוריק און אַרויסגעצויגן דורך אַן אַגענט איז אַן אַנדערע פּראָפּאָזיציע ווי איינס מיט פֿינף יאָר געשיכטע, און פּאַקעט עלטער אַרבעט פֿיל בעסער ווי אַ פּאָליטיק אינפֿוט ווי ווי מעטאַדאַטן וואָס קיינער לייענט נישט. קאָנטראָלירט אויף נאַטור אַנשטאָט רעפּוטאַציע, ווייל אַ פֿריש רעגיסטרירטער נאָמען גייט שטענדיק דורך אַ "האָט עמעצער דאָס געזען" קאָנטראָל און גייט קיינמאָל נישט דורך אַ "וואָס טוט דאָס טאַקע" קאָנטראָל. און דורכפֿירט וואו די אינסטאַלאַציע פּאַסירט, ווייל די דעcisיאָן פּוינט איז אריבערגעצויגן צום דעוועלאָפּער'ס מאַשין און דעם אַגענט'ס טערמינאַל, און אַ קאָנטראָל וואָס לויפט נאָר אין CI קומט אָן נאָכדעם וואָס דער קאָד איז שוין אויסגעפֿירט געוואָרן לאָקאַל.
קסיגעני אַרבעט אויף יענעם שיכט. מאַלוואַרע פרי וואָרענונג דורכקוקן פּעקלעך אויף נאַטור אַנשטאָט רעפּוטאַציע, און באַמערקן שלעכטע איידער אַן אונטערשריפט עקזיסטירט, וואָס איז דער איינציקער באַדינגונג אונטער וועלכן אַ נאָמען רעגיסטרירט היינט אינדערפרי ווערט געכאפט היינט אינדערפרי. די וועכנטלעכע רעזולטאַטן ווערן אָפֿן פאַרעפֿנטלעכט אין די בייזוויליקע קאָד דיידזשעסט. Shield דורכצווינגען פּאָליטיק אויף דעם דעוועלאָפּער ענדפּוינט אַליין, אַרייַנגערעכנט מינימום עלטער רעקווירעמענץ פֿאַר פּאַקאַדזשאַז און בלאָקירן בייזע אינסטאַלאַציעס, אַזוי אַז אַן אַגענט קען נישט ציען עפּעס אין דעם מאָמענט וואָס ער שטעלט זיך עס פֿאָר. דעוואַי צולייגן guardrails אינעווייניק פון דער IDE און אינעווייניק פון דעם קאדירונג אגענט, איבערקוקנדיק וואָס דער אגענט לייגט צו איידער עס ווערט אַ commitאון קאָנטינויִערלעך קינסטלעכע אינטעליגענץ אַסעט ופדעקונג מאַפּט די אַגענטן, סקילז און MCP סערווערס וואָס לויפן שוין אין אייערע רעפּאָזיטאָריעס, ווייל די ערשטע פראַגע וואָס די אַטאַקע ברענגט אַרויף איז די וואָס רובֿ טימז קענען נישט ענטפֿערן: וואָס נעמט זאַכן אין אונדזער נאָמען, און אונטער וועמענס אויטאָריטעט?
ספר אַ דעמאָ צו זען וואָס אייערע אַגענטן ציען אַרײַן.
אָפֿט געשטעלטע פֿראַגעס: וואָס איז האַלוסקוואַטינג, אין קורצע ענטפֿערס #
אַן אַטאַקירער רעגיסטרירט די פאַלשע נעמען וואָס קינסטלעכע אינטעליגענץ מאָדעלן פלעגן אויסטראַכטן, אַזוי אַז ווען אַן אַגענט גייט זוכן איינעם, געפינט ער דעם אַטאַקירערס אינהאַלט אַנשטאָט דעם עכטן פּראָיעקט. דער מאָדעל'ס טעות ווערט דער ליפערונג מעקאַניזם.
מערסטנס. LLM רויטע טימינג פאָקוסירט אויף שפּראַך מאָדעלן און די אַפּליקאַציעס געבויט אויף זיי. קינסטלעכע אינטעליגענץ רויטע טימינג איז אַז די האַלוצינאַציע ווערט געפירט אַנשטאָט נאָר אויסגענוצט. אַנשטאָט רעגיסטרירן נעמען, וואָס מאָדעלן באַגינען און וואַרטן, האָט די פאָרשונג געוויזן טריגערס וואָס מאַכן אַגענטן פאַבריצירן אַ ספּעציפֿישן אַטאַקירער-געקליבענעם נאָמען אויף פאָדערונג, און וואָס אַרבעטן אַריבער פאַרשידענע מאָדעלן.
ניין. טיפּאָסקוואַטינג נוצט אויס מענטשלעכע טעות, אַ פאַלש געטייפּטן אָדער פאַלש געדענקט נאָמען. האַלוצינאַציע סקוואַטינג נוצט אויס מאַשין פאַבריצירן, אַ נאָמען וואָס איז קיינמאָל נישט געווען עכט און וואָס קיין מענטש האט קיינמאָל געטייפּט. נאָמען-ענלעכקייט דעטעקשאַן טוט גאָרנישט דאָ, ווייַל דער פאַבריצירטער נאָמען איז נישט קיין כּמעט-פאַרפעלן פון גאָרנישט.
זיי איבערדעקן זיך, און סלאָפּסקוואַטינג איז געקומען ערשטער. סלאָפּסקוואַטינג מיינט געוויינטלעך רעגיסטרירן האַלוצינירטע פּעקל נעמען און וואַרטן אויף אַ דעוועלאָפּער צו ינסטאַלירן איינעם אויף אַן אַסיסטאַנט'ס רעקאָמענדאַציע. האַלוסקוואַטינג איז די אַגענטישע עסקאַלאַציע: דער אַגענט נעמט און עקסעקוטירט זעלבסטשטענדיק, די האַלוצינאַציע קען זיין אינדוצירט אַנשטאָט געוואַרט, און דער דעמאָנסטרירטער ענדפּוינט איז ווייטער קאָד עקסעקוטיוו און באָטנעט ינסטאַלירונג.
געפינט אויס וואָס אייערע אַגענטן קענען ברענגען און אינסטאַלירן אָן אַ מענטש אין דער שלייף, און שטעלט אַן עלטער און נאַטור קאָנטראָל פאַר דעם. ביידע זענען קאָנפיגוראַציע פֿראַגעס, וואָס מען קען ענטפֿערן די וואָך, און קיין איינע פֿון זיי פֿאָדערט נישט צו וויסן וועלכע נעמען אַן אַטאַקירער האָט שוין רעגיסטרירט.
