פאר די לעצטע פאר יארן, האט אפליקאציע זיכערהייט געהאט א קלארע גרענעץ: די רעפאזיטארי און די pipelineדאָרטן זענען געזעסן די קאָנטראָלן, דאָרטן זענען די סקענס געלאָפן, דאָרטן האָבן די טימז באַשלאָסן צי עפּעס ווערט געשיקט צו פּראָדוקציע. אַלץ האָט זיך באַהאַנדלט אויף איין הנחה: אַ דעוועלאָפּער האָט עקספּליציט אויסגעקליבן וועלכע קאָד און וועלכע דעפּענדענסיעס זענען אַרײַן אין סיסטעם.
יענע הנחה האלט זיך שוין נישט. א וואקסנדיקער טייל פון קאוד היינט ווערט געשריבן, פארגעשלאגן, אדער אינסטאלירט דורך אן AI אגענט, אפט אן אז איינער זאל קוקן אויף דעם נאמען פון וואס ווערט אריינגעצויגן. ווען די דעcisוויפיל פון וואָס גייט אַרײַן אין קאָד באַוועגט זיך, אַזוי באַוועגט זיך אויך דער אַטאַק. עס באַוועגט זיך צום גאָר פֿראָנט פֿונעם פּראָצעס: דעם מאָמענט וואָס דער קאָד ווערט באַשאַפֿן, אינעווייניק פֿונעם אַסיסטאַנט אַליין און אין די טעקעס וואָס קאָנפֿיגורירן אים.
דאָס איז אייער קינסטלעכע אינטעליגענץ אַטאַק ייבערפלאַך: יעדער מאָדעל, אַגענט, MCP סערווער, סקיל, און קינסטלעכע אינטעליגענץ-פֿאָרגעלייגטע אָפּהענגיקייט וואָס קען איצט אַרײַנפֿירן ריזיקע איידער אַ מענטש עס איבערקוקט. די זעלבע קינסטלעכע אינטעליגענץ וואָס אייערע דעוועלאָפּערס פֿאַרטרויען איז איצט אַ טייל דערפֿון. דאָס איז נישט קיין צוקונפֿטיקער ריזיקע. דאָס איז אַ פֿאַרשייבונג וואָס איז שוין געשען, און דאָ איז ווי עס זעט אויס אין פּראַקטיק.
א כוואַליע פון אַטאַקעס, נישט קיין איינציקער אינצידענט
קיינע פון די פאלגענדע איז נישט קיין לאַבאָראַטאָריע עקסערסייזcisאדער א היפּאָטעטישע. דאָס זענען עפנטלעכע, דאָקומענטירטע אינצידענטן, כּמעט אַלע פֿון די לעצטע יאָר, און יעדער איינער קומט אַ ביסל נענטער צום קינסטלעכער אינטעליגענץ אַגענט אַליין:
- אויגוסט 2025, s1ngularity: אַטאַקירער האָבן געגנבעט אַ פּובלישינג טאָקען פֿון Nx, איינע פֿון די מערסט גענוצטע בילד סיסטעמען, און האָבן אַרױסגעשטעלט שלעכטע ווערסיעס צו npm, ניצנדיק קינסטלעכע אינטעליגענץ מכשירים צו זוכן סודות אויף דעוועלאָפּערס' מאַשינען.
- סעפטעמבער 2025, טשײַד/דיבאַג: איינע פון npm'ס גרעסטע קאמפראמיסן לויט דערגרייכונג, 18 פעקלעך מיט מער ווי צוויי ביליאן וועכנטליכע דאונלאודס, איבערגענומען דורך דעם כיידזשעק פון אן איינציקן אויפהאלטערס אקאונט.
- סעפטעמבער 2025, שי-הולוד: איינע פון די ערשטע דאקומענטירטע וואָרעמס וואָס קענען זיך זעלבסט-פאַרשפּרייטן דורך npm. איר צווייטע כוואַליע, אין נאָוועמבער, איז געווען מער אַגרעסיוו און פארבונדן מיט סודות וואָס זענען אויפגעדעקט געוואָרן אין מער ווי 25,000 רעפּאָזיטאָריעס.
- אקטאבער 2025, נישט-גענוצטע-אימפארטן: טייל פון דער פאַנטאָםרעיוון קאַמפּיין, וואו קינסטלעכע אינטעליגענץ האַלוצינאַציע האָט אײַנגעפֿירט עכטע מאַלוואַרע אין npm דורך אַ סלאָפּסקוואַטינג טעכניק.
- דעם יאָר, קלאָהאַב: אַ פֿאַרסמטע קינסטלעכע אינטעליגענץ סקילז רעגיסטרי, וואו פֿינף פֿון די זיבן מערסט-דאַונלאָודעד סקילז זענען געווען מאַלוואַרע.
די אינדוסטריע פארמאליזירט די זעלבע מסקנא. די OWASP Top 10 פאר LLM אפליקאציעס שטעלט שנעלע אינדזשעקציע אויף נומער איינס. די OWASP MCP Top 10 (איצט אין ביתא) צילט אויף די פראטאקאל וואס אגענטן ניצן צו רעדן מיט מכשירים. די OWASP Agentic Skills Top 10, א נייער אינקובאטאר-פאזע פראיעקט, באצייכנט בייזוויליגע סקילז אלס זיין הויפט ריזיקע. OWASP באוועגט זיך געווענליך פארזיכטיק; עפענען דריי פראנטן אין איין מאל, איינע פון זיי דרינגענד, זאגט עפעס וועגן ווי שנעל דאס באוועגט זיך.
אלע דריי קומען צוזאמען אויף דער זעלבער געדאנק: די אינסטרוקציעס, מכשירים, און קאנפיגוראציעס ארום א מאדעל זענען יעצט טייל פון דער קינסטלעכער אינטעליגענץ אטאקע ייבערפלאך, און זיי געפינען זיך געווענליך אין אייער אייגענעם רעפאזיטארי. וואס ברענגט ארויף די ערשטע פראגע וואס איז ווערט צו פרעגן אייערע טימס: ווער קוקט איבער די רולס טעקעס, סקילז, און MCP קאנפיגס וואס געפינען זיך אין אייער רעפא?
וועקטאָר 1: די פֿאַרסמטע פֿעיִקייט
א סקיל איז א טעקע פון אינסטרוקציעס און מעגלעכקייטן וואס לערנט אן AI אגענט ווי אזוי אויסצופירן אן אויפגאבע. דאס איז נישט דער איינציגער וועג צו פארמען אן אגענט'ס אויפפירונג (רעגולאציע טעקעס, hooks, און MCP קאָנפיגס טוען דאָס זעלבע), אָבער זיי אַלע טיילן איין אייגנשאַפט: זיי אַרומפאָרן אינעווייניק אין דעם רעפּאָזיטאָרי, מיטן קאָד.
פאָרשונג דעם יאָר האָט איבערגעקוקט 4,000 פון די סקילז:
- 36% האָבן געהאַט לפּחות איין זיכערהייט־פֿעלער.
- 13.4% זענען געווען קריטיש.
- נאָענט צו 100 האָבן געהאַט בייזע פּיילאָודז גלייך.
די קערן-וועקסל: דער אטאקירער צילט מער נישט אויף אייער קאוד. זיי צילן אויף דעם אגענט וואס שרייבט אייער קאוד, פלאנצנדיג באהאלטענע אינסטרוקציעס (מאנchmal ניצן זיי נישט-זעבארע אותיות) וואס דער מאדעל לייענט און באהאנדלט ווי אקטיוו. א מענטשלעכער רעצענזענט באשטעטיגט דעם pull request אין גוטן גלויבן ווייל, אין זייערע אויגן, זעט די טעקע אויס ריין. דער מאָדעל טײַטשט אויס אינסטרוקציעס וואָס דער רעצענזענט האָט קיינמאָל נישט געזען.
דאָס איז נישט טעאָרעטיש. CVE-2025-59536 (CVSS 8.7) האָט דערלויבט צו לאָנטשן קלאָד קאָוד פֿון אַן נישט-פֿאַרטרויטן רעפּאָזיטאָרי, וואו אַ בייזוויליקע קאָנפֿיגוראַציע קען לויפֿן באַפֿעלן איידער דער באַניצער האָט אָנגענומען דעם פֿאַרטרויען דיאַלאָג. אַ צווייטע וואַלנעראַביליטי, CVE-2026-21852, האָט דערלויבט עקספֿילטראַציע פֿון אַן API שליסל דורך פּראָיעקט-קאָנטראָלירטע קאָנפֿיגוראַציע, אָן דעם באַניצער צו באַשטעטיקן עפּעס.
H2: וועקטאָר 2: שלאָפּסקוואַטינג
דער נאמען מישט זיך צוזאַמען "שלאַפּ" (דער מיסט וואָס אַן AI מאַנchmal דזשענערירט) מיט דער קלאַסישער טיפּאָסקוואַטינג אַטאַקע. טיפּאָסקוואַטינג איז אָפּהענגיק פֿון מענטשלעכע טעותים: אַן אַטאַקירער רעגיסטרירט אַ פּעקל נאָמען נאָענט צו אַ פּאָפּולערן און וואַרט אויף אַ טיפּאָ. עס איז צופֿעליק.
שלאָפּסקוואטינג וואַרט נישט אויף אַ טעות. אין דער שטודיע וואָס איז דערמאָנט געוואָרן בעת דעם סעסיע, 19.7% פון די פּעקל רעפערענצן דזשענערירט דורך קינסטלעכע אינטעליגענץ מאָדעלן האָבן געוויזן אויף פּעקלעך וואָס עקזיסטירן נישט. מאָדעלן טענדן צו האַלוצינירן די זעלבע נעמען ריפּיטידלי, אַזוי אַן אַטאַקער קוקט וועלכע נעמען די קינסטלעכע אינטעליגענץ (AI) דערפינדט, רעגיסטרירט די נעמען מיט בייזוויליקן קאָד, און וואַרט אויף דער ווייַטער AI-פאָרגעשלאָגענער אינסטאַלאַציע צו ציען עס אין דיין אַפּלאַקיישאַן.
די מאָסשטאַב איז נישט קליין: מער ווי 450,000 נייע בייזוויליגע פּעקלעך זענען אידענטיפיצירט געוואָרן אין 2025. צוויי ביישפילן מאַכן עס קאָנקרעט:
- אַ פֿאָרשער האָט געפּלאַנצט אַן אומשעדלעכן טעסט־פּאַקעט גערופֿן אומאַרמענדיק פּנים-קלי צו באַווייַזן דעם פונקט. עס האָט זיך איינגעשריבן מער ווי 30,000 דאַונלאָודז אין דריי חדשים.
- נישט-גענוצטע-אימפארטן, פון דער צייט-ליניע אויבן, איז באשטעטיקט געווארן מאלווער, וואס לעבט אין א פובליק רעגיסטרי, ניצנדיג פונקט די טעכניק. יענע איז נישט געווען קיין טעסט.
די פראגע איז נישט צי דאס קען פאסירן צו אייער מאַנשאַפֿט. עס איז וויפיל קינסטלעך-אינטעליגענטע פּאַקעטן גייען היינט אַרײַן אין אייער קאָד אָן אַז עמעצער זאָל זיי קוקן.
דער ענטפער: standardס כאַפּן זיך אויף
צוויי כוחות לויפן אין פּאַראַלעל. בשעת די אַטאַקעס פאַרגיכערן, standardס קערפערס רעאגירן:
- NIST SP 800-218A פארברייטערט דעם זיכערן ווייכווארג אנטוויקלונג פריימווערק מיט פראקטיקעס ספעציפיש צו קינסטלעכע אינטעליגענץ מאדעלן, אריינגערעכנט באווייזן פון אָרנטלעכקייט און אָפּשטאַם.
- In May 2026, CISא און אירע אינטערנאציאנאלע G7 שותפים ארויסגעגעבן אנווייזונגען אויף א ווייכווארג ביכל פון מאַטעריאַלן פאר קינסטלעכער אינטעליגענץ, וואָס דעפינירט וואָס געהערט אין יענעם אינווענטאַר: מאָדעלן, דאַטאַסעץ, קאָמפּאָנענטן, פּראַוויידערז און דיפּענדאַנסיז.
די ריכטונג איז קלאָר: די SBOM עס יקספּאַנדירט זיך אין אַן AI-BOM. איר קענט נישט באשטעטיקן אדער באשטעטיגן וואס איר קענט נישט אינווענטארירן. און היינט, קענען רוב ארגאניזאציעס נישט:
- קסנומקס% קענען נישט אָדיטירן אדער אינווענטאַריזירן די קינסטלעכע אינטעליגענץ מכשירים וואָס זיי נוצן שוין.
- קסנומקס% האָבן נישט קיין זעאונג אין די קינסטלעכע אינטעליגענץ אגענטן און MCP סיסטעמען וואָס לויפן אין זייער אייגענער סביבה.
אין רעגולירטע סביבות, גייט די אינווענטאר פון גוטע פּראַקטיק צו קאָנטראַקטואַלע ערוואַרטונג אָדער קאָנפאָרמאַנס פליכט. אָבער אַן אינווענטאר זאָגט אײַך נאָר וואָס איר האָט. אַליין בלאָקירט עס נישט קיין אַטאַקע.
דער ריס: אַן EDR פֿאַר אַפּפּסעק
SAST און SCA מכשירים זענען דיזיינד צו אנאליזירן קאוד און אפהענגיקייטן, נישט די אויפפירונג פון אן אגענט אדער זיין קאנפיגוראציע. בדו זעט פּראָצעסן און נעץ פֿאַרבינדונגען, אָבער עס פֿעלט טיפּיש דער אַפּליקאַציע-זיכערהייט קאָנטעקסט צו אינטערפּרעטירן אַ דעפּענדענסי אָדער אַן אַגענט קאָנפיגוראַציע. צווישן די צוויי קאַטעגאָריעס פון מכשירים ליגט אַ ריס, פּונקט וואו קאָד ווערט איצט באַשאַפֿן, און פּונקט וואו די קינסטלעכע אינטעליגענץ אַטאַק ייבערפלאַך געפינט זיך.
יענער ריס האט דריי בלינדע פלעקן:
- קינסטלעכע אינטעליגענץ אַסעץ. מאָדעלן, אַגענטן און MCP סערווערס ווערן נישט געוויזן אויף אייער SAST'ס אָדער SCA'ס ראַדאַר. מען קען נישט אינווענטאַרירן וואָס מען קען נישט זען.
- קאָנפיגוראַציע טעקעס. סקילז, כּללים און MCP קאָנפיגס פֿאָרמען אַגענט נאַטור אָבער ווערן טיפּיש אָפּגעקוקט ווי אויב זיי זענען ומשעדלעך פּשוט טעקסט.
- פּעקל אינסטאַלירט. A בייזוויליקע אָפּהענגיקייט קען לויפן איידער עס איז באַקאַנט צו זיין בייזוויליק, און דערנאך עקספילטרירן סודות און טאָקענס אָן ווער עס יז זאָל עס באַשטעטיקן.
ווי Xygeni שליסט עס
וואָס אַן EDR טוט פֿאַר ענדפּונקטן, קסיגעני שילד טוט דאָס פֿאַר דעם קינסטלעך-אינטעליגענטן אַנטוויקלונג לעבן-ציקל: עס באַשיצט וואו קאָד ווערט באשאפן בשעת עס פֿאַרשטייט אַפּליקאַציע-זיכערהייט קאָנטעקסט.
- זעבארקייט וואו SAST און SCA נישט דערגרייכן. Xygeni מאַרקירט בייזוויליקע סקילז און רולס טעקעס, אַנאַליזירט MCP קאָנפיגס, און בויט אַן אָדיט-גרייט איי-באָם, צוגעפאסט צו די OWASP LLM, MCP, און Agentic Skills Top 10s.
- אינטעליגענץ, נישט נאָר חתימות. MEW (מאַלווער פרי וואָרענונג) אַנאַליזירט דאָס נאַטור און ריזיקאָ פֿון אַ פּעקל צו בלאָקירן עס איידער אַ CVE, אַן אַדווייזערי, אָדער אַן עפֿנטלעכע אונטערשריפֿט עקזיסטירט. אַרויף-צו-דאַטע נעץ אינטעליגענץ שניידט פֿאַרבינדונגען צו באַקאַנט-בייזיקע אינפֿראַסטרוקטור.
- איין קאָנטראָל פונקט, פֿון קאָד ביז ענדפּוינט. איין אַגענט, דיפּלוימאַנט אָן איבער-אַרכיטעקטירן די סביבה, מיט אייראָפּעיִשער דאַטן-סואַווערייניטעט און קאָנפאָרמאַנס באַווייזן איינגעבויט.
אין א לעבעדיגע דעמאנסטראציע, האט די פאליסי דורכפירונג געבלאקט אן AI אגענט'ס פארזוך צו אינסטאלירן א בייזוויליקן פעקל איבער דריי פארשידענע אינסטאלאציע וועגן (ווירטועל סביבה, פעקל מענעדזשער, און דירעקט דאונלאוד) איידער די אינסטאלאציע איז געענדיגט, אלץ איינגעלאגט אין רעאל-צייט און עקספארטירבאר צו א SOC. איינפירן א ערשטן פראיעקט נעמט געווענליך ארום א שעה; אויסברייטערן קאווערידזש איבער א פולע ארגאניזאציע נעמט געווענליך איין ביז צוויי וואכן, דעפענדינג אויף סטרוקטור.
FAQ
וואָס איז די AI אַטאַק ייבערפלאַך אין איין פּאַראַגראַף?
די קינסטלעכע אינטעליגענץ אטאקע אויבערפלאך איז דער סכום פון מאָדעלן, אגענטן, MCP סערווערס, סקילז, רולס טעקעס, און קינסטלעכע אינטעליגענץ-פארגעשלאגענע דעפּענדענסיעס דורך וועלכע ריזיקע קען אריינקומען אין אן אפליקאציע, אפט איידער א מענטש קוקט עס איבער. עס גייט ווייטער ווי טראדיציאנעלער קאוד און דעפּענדענסיעס צו ארייננעמען די קאנפיגוראציע טעקעס און אינסטרוקציעס וואס פארעמען ווי אן קינסטלעכע אינטעליגענץ אגענט פירט זיך אויף.
ווי קען איך וויסן צי אַ פּעקל נאָמען וואָס מיין קינסטלעכע אינטעליגענץ אַסיסטאַנט פֿאָרשלאָגט איז אַ האַלוצינאַציע אָדער נאָר לעגיטים אָבער נישט באַקאַנט?
וואַלידירן איידער אינסטאַלירן: קאָנטראָלירט די רעגיסטרי און אַנאַליזירט דעם פּאַקעט'ס אינהאַלט און כוונה אַנשטאָט צו פֿאַרלאָזן זיך אויף דעם נאָמען אַליין. Xygeni אויטאָמאַטיזירט די וואַלידאַציע אין פאַקטישער צייט בעת קאָד דזשענעריישאַן, אַזוי אַז אַן אינסטאַלאַציע ווערט באַשטעטיקט אָדער בלאָקירט איידער עס לויפט, צי דער פּאַקעט איז איינער וואָס איר דערקענט צי נישט.
צי סלאָפּסקוואַטינג אַפעקטירט אַלע קינסטלעכע אינטעליגענץ מאָדעלן גלייך?
די פאָרשונג הינטער דער 19.7% ציפער האָט באַדעקט קייפל מאָדעלן און געפֿונען אַז די פּראָבלעם איז ברייט פֿאַרשפּרייט, מיט בלויז קליינע וואַריאַציעס צווישן זיי. דאָס איז אַ מוסטער אַריבער AI-געשטיצטע אַנטוויקלונג, נישט אַ חסרון ספּעציפֿיש צו איין אַסיסטאַנט.
קענען מיר רעטראָאַקטיוו קאָנטראָלירן צי מיר האָבן שוין אינסטאַלירט אַ האַלוצינירט אָדער בייזוויליק פּעקל?
יא. קסיגעני'ס פלאטפארמע גיט קאסטומערס צוטריט צו א געהאלטענע דאטאבאזע פון דעטעקטירטע בייזוויליגע פעקלעך, וואס מען קען זוכן קעגן אייער עקזיסטירנדע קאמפאנענט אינווענטאר, אזוי אז איר קענט באשטעטיגן מיט א פאר קליקן צי עפעס וואס איז שוין אינסטאלירט איז א באקאנטע סכנה.
ווי לאַנג נעמט די אימפּלעמענטאַציע פֿאַר אַ מיטלגרויס אָרגאַניזאַציע מיט קייפל טימז?
אײַנפֿירן אַ ערשטן פּראָיעקט נעמט געוויינטלעך אַרום אַ שעה. עס נעמט געוויינטלעך איין ביז צוויי וואָכן צו סקאַליירן איבער אַ גאַנצער אָרגאַניזאַציע, דיפּענדינג אויף דער מאַנשאַפֿט סטרוקטור און די אַרבעטס־מעטאָדן.
מאַפּירן אייער קינסטלעכע אינטעליגענץ אַטאַק ייבערפלאַך, פֿאַר פריי
מאַפּירן דיין אַפּליקאַציע'ס קינסטלעכע אינטעליגענץ פֿוסשטאַפּ בחינם: שאַפֿן אַ חשבון און לויפט א ערשטע סקען אין מינוטןהייבט אן מיט איין אפליקאציע, זעט וואספארא קינסטלעכע אינטעליגענץ איז אינעווייניק, און זעט וואספארא טייל פון אייער קינסטלעכע אינטעליגענץ אטאקע-פלאך איז געפארליך.
*געוויסע מעגלעכקייטן דערמאנט אויבן ווערן דורכגעפירט דורך Xygeni Shield און די ASPM/AI זיכערהייט מאָדולן; די פאַראַנען קען זיין אַנדערש לויט פּלאַן. זע xygeni.io פֿאַר איצטיקע פּראָדוקט דעטאַלן.
