וואָס איז פּראָמפּט ינדזשעקשאַן?

אויב מען האט אייך געפרעגט וואָס איז פּראָמפּט אינדזשעקשאַן און איר האָט נאָר באַקומען אַ האַלבן ענטפער, דאָ איז די קורצע ווערסיע: דאָס איז אַן אַטאַק טעכניק וואו בייזוויליקע אָדער מאַניפּולאַטיווע טעקסט ווערט אַרײַנגעשלעפּט אין דעם אינפוט וואָס אַן AI מאָדעל פּראָצעסירט, און דאָס נאַרט עס צו איגנאָרירן די אָריגינעלע אינסטרוקציעס און נאָכפֿאָלגן די אַטאַקירערס אַנשטאָט. דאָס איז דער קערן פֿון דער פּראָמפּט אינדזשעקשאַן באַדײַט: דאָס איז נישט קיין באַג אין קאָד, דאָס איז אַן אַטאַק וואָס כאַפּט די מאָדעל'ס אינסטרוקציעס ניצנדיק געוויינטלעכע שפּראַך אַנשטאָט טראַדיציאָנעלן עקספּלויט קאָד.

פּראָמפּט ינדזשעקשאַן באַדייַט, אין פּשוט טערמינען #

צעברעכן די פראמפט אינדזשעקציע באדייטונג ווארט ביי ווארט העלפט עס האלטן זיך:

• פּינטלעך: די אינסטרוקציעס און קאנטעקסט וואס ווערן אריינגעגעבן אין אן AI מאדעל, צי עס ווערט אריינגעטייפט גלייך דורך א באניצער אדער אויטאמאטיש אריינגעצויגן פון א דאקומענט, וועבזייטל, אדער API ענטפער.
• ינדזשעקשאַן: אריינשטעלן עפּעס וואָס איז נישט געמיינט צו זיין דאָרט, געבארגט פון דער זעלבער לאָגיק ווי SQL אינדזשעקשאַן, וואו נישט-פאַרטרויטע אינפוט ווערט באַהאַנדלט ווי אַ באַפֿעל אַנשטאָט פּשוטע דאַטן.

אַלזאָ, ווען עמעצער פרעגט וואָס איז פּראָמפּט אינדזשעקשאַן, איז די פּשוטסטע ענטפֿער: דאָס איז וואָס פּאַסירט ווען אַ קינסטלעכע אינטעליגענץ מאָדעל קען נישט דערקענען דעם חילוק צווישן די אינסטרוקציעס וואָס עס איז געגעבן געוואָרן דורך זיין דעוועלאָפּער און די אינסטרוקציעס וואָס זענען באַהאַלטן אין דעם אינהאַלט וואָס עס פּראַסעסט.

וואָס טוט עס טאַקע אַרייַננעמען? #

רובֿ פאַקטישע פֿאַלן פֿאַלן אין די הויפּט קאַטעגאָריעס:

• דירעקטע שנעלע אינדזשעקציעדער אטאקירער טייפט די בייזוויליגע אינסטרוקציע גלייך אין דעם טשעט אדער אינפוט פעלד, און בעט אפן דעם מאָדעל צו איגנארירן זיינע פריערדיגע כּללים ("איגנארירן אלע פריערדיגע אינסטרוקציעס און...").
• אינדירעקטע שנעלע אינדזשעקציעדי בייזוויליקע אינסטרוקציע איז באַהאַלטן אין אינהאַלט וואָס דער מאָדעל לייענט שפּעטער, ווי אַ וועבזייטל, PDF, אימעיל, אָדער קאָד באַמערקונג, און עס אַקטיוויזירט זיך נאָר ווען דער מאָדעל פּראַסעסירט דעם אינהאַלט, אָן קיין אַטאַקירער פאָרשטעלן אין יענעם מאָמענט.
• דזשעילברעיק-סטיל אינדזשעקציעא ספעציפישע סארט אינדזשעקציע וואס ניצט ראלע-שפילן, היפאטעטישע פרעימינג, אדער קאדירונג טריקס צו ארוםגיין די זיכערהייט פון א מאדעל. guardrails ספּעציפֿיש, אַנשטאָט צו כאַפּן זײַן אויפֿגאַבע.

פּראָמפּט אינדזשעקשאַן קעגן דזשיילברעיקינג: וואָס איז דער חילוק? #

א געוויינטלעכע נאכפאלג צו וואס איז פראמפט אינדזשעקציע איז ווי עס איז אנדערש פון דזשעילברעיקינג. די צוויי איבערדעקן זיך אבער זענען נישט אידענטיש. דזשעילברעיקינג איז ספעציפיש וועגן בייפּאַסן א מאָדעל'ס זיכערהייט און צופרידן guardrails, עס צו באַקומען צו זאָגן אָדער דזשענערירן עפּעס וואָס עס איז געווען טריינד צו אָפּזאָגן. פּראָמפּט ינדזשעקשאַן איז ברייטער: עס איז וועגן כיידזשאַקינג די מאָדעל ס ינסטראַקשאַנז אָדער אַרבעט, וואָס קען אָדער קען נישט אַרייַננעמען זיכערקייַט guardrails בכלל. אן אומדירעקטע אינדזשעקציע באהאלטן אין א סופארט טיקעט וואס שטילערהייט זאגט א קאסטומער-סערוויס אגענט צו שיקן א באניצער'ס דאטן צו אן עקסטערנעם אדרעס פרובירט נישט צו דזשעילברעיק גארנישט; עס רידירעקטירט די אויפגאבע אליין.

וואו פּראָמפּט ינדזשעקשאַן טאַקע ווייזט זיך #

אַמאָל איר פֿאַרשטייט די באַדייטונג פֿון דער שנעלער אינדזשעקשאַן, ווערט עס גרינגער צו דערקענען וווּ דער ריזיקע לעבט אין עכטע סיסטעמען:

MCP סערווערס און AI קאָדירונג אַסיסטאַנטן – א בייזוויליקער קאמענטאר, README, אדער טול-רעזולטאט פּיילאָוד קען רידערעקטן וואָס אַן אַגענט טוט אין אַ דעוועלאָפּער'ס קאָודבאַזע אדער טערמינאַל. אַנדערש דיפּענדינג אויף די פּראָגראַממינג שפּראַך אַרום וואָס עס איז געבויט, אָבער די קערן געדאַנק (רעדאַקטאָר + בויען מכשירים + דיבאַגער, אין איין אָרט) בלייבט די זעלבע.

טשאַטבאָטס און שטיצע אַגענטן – אַ באַניצער פּאַפּט אַרײַן אײַנגעשפּריצטן טעקסט כּדי דער באָט זאָל ווײַזן זײַן סיסטעם־פּראָמפּט אָדער דורכפֿירן אומגעוואונטשענע אַקציעס.

ריטריוואַל-אויגמענטעד דזשענעריישאַן (RAG) pipelines – אַ פֿאַרסמטע דאָקומענט אין דער וויסן־באַזע טראָגט אינסטרוקציעס וואָס ווערן אַקטיוויזירט ווען מען נעמט זיי צוריק.

אויטאָנאָמע קינסטלעכע אינטעליגענץ אַגענטן – אַן אַגענט וואָס בלעטערט דאָס וועב, לייענט אימעילס, אָדער רופט אָן מכשירים קען אויפנעמען אינדזשעקטירטע אינסטרוקציעס פון יעדן אינהאַלט וואָס עס רירט אָן, און דערנאָך האַנדלען אויף זיי מיט עכטע פּערמישאַנז.

פארוואס די פראמפט אינדזשעקציע באדייט איז וויכטיג ווייטער ווי "נאר א פראמפט טריק" #

ס'איז גרינג עס אָפּצוזאָגן ווי אַ נייַקייט, אַ קלוגער וועג צו מאַכן אַ טשאַטבאָט זאָגן עפּעס נאַריש. אָבער אַמאָל קינסטלעכע אינטעליגענץ מאָדעלן זענען פֿאַרבונדן מיט אַגענטן וואָס קענען שיקן אימעילס, אויספֿירן קאָד, פֿרעגן דאַטאַבייסעס, אָדער אינסטאַלירן פּאַקאַדזשאַז, הערט פּראָמפּט אינדזשעקשאַן אויף צו זיין אַ טשאַט-פֿענצטער נייַגעריקייט און ווערט אַן עכטע זיכערהייט גרענעץ פּראָבלעם: ווער עס קאָנטראָלירט דעם אינהאַלט וואָס אַ מאָדעל לייענט קען, אונטער די ריכטיקע באַדינגונגען, קאָנטראָלירן וואָס יענער מאָדעל טוט ווייטער. דעריבער דערשיינט די אינדזשעקשאַן איצט ווי אַן אייגענע קאַטעגאָריע אין די... OWASP Top 10 פֿאַר LLM אַפּפּליקאַטיאָנס, און פארוואס פארשטיין וואס איז פראמפט אינדזשעקציע ווערט יעצט באטראכט אלס באזיס וויסן פאר ווער עס יז וואס בויט אדער זיכערט קינסטלעכע אינטעליגענץ סיסטעמען, נישט נאר א נייגעריקייט פאר רויט-טיימער.

אויב איר קוקט אויף דעם ספעציפיש פון אן AppSec און DevSecOps ווינקל, דאס הייסט, ווי שנעלע אינדזשעקציע ריזיקע ווייזט זיך אויף איבער AI אגענטן, MCP סערווערס, און AI-גענערירטן קאוד אנשטאט נאר וואס דער טערמין מיינט, האבן מיר דאס באדעקט אין מער טיפקייט דא: קינסטלעכע אינטעליגענץ צושטעל קייט זיכערהייט.

FAQ #