TL; DR
מהי התקפת חילוץ מודלים, ומדוע מלאי הוא המקום הראשון
מתקפת חילוץ מודלים מעתיקה את הבינה המלאכותית שלך דרך ממשק API משלה. אין פרצה, אין משקולות גנובות, אין תוכנות זדוניות.
- איך זה עובד: מתקפת חילוץ מודלים (הנקראת גם גניבת מודלים) מבצעת שאילתה בקנה מידה גדול על נקודת קצה של הסקה ומאמנת שיבוט על התשובות. ביומני הרישום שלך, התוקף נראה כלקוח כבד.
- איפה זה יושב: OWASP מסווג חילוץ מודלים תחת LLM10:2025 צריכה בלתי מוגבלת ומפרטת מלאי מודלים מרכזי בין הפעולות המפחיתות שלה.
- למה ההגנות מחטיאות: מגבלות קצב, אימות וניטור מגנים רק על נקודות הקצה שאתם מכירים. נקודות קצה של בינה מלאכותית בצל לא מקבלות אף אחת מהן.
ההגנה הראשונה: מלאי של בינה מלאכותית של כל מודל, סוכן ונקודת קצה של הסקה שהקוד שלך חושף, שהתגלו מהמקור לפני שהוא נשלח. אינך יכול להגן על נקודות קצה של הסקה שלא יצרת מלאי עבורן.
ניתן לגנוב את המודל שלך מבלי שאף אחד ייגע בשרתים שלך
הצוות שלכם בילה חודשים בכוונון עדין של מודל המבוסס על נתונים קנייניים. הוא יושב מאחורי API שעונה על אלפי בקשות ביום. עכשיו דמיינו מתחרה שבונה מחדש את רוב הערך שלו במחיר של קריאות ה-API הללו.
זוהי מתקפת חילוץ מודלים. אף אחד לא פורץ לתשתית שלך או מוריד את המשקולות שלך. התוקף פשוט שואל את המודל שלך מספיק שאלות שנבחרו בקפידה, מקליט את התשובות ומאמן עותק.
רוב הצוותים עונים על סיכון זה באמצעות מגבלות קצב, אימות וניטור פלט. בקרות אלו עובדות. אך יש להן נקודה עיוורת אחת משותפת: הן מגנות רק על נקודות הקצה של הסקה שידוע לכם שקיימות. במדריך זה נסביר מהי מתקפת חילוץ מודלים, כיצד גניבת מודלים פועלת בפועל, ומדוע כל הגנה מתחילה במלאי.
מהי מתקפת חילוץ מודלים?
מתקפת חילוץ מודלים היא מתקפה שבה יריב בונה עותק פונקציונלי של מודל למידת מכונה על ידי שליחת שאילתות אליו ולמידה מהפלטים שלו. זה ידוע גם כגניבת מודלים או גניבת מודלים. התוקף לעולם לא זקוק למשקלים המקוריים, נתוני האימון או קוד המקור: הממשק הציבורי מספיק.
הרעיון אינו חדש. חוקרים הציגו זאת מול ממשקי API מסחריים לחיזוי בשנת 2016 (טרמר ואחרים, USENIX Securityבשנת 2024, צוות ב-Google DeepMind שחזר חלק ממודל שפת ייצור באמצעות ה-API הציבורי שלו (קרליני ואחרים). אטלס מיטרה עוקב אחר אותה התנהגות כמו טכניקת יריב כנגד מערכות בינה מלאכותית.
עבור יישומי LLM, OWASP מקפל את גניבת המודל לתוך LLM10:2025 צריכה בלתי מוגבלתהוא מתאר שני גרסאות: חילוץ באמצעות שאילתות API מעוצבות, ושכפול פונקציונלי, שבו מודל היעד מייצר נתונים סינתטיים כדי לכוונן מודל מתחרה.
התקפת חילוץ מודלים: מונחים מרכזיים
לאותו איום יש כמה שמות. הנה המשמעות של כל אחד מהם, והיכן הם חופפים.
| טווח | מה זה אומר |
|---|---|
| מתקפת חילוץ מודלים | בנייה מחדש של התנהגות מודל מתשובות השאילתה שלו |
| גניבת דוגמניות / גניבת דוגמניות | מילים נרדפות נפוצות; גניבת מודל כוללת גם גניבה ישירה של קבצי משקל |
| שכפול מודל פונקציונלי | שימוש בפלט של היעד כנתוני אימון עבור מודל חלופי |
| מודל צל | השיבוט של התוקף, שאומן לחקות את המטרה |
כיצד פועלת מתקפת חילוץ מודלים
כל מתקפת חילוץ מודלים עוקבת אחר אותה לולאה: מציאת נקודת קצה, שאילתה עליה בקנה מידה גדול, אימון עותק.
- מצא את נקודת הקצה. התוקף מאתר ממשק API להסקת מסקנות: קצה אחורי של צ'אט, שירות סיווג, נקודת קצה של הטמעה, מודל פנימי ששותף יכול להגיע אליו.
- תכננו את השאילתות. הקלטים נבחרים כך שיכסו את רמת המודלcisמרחב יונים ביעילות, לעיתים בשילוב עם הזרקה מהירה כדי לשדל להוציא תשובות עשירות יותר.
- קצור את התפוקות. תוויות, ציוני ביטחון, לוגיטים או השלמות טקסט מלא - כל אלה מדליפים מידע. ככל שהתגובה עשירה יותר, כך הגניבה מהירה יותר.
- לאמן את המחליף. זוגות הקלט והפלט שנאספו הופכים לקבוצת אימון עבור מודל צל המחקה את המקור.
- לנצל את השיבוט. העותק משמש כדי לדלג על עלויות רישוי, להתחרות ישירות, או לתרגל התקפות עוינות במצב לא מקוון לפני שיגורן לעבר המודל האמיתי.
מה שמקשה על זיהוי גניבת מודלים הוא שכל בקשה היא לגיטימית. הסימן טמון בנפח, בתבנית, ומעל הכל, במקום שבו הבקשות מגיעות.
למה ההגנות הרגילות נכשלות: פער המלאי
השמיים standard העצה נגד מתקפת חילוץ מודלים היא נכונה: אימות מתקשרים, הגבלת קצב ווויסות, גזירת ציוני ביטחון מתגובות, סימון פלטים של מים וחיפוש דפוסי שאילתה חריגים. כל בקרה מוחלת על כל נקודת קצה. זה בדיוק המקום שבו היא שובר.
בינה מלאכותית נכנסת כעת לבסיסי קוד מהר יותר ממה שצוותי אבטחה יכולים לעקוב אחריה. מפתח מחבר ערכת פיתוח תוכנה (LLM SDK) למיקרו-שירות. צוות נתונים חושף מודל מכוון מדויק עבור כלי פנימי. מסגרת סוכן יוצרת שכבת הגשה משלה. אף אחת מהאפשרויות הללו לא עוברת דרך תור סקירה, ורבות מהן לעולם לא מופיעות בשער API או בקובץ מפרט.
התוצאה היא בינה מלאכותית בצל: מודלים, סוכנים ונקודות קצה של הסקה שקיימות בסביבת הייצור אך אינן ברשימה של אף אחד. נקודת קצה שאף אחד לא מכיר אינה מקבלת מגבלת קצב, סקירת אימות ואין ניטור. עבור מתקפת חילוץ מודלים, זוהי המטרה האידיאלית.
OWASP מצביע על אותו הדבר. בין הפתרונות המפחיתים שלו עבור LLM10, הוא ממליץ על שמירה על מלאי מרכזי של מודלי למידה. ההיגיון פשוט: אינך יכול להגן על נקודות קצה של הסקה שלא ריכזת עבורן מלאי.
מלאי תחילה: גלה כל נקודת קצה, ואז הגן עליה
מלאי שימושי של בינה מלאכותית עונה על ארבע שאלות עבור כל נכס: מהו, היכן הוא מוצהר, עם מה הוא מדבר ומה מגן עליו.
| שאלת מלאי | למה זה משנה נגד חילוץ מודלים |
|---|---|
| אילו מודלים ונקודות קצה של הסקה קיימות? | כל נקודת קצה לא רשומה היא יעד חילוץ לא מוגן |
| היכן הם מוצהרים בקוד? | בעלות: מישהו חייב לתקן את השליטה החסרה |
| אילו נתונים וכלים מחוברים? | מודל שאומן על נתונים רגישים שווה יותר לגניבה |
| איזה guardrails והבקרות חלות? | מציג פערים בכיסוי לפני שתוקף מוצא אותם |
המקום הטוב ביותר לבנות את המלאי הזה הוא בקוד המקור. קוד הוא המקום שבו נולדת נקודת קצה, כך שגילוי נכסי בינה מלאכותית במאגר מוצא אותם לפני שהם מגיעים לייצור. זה גם מקשר כל נכס לפרויקט, א commit, וצוות, שזה מה שהופך רשימה לפעולה.
שני הרגלים נוספים סוגרים את המעגל. ייצוא המלאי כ"רשימת חומרים" מבוססת בינה מלאכותית (AI-BOM) כך שצוותי הממשל והביקורת יראו את אותה התמונה. וסריקה מחדש על כל שינוי, כי המלאי טוב רק כמו העדכון האחרון שלו.
כיצד Xygeni סוגרת את הפער לפני שמתחילה מתקפת חילוץ מודלים
אבטחת בינה מלאכותית של Xygeni בונה את מלאי הבינה המלאי ישירות מקוד המקור. הוא מגלה מודלים של בינה מלאכותית, סוכנים, מסגרות בינה מלאכותית, שרתי MCP וכלים, הנחיות, guardrails, מאגרי וקטורים, מערכי נתונים, נקודות קצה של הסקה וכלי קידוד בינה מלאכותית בכל המאגרים שלך, כולל קבצי מודל כגון .onnx, .pt ו .pklגם קשרים ממופים: איזה סוכן משתמש באיזה מודל, אילו כלים הוא מבצע, על אילו מערכי נתונים הוא מתאמן.
כל נכס במלאי נכסי בינה מלאכותית מציג את המודלים והספקים שלו, מקורות נתונים מחוברים עם דגלי PII, כיסוי בטיחות ושדות ממשל כגון קטגוריית הסיכון של חוק הבינה המלאכותית של האיחוד האירופי. תצוגת גרף הבינה המלאכותית מציגה כיצד סוכנים, מודלים, כלים ומערכי נתונים מתחברים. לחיצה אחת מייצאת CycloneDX 1.6 ML-BOM, ליד שלך. SBOM ו-CBOM.
ממלאי להגנה:
- זיהוי סיכונים ממופה ל-OWASP. חבילות גלאים מכסות את כל עשר הקטגוריות המובילות של OWASP LLM, כולל LLM10 Unbounded Consumption, כך שכל ממצא מדבר את השפה שבה משתמשים המבקרים שלכם.
- בקרות קצה נבדקו בקוד. אבטחת API של Xygeni מגלה נקודות קצה של API מהקוד והמפרט ומסמן נקודות קצה לא מאומתות, הגבלת קצב חסרה וממשקי API של צל שסטו מהמפרט.
- הוכחה על אפליקציית הריצה. בדיקת חדירה של Xygeni AI בודקת את האפליקציה שנפרסה ומוכיחה אילו נקודות תורפה ניתנות לניצול.
- תקן מהר. מיון בינה מלאכותית מתעדף ממצאים של בינה מלאכותית ותיקון בינה מלאכותית מייצר הנחיות תיקון עבור כל עשר קטגוריות OWASP LLM.
הכל פועל כסריקה סטטית ב CI/CD או באופן מקומי, עם SaaS, on-premise ואפשרויות עם פערים לאוויר. צוותים הזקוקים לשלב הסקירה הסמנטית כדי להישאר פנימיים יכולים להריץ אותו במודל המתארח בעצמם.
רשימת בדיקה למניעת התקפות של חילוץ מודלים
שמונה בקרות, לפי הסדר. שתי הראשונות מאפשרות את ששת האחרות.
- 1מלאימלאי כל מודל, סוכן ונקודת קצה של הסקה מקוד המקור ושמור עליהם מעודכנים בכל commit.
- 2בעלותהקצה בעלים לכל נכס בינה מלאכותית במלאי.
- 3אימותדרוש אימות בכל נקודת קצה של הסקה, כולל נקודת קצה פנימית.
- 4גבול דירוגהחל מגבלות תעריף, מכסות ופסקי זמן לכל מתקשר.
- 5מזעור פלטהחזר את הפלט המינימלי הנדרש: השמט ציוני ביטחון ולוגיטים במקומות בהם משתמשים אינם זקוקים להם.
- 6ניטורניטור נפח ודפוסי שאילתות לצורך בדיקה שיטתית.
- 7watermarkingשקלו להוסיף סימן מים לפלטים של מודלים קנייניים בעלי ערך גבוה.
- 8ממשלייצוא של BI-BOM לצורך ניהול וביקורת, ומיפוי ממצאים ל-OWASP LLM10.
מצאו את נקודות הקצה של ההסקה שלכם לפני שהתוקפים עושים זאת
מתקפת חילוץ מודלים צריכה רק נקודת קצה אחת ששכחתם ממנה. גלו איזו בינה מלאכותית הקוד שלכם באמת מריץ: ראו כיצד Xygeni AI Security בונה את מלאי הבינה המלאכותית שלכם, or הזמן הדגמה.
שאלות נפוצות
מה ההבדל בין התקפת חילוץ מודלים לבין היפוך מודלים?
מתקפת חילוץ מודלים מעתיקה את המודל עצמו: התנהגותו ועיצובוcisלוגיקת יונים. היפוך מודלים מכוון לנתוני האימון, ומנסה לשחזר רשומות רגישות מהן למד המודל. שניהם מנצלים לרעה גישה לשאילתות, אך חילוץ גונב קניין רוחני בעוד שהיפוך דולף נתונים פרטיים.
האם מתקפת חילוץ מודלים יכולה להתמקד במודלים של LLM, או רק במודלים קלאסיים של למידה אלקטרונית?
שניהם. מחקר מוקדם התמקד במסווגים מאחורי ממשקי API לחיזוי. כיום, OWASP מפרט חילוץ מודלים ושכפול מודלים פונקציונליים כסיכוני LLM תחת LLM10:2025 Unbounded Consumption, שבו תוקף משתמש בפלט של LLM עצמו כדי לכוונן תחליף.
איך אני יודע אילו מנקודות הקצה של ההסקה שלי חשופות לגניבת מודל?
התחילו עם רשימת מלאי שנבנתה מקוד המקור: כל מודל, סוכן ונקודת קצה של הסקה שהיישומים שלכם מצהירים עליהם. לאחר מכן בדקו כל אחד מהם עבור אימות, הגבלת קצב וחשיפת פלט. Xygeni AI Security מגלה נכסי בינה מלאכותית במאגרים שלכם ומייצאת אותם כ-AI-BOM, ו-Xygeni API Security מסמן נקודות קצה חסרות אימות או הגבלת קצב.







