במחקר מבוקר שהוצג ב אבטחת USENIX 2025חוקרים ביקשו מ-16 מודלים גדולים של שפה לייצר 576,000 דגימות קוד. כמעט אחת מכל חמש חבילות הקוד הפתוח שהמודלים הללו המליצו עליהן לא הייתה קיימת: 205,474 שמות חבילות מזויפים ייחודיים, שהומצאו יש מאין. זה היה קוריוז אם זה היה אקראי. זה לא. ארבעים ושלושה אחוזים מהשמות ההזויים הופיעו שוב ושוב בהנחיות חוזרות ונשנות. תוקפים לא צריכים לנחש מה עוזר קידוד ימציא. הם יכולים לצפות, לחכות ולרשום את השם תחילה.
זוהי הבעיה המרכזית של אבטחת שרשרת האספקה של בינה מלאכותית בניסוי אחד: אותה בינה מלאכותית שמאיצה פיתוח תוכנה הפכה לנקודת כניסה צפויה וניתנת לניצול. השאלה עבור צוותי אבטחה אינה עוד האם בינה מלאכותית נוגעת בשרשרת האספקה של התוכנה. השאלה היא האם ניתן לראות מה היא עושה משני צידי המאבק: הבינה המלאכותית כותבת את הקוד שלך, הבינה המלאכותית מגינה על... pipeline, והבינה המלאכותית שהתוקף מכוון אל שניהם.
מהי אבטחת שרשרת אספקה של בינה מלאכותית?
אבטחת שרשרת אספקה של בינה מלאכותית היא הפרקטיקה של הגנה על שרשרת האספקה של תוכנה מפני סיכונים המופעלים או מוגברים על ידי בינה מלאכותית, ושל שימוש בבינה מלאכותית כדי להגן על אותה שרשרת אספקה. היא נמצאת בצומת של שתי מגמות שרוב תוכניות האבטחה עדיין מטפלות בהן בנפרד: קוד שנוצר על ידי בינה מלאכותית הנכנס לבסיס הקוד, והתקפות המונעות על ידי בינה מלאכותית המכוונות לתלות, לבנות... pipelines, וכלי מפתחים המקיפים אותו.
אבטחת יישומים מסורתית שואלת האם קיימת פגיעות ידועה ברכיב ידוע. אבטחת שרשרת אספקה של בינה מלאכותית שואלת שאלות קשות ומהירות יותר: האם התלות הזו שסוכן בינה מלאכותית זה עתה התקין אכן קיימת, או שמא היא הומצאה? האם החבילה החדשה שפורסמה מתנהגת בצורה זדונית, למרות שעדיין לא קיימת עבורה חתימה? אילו מודלים, סוכנים וחיבורים של בינה מלאכותית פועלים לאורך מחזור חיי פיתוח התוכנה, ולאן הם יכולים להגיע?
לענות על השאלות האלה בקוד המהירות זה בעצם כל הדיסציפלינה.
כיצד בינה מלאכותית הפכה למשטח תקיפה של שרשרת האספקה
תוקפים הפסיקו להתנסות בבינה מלאכותית לפני זמן מה. כעת הם משלבים אותה בפעולות שמכוונות ישירות לקוד ולתלויות שלו, ולא רק לתיבות דואר נכנס. login דפים.
סלוספוואטינג: הפיכת מה שממציאה בינה מלאכותית לנשק
לטכניקה יש עכשיו שם: כריעה רפויה, שטבע באפריל 2025 על ידי סת' לרסון, מפתח אבטחה בכיר בקרן התוכנה של פייתון. המכניקה פשוטה ואכזרית. עוזרי קידוד של בינה מלאכותית מציעים באופן שגרתי שמות חבילות שאינם קיימים. מכיוון שההזיות הללו חוזרות על עצמן, תוקף יכול לרשום את השם המבוסס כחבילה אמיתית וזדונית ולחכות שהמפתח הבא (או הסוכן האוטונומי הבא) יתקין אותה.
התקדים כבר מתועד. בשנת 2023, חוקר אבטחה בר לניאדו פרסם חבילת מיקום ריקה תחת שם שדוגמניות הזיות לעתים קרובות, huggingface-cliבתוך שלושה חודשים הוא הורד יותר מ-30,000 פעמים, ופקודת ההתקנה ההזויה אף הופיעה במאגר README ציבורי של חברת טכנולוגיה גדולה. זו הייתה בדיקה שפיר. אותה מדריך עם מטען אמיתי הוא כעת מודל עסקי שניתן לחזור עליו עבור תוקפים.
סוכני קידוד אוטונומיים מחמירים את המצב בכך שהם מסירים את נקודת הביקורת האנושית האחרונה. סוכן שמתקין תלויות ללא בדיקה מבטל את הרגע היחיד שבו מפתח היה עשוי לשים לב שהחבילה נראית שגויה.
חבילות זדוניות בקנה מידה תעשייתי
סלופסקוטינג היא טקטיקה אחת בתוך שינוי גדול בהרבה. בשנת 2025, קמפיינים של חבילות זדוניות בנפח גבוה הפך למודל ההפעלה הבסיסי להתקפות בשרשרת האספקה, כפי ש-Xygeni מגמות חדשות של מתקפות AppSec לשנת 2026 מסמכים. תוקפים אימצו כלכלת ספאם: מפרסמים אלפי חבילות זדוניות, מקבלים הסרות מהירות ומסתמכים על הסתברות ולא על התמדה. רישומים ציבוריים מכילים כיום מאות אלפי חבילות זדוניות חדשות בשנה, ואפילו חלון חשיפה קצר מזהם גרסאות במורד הזרם.
MCP: שכבת חיבור חדשה, ברובה לא מאובטחת
פרוטוקול הקשר מודל (MCP) מאפשר לסוכני בינה מלאכותית להתחבר לכלים ולמקורות נתונים. הוא גם יוצר משטח תקיפה חדש שרוב הסורקים לעולם לא בודקים. שרת MCP זדוני יכול לשבת באופן בלתי נראה לצד שרתים לגיטימיים, ונגיש לכל סוכן עם גישה. OWASP פרסמה את 10 ה-MCP המובילות בשנת 2025 כדי לקטלג את הסיכונים הללו, החל מהזרקה מיידית והרעלת כלים ועד לשרתים לא מאומתים שכל סוכן ברשת יכול להגיע אליהם.
סודות דולפים דרך קוד שנוצר על ידי בינה מלאכותית
אישורים שנפגעו זינקו בכ-160% בשנת 2025 לעומת 2024, לפי צ'ק פוינט ניהול סיכונים חיצוני (לשעבר סייברינט), המונע בחלקו על ידי פישינג משופר על ידי בינה מלאכותית ותוכנות זדוניות לגניבת מידע. בסביבות תוכנה, זה ממפה ישירות למפתחות וטוקנים מקודדים קשיחים בקוד שנוצר על ידי בינה מלאכותית. עוזר קידוד שבלע א .v קובץ בהקשר שלו יכול לשחזר סוד בהצעה, ותוקפים סורקים בדיוק את התבנית הזו.
גם המימד האנושי לא נעלם. דוח עלות פריצת נתונים של IBM לשנת 2025 מצא כי מבין הפריצות הכרוכות בבינה מלאכותית, 37% השתמשו בפישינג שנוצר על ידי בינה מלאכותית ו-35% השתמשו בהתחזות עמוקה, טכניקות המכוונות יותר ויותר למפתחים באמצעות פנייה מזויפת למגייסים וחשבונות מתחזקים מתחזים.
כיצד בינה מלאכותית מגנה על שרשרת האספקה
היכולות שהופכות את הבינה המלאכותית למסוכנת הן בדיוק מה שהופך אותה לשימושית עבור אנשי הגנה. בשרשרת האספקה, פשרה זו היא המוחשית ביותר בארבעה מקומות.
זיהוי תוכנות זדוניות לפני החתימה
זוהי היכולת המגדירה. סריקה מסורתית ממתינה לחתימה ידועה שגוי לפני שהיא יכולה לסמן חבילה, שהיא איטית מדי מבחינה מבנית עבור התקפות שצוברות אלפי הורדות תוך שעות מרגע הפרסום. זיהוי מבוסס התנהגות במקום זאת מדרג חבילה חדשה שפורסמה ברגע שהיא מופיעה: פעולות זמן ההתקנה שלה, קריאות הרשת, דפוסי ההטעיה ואנומליות המטא-דאטה שלה. זה סוגר את החלון שקמפיינים של slopsquatting ו-typosquatting תלויים בו. קמפייני ה-npm של Shai-Hulud ו-GlassWorm מסוף 2025, שגלאים מבוססי חתימות פספסו לחלוטין, מוקדמים מראש.cisניתוח התנהגותי של מקרה אלי בנוי כדי לתפוס.
קביעת סדר עדיפויות לפי ניצול, לא לפי נפח
התרומה המעשית ביותר של בינה מלאכותית ל-AppSec המודרנית אינה מציאת בעיות נוספות; היא צמצום הרעש של מה שכבר נמצא. ניתוח נגישות קובע האם נתיב קוד פגיע אכן מבוצע. ניקוד ניצול שוקל נתוני תקיפה מהעולם האמיתי כנגד מספר CVSS גולמי. יחד הם מאפשרים לצוותים להתמקד בחלק הממצאים המייצגים סיכון אמיתי וניתן לניצול במקום לנתח ידנית אלפי התראות על אות נמוך.
גילוי אנומליות ב- pipeline רָמָה
In סקר Darktrace על מצב אבטחת הסייבר של בינה מלאכותית לשנת 2026מנהיגי אבטחה ציינו זיהוי איומים ואיתור אנומליות (72%) כתחום שבו בינה מלאכותית מפיקה את ההשפעה הרבה ביותר, לפני תגובה אוטומטית (48%) וניהול פגיעויות (47%). CI/CD, פירוש הדבר הוא סימון של סקריפט התקנה שמתנהג בצורה שונה מכל מה שנראה קודם לכן באותו pipeline, או עדכון תלות שמציג קריאה בלתי צפויה לרשת.
תיקון אוטומטי וניתן לבדיקה
מעבר למציאה ודירוג של סיכונים, בינה מלאכותית מייצרת כעת את התיקון: שינוי קוד בטוח וספציפי למסגרת המוגש כ- pull request במקום כרטיס שנרקב בפיגור. יבמ נמצא כי ארגונים המשתמשים באופן נרחב בבינה מלאכותית ובאוטומציה בפעילויות אבטחה קיצרו את מחזור החיים הכולל של פריצת אבטחה ל-204 ימים, לעומת 284 ימים עבור אלו שלא עשו זאת (כ-80 ימים מהר יותר), תוך חיסכון ממוצע של 1.9 מיליון דולר לכל פריצה. זיהוי סיכון מבלי לסגור אותו רק מעביר את צבר ההזמנות; שילוב של מיון באמצעות בינה מלאכותית עם תיקונים שנוצרו על ידי בינה מלאכותית סוגר את המעגל.
פער הממשל שרוב הצוותים לא סגרו
הנה החלק הלא נוח. סקר של Darktrace משנת 2026 מצא כי 77% מהארגונים כיום משתמשים בבינה מלאכותית גנרטורה במערך האבטחה שלהם, אך רק ל-37% יש מדיניות רשמית לשימוש בטוח בבינה מלאכותית. נתון זה ירד למעשה מ-45% בשנה הקודמת. האימוץ גובר על הממשל, ותוקפים מנצלים את הפער.
עבור צוותי תוכנה, זה בא לידי ביטוי באופן קונקרטי: עוזרי קידוד בינה מלאכותית, סוכנים וחיבורי MCP כבר פועלים ברחבי SDLC, לעתים קרובות ללא נראות מרכזית לגבי מה שהם ניגשים אליו או מה הם הציגו. רוב הארגונים יכולים לנקוב בשמות ספקי הענן שלהם. מעטים מאוד יכולים לנקוב בשמות של כל מודל, סוכן ושרת MCP של בינה מלאכותית שניתן לגשת אליהם ממחשב של מפתח. רשימת חומרים זו, רשימת חומרים של בינה מלאכותית (AI-BOM), היא הבסיס שעליו בנויה שאר אבטחת שרשרת האספקה של בינה מלאכותית. אי אפשר לאבטח את מה שלא ריכזת במלאי.
מה צוותי AppSec צריכים לעשות עכשיו
השמיים פרצת נתונים ממוצעת עלות של 4.44 מיליון דולר בשנת 2025 (IBM), ושרשרת האספקה הופכת יותר ויותר לאחת מנקודות הכניסה. התגובה המעשית אינה "אימוץ בינה מלאכותית" באופן מופשט. זוהי רשימה קצרה וקונקרטית:
- מלאי איזו בינה מלאכותית מפעילה במערכת שלך SDLC. מודלים, סוכנים, שרתי MCP וכלי קידוד מבוססי בינה מלאכותית הם נכסים. ראשית, בנו את חומרי הבנייה של בינה מלאכותית.
- התייחסו לקוד שנוצר על ידי בינה מלאכותית כאל קוד שנכתב על ידי בני אדם. קוד שמתקמפל אינו בטוח באופן אוטומטי, והתלויות שלו ראויות לאותה סקירה כמו כל דבר אחר.
- זיהוי תוכנות זדוניות לפי התנהגות, לא לפי חתימות. סריקה מבוססת חתימות איטית מדי מבחינה מבנית עבור קמפיינים של חבילות בנפח גבוה ובזמן קצר.
- תעדוף לפי ניצול, לא לפי נפח התראות. הערך ההגנתי של בינה מלאכותית הוא להפריד בין סיכון אמיתי לרעש, ולא לייצר עוד ממנו.
- אוטומציה של תיקון, לא רק זיהוי. זיהוי ללא תיקון רק מעביר את הפיגור למקום אחר.
לאן הולכת אבטחת שרשרת האספקה של בינה מלאכותית
שני דפוסים יגדירו את השנים הקרובות. ראשית, התקפות הופכות לחזויות בקנה מידה גדול ולא אקראיות: שטחי שטח פועלים מראשcisבעיקר משום שהזיות של בינה מלאכותית הן עקביות, מה שאומר שההגנה צריכה לעבור מחתימות חד פעמיות לזיהוי תבניות שמתאימה בהתאם. שנית, ההגנה עוברת מ"התרעה בפני אדם" ל"זיהוי, ניקוד והגבה לפני שקיים כרטיס". הארגונים שצוברים תאוצה הם אלה שתופסים את התנהגותה של חבילה זדונית בזמן הפרסום, ולא מחכים לכתיבת CVE.
בינה מלאכותית היא הסיכון החדש ביותר שלך וההגנה הטובה ביותר שלך, לעתים קרובות באותה מערכת
בינה מלאכותית מושכת לשני כיוונים בו זמנית. היא מעניקה לתוקפים כלים אוטומטיים וניתנים להרחבה, ומעניקה למגינים את היכולת לזהות ולהגיב בקנה מידה שבדיקה ידנית לעולם לא הייתה יכולה לעשות. דואליות זו היא בדיוק הסיבה לכך שאבטחת שרשרת אספקה של בינה מלאכותית לא יכולה להיכלל כמעין מחשבה שנייה או להיאסר לחלוטין.
זה הפער קסיגני נבנה כדי להיסגר. התרעה מוקדמת מפני תוכנות זדוניות (MEW) מנטר באופן רציף רישומים ציבוריים ופרטיים ומזהה חבילות זדוניות ברגע פרסומן, לפני שקיימת חתימה כלשהי, באמצעות ניתוחים מבוססי בינה מלאכותית שאומתו על ידי צוות מחקר אנושי. קסיגני Shield מפעיל את האינטליגנציה הזו בנקודת הקצה של המפתח: היא חוסמת חבילות זדוניות בזמן ההתקנה לפני שהסקריפטים שלהן רצים, ומציגה מלאי של כלי הבינה המלאכותית, הסוכנים ושרתי ה-MCP בכל מכונה. יחד הם בנויים במיוחד עבור האיומים שמאמר זה מתאר: slopsquatting, typosquatting, בלבול תלויות ופגיעה בתחזוקה, כולל ה- שי חולוד וכלי חתימה מבוססי-חתימות של מחלקות התקפה של GlassWorm שהוחמצו. בשילוב עם תעדוף מבוסס נגישות, בינה מלאכותית-BOM ברחבי SDLC, ותיקון אוטומטי של בקשות משיכה, קוד שנוצר על ידי בינה מלאכותית ו התקפות המונעות בינה מלאכותית לקבל את אותה בדיקה, מבלי להאט את המפתחים.
התחל בחינם. תוכנית המפתחים של Xygeni עולה 0 אירו: 10 מאגרים, 200 סריקות בחודש, עד 5 תורמים, ללא צורך בכרטיס אשראי. Sign up with GitHub, GitLab, או Google והרץ את הסריקה הראשונה שלך תוך פחות מ-10 דקות; Shield הגנת נקודות קצה תגיע בקרוב לתוכנית למפתחים.
שאלות נפוצות
מהי אבטחת שרשרת אספקה של בינה מלאכותית?
אבטחת שרשרת האספקה של בינה מלאכותית מגנה על שרשרת האספקה של התוכנה מפני סיכונים שבינה מלאכותית מציגה או מגבירה, כגון תלות הזיות, קוד שנוצר על ידי בינה מלאכותית המכיל פגיעויות וחיבורי MCP זדוניים, תוך שימוש גם בבינה מלאכותית כדי להגן עליה באמצעות זיהוי תוכנות זדוניות מבוססות התנהגות, תעדוף ניצול ותיקון אוטומטי.
כיצד משתמשים בבינה מלאכותית כדי להגן על שרשרת האספקה של תוכנה?
בינה מלאכותית מאפשרת הגנות שכלים מבוססי חתימות אינם יכולים להשתוות להן: ניקוד התנהגות של חבילה שפורסמה לאחרונה ברגע שהיא מופיעה, קביעת האם נתיב קוד פגיע אכן ניתן לגישה, סימון חריגות pipeline פעילות, ויצירת תיקונים ספציפיים למסגרת כ pull requests במקום כרטיסי פיגור.
מדוע סורקים מסורתיים אינם יכולים לתפוס התקפות שרשרת אספקה המונעות על ידי בינה מלאכותית?
כלים מסורתיים מסתמכים על חתימות ידועות ו-CVEs שפורסמו, ולכן הם מסמנים חבילה רק לאחר שהיא כבר זוהתה כזדונית. קמפיינים קצרי מועד של חבילות בנפח גבוה צוברים הורדות תוך שעות מרגע הפרסום (הרבה לפני שקיימת חתימה), ולכן נדרש זיהוי טרום-חתימה מבוסס התנהגות.
מהו AI-BOM ולמה זה חשוב?
רשימת חומרים של בינה מלאכותית (AI-BOM) היא רשימת מלאי של כל מודל, סוכן וחיבור MCP של בינה מלאכותית הפועלים לאורך מחזור חיי פיתוח התוכנה. זה חשוב מכיוון שלא ניתן לאבטח את מה שלא ריכזת, ולרוב הארגונים אין נראות מרכזית לגבי אילו בינה מלאכותית נגישה ממחשב של מפתח.
