TL; DR
כמעט כל צוות הנדסה משתמש בעוזרי קידוד של בינה מלאכותית. כמעט אף אחד מהם לא יכול לחשב איזו בינה מלאכותית הוא באמת מפעיל. גרטנר הגדירה את ניהול יציבת האבטחה של בינה מלאכותית (AI Security Posture Management) כקטגוריה בדו"ח ההייפ שלה לשנת 2025 לאבטחת נתונים, משום שהפער אמיתי: מודלים, סוכנים, שרתי MCP ומערכי נתונים הם נכסי בינה מלאכותית במשטח ההתקפה, ולרוב הארגונים אין דרך מובנית לראות אותם.
גילוי ללא תיקון הוא רק dashboard. כ-40% מהקוד שנוצר על ידי בינה מלאכותית מכיל פגיעויות אבטחה. עוזרי בינה מלאכותית משחזרים דפוסים לא מאובטחים בנפח שאף סקירה ידנית לא נבנתה להתמודד איתו. ידיעת נכסי הבינה המלאכותית הקיימים פותרת רק חצי מהבעיה - החצי השני הוא ניקוד הסיכון שלהם ותיקון הקוד לפני שהוא נשלח, באותו תהליך עבודה בו הוא נכתב.
משטח ההתקפה רחב יותר מהקוד. התקפות מתועדות כבר מכוונות לנכסים המקיפים את הקוד: יוניקוד מוסתר בקבצי כללים שגורם לעוזרים לפלוט פלט אחורי, הרעלת כלי MCP וביצוע קוד מרחוק מלא דרך גשר MCP נפוץ (מעל 437,000 הורדות), ו-slopsquatting - רישום שמות החבילות. מודלים של בינה מלאכותית נוטים סטטיסטית להזות. מסורתית SAST ו SCA לא רואה שום דבר מזה.
התיקון הוא לולאה אחת, לא שלושה כלים בנקודה: בינה מלאכותית-SPM בונה את המלאי ואת ה-AI-BOM; אבטחת AI מדרג את הסיכון מול עשרת המובילים של OWASP עבור בקשות לתואר שני במשפטים; DevAI מתקן קוד פגיע בתוך ה-IDE בזמן כתיבתו, מכסה קוד שנוצר על ידי בינה מלאכותית וקוד שנכתב על ידי בני אדם כאחד, ומיירט את מה שסוכנים אחרים עומדים לעשות לפני שהם עושים זאת. זה חל על ממצאים מהסורקים של Xygeni עצמה ועל כל מה שכבר נקלט מהכלים במקום. — אין צורך בקריעה והחלפה.
כמעט כל צוות הנדסה אימץ עוזרי קידוד של בינה מלאכותית. כמעט אף אחד מהם לא יכול לענות על שאלה פשוטה: אילו מודלים, סוכנים ושרתי MCP של בינה מלאכותית אנחנו באמת מפעילים, ואיזה סיכון כל אחד מהם נושא? לפער הזה יש שם עכשיו. גרטנר הגדירה רשמית את ההגדרה של ניהול יציבת אבטחה של בינה מלאכותית (AI Security Posture Management). (בינה מלאכותית-SPM) כקטגוריה שלה מחזור ההייפ של אבטחת מידע בשנת 2025 — אותה שושלת שיצרה את CSPM ו-DSPM. הקטגוריה קיימת משום שהמספרים קונקרטיים: כ-40% מהקוד שנוצר על ידי בינה מלאכותית מכיל פגיעויות אבטחה, בינה מלאכותית היא כיום חלק ממשטח התקיפה ולא רק כלי בו משתמשים מפתחים, ולרוב הארגונים אין מלאי מובנה של נכסי הבינה המלאכותית שהם מפעילים.
זה גם הנושא שנדון בו בשטח ב ימי OWASP AppSec פורטוגל 2026, 23-24 בספטמבר בפורטו, שם Xygeni היא נותנת חסות זהבעוד על כך בסוף, אבל אם אתם רוצים לדלג קדימה, קבלו את הכרטיס שלכם כאן.
הבעיה: קוד שנוצר על ידי בינה מלאכותית נושא פרופיל סיכון משלו
כ-40% מהקוד שנוצר על ידי בינה מלאכותית מכיל פגיעויות אבטחה. מחקר עצמאי על עוזרי קידוד מבוססי בינה מלאכותית מצא שיעורי כשל גבוהים באופן עקבי כנגד... OWASP 10 הראשונים, כאשר קטגוריות פגמים מסוימות כמו סקריפטים בין אתרים מופיעות ברוב המכריע של הדוגמאות שנוצרו. עוזרי בינה מלאכותית לא רק כותבים קוד מהר יותר. הם גם משחזרים דפוסים לא מאובטחים, תלויות לא מאובטחות ותצורות לא בטוחות מהר יותר, והם עושים זאת בנפח שאף תהליך סקירה ידני לא נבנה עבורו.
משטח ההתקפה אינו נעצר בקוד שעוזר כותב. הוא משתרע על נכסי הבינה המלאכותית שהצוותים שלך כבר מפעילים ורק לעתים רחוקות מחזיקים במלאי: מודלים, מערכי נתונים, סוכנים ושרתי MCP. כל אחד מהם כבר יצר התקפות אמיתיות ומתועדות:
- דלת אחורית לקבצי חוקים: תוקפים מסתירים הוראות באמצעות תווי יוניקוד בלתי נראים בתוך כללים וקבצי תצורה הנקראים על ידי כלים כמו GitHub Copilot ו-Cursor, מה שגורם לעוזר לפלוט קוד אחורי מבלי להזכיר אותו. מקוטלג כ- מקרה בוחן של MITRE ATLAS.
- הרעלת כלי MCP וביצוע קוד מרחוק: פגיעות קריטית בגשר MCP נפוץ, שהורדה יותר מ-437,000 פעמים, אפשרה ביצוע קוד מרחוק מלא ברגע שלקוח התחבר לשרת MCP לא אמין.
- סקוואטינג רופף: מחקר אקדמי רחב היקף יצר למעלה משני מיליון דגימות קוד על פני שש עשרה תארים במשפטים ומצא שכמעט אחת מכל חמש חבילות מומלצות כלל לא הייתה קיימת, שמות שתוקפים יכולים לרשום ולהפוך אותם לנשק מראש.
שום דבר מזה לא מופיע בגישה המסורתית SAST or SCA סריקה. כלים אלה מבינים קוד. הם לא מבינים מהו מודל, מה שרת MCP עושה, או האם קובץ התצורה של סוכן טופלו.
רוב הקבוצות פותרות חצי מהבעיה
התגובה האינסטינקטיבית היא להוסיף כלים נקודתיים: אחד לסריקת מודלים, אחר לחומות אש בזמן ריצה, שלישי עבור עוזרי IDEזו אותה טעות ש-AppSec עשתה איתה SAST, SCAוסריקת סודות לפני חמש עשרה שנה, והיא מייצרת את אותה התוצאה: ראות מקוטעת, רעש התראה, ואין מקום יחיד לענות על "איזו בינה מלאכותית אנחנו באמת מפעילים, והאם היא בטוחה".
גילוי ללא תיקון רק אומר לך היכן נמצאת השריפה. תיקון ללא גילוי פירושו שאתה מתקן קוד בזמן ששרתי MCP צללים וסוכנים לא מאושרים פועלים ללא פיקוח לידו. אבטחת בינה מלאכותית צריכה לכסות את שניהם, על אותה פלטפורמה, אחרת זה לא ניהול יציבה. זה... dashboard.
הדרך הטובה יותר: ניהול יציבות אבטחה מבוסס בינה מלאכותית שמגלה, מזהה ומתקן
קסיגני אבטחת AI סוגר את הלולאה הזו לאורך כל עידן הבינה המלאכותית SDLC, מהמודל ומשרת ה-MCP לנקודת הקצה של המפתח.
- לְגַלוֹת AI-SPM בונה מלאי חי של כל נכס בינה מלאכותית בארגון: מודלים, מערכי נתונים, סוכנים, שרתי MCP. זה מוכיח שמלאי עם AI-BOM, את בסיס הראיות שמבקרים ורגולטורים מבקשים יותר ויותר, בין אם מדובר בתיעוד טכני עבור מערכות בסיכון גבוה במסגרת חוק הבינה המלאכותית של האיחוד האירופי או במלאי הנכסים הנדרש על ידי מסגרות כמו ה-ENS של ספרד.
- לְגַלוֹת. אבטחת בינה מלאכותית מדרגת כל נכס לפי סיכון אמיתי: הזרקה מהירה, תצורות MCP לא מאובטחות, חשיפת נתונים, בהתאם ל- OWASP Top 10 עבור יישומי LLMהממצאים מדורגים, לא מושלכים לתור.
- תקן, בנקודה שבה נכתב הקוד. זה המקום שבו נוצר על ידי בינה מלאכותית code security למעשה נפתר. Xygeni DevAI פועל כשכבה רציפה בתוך ה-IDE, סורק באופן הדרגתי כאשר מפתחים עובדים עם קוד שנכתב על ידי אדם וקוד שנוצר על ידי בינה מלאכותית כאחד. הוא מבצע זיהוי פגיעויות באמצעות בינה מלאכותית, ממפה נתיבי תקיפה מונעי בינה מלאכותית כדי להראות כיצד ניתן בפועל לנצל פגם, ומספק תיקונים מאובטחים שנוצרו על ידי בינה מלאכותית אשר אומתו לניצול וסיכון לשינויים שבריריים לפני שמפתח אי פעם מיישם אותם. Guardrails לאמת שינויים מול מדיניות אבטחה ותאימות לפני שהם מגיעים ל-CI, וסוכן DevAI ייעודי מיירט את מה שסוכנים אחרים עומדים לעשות: אימות קבצי מיומנויות וכללים, סינון כל חבילה שסוכן מנסה להתקין כנגד תוכנות זדוניות ודפוסי slopsquatting, וצפייה בהתנהגות כלי MCP לאיתור הרעלה, הכל לפני הביצוע.
- לֶאֱכוֹף. Shield מרחיב את אותה מדיניות לנקודת הקצה של המפתח, וחוסם פעילות בינה מלאכותית לא בטוחה לפני שהיא פועלת.
ובגלל מיון בינה מלאכותית, הסבר ותיקון חלים לא רק על הממצאים של Xygeni עצמה, אלא על כל דבר שנקלט מכלים שכבר קיימים, צוותים משיגים זאת מבלי לקרוע את מה שכבר השקיעו בו.
הכירו את Xygeni בכנס OWASP AppSec Days פורטוגל 2026
אנחנו מביאים את השיחה הזו לפורטו. קסיגני הוא נותן חסות זהב ב ימי OWASP AppSec פורטוגל 2026, רץ ספטמבר 23-24 ב-Fundação António Cupertino de Miranda.
נגיע לאירוע ונדבר על ניהול יציבות אבטחה באמצעות בינה מלאכותית בפועל: כיצד צוותים מגלים נכסי בינה מלאכותית שלא ידעו שקיימים, כיצד נוצר על ידי בינה מלאכותית... code security משתלב בתוכנית AppSec קיימת במקום לשבת לידה, ואיך נראה גל האיומים הנוכחי של MCP וסוכנים בטבע.
אם אתם משתתפים, בואו למצוא את צוות Xygeni בביתן 12. אם מדיניות אבטחת בינה מלאכותית נמצאת במפת הדרכים שלכם ואינכם יכולים להגיע לפורטו, נשמח להנחות אתכם ישירות. באותם תאריכים, אנחנו גם ב... יום OWASP הגרמני 2026 בקרלסרוהה, מדבר דרך אבטחת בינה מלאכותית ו Shieldשכבת האכיפה של באופן ספציפי.
הזמינו פגישה איתנו!
שאלות נפוצות
- מהו ניהול יציבת אבטחה באמצעות בינה מלאכותית (AI-SPM)?
AI-SPM הוא תחום של גילוי, רישום מלאי והערכה מתמשכת של הסיכון של כל נכס בינה מלאכותית שארגון מפעיל - מודלים, מערכי נתונים, סוכנים ושרתי MCP - באותו אופן ש-CSPM עושה עבור ענן ו-DSPM עושה עבור נתונים. גרטנר הגדירה זאת כקטגוריה במחזור ההייפ שלה לשנת 2025 לאבטחת נתונים. AI-SPM של Xygeni בונה את המלאי הזה ומגבה אותו ב-AI-BOM, מה שמספק לצוותי אבטחה ותאימות ראיות שהם יכולים למסור לרואה חשבון.
- מה הופך את זה ל-AI code security שונה מהמסורתי SAST or SCA?
ניתוח סטטי מסורתי וסריקת תלויות נבנו כדי להבין קוד וחבילות, ולא סיכונים ספציפיים לבינה מלאכותית. הם לא רואים הזרקה מיידית, כללים זדוניים או קבצי מיומנות, הרעלת כלי MCP או שמות חבילות מבולבלים שעוזר בינה מלאכותית עשוי להתקין. נוצר על ידי בינה מלאכותית code security צריך לשבת בתוך אותה זרימת עבודה שבה מפתחים כבר משתמשים, לסרוק יחד קוד שנכתב על ידי אדם וקוד שנוצר על ידי בינה מלאכותית, וזה מה ש-Xygeni DevAI עושה בתוך ה-IDE.
- מדוע כ-40% מהקוד שנוצר על ידי בינה מלאכותית מכיל פגיעויות?
עוזרי קידוד של בינה מלאכותית לומדים ומשחזרים את הדפוסים בנתוני האימון שלהם, כולל כאלה שאינם מאובטחים, והם מייצרים קוד הרבה יותר מהר ממה שבדיקה ידנית יכולה לעמוד בקצב. מחקר עצמאי מצא באופן עקבי שיעורים גבוהים של 10 פגיעויות מובילות של OWASP בדגימות שנוצרו על ידי בינה מלאכותית, כאשר קטגוריות פגמים מסוימות כמו סקריפטים בין אתרים מופיעות ברוב המכריע של הבדיקות.
- האם AI-SPM מחליף את כלי ה-AppSec הקיימים שלנו?
לא, והיא לא צריכה לנסות לעשות זאת. מיון, הסבר ותיקון של בינה מלאכותית של Xygeni חלים על ממצאים מהסורקים של Xygeni עצמה ועל ממצאים הנקלטים מכלי צד שלישי שכבר קיימים, כך שצוותים מקבלים כיסוי סיכונים מאוחד של בינה מלאכותית ללא צורך בקריעה והחלפה של מה שכבר השקיעו בו.
- איפה אני יכול לראות את זה בפעולה?
Xygeni היא נותנת חסות זהב בכנס OWASP AppSec Days פורטוגל 2026, 23-24 בספטמבר בפורטו, והצוות יהיה באתר ב דוכן 12 מדבר דרך AI-SPM, שנוצר על ידי AI code security, וגל האיומים הנוכחי של MCP וסוכנים. רכשו כרטיס, או צרו קשר ישירות אם אינכם יכולים להגיע לפורטו.
באותו שבוע, אנחנו גם ב יום OWASP הגרמני 2026 בקרלסרוהה, המתמקדת באבטחת בינה מלאכותית ו Shieldשכבת האכיפה של.
