קטגוריה: בינה מלאכותית

אבטחת GitHub Copilot

אבטחת GitHub Copilot: הסיכונים האמיתיים של קוד שנכתב על ידי בינה מלאכותית, וכיצד לשלוט בהם

GitHub Copilot כותב נתח הולך וגדל של הקוד שלך, ועכשיו הוא גם מפעיל פקודות, פותח pull requests ומתקין חבילות. הנה סיכוני האבטחה האמיתיים של GitHub Copilot, החל מהזרקה מהירה וסודות שדלפו ועד חבילות הזויות, מה מכסים הבקרות המובנות של GitHub, ושבעה צעדים לשמירה על שליטה בקוד שנכתב על ידי בינה מלאכותית.
9 דק קריאה
תקרית אבטחה עם פנים מחבקות

תקרית אבטחה של "Hugging Face": כיצד סוכן בינה מלאכותית פרץ לפלטפורמה, ומה לתקן בעצמך Pipeline

סוכן בינה מלאכותית הפך מערך נתונים זדוני אחד לגישה לאשכולות הפנימיים של Hugging Face, ללא תוקף אנושי מאחוריו. הנה מה שקרה באירוע האבטחה של Hugging Face, ומדוע זה חשוב לכל צוות שמפעיל בינה מלאכותית. pipelineאו סוכני בינה מלאכותית, ושישה צעדים לסגירת אותם פערים בסביבה שלך.
10 דק קריאה
אבטחת סוכני בינה מלאכותית

אבטחת סוכני בינה מלאכותית: הכירו כל סוכן, תפסו את הסיכון, שמרו על מה שהוא מתקין

סוכני בינה מלאכותית לא רק עונים, הם פועלים: הם קוראים לכלי עבודה, מחזיקים באישורים ומתקינים חבילות בעצמם. כך פועלת אבטחת סוכני בינה מלאכותית בארבעה שלבים, החל ממלאי של כל סוכן בקוד שלכם ועד להגנה על מה שסוכנים מתקינים.
10 דק קריאה
Xygeni ב-ENISE 2026 אבטחת סוכני קידוד בינה מלאכותית

מי החליט שהגרסה הזו יכולה להישלח? לקחי אבטחה של סוכני קידוד בינה מלאכותית מ-ENISE 2026

בכנס ENISE 2026, מנכ"ל Xygeni, חסוס קואדראדו, הראה כיצד משפט אחד בגיליון ב-GitHub הוביל לשחרור לא מורשה, ועזב CISמערכת הפעלה עם ארבע שאלות על סוכני קידוד של בינה מלאכותית.
8 דק קריאה
עשרת המובילים של OWASP Agentic AI

הסבר על 10 התכונות המובילות של OWASP Agentic AI: ASI01–ASI10

עשרת המובילים של OWASP Agentic AI מציינים את עשר הדרכים בהן סוכני בינה מלאכותית נכשלים. הנה המשמעות האמיתית של ASI01 עד ASI10 במצב אמיתי. pipeline, היכן נכנס כל סיכון, ואילו מהם ניתן לעצור לפני הפריסה.
11 דק קריאה
התקפת חילוץ מודלים

התקפת חילוץ מודלים: למה המלאי במקום הראשון

מתקפת חילוץ מודלים מאפשרת לתוקף להעתיק את המודל שלך שאילתה אחת בכל פעם, ללא פרצה וללא גניבת קובץ. כך פועלת גניבת מודלים, ומדוע ההגנה הראשונה היא הכרת כל נקודת קצה של הסקה שאתה חושף.
8 דק קריאה
סיכון של בינה מלאכותית של סוכנים ורדיוס פיצוץ

סיכון של בינה מלאכותית של סוכנים ורדיוס פיצוץ: להגביל את הסוכן, או להתאושש מהר יותר?

לרסן את הגורם, להתאושש מהר יותר, או לבלום אותו מלמטה? שלושה מטפלים, שלוש תשובות, ומינימום אחד שכולם הסכימו עליו.
13 דק קריאה
הנדסת רתמות סוכן

הנדסת רתמות סוכנים: המודל אינו משטח ההתקפה, הרתמה היא

הנדסת רתמת סוכנים הופכת מודלים לסוכנים שימושיים. היא גם נותנת לתוקפים מטרה חדשה: הקבצים שאומרים לסוכן שלך מה הוא יכול לעשות.
7 דק קריאה
אבטחת יישומי בינה מלאכותית

אבטחת יישומי בינה מלאכותית: מה ששמענו ב-OWASP פורטו וקרלסרוהה

אבטחת יישומי בינה מלאכותית שלטה ב-OWASP פורטו וקרלסרוהה. מה ASPM באמת, איך זה שונה מ SAST, והיכן מיון ותיקון באמצעות בינה מלאכותית עוזרים.
8 דק קריאה
ניהול סיכונים בינה מלאכותית

ניהול סיכוני בינה מלאכותית: שני תחומים, מלאי אחד

ארבעה מונחי חיפוש, שתי עבודות שונות לחלוטין. ניהול סיכוני בינה מלאכותית אינו אותו תחום כמו שימוש בבינה מלאכותית לניהול סיכונים, ורוב הארגונים מאיישים עובד אחד תוך כדי שהם מוכרים להם את השני. החלק המעניין הוא מה קורה כשמבינים שמדובר באותה תוכנית.
9 דק קריאה
מדדי סיכון של בינה מלאכותית

סיכון בינה מלאכותית: המדדים שיגידו לכם האם אסטרטגיית הבינה המלאכותית הסוכנתית שלכם עובדת

כל דירקטוריון שואל כעת את אותה השאלה: מהו הסיכון שלנו בתחום הבינה המלאכותית? רוב הצוותים עונים באמצעות תארים. הנה מדדי הסיכון של הבינה המלאכותית שמייצרים מספר, מאיפה מגיע כל אחד מהם, ומה אסטרטגיית בינה מלאכותית סוכנית צריכה לכסות לפני שלכל אחד מהם יש משמעות כלשהי.
9 דק קריאה
איומי אבטחה של בינה מלאכותית

10 איומי האבטחה המובילים של בינה מלאכותית וכיצד למפות אותם

שני דברים מתויגים תחת אותה כותרת והם לא אותה בעיה. התקפות על מערכות בינה מלאכותית והתקפות המופעלות על ידי בינה מלאכותית דורשות בקרות שונות, בעלים שונים וראיות שונות. עשרה איומים, המחולקים לשני חצאים, והצעד האחד שקודם לכולם.
10 דק קריאה