TL؛ DR
تستخدم جميع فرق الهندسة تقريبًا مساعدي البرمجة بالذكاء الاصطناعي. ولا يستطيع أي منها تقريبًا حصر أنواع الذكاء الاصطناعي التي تستخدمها فعليًا. عرّفت شركة غارتنر إدارة وضعية أمان الذكاء الاصطناعي كفئة في دورة الترويج لعام 2025 لأمن البيانات لأن الفجوة حقيقية: فالنماذج والوكلاء وخوادم MCP ومجموعات البيانات هي أصول ذكاء اصطناعي في سطح الهجوم، ومعظم المؤسسات ليس لديها طريقة منظمة لرؤيتها.
إن الاكتشاف دون معالجة ليس إلا... dashboard. تحتوي حوالي 40% من التعليمات البرمجية المولدة بواسطة الذكاء الاصطناعي على ثغرات أمنية. وتُعيد برامج الذكاء الاصطناعي إنتاج أنماط غير آمنة بكميات هائلة لم يكن بالإمكان معالجتها يدويًا. إن معرفة أصول الذكاء الاصطناعي الموجودة لا يحل سوى نصف المشكلة، أما النصف الآخر فيكمن في تقييم مخاطرها وإصلاح التعليمات البرمجية قبل نشرها، ضمن نفس سير العمل الذي كُتبت فيه.
إن نطاق الهجوم أوسع من نطاق الكود. تستهدف الهجمات الموثقة بالفعل الأصول المحيطة بالبرنامج: ترميز Unicode مخفي في ملفات القواعد يتسبب في إصدار المساعدين لمخرجات مشبوهة، وتسميم أداة MCP، وتنفيذ كامل للتعليمات البرمجية عن بُعد من خلال جسر MCP واسع الاستخدام (أكثر من 437,000 عملية تنزيل)، والاستيلاء على أسماء الحزم - تسجيل أسماء الحزم التي من المرجح إحصائيًا أن تتوهمها نماذج الذكاء الاصطناعي. SAST و SCA لا أرى أيًا من هذا.
الحل يكمن في حلقة واحدة، وليس في ثلاث أدوات: AI-SPM يقوم ببناء المخزون وقائمة مكونات الذكاء الاصطناعي؛ أمن الذكاء الاصطناعي تقييم المخاطر مقابل قائمة OWASP لأفضل 10 تطبيقات LLM؛ ديف أيه أي يقوم بإصلاح التعليمات البرمجية الضعيفة داخل بيئة التطوير المتكاملة أثناء كتابتها، ويغطي التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتعليمات البرمجية التي كتبها البشر على حد سواء، ويعترض ما ستفعله العوامل الأخرى قبل أن تفعله. ينطبق ذلك على النتائج المستخلصة من الماسحات الضوئية الخاصة بشركة Xygeni وعلى كل ما تم استيعابه بالفعل من الأدوات الموجودة — لا حاجة إلى عملية هدم واستبدال.
اعتمدت جميع فرق الهندسة تقريبًا مساعدي البرمجة المدعومين بالذكاء الاصطناعي. لكن يكاد لا يوجد أي منها قادر على الإجابة عن سؤال بسيط: ما هي نماذج الذكاء الاصطناعي، والوكلاء، وخوادم MCP التي نستخدمها فعليًا، وما هي المخاطر التي ينطوي عليها كل منها؟ هذه الفجوة لها اسم الآن. فقد عرّفت شركة غارتنر رسميًا إدارة وضع أمان الذكاء الاصطناعي. (AI-SPM) كفئة في دورة الترويج لأمن البيانات لعام 2025 — نفس السلالة التي أنتجت CSPM وDSPM. توجد هذه الفئة لأن الأرقام ملموسة: ما يقرب من 40% من التعليمات البرمجية المولدة بواسطة الذكاء الاصطناعي تحتوي على ثغرات أمنية، وأصبح الذكاء الاصطناعي الآن جزءًا من سطح الهجوم بدلاً من كونه مجرد أداة يستخدمها المطورون، ومعظم المؤسسات ليس لديها جرد منظم لأصول الذكاء الاصطناعي التي تديرها.
وهو أيضاً الموضوع الذي سنناقشه على أرض الواقع في أيام OWASP لأمن التطبيقات في البرتغال 2026في الفترة من 23 إلى 24 سبتمبر في بورتو، حيث شركة Xygeni هي راعٍ ذهبيسنتناول هذا الموضوع بمزيد من التفصيل في النهاية، ولكن إذا كنت ترغب في الانتقال إلى الجزء التالي، احصل على تذكرتك من هنا.
المشكلة: يحمل الكود المُولّد بالذكاء الاصطناعي مخاطره الخاصة.
تحتوي حوالي 40% من التعليمات البرمجية المولدة بواسطة الذكاء الاصطناعي على ثغرات أمنية. وقد وجدت أبحاث مستقلة حول مساعدي البرمجة بالذكاء الاصطناعي معدلات فشل عالية باستمرار. OWASP Top 10مع ظهور فئات معينة من الثغرات، مثل البرمجة النصية عبر المواقع، في الغالبية العظمى من العينات المُولَّدة. لا تقتصر مساعدات الذكاء الاصطناعي على كتابة التعليمات البرمجية بسرعة أكبر فحسب، بل إنها تُعيد إنتاج الأنماط غير الآمنة، والتبعيات غير الآمنة، والتكوينات غير الآمنة بسرعة أكبر أيضًا، وبكمية هائلة لم يكن أي نظام مراجعة يدوي مُصممًا للتعامل معها.
لا يقتصر نطاق الهجوم على الشيفرة البرمجية التي يكتبها المساعد، بل يمتد ليشمل أصول الذكاء الاصطناعي التي تستخدمها فرقكم بالفعل ونادراً ما تُجري عليها عمليات جرد: النماذج، ومجموعات البيانات، والوكلاء، وخوادم MCP. وقد تسبب كل منها بالفعل في هجمات حقيقية موثقة.
- باب خلفي لملف القواعد: يُخفي المهاجمون التعليمات باستخدام أحرف يونيكود غير مرئية داخل القواعد وملفات التكوين التي تقرأها أدوات مثل GitHub Copilot و Cursor، مما يتسبب في قيام المساعد بإصدار رمز خبيث دون الإشارة إليه. مُصنّف كـ دراسة حالة MITRE ATLAS.
- تسميم أدوات MCP وتنفيذ التعليمات البرمجية عن بعد: سمحت ثغرة أمنية خطيرة في جسر MCP واسع الاستخدام، تم تنزيله أكثر من 437,000 مرة، بتنفيذ التعليمات البرمجية عن بعد بالكامل في اللحظة التي يتصل فيها العميل بخادم MCP غير موثوق به.
- القرفصاء غير المنظم: أظهرت الأبحاث الأكاديمية واسعة النطاق أن أكثر من مليوني عينة برمجية عبر ستة عشر نموذجًا من نماذج التعلم الآلي للبرمجيات الخبيثة لم تكن موجودة على الإطلاق، وهي أسماء يمكن للمهاجمين تسجيلها واستخدامها كسلاح مسبقًا.
لا يظهر أي من هذا في النظام التقليدي SAST or SCA هذه الأدوات تفهم الشفرة البرمجية، لكنها لا تفهم ماهية النموذج، أو ما يفعله خادم MCP، أو ما إذا تم التلاعب بملف تكوين الوكيل.
معظم الفرق تحل نصف المشكلة
تتمثل الاستجابة الغريزية في إضافة أدوات متخصصة: واحدة لمسح النموذج، وأخرى لجدران الحماية الخاصة بمطالبات وقت التشغيل، وثالثة لـ مساعدو IDEإنه نفس الخطأ الذي ارتكبه قسم أمن التطبيقات مع SAST, SCA، ومسح الأسرار قبل خمسة عشر عامًا، وينتج عنه نفس النتيجة: رؤية مجزأة، وضجيج تنبيهات، وعدم وجود مكان واحد للإجابة على سؤال "ما هو الذكاء الاصطناعي الذي نقوم بتشغيله بالفعل، وهل هو آمن؟".
إن اكتشاف الثغرات دون معالجتها لا يُخبرك إلا بمكان المشكلة. أما معالجتها دون اكتشافها فتعني أنك تُصلح الشفرة البرمجية بينما تعمل خوادم MCP غير المصرح بها والوكلاء غير المعتمدين دون رقابة. يجب أن يُغطي أمن الذكاء الاصطناعي كلا الأمرين، على نفس المنصة، وإلا فلن يكون إدارةً للوضع الأمني. dashboard.
الطريقة الأفضل: إدارة وضع الأمان بالذكاء الاصطناعي التي تكتشف وتكشف وتصلح الثغرات الأمنية.
زيجيني أمن الذكاء الاصطناعي يغلق هذا المسار عبر عصر الذكاء الاصطناعي بأكمله SDLC، من النموذج وخادم MCP إلى نقطة نهاية المطور.
- اكتشف. يقوم نظام إدارة أداء الذكاء الاصطناعي (AI-SPM) بإنشاء جرد مباشر لجميع أصول الذكاء الاصطناعي في المؤسسة: النماذج، ومجموعات البيانات، والوكلاء، وخوادم MCP. ويثبت هذا الجرد من خلال AI-BOM، قاعدة الأدلة التي يطلبها المدققون والجهات التنظيمية بشكل متزايد، سواء كانت وثائق فنية للأنظمة عالية المخاطر بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي أو قوائم الأصول المطلوبة بموجب أطر عمل مثل ENS الإسبانية.
- يكشف. يقوم نظام أمان الذكاء الاصطناعي بتقييم كل أصل بناءً على المخاطر الحقيقية: الحقن الفوري، وتكوينات MCP غير الآمنة، وكشف البيانات، بما يتماشى مع قائمة OWASP لأهم 10 مخاطر لتطبيقات ماجستير القانونيتم ترتيب النتائج، وليس وضعها في قائمة انتظار.
- قم بإصلاح ذلك عند كتابة الكود. هذا هو المكان الذي يتم فيه توليد الذكاء الاصطناعي code security يتم حل المشكلة بالفعل. زيجيني ديف أيه أي يعمل كطبقة مستمرة داخل بيئة التطوير المتكاملة، ويقوم بالمسح التدريجي أثناء عمل المطورين مع التعليمات البرمجية المكتوبة يدويًا والمولدة بواسطة الذكاء الاصطناعي على حد سواء. ويقوم باكتشاف الثغرات الأمنية باستخدام الذكاء الاصطناعي، ويرسم الخرائط. مسارات الهجوم المدفوعة بالذكاء الاصطناعي لإظهار كيفية استغلال الخلل فعليًا، وتقديم إصلاحات آمنة مولدة بواسطة الذكاء الاصطناعي يتم التحقق من قابليتها للاستغلال ومخاطر التغيير الجذري قبل أن يقوم المطور بتطبيقها. Guardrails التحقق من صحة التغييرات مقابل سياسة الأمان والامتثال قبل وصولها إلى CI، ويقوم وكيل DevAI مخصص باعتراض ما على وشك أن يفعله الوكلاء الآخرون: التحقق من صحة ملفات المهارات والقواعد، وفحص كل حزمة يحاول الوكيل تثبيتها بحثًا عن البرامج الضارة وأنماط الاستيلاء على النطاقات، ومراقبة سلوك أداة MCP بحثًا عن التسميم، كل ذلك قبل التنفيذ.
- فرض. Shield يوسع نفس السياسة ليشمل نقطة نهاية المطور، ويحظر نشاط الذكاء الاصطناعي غير الآمن قبل تشغيله.
و بسبب فرز الذكاء الاصطناعيلا يقتصر تطبيق التفسير والمعالجة على نتائج Xygeni فحسب، بل يشمل كل شيء يتم استيعابه من الأدوات الموجودة بالفعل، وتحصل الفرق على ذلك دون الحاجة إلى إزالة ما استثمرت فيه بالفعل.
قابلوا شركة Xygeni في مؤتمر OWASP AppSec Days Portugal 2026
سننقل هذا الحوار إلى بورتو. زيجيني هو راعٍ ذهبي في أيام OWASP لأمن التطبيقات في البرتغال 2026، ادارة سبتمبر شنومكس-شنومكس في مؤسسة أنطونيو كوبرتينو دي ميراندا.
سنكون حاضرين في الفعالية لمناقشة إدارة وضعية أمن الذكاء الاصطناعي عملياً: كيف تكتشف الفرق أصول الذكاء الاصطناعي التي لم تكن تعلم بوجودها، وكيف يتم توليدها بواسطة الذكاء الاصطناعي code security يتناسب مع برنامج أمن التطبيقات الحالي بدلاً من أن يكون بجانبه، وكيف تبدو الموجة الحالية من التهديدات التي تستهدف برامج التحكم عن بعد والتهديدات التي تستهدف العملاء في الواقع.
إذا كنت ستشارك، تفضلوا بزيارة فريق Xygeni في الجناح رقم 12. إذا كانت استراتيجية أمن الذكاء الاصطناعي ضمن خططكم ولم تتمكنوا من الحضور إلى بورتو، يسعدنا أن نشرحها لكم مباشرةً. في نفس التواريخ، سنكون أيضاً في يوم OWASP الألماني 2026 في كارلسروه، والحديث عن أمن الذكاء الاصطناعي و Shieldطبقة إنفاذ القانون تحديداً.
احجز موعدًا معنا!
الأسئلة الشائعة
- ما هي إدارة وضع الأمان بالذكاء الاصطناعي (AI-SPM)؟
إدارة أداء الذكاء الاصطناعي (AI-SPM) هي منهجية لاكتشاف وحصر وتقييم مخاطر جميع أصول الذكاء الاصطناعي التي تديرها المؤسسة - من نماذج ومجموعات بيانات ووكلاء وخوادم MCP - بنفس طريقة إدارة أداء الحوسبة السحابية (CSPM) وإدارة أداء البيانات (DSPM) للبيانات. وقد صنّفتها غارتنر كفئة ضمن دورة التطور التكنولوجي لأمن البيانات لعام 2025. تقوم منصة Xygeni AI-SPM بإنشاء هذا الجرد ودعمه بقائمة مكونات الذكاء الاصطناعي (AI-BOM)، مما يوفر لفرق الأمن والامتثال أدلة يمكنهم تقديمها للمدقق.
- ما الذي يجعل الذكاء الاصطناعي code security مختلفة عن التقليدية SAST or SCA?
صُممت تقنيات التحليل الثابت التقليدية وفحص التبعيات لفهم التعليمات البرمجية والحزم، وليس المخاطر الخاصة بالذكاء الاصطناعي. فهي لا تستطيع رصد عمليات الحقن الموجه، أو القواعد أو ملفات المهارات الخبيثة، أو تسميم أدوات MCP، أو أسماء الحزم المُستولى عليها بشكل غير صحيح التي قد يُثبتها مساعد الذكاء الاصطناعي. code security يجب أن يكون موجودًا داخل نفس سير العمل الذي يستخدمه المطورون بالفعل، حيث يقوم بمسح كل من التعليمات البرمجية المكتوبة بواسطة الإنسان والتعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي معًا، وهو ما يفعله Xygeni DevAI داخل بيئة التطوير المتكاملة (IDE).
- لماذا يحتوي حوالي 40% من التعليمات البرمجية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على ثغرات أمنية؟
تتعلم برامج الذكاء الاصطناعي المساعدة في البرمجة من أنماط بيانات التدريب، بما فيها الأنماط غير الآمنة، وتُعيد إنتاجها، كما أنها تُنتج التعليمات البرمجية بسرعة تفوق بكثير قدرة المراجعة اليدوية على مواكبتها. وقد أظهرت الأبحاث المستقلة باستمرار ارتفاع معدلات ثغرات OWASP العشرة الأولى في العينات المُولّدة بواسطة الذكاء الاصطناعي، مع ظهور فئات معينة من الثغرات، مثل البرمجة النصية عبر المواقع، في الغالبية العظمى من الاختبارات.
- هل يحل نظام إدارة أداء التطبيقات المدعوم بالذكاء الاصطناعي محل أدوات أمن التطبيقات الحالية لدينا؟
لا، ولا ينبغي أن تحاول ذلك. تنطبق عمليات الفرز والتفسير والمعالجة بالذكاء الاصطناعي من Xygeni على النتائج المستخلصة من الماسحات الضوئية الخاصة بـ Xygeni وعلى النتائج المستخرجة من أدوات الطرف الثالث الموجودة بالفعل، بحيث تحصل الفرق على تغطية موحدة لمخاطر الذكاء الاصطناعي دون الحاجة إلى استبدال ما استثمروا فيه بالفعل.
- أين يمكنني رؤية هذا عملياً؟
شركة Xygeni هي راعٍ ذهبي في مؤتمر OWASP AppSec Days Portugal 2026في الفترة من 23 إلى 24 سبتمبر في بورتو، وسيكون الفريق متواجداً في الموقع في كشك شنومك التحدث عبر نظام إدارة الأداء الذكي (AI-SPM)، المُولّد بواسطة الذكاء الاصطناعي code securityوالموجة الحالية من التهديدات الإلكترونية والتهديدات التي تستهدف العملاء. احجز تذكرتك، أو تواصل معنا مباشرةً إذا لم تتمكن من الحضور إلى بورتو.
وفي نفس الأسبوع، كنا أيضاً في يوم OWASP الألماني 2026 في كارلسروه، يركز على أمن الذكاء الاصطناعي و Shieldطبقة إنفاذ القانون.
