في دراسة مضبوطة عُرضت في أمن USENIX 2025طلب الباحثون من 16 نموذجًا لغويًا ضخمًا توليد 576,000 عينة برمجية. ما يقرب من خُمس حزم البرامج مفتوحة المصدر التي أوصت بها هذه النماذج لم تكن موجودة: 205,474 اسمًا وهميًا فريدًا لحزم، تم ابتكارها من العدم. قد يكون هذا الأمر مثيرًا للفضول لو كان عشوائيًا، ولكنه ليس كذلك. فقد ظهر 43% من الأسماء المُختلقة مرارًا وتكرارًا في طلبات متكررة. لا يحتاج المهاجمون إلى تخمين ما سيخترعه مساعد البرمجة، بل يمكنهم المراقبة والانتظار وتسجيل الاسم أولًا.
هذه هي المشكلة الأساسية لـ أمن سلسلة إمداد الذكاء الاصطناعي في إحدى التجارب: تحوّل الذكاء الاصطناعي نفسه الذي يُسرّع تطوير البرمجيات إلى نقطة دخول متوقعة وسهلة الاستغلال. لم يعد السؤال المطروح أمام فرق الأمن هو ما إذا كان الذكاء الاصطناعي يؤثر على سلسلة توريد البرمجيات، بل ما إذا كان بالإمكان رصد دوره على جانبي المعركة: الذكاء الاصطناعي الذي يكتب التعليمات البرمجية، والذكاء الاصطناعي الذي يحميها. pipelineوالذكاء الاصطناعي الذي يوجهه المهاجم نحو كليهما.
ما هو أمن سلسلة التوريد بالذكاء الاصطناعي؟
أمن سلسلة التوريد المدعوم بالذكاء الاصطناعي هو ممارسة حماية سلسلة توريد البرمجيات من المخاطر التي يُدخلها أو يُفاقمها الذكاء الاصطناعي، واستخدام الذكاء الاصطناعي للدفاع عن سلسلة التوريد نفسها. ويقع هذا المفهوم عند تقاطع اتجاهين لا تزال معظم برامج الأمان تتعامل معهما بشكل منفصل: إدخال التعليمات البرمجية المُولّدة بالذكاء الاصطناعي إلى قاعدة التعليمات البرمجية، والهجمات المدعومة بالذكاء الاصطناعي التي تستهدف التبعيات والبنية. pipelineوأدوات التطوير التي تحيط بها.
يتساءل أمن التطبيقات التقليدي عما إذا كانت هناك ثغرة أمنية معروفة في أحد مكوناتها. أما أمن سلسلة توريد الذكاء الاصطناعي فيطرح أسئلة أكثر دقة وسرعة: هل هذه التبعية التي قام وكيل الذكاء الاصطناعي بتثبيتها للتو موجودة بالفعل، أم أنها مجرد وهم؟ هل تتصرف هذه الحزمة المنشورة حديثًا بشكل خبيث، على الرغم من عدم وجود توقيع لها حتى الآن؟ ما هي نماذج الذكاء الاصطناعي والوكلاء والاتصالات التي تعمل خلال دورة حياة تطوير البرمجيات، وما هي حدود وصولها؟
إن الإجابة على تلك الأسئلة بالسرعة التي يتم بها شحن السفن فعلياً هي جوهر هذا التخصص.
كيف أصبح الذكاء الاصطناعي نقطة ضعف في سلسلة التوريد
توقف المهاجمون عن تجربة الذكاء الاصطناعي منذ فترة. ويقومون الآن بدمجه في عمليات تستهدف التعليمات البرمجية وتوابعها بشكل مباشر، وليس فقط صناديق البريد الوارد. login الصفحات.
الاستيلاء على الأراضي: تسليح ما يخترعه الذكاء الاصطناعي
أصبح لهذه التقنية اسم الآن: القرفصاءصاغ هذا المصطلح سيث لارسون، مطور الأمن المقيم في مؤسسة برمجيات بايثون، في أبريل 2025. آلية عمله بسيطة وفعّالة. تقترح برامج الذكاء الاصطناعي المساعدة أسماء حزم غير موجودة بشكل روتيني. ونظرًا لتكرار هذه الاقتراحات، يستطيع المهاجم تسجيل الاسم المُختلق كحزمة خبيثة حقيقية، وينتظر المطور التالي (أو البرنامج الآلي التالي) لتثبيتها.
هذا الأمر موثق بالفعل. في عام 2023، قام باحث أمني بار لانيادو نشر حزمة فارغة مؤقتة تحت اسم كانت النماذج تهلوس به في كثير من الأحيان، Huggingface-cliفي غضون ثلاثة أشهر، تم تحميله أكثر من 30,000 ألف مرة، حتى أن أمر التثبيت الوهمي ظهر في ملف README لمستودع عام تابع لشركة تقنية كبرى. كان ذلك اختبارًا بريئًا. أما الآن، فقد أصبح نفس الأسلوب مع حمولة خبيثة حقيقية نموذجًا تجاريًا قابلًا للتكرار للمهاجمين.
تزيد برامج البرمجة الذاتية من سوء الوضع بإلغائها آخر نقطة تفتيش بشرية. فبرنامج يقوم بتثبيت التبعيات دون مراجعة يُلغي اللحظة الوحيدة التي كان بإمكان المطور فيها ملاحظة وجود خلل في الحزمة.
طرود خبيثة على نطاق صناعي
يُعدّ الاستيلاء على الأراضي بشكل غير منظم تكتيكًا واحدًا ضمن تحوّل أكبر بكثير. في عام 2025، حملات حزم البرامج الضارة ذات الحجم الكبير أصبح هذا النموذج التشغيلي الأساسي لهجمات سلسلة التوريد، كما هو الحال مع شركة Xygeni. اتجاهات جديدة لهجمات أمن التطبيقات لعام 2026 الوثائق. تبنى المهاجمون اقتصاديات البريد العشوائي: نشر حزم خبيثة بالآلاف، وقبول عمليات الإزالة السريعة، والاعتماد على الاحتمالية بدلاً من الاستمرارية. تستقبل السجلات العامة الآن مئات الآلاف من الحزم الخبيثة الجديدة سنويًا، وحتى فترة تعرض قصيرة تُلوث الإصدارات اللاحقة.
MCP: طبقة اتصال جديدة وغير آمنة إلى حد كبير
يُمكّن بروتوكول سياق النموذج (MCP) وكلاء الذكاء الاصطناعي من الاتصال بالأدوات ومصادر البيانات. كما أنه يُنشئ سطح هجوم جديدًا لا تفحصه معظم الماسحات الضوئية. إذ يمكن لخادم MCP خبيث أن يعمل بشكل خفيّ إلى جانب الخوادم الشرعية، ويمكن لأي وكيل لديه صلاحية الوصول إليه الوصول إليه. نشرت منظمة OWASP قائمة بأهم 10 ثغرات أمنية في عام 2025 لتصنيف هذه المخاطر، بدءًا من الحقن الفوري وتسميم الأدوات وصولاً إلى الخوادم غير المصادق عليها التي يمكن لأي وكيل على الشبكة الوصول إليها.
تسريب الأسرار عبر التعليمات البرمجية المولدة بواسطة الذكاء الاصطناعي
ارتفعت بيانات الاعتماد المخترقة بنسبة 160% تقريبًا في عام 2025 مقارنة بعام 2024، وفقًا لتقرير إدارة المخاطر الخارجية لشركة Check Point (المعروف سابقًا باسم Cyberintمدفوع جزئيًا بعمليات التصيد الاحتيالي المعززة بالذكاء الاصطناعي وبرامج سرقة المعلومات الخبيثة. في بيئات البرمجيات، يرتبط ذلك مباشرةً بالمفاتيح والرموز المضمنة في التعليمات البرمجية المولدة بالذكاء الاصطناعي. مساعد برمجة استوعب .env يمكن للملف في سياقه أن يعيد إنتاج سر في اقتراح، ويقوم المهاجمون بالبحث عن هذا النمط تحديدًا.
لم يختفِ البُعد البشري أيضاً. فقد وجد تقرير شركة IBM حول تكلفة اختراق البيانات لعام 2025 أن 37% من الاختراقات التي شملت الذكاء الاصطناعي استخدمت التصيد الاحتيالي المُولّد بواسطة الذكاء الاصطناعي، و35% استخدمت انتحال الشخصية بتقنية التزييف العميق، وهي تقنيات تستهدف المطورين بشكل متزايد من خلال التواصل مع مُوظّفي التوظيف المزيفين وانتحال حسابات المسؤولين عن الصيانة.
كيف تحمي تقنيات الذكاء الاصطناعي سلسلة التوريد
إنّ القدرات التي تجعل الذكاء الاصطناعي خطيراً هي نفسها التي تجعله مفيداً للمدافعين. وفي سلسلة التوريد، تتجلى هذه المقايضة بشكل أوضح في أربعة مواضع.
اكتشاف البرامج الضارة قبل التوقيع
هذه هي القدرة الأساسية. يعتمد الفحص التقليدي على انتظار توقيع معروف بأنه ضار قبل أن يتمكن من رصد حزمة، وهو ما يُعد بطيئًا جدًا من الناحية الهيكلية بالنسبة للهجمات التي تُحقق آلاف التنزيلات في غضون ساعات من النشر. أما الكشف القائم على السلوك، فيُقيّم الحزمة المنشورة حديثًا لحظة ظهورها: إجراءات التثبيت، واستدعاءات الشبكة، وأنماط التمويه، وشذوذات البيانات الوصفية. هذا يُغلق النافذة التي تعتمد عليها حملات انتحال أسماء النطاقات غير الدقيقة وانتحال أسماء النطاقات المطبعية. حملات Shai-Hulud وGlassWorm npm التي ظهرت في أواخر عام 2025، والتي أغفلتها أجهزة الكشف القائمة على التوقيعات تمامًا، هي قبلcisفي الواقع، تم تصميم تحليل السلوك لاكتشاف الحالات.
تحديد الأولويات بناءً على قابلية الاستغلال، وليس الحجم
إنّ أهمّ إسهام عملي للذكاء الاصطناعي في أمن التطبيقات الحديث لا يكمن في اكتشاف المزيد من الثغرات، بل في تقليل التشويش الناتج عن الثغرات المكتشفة بالفعل. يحدّد تحليل إمكانية الوصول ما إذا كان مسار التعليمات البرمجية المعرض للخطر يُنفّذ فعليًا. بينما يقارن تقييم قابلية الاستغلال بيانات الهجمات الواقعية برقم CVSS الخام. وبذلك، تُمكّن هذه التقنيات الفرق من التركيز على نسبة النتائج التي تُمثّل خطرًا حقيقيًا وقابلًا للاستغلال، بدلًا من فرز آلاف التنبيهات ذات الأهمية المنخفضة يدويًا.
الكشف عن الحالات الشاذة في pipeline مستوى
In استطلاع دارك تريس حول حالة الأمن السيبراني للذكاء الاصطناعي لعام 2026أشار قادة الأمن إلى أن اكتشاف التهديدات وتحديد الحالات الشاذة (72%) هو المجال الذي يُحدث فيه الذكاء الاصطناعي أكبر الأثر، متقدمًا على الاستجابة الآلية (48%) وإدارة الثغرات الأمنية (47%). ينطبق على CI/CDوهذا يعني وضع علامة على برنامج تثبيت يتصرف بشكل مختلف عن أي شيء شوهد من قبل في ذلك pipelineأو تحديث التبعية الذي يُدخل استدعاء شبكة غير متوقع.
معالجة آلية وقابلة للمراجعة
إلى جانب اكتشاف المخاطر وتصنيفها، يقوم الذكاء الاصطناعي الآن بتوليد الحل: تغيير آمن في الكود خاص بالإطار، يتم تقديمه كـ pull request بدلاً من تذكرة تتراكم وتتلف في قائمة الانتظار. IBM أظهرت دراسة أن المؤسسات التي تستخدم الذكاء الاصطناعي والأتمتة على نطاق واسع في عمليات الأمن السيبراني قلّصت دورة حياة الاختراقات الأمنية إلى 204 أيام، مقابل 284 يومًا للمؤسسات التي لم تستخدمها (أي أسرع بنحو 80 يومًا)، مع توفير ما متوسطه 1.9 مليون دولار لكل اختراق. إن اكتشاف المخاطر دون معالجتها لا يؤدي إلا إلى تأجيلها؛ بينما يساهم دمج فرز المخاطر باستخدام الذكاء الاصطناعي مع الحلول التي يُقدمها في إغلاق حلقة المعالجة.
الفجوة في الحوكمة التي لم تسدها معظم الفرق
وهنا تكمن المشكلة. فقد كشف استطلاع دارك تريس لعام 2026 أن 77% من المؤسسات تستخدم الآن الذكاء الاصطناعي التوليدي ضمن أنظمتها الأمنية، لكن 37% فقط لديها سياسة رسمية لاستخدام الذكاء الاصطناعي بأمان. وقد انخفض هذا الرقم فعلياً من 45% في العام السابق. إن تبني هذه التقنيات يتجاوز الحوكمة، ويستغل المهاجمون هذه الفجوة.
بالنسبة لفرق تطوير البرمجيات، يظهر ذلك بشكل ملموس: مساعدو البرمجة بالذكاء الاصطناعي، والوكلاء، واتصالات MCP تعمل بالفعل عبر SDLCغالبًا ما يفتقر المطورون إلى رؤية مركزية لما يصلون إليه أو ما قاموا بإدخاله. تستطيع معظم المؤسسات تحديد مزودي خدمات الحوسبة السحابية لديها، لكن قليلًا منها يستطيع تحديد جميع نماذج الذكاء الاصطناعي، والوكلاء، وخوادم MCP التي يمكن الوصول إليها من جهاز المطور. تُشكل هذه القائمة، أو ما يُعرف بقائمة مكونات الذكاء الاصطناعي (AI-BOM)، الأساس الذي يقوم عليه أمن سلسلة توريد الذكاء الاصطناعي. لا يمكنك تأمين ما لم تقم بحصره.
ما الذي يجب على فرق أمن التطبيقات فعله الآن؟
استخدم متوسط اختراق البيانات بلغت تكلفتها 4.44 مليون دولار في عام 2025 (بحسب شركة IBM)، وتُعدّ سلسلة التوريد إحدى نقاط الدخول الرئيسية. ولا يكمن الحل العملي في "تبني الذكاء الاصطناعي" بشكل نظري، بل في قائمة مختصرة وملموسة:
- قم بحصر أنواع الذكاء الاصطناعي التي تعمل في نظامك SDLC. تُعدّ النماذج والوكلاء وخوادم MCP وأدوات برمجة الذكاء الاصطناعي أصولاً. ابدأ ببناء قائمة مكونات الذكاء الاصطناعي (AI-BOM) أولاً.
- تعامل مع الكود الذي يولده الذكاء الاصطناعي كما لو كان كودًا مكتوبًا بواسطة الإنسان. الكود الذي يتم تجميعه لا يكون آمناً تلقائياً، وتستحق تبعياته نفس المراجعة التي تخضع لها أي مكونات أخرى.
- اكتشف البرامج الضارة من خلال سلوكها، وليس من خلال توقيعاتها. تعتبر عملية المسح الضوئي القائمة على التوقيع بطيئة للغاية من الناحية الهيكلية بالنسبة لحملات الطرود ذات الحجم الكبير والفترة القصيرة.
- حدد الأولويات بناءً على إمكانية الاستغلال، وليس بناءً على حجم التنبيهات. تكمن القيمة الدفاعية للذكاء الاصطناعي في فصل المخاطر الحقيقية عن الضوضاء، وليس في توليد المزيد منها.
- أتمتة المعالجة، وليس مجرد الكشف. إن الكشف بدون إصلاح لا يؤدي إلا إلى نقل قائمة الانتظار إلى مكان آخر.
إلى أين يتجه أمن سلسلة التوريد القائم على الذكاء الاصطناعي؟
سيُحدد نمطان السنوات القليلة المقبلة. أولاً، أصبحت الهجمات قابلة للتنبؤ على نطاق واسع بدلاً من أن تكون عشوائية: فالاستحواذ غير المدروس على النطاقات يُجدي نفعاً قبلcisلأن رؤى الذكاء الاصطناعي متسقة، مما يعني أن الدفاع يجب أن يتحول من الاعتماد على التوقيعات الفردية إلى التعرف على الأنماط القابلة للتوسع لتتوافق معها. ثانيًا، ينتقل الدفاع من "تنبيه العنصر البشري" إلى "تحديد المشكلة وتقييمها والاستجابة لها قبل إنشاء تذكرة دعم". المنظمات التي تحقق تقدمًا هي تلك التي ترصد سلوك الحزمة الخبيثة عند نشرها، دون انتظار كتابة رقم CVE.
الذكاء الاصطناعي هو أحدث المخاطر التي تواجهك وأفضل وسائل دفاعك، وغالبًا ما يكون ذلك في نفس النظام.
يُؤثر الذكاء الاصطناعي في اتجاهين في آنٍ واحد. فهو يُزوّد المهاجمين بأدوات آلية قابلة للتطوير، ويُمكّن المدافعين من الكشف عن التهديدات والاستجابة لها على نطاقٍ لم يكن ليتحقق بالمراجعة اليدوية. هذه الازدواجية هي تحديدًا السبب في أنه لا يُمكن اعتبار أمن سلسلة التوريد المدعوم بالذكاء الاصطناعي إضافةً ثانوية أو حظره تمامًا.
هذه هي الفجوة زيجيني تم بناؤه ليغلق. الإنذار المبكر بالبرامج الضارة (MEW) يراقب باستمرار السجلات العامة والخاصة ويكتشف الحزم الضارة في اللحظة التي يتم نشرها فيها، قبل وجود أي توقيع، باستخدام أحكام الذكاء الاصطناعي التي تم التحقق منها بواسطة فريق بحث بشري. زيجيني Shield يُفعّل هذا النظام الذكاء الاصطناعي على مستوى جهاز المطور: فهو يحظر الحزم الضارة أثناء التثبيت قبل تشغيل برامجها النصية، ويُجري جردًا لأدوات الذكاء الاصطناعي والوكلاء وخوادم MCP على كل جهاز. صُممت هذه الأدوات خصيصًا لمواجهة التهديدات التي تتناولها هذه المقالة: الاستيلاء غير المتقن على أسماء النطاقات، والاستيلاء على أسماء النطاقات بناءً على أخطاء إملائية، والخلط بين التبعيات، واختراق مسؤولي الصيانة، بما في ذلك... شاي حلود وفئات هجوم GlassWorm التي لم تتمكن الأدوات القائمة على التوقيعات من رصدها. بالإضافة إلى تحديد الأولويات بناءً على إمكانية الوصول، فإن قائمة مكونات الذكاء الاصطناعي (AI-BOM) عبر نظامك SDLCومعالجة طلبات السحب الآلية، والتعليمات البرمجية المولدة بواسطة الذكاء الاصطناعي و الهجمات المدعومة بالذكاء الاصطناعي الحصول على نفس التدقيق، دون إبطاء المطورين.
ابدأ مجاناً. خطة المطورين من Xygeni هي 0 يورو: 10 مستودعات، 200 عملية مسح شهريًا، ما يصل إلى 5 مساهمين، بدون بطاقة ائتمان. Sign up with GitHub، أو GitLab، أو Google وقم بتشغيل أول فحص لك في أقل من 10 دقائق؛ Shield ستتوفر حماية نقاط النهاية قريباً في خطة المطورين.
الأسئلة الشائعة
ما هو أمن سلسلة التوريد بالذكاء الاصطناعي؟
يحمي أمن سلسلة التوريد القائم على الذكاء الاصطناعي سلسلة توريد البرمجيات من المخاطر التي يُدخلها الذكاء الاصطناعي أو يُضخمها، مثل التبعيات الوهمية، والتعليمات البرمجية التي يُولدها الذكاء الاصطناعي والتي تحتوي على ثغرات أمنية، واتصالات MCP الخبيثة، مع استخدام الذكاء الاصطناعي أيضًا للدفاع عنها من خلال الكشف عن البرامج الضارة القائمة على السلوك، وتحديد أولويات قابلية الاستغلال، والمعالجة الآلية.
كيف يُستخدم الذكاء الاصطناعي لحماية سلسلة توريد البرمجيات؟
تُمكّن تقنيات الذكاء الاصطناعي من توفير وسائل حماية لا تستطيع الأدوات القائمة على التوقيعات مجاراتها: تقييم سلوك حزمة منشورة حديثًا لحظة ظهورها، وتحديد ما إذا كان مسار التعليمات البرمجية المعرض للخطر قابلًا للوصول إليه بالفعل، ووضع علامة على السلوك الشاذ. pipeline النشاط، وتوليد إصلاحات خاصة بالإطار كـ pull requests بدلاً من التذاكر المتراكمة.
لماذا لا تستطيع الماسحات الضوئية التقليدية رصد الهجمات التي تشنها تقنيات الذكاء الاصطناعي على سلاسل التوريد؟
تعتمد الأدوات التقليدية على التوقيعات المعروفة وقواعد بيانات الثغرات الأمنية المنشورة (CVEs)، لذا فهي لا تُشير إلى حزمة برمجية إلا بعد تحديدها كحزمة خبيثة. وتحقق حملات الحزم البرمجية واسعة النطاق وقصيرة الأمد عددًا هائلًا من التنزيلات في غضون ساعات من نشرها (قبل وقت طويل من وجود توقيع لها)، ولهذا السبب يُعد الكشف القائم على السلوك قبل ظهور التوقيع ضروريًا.
ما هي قائمة مكونات الذكاء الاصطناعي (AI-BOM) ولماذا هي مهمة؟
قائمة مكونات الذكاء الاصطناعي (AI-BOM) هي جردٌ شاملٌ لجميع نماذج الذكاء الاصطناعي، والوكلاء، واتصالات MCP العاملة خلال دورة حياة تطوير البرمجيات. تكمن أهميتها في أنه لا يمكنك تأمين ما لم تقم بجرده، كما أن معظم المؤسسات تفتقر إلى رؤية مركزية لما يمكن الوصول إليه من الذكاء الاصطناعي من جهاز المطور.
