لم يعد أمن وكلاء الذكاء الاصطناعي يتعلق بما يقوله النموذج، بل يتعلق بما يفعله الوكيل: الأدوات التي يستدعيها، والبيانات التي يقرأها، وبيانات الاعتماد التي يمتلكها، والحزم التي يثبتها بنفسه.
ومعظم الفرق لا تستطيع الإجابة على السؤال الأول: ما هي البرامج التي نقوم بتشغيلها فعليًا؟ فهي موجودة في مستودعات على شكل رسوم بيانية لـ LangChain، وخوادم MCP، SKILL.md ملفات وأدوات برمجة الذكاء الاصطناعي التي قام مطورون أفراد بتكوينها بعد ظهر يوم الجمعة. لم يراجعها أحد، والمهارة الخبيثة مجرد نص عادي.
TL؛ DR
أمن وكلاء الذكاء الاصطناعي في أربع خطوات: رصده، تقييمه، تأمين الحلقة، حماية عمليات التثبيت
لا يمكنك تأمين العملاء الذين لا تراهم. يبدأ أمان عملاء الذكاء الاصطناعي بجرد كل عميل، وخادم MCP، ومهارة، ونموذج، وأداة برمجة الذكاء الاصطناعي في التعليمات البرمجية الخاصة بك.
- المخاطر في كيفية بناء الوكلاء: مطالبات تجمع مدخلات المستخدم، ووكلاء استدعاء الأدوات بدون guardrailsبيانات اعتماد ومهارات ذات امتيازات مفرطة مع تعليمات مخفية. معظمها مرئي في الكود، قبل النشر، ويرتبط بـ قائمة OWASP لأهم 10 تطبيقات وكلاء.
- الأمن داخل الحلقة: تحتاج برامج البرمجة إلى الأمان داخل حلقة عملها، لذا فهي تفحص وتصلح ما تكتبه قبل أن يصبح متاحًا للاستخدام. commitتيد، وليس بعد أسابيع في تذكرة.
- حماية المنشآت: تقوم البرامج الوسيطة بتثبيت التبعيات أيضًا. ويغطي نظام الكشف عن البرامج الضارة، الذي يعمل قبل وجود التوقيع، الحزم الضارة بغض النظر عمن يقوم بتثبيتها، سواء كان مطورًا أو برنامجًا وسيطًا.
- سير عمل واحد: تخضع نتائج الذكاء الاصطناعي لنفس عمليات الفرز والتذاكر والتقارير التي تخضع لها بقية نتائج أمن التطبيقات الخاصة بك.
الخطوة الأولى: قم بإنشاء قائمة جرد للذكاء الاصطناعي في مستودعاتك، وقم بتصديرها كقائمة مكونات الذكاء الاصطناعي (AI-BOM)، ثم قم بتفعيل رمز الوكيل الجديد في التكامل المستمر (CI).
لماذا يُعدّ أمن وكلاء الذكاء الاصطناعي مشكلة مختلفة؟
تُعيد خاصية إدارة دورة حياة التطبيق (LLM) نصًا، ويقرر المستخدم كيفية التعامل معه. يُكمل البرنامج البرمجي هذه العملية تلقائيًا: فهو يُخطط، ويستدعي الأدوات، ويقرأ صفحات الويب، والرسائل الإلكترونية، والمستندات، ويكتب الملفات، ويُنفذ الأوامر. كل قدرة تُمنح للبرنامج البرمجي هي قدرة يُمكن للمهاجم استغلالها.
وقد ميّزت منظمة OWASP الأمر نفسه. قائمة OWASP لأهم 10 ثغرات أمنية في تطبيقات الوكلاء لعام 2026 (من ASI01 إلى ASI10) مبني على قائمة OWASP لأهم 10 مخاطر لتطبيقات ماجستير القانون: قائمة LLM تغطي ما يقوله النموذج؛ قائمة الفاعلية تغطي ما يفعله الفاعل.
تدير معظم المنظمات الآن نوعين من الوكلاء:
- الوكلاء الذين تقوم بدمجهم في تطبيقاتك: مساعدو الدعم، والطيارون المساعدون الداخليون، وسير العمل المبني باستخدام أطر عمل مثل LangChain وLangGraph وCrewAI وAutoGen وSemantic Kernel أو LlamaIndex، والتي غالبًا ما تكون متصلة بالأدوات من خلال خوادم MCP.
- يستخدم مطورو البرامج لديك وكلاء برمجة الذكاء الاصطناعي التاليين: Claude Code و Cursor و GitHub Copilot و Windsurf وغيرها، والتي تقوم بكتابة التعليمات البرمجية وتعديل التكوين وإضافة التبعيات.
يجب أن يغطي أمان وكيل الذكاء الاصطناعي كلا الأمرين، لأن كلاهما يعمل بصلاحياتك.
الخطوة 1: جرد كل وكيل وخادم MCP ومهارة
يبدأ أمن وكلاء الذكاء الاصطناعي بلوحة أسئلة، ويسأل المدققون الآن: ما نوع الذكاء الاصطناعي الذي نقوم بتشغيله؟ شركة زيجيني للأمن الذكي يجيب على ذلك من المصدر: الكود، والتكوين، والبيانات، والتبعيات.
يكتشف النماذج والوكلاء وخوادم الوكلاء وأطر الذكاء الاصطناعي وخوادم MCP وأدواتها ومهاراتها (SKILL.md, AGENTS.md، مطالبات، guardrailsمخازن المتجهات، ومجموعات البيانات، ونقاط نهاية الاستدلال، وأدوات برمجة الذكاء الاصطناعي المُهيأة في مستودعاتك. كما يوضح كيفية اتصالها: أي وكيل يستخدم أي نموذج، وينفذ أي أدوات، ويستدعي أي خوادم MCP.
والنتيجة هي جرد حي للذكاء الاصطناعي، قابل للتصدير كقائمة مكونات الذكاء الاصطناعي بتنسيق CycloneDX، مع سجل حوكمة لكل أصل يتضمن حقل فئة المخاطر الخاص بقانون الذكاء الاصطناعي للاتحاد الأوروبي.
هل تريد أن ترى ما هي تقنيات الذكاء الاصطناعي الموجودة بالفعل في التعليمات البرمجية الخاصة بك؟ احجز جلسة مع مهندس، وسنقوم ببناء مخزون الذكاء الاصطناعي لأحد مستودعاتك.
الخطوة الثانية: تحديد المخاطر الكامنة في كيفية بناء الوكلاء
معظم ثغرات الوكلاء ليست نادرة. إنها عبارة عن موجه أوامر مبني على دمج السلاسل النصية، أو وكيل يستدعي أداة دون أي ضوابط على المدخلات، أو بيانات اعتماد ذات نطاق أوسع بكثير مما يحتاجه الوكيل. جميعها تترك بصمات في الكود، مما يتيح لك اكتشافها في بيئة التكامل المستمر قبل النشر.
مخاطر وكلاء الذكاء الاصطناعي التي يمكنك اكتشافها في الكود
يرتبط كل خطر بـ قائمة OWASP لأهم 10 مخاطر لتطبيقات ماجستير القانون أو شركائها من الجهات الفاعلة، بحيث تتحدث النتائج نفس لغة المدققين لديك.
| المخاطرة المالية | كيف يبدو ذلك في الكود؟ | خريطة OWASP |
|---|---|---|
| الحقن الفوري | تُرسل الأنظمة تنبيهات تُدمج محتوى المستخدم دون فصل الأدوار أو استخدام الفواصل أو guardrails | 01 ماجستير |
| الحقن غير المباشر | وكلاء استدعاء الأدوات بدون مدخلات guardrailsأو البرامج التي تستقبل صفحات الويب أو رسائل البريد الإلكتروني أو المستندات المسترجعة دون تنظيفها | 01 ماجستير |
| معالجة المخرجات غير الآمنة | وصول مخرجات النموذج eval أو غيرها من المصارف الخطرة، التي تم تتبعها عبر الوظائف والملفات | 05 ماجستير |
| هويات الوكلاء ذوي الامتيازات المفرطةإساءة استخدام الهوية غير البشرية | بيانات اعتماد ثابتة طويلة الأمد، وبيانات اعتماد مشتركة بدون تضييق النطاق، وخوادم MCP أو خوادم الأدوات التي تعمل بصلاحيات مرتفعة. | ASI03 |
| مهارات خبيثة أو منتهكة بأخطاء إملائيةسلسلة توريد مهارات الوكلاء | توجيهات خبيثة مخفية في SKILL.md or AGENTS.mdأسماء المهارات التي تحاكي المهارات أو عمليات التكامل المعروفة | أفضل 10 مهارات وكلاء |
| أسرار في المطالبات | بيانات الاعتماد المخزنة داخل ملفات المطالبات | 07 ماجستير |
يحمل كل اكتشاف فئة OWASP LLM Top 10 الخاصة به، بالإضافة إلى علامات OWASP Agentic Applications و Agentic Skills حيثما ينطبق ذلك، وأساليب هجوم الفريق الأحمر المعنية.
تستحق المهارات اهتمامًا خاصًا لأن التعليمات الخبيثة في ملف المهارة عبارة عن نص، وليست شفرة برمجية، ولا يمكن لأي توقيع كشفها. يقوم نظام مراجعة الذكاء الاصطناعي، الذي يُفعّل تلقائيًا، بتقييم الغرض من ملفات تعليمات المهارات والوكلاء التي تم الإبلاغ عنها، وذلك باستخدام إعداد مُحدد ومُؤرشف، بحيث يحصل الملف نفسه دائمًا على النتيجة نفسها. يمكن تشغيله على نموذجك المُستضاف ذاتيًا، فلا داعي لنقل الشفرة البرمجية والمطالبات خارج بيئتك. بعد ذلك، يدمج تقييم مستوى المهارة هذه الإشارات في إجابة واحدة: آمن، أو تحذير، أو عدم التثبيت.
التعمق أكثر: شاهدوا جلستنا نطاق الانفجار: عندما يلمس العميل ما لم تطلبه، حول ما يحدث عندما تتجاوز صلاحيات الوكيل نطاق مهمته.
الخطوة 3: ضع الأمان داخل حلقة وكيل الترميز
تقوم برامج الذكاء الاصطناعي بكتابة و commit يتم كتابة الكود بسرعة تفوق قدرة أي شخص على مراجعته. نادرًا ما يتم إصلاح الخلل الذي يظهر في تذكرة الدعم بعد أسبوعين. يجب أن يتم الإصلاح أثناء عمل النظام.
يعمل خادم Xygeni MCP محليًا ويتوافق مع أي وكيل برمجة ذكاء اصطناعي يدعم MCP، بغض النظر عن النموذج الذي يعمل عليه. يمكن للوكيل فحص الكود الذي كتبه للتو، وعرض قائمة بالمشاكل الجديدة، والحصول على تقييمات فرز الذكاء الاصطناعي، وطلب إصلاحات لـ SAST و SCA النتائج. وتستمر العملية حتى يصبح التغيير نظيفًا، قبل أي شيء آخر. commitتيد، مع الموافقات التي يحددها فريقك.
يستخدم نفس المحركات والسياسات وقواعد كتم الصوت التي تستخدمها أنت pipelineلذلك، لا يختلف الوكيل ونظام التكامل المستمر الخاص بك أبدًا. بالنسبة للمطورين الذين يعملون جنبًا إلى جنب مع الوكيل، فإن إضافات بيئة التطوير المتكاملة قم بتطبيق نفس النتائج والإصلاحات على المحرر.
الخطوة الرابعة: حماية البرامج التي يتم تثبيتها
بإمكان برنامج ذكاء اصطناعي مُبرمج إضافة تبعية من تلقاء نفسه، دون أن يتوقف للتحقق من شرعية حزمة جديدة تحمل اسمًا مألوفًا. يعرف المهاجمون ذلك، ويستغلون سجلات البرامج مفتوحة المصدر.
الدفاع ضد البرامج الضارة يقوم النظام بالإبلاغ عن الحزم الخبيثة قبل وجود توقيع لها، بغض النظر عمن قام بتثبيتها، سواء كان مطورًا أو وكيلًا. على جهاز المطور، Shield يفرض السياسة قبل تشغيل أي شيء: الحد الأدنى لعمر الحزم الجديدة، وتغطية ملحقات IDE والمكونات الإضافية، وحظر المؤشرات الضارة والمناطق الجغرافية الخطرة، وعزل نقطة النهاية عندما يلزم احتواء جهاز ما.
هل تريد أن تذهب أعمق؟
يُعدّ الخلل في المعالج ونقطة النهاية المكشوفة التي تصل إليه مشكلة واحدة، تقع مسؤوليتها على عاتق جهة واحدة. وإذا كنت تستخدم بالفعل أداة DAST أخرى، فإن Xygeni تستورد نتائجها إلى نفس عرض المخاطر، دون أن تطلب منك استبدالها.
هل تريد أن ترى الطبقتين تعملان معًا؟ شاهدوا جلستنا من الكود إلى وقت التشغيل: لماذا؟ SAST يُعد كل من DAST وDAST عنصرين أساسيين لأمن التطبيقات الحديث، حيث نستعرض بالتفصيل كيف تؤكد نتائج الكود واختبارات وقت التشغيل بعضها البعض.
سير عمل واحد، وليس وحدة تحكم أخرى
يفشل أمان وكيل الذكاء الاصطناعي عندما يصبح أداة منفصلة ذات مسار عمل خاص بها. أما في Xygeni، فتمر نتائج الذكاء الاصطناعي عبر نفس المسار. فرز الذكاء الاصطناعيوتشمل هذه النتائج التذاكر والتقارير. يوفر نظام معالجة الذكاء الاصطناعي إرشادات إصلاح تراعي السياق لجميع فئات OWASP LLM العشر، ASPM يضع مخاطر الذكاء الاصطناعي بجانب الكود والتبعية و pipeline المخاطرة من وجهة نظر واحدة.
أمن وامتثال وكلاء الذكاء الاصطناعي
يطلب المنظمون والمدققون والعملاء بشكل متزايد جردًا لأنظمة الذكاء الاصطناعي التي تستخدمها وكيفية تصنيف مخاطرها. قانون الاتحاد الأوروبي للذكاء الاصطناعي و ISO / IEC 42001 كلاهما يدفعان في هذا الاتجاه، وأصبح نظام الذكاء الاصطناعي لقوائم المواد (AI-BOM) standard بند في استبيانات المشتريات.
يُوفر جرد الذكاء الاصطناعي، الذي يتضمن خانة لتصنيف المخاطر لكل أصل، لفريق الحوكمة لديك قاعدة بيانات تدعم هذا العمل. وهو يدعم الاستعداد لقانون الذكاء الاصطناعي في الاتحاد الأوروبي؛ ولا يُعد تقييمًا للمطابقة، ولا يُغني عن المراجعة القانونية.
أو الفرق متوسطة الحجم أمر بسيط:
- على كل pull request: أمان واجهة برمجة التطبيقات في التكامل المستمر على الكود المُعدَّل، بالإضافة إلى عمليات فحص DAST التزايدية.
- قبل commit: ك pre-commit بوابة على الملفات المرحلية.
- ليلاً أو عند الدمج: فحص كامل بتقنية DAST.
- قبل كل إصدار رئيسي: تم استخدام اختبار الاختراق بالذكاء الاصطناعي على بيئة الاختبار للتحقق من صحة قائمة المهام المتراكمة والتأكد من أن كل إصلاح قد سد الثغرة.
يعمل ماسح أمان واجهة برمجة التطبيقات في أي مكان، بما في ذلك البيئات المعزولة عن الإنترنت، ويرسل تقاريره إلى Xygeni SaaS أو إلى نظامك السحابي. on-premiseالمنصة. تظهر النتائج بصيغة JSON. ساريف 2.1.0، CSV، و Markdown لـ pull request التعليقات.
اختبار أمان واجهة برمجة التطبيقات والامتثال
بالنسبة للفرق العاملة في قطاعات البنوك والتأمين والقطاع العام، يُعد اختبار أمان واجهات برمجة التطبيقات (API) دليلاً أيضاً. ويحمل كل اكتشاف علامات امتثال لـ المادة 32 من اللائحة العامة لحماية البيانات, بي سي آي دي إس إس 4.0 (المتطلبات 3.4، 6.4.3، 7.1، 7.2 و8) و نيست SP 800-53 (AC-3، AC-6، IA-2، IA-5)، مرئية في المنصة وفي مخرجات JSON و SARIF.
إذا كانت مؤسستك تندرج تحت DORA or NIS2يوفر لك اختبار وقت التشغيل أدلة مستمرة بين اختبارات الاختراق اليدوية التي لا تزال الجهات التنظيمية تطلبها.
كيفية تطبيق أمان وكلاء الذكاء الاصطناعي في 7 خطوات
إليكم قائمة التحقق العملية، بالترتيب الذي يجعل أمان وكيل الذكاء الاصطناعي يعمل بأسرع ما يمكن في فريق تطوير حقيقي.
- اكتشف
قم بجرد جميع أصول الذكاء الاصطناعي في مستودعاتك
افحص جميع المستودعات بحثًا عن الوكلاء، وخوادم MCP، والمهارات، والنماذج، والمطالبات، وأدوات برمجة الذكاء الاصطناعي، ثم صدّر النتيجة كملف AI-BOM. هذه هي خط الأساس، والقائمة التي تُبنى عليها جميع الخطوات الأخرى.
- صنف
حدد لكل وكيل مالكًا ومستوى مخاطرة
لكل وكيل، سجّل الجهة المالكة له، والبيانات والأدوات التي يمكنه الوصول إليها، وفئة المخاطر الخاصة به وفقًا لقانون الذكاء الاصطناعي للاتحاد الأوروبي. الوكيل الذي لا يملكه أحد هو وكيل لن يقوم أحد بإصلاحه.
- كشف
امسح رمز الوكيل في CI في كل pull request
قم بتشغيل خاصية الكشف عن المخاطر باستخدام الذكاء الاصطناعي بجانب عمليات الفحص الأخرى. ابدأ في وضع عدم الحظر لمعرفة الوضع الأساسي، ثم قم بحظر عمليات الدمج بناءً على النتائج الحرجة بمجرد أن تقوم الفرق بتنظيفها.
- التقييم
راجع المهارات قبل أن يقوم أي شخص بتثبيتها
قم بمسح ملفات المهارات وتعليمات الوكلاء مثل:
SKILL.mdوAGENTS.mdقم بتشغيل مراجعة نوايا الذكاء الاصطناعي، واعتبر قرار "عدم التثبيت" بمثابة توقف نهائي. - حصر
تصاريح وكيل الانكماش
استبدل بيانات الاعتماد الثابتة طويلة الأمد ببيانات اعتماد محددة النطاق، وتوقف عن مشاركة بيانات الاعتماد بين الوكلاء، ولا تقم أبدًا بتشغيل خوادم MCP أو خوادم الأدوات بامتيازات مرتفعة لا يحتاجون إليها.
- إصلاح في الحلقة
ضع الأمن داخل حلقة وكيل الترميز
قم بتوصيل وكلاء البرمجة بالذكاء الاصطناعي بخادم MCP أمني حتى يتمكنوا من فحص وتصحيح التعليمات البرمجية الخاصة بهم قبل أن تصبح غير صالحة للاستخدام. commitتيد، بنفس السياسات التي تتبعها أنت pipeline.
- حماية
احمِ ما يتم تحميله على أجهزة المطورين
فرض حد أدنى لعمر الحزم الجديدة، والكشف عن الحزم الضارة قبل وجود توقيع لها، وتغطية ملحقات وإضافات بيئة التطوير المتكاملة، بغض النظر عمن يقوم بتثبيتها، سواء كان مطورًا أو وكيلًا.
ثم: قم بتوجيه كل اكتشاف إلى نفس عملية الفرز والتذاكر وإعداد التقارير مثل بقية قسم أمن التطبيقات لديك، حتى لا ينتهي الأمر بمخاطر الذكاء الاصطناعي في قائمة انتظار خاصة بها.
لا يمكنك التعاقد مع وكيل لم تقابله من قبل
لا يقتصر أمن وكلاء الذكاء الاصطناعي على مجرد ماسح ضوئي إضافي. بل يتطلب معرفة الوكلاء الذين تستخدمهم، واكتشاف المخاطر الكامنة في طريقة بنائهم، وتطبيق إجراءات أمنية داخل حلقة برمجة الوكيل، وحماية الوكلاء الذين يتم تثبيتهم. ابدأ بجرد الوكلاء: فكل شيء آخر يعتمد عليه.
هل تريد رؤية كل وكيل وخادم MCP ومهارة في التعليمات البرمجية الخاصة بك؟ احجز جلسة مع مهندس لإنشاء قائمة جرد الذكاء الاصطناعي لمستودعاتك ومراجعة نتائجها. أو ابدأ مجانًا مع منظمة العفو الدولية SAST, SCAكشف الأسرار، وإضافات بيئة التطوير المتكاملة، وكشف البرامج الضارة في حزم البرامج مفتوحة المصدر. لا حاجة لبطاقة ائتمان.
الأسئلة الشائعة حول أمان وكلاء الذكاء الاصطناعي
كيف يختلف أمن وكلاء الذكاء الاصطناعي عن أمن إدارة دورة حياة التطبيق؟
يرتكز أمن نماذج التعلم الآلي على ما يُشير إليه النموذج: البيانات المُسرّبة، والإجابات المُتلاعب بها، والمخرجات غير الآمنة. أما أمن وكلاء الذكاء الاصطناعي فيركز على كيفية استخدام الوكيل للأدوات والذاكرة وبيانات الاعتماد والوكلاء الآخرين. ولهذا السبب، تنشر OWASP قائمة منفصلة بأهم عشرة مخاطر لتطبيقات الوكلاء (من ASI01 إلى ASI10) بالإضافة إلى قائمة أهم عشرة مخاطر لنماذج التعلم الآلي.
كيف يمكنني العثور على وكلاء الذكاء الاصطناعي وخوادم MCP في مؤسستي؟
ابدأ من الكود. يكتشف برنامج Xygeni AI Security العملاء، وخوادم MCP، والمهارات، والنماذج، والمطالبات، وأدوات برمجة الذكاء الاصطناعي في مستودعاتك، ويرسم خريطة لكيفية اتصالها، ويُصدّر النتيجة كقائمة مكونات الذكاء الاصطناعي (AI-BOM) بتنسيق CycloneDX. يعمل البرنامج في بيئة التكامل المستمر (CI) بجانب عمليات الفحص الأخرى.
هل يمكن لمهارة خبيثة أو خادم MCP أن يخترق مطوريّ؟
نعم: تعليمات المهارة عبارة عن نص عادي، وسيتبعها وكيلٌ بصلاحيات المطور. يُشير Xygeni إلى التوجيهات الخبيثة المخفية وأسماء المهارات المُنتحلة، ويمكنه تقييم غرض المهارة من خلال مراجعة الذكاء الاصطناعي الاختيارية، ويُصنّف كل مهارة على أنها آمنة أو تتطلب الحذر أو لا تُثبّت. الدفاع ضد البرامج الضارة و Shield تغطية الحزم والإضافات التي يجلبها وكلاء المبيعات.







