الذكاء الاصطناعي في الأمن السيبراني

الذكاء الاصطناعي في الأمن السيبراني: أدوات الهجوم والدفاع

موظف مالي في شركة هندسية انضم أروب إلى مكالمة فيديو مع عدد من الزملاء، بمن فيهم المدير المالي للشركة. جميعهم كانوا عبارة عن مقاطع فيديو مُفبركة بتقنية الذكاء الاصطناعي. انتهت المكالمة بتحويل 25 مليون دولار للمهاجمين. لا برامج ضارة، ولا روابط تصيد احتيالي، ولا ثغرات أمنية مُستغلة: فقط الذكاء الاصطناعي، الذي استُخدم ببراعة كافية لضمان ثقة المُهاجمين. تُجسد هذه الحادثة سبب تحوّل الذكاء الاصطناعي في مجال الأمن السيبراني إلى الموضوع المحوري في هذا المجال. فالتقنية نفسها التي بُنيت عليها تقنية التزييف العميق، تُستخدم في مجالات أخرى من الصناعة، لكشف الخلل الذي كان من شأنه إيقافها. يُغطي دليل أمن الذكاء الاصطناعي هذا كلا الجانبين: كيفية هجوم الذكاء الاصطناعي، وكيفية دفاعه، وماذا يعني ذلك بالنسبة لمجالات تركيز فرق الأمن في المرحلة القادمة.

الذكاء الاصطناعي في الأمن السيبراني، في فقرة واحدة

يشير الذكاء الاصطناعي في الأمن السيبراني إلى استخدام التعلم الآلي ومعالجة اللغة الطبيعية ونماذج اللغة الكبيرة على جانبي نفس المعركة: لشن الهجمات واكتشافها وإيقافها. يستخدم المهاجمون الذكاء الاصطناعي لإنشاء محتوى تصيد احتيالي مقنع، واستنساخ الأصوات والوجوه، وفحص الأنظمة بسرعة تفوق قدرة فريق بشري. ويستخدم المدافعون نفس التقنيات الأساسية (التعرف على الأنماط عبر كميات هائلة من البيانات، وفهم اللغة الطبيعية، ونمذجة السلوك) لاكتشاف الحالات الشاذة، وتجاوز ضوضاء التنبيهات، والاستجابة قبل تفاقم الضرر. والنتيجة هي تقنية ذات استخدام مزدوج حقيقي داخل قطاع واحد، ولهذا السبب لا يُعد الذكاء الاصطناعي في الأمن السيبراني فئة ذات جانب "جيد" و"سيئ" واضحين. إنها قدرة، ومن يطبقها بشكل أسرع وأكثر فعالية يكون أكثر قدرة على التنبؤ.cisتتمتع إيلي حاليًا بالأفضلية.

الذكاء الاصطناعي كأداة للهجوم

  • التصيد الاحتيالي المُولّد بواسطة الذكاء الاصطناعي على نطاق صناعي. كان من الممكن كشف عمليات التصيد الاحتيالي سابقًا من خلال مؤشراتها: الصياغة غير المألوفة، والتحيات العامة، والمواقع الإلكترونية المزيفة بشكل واضح. وقد أزالت تقنيات الذكاء الاصطناعي معظم هذه المؤشرات. وفقًا لـ هوكس هانت تقرير اتجاهات التصيد الاحتيالي لعام 2026ارتفعت نسبة محاولات التصيد الاحتيالي التي تُولّدها برامج الذكاء الاصطناعي من 4% من إجمالي محاولات التصيد الاحتيالي المُبلّغ عنها في نوفمبر 2025 إلى 56% في ديسمبر 2025، أي بزيادة قدرها 14 ضعفًا في شهر واحد، وظلت تُشكّل حوالي 40% من إجمالي محاولات التصيد الاحتيالي المُبلّغ عنها حتى منتصف عام 2026. ولا تزال فجوة الفعالية واضحة بنفس القدر: دراسة أجريت على البشر من قبل باحثين من كلية هارفارد كينيدي أظهرت النتائج أن رسائل التصيد الاحتيالي الموجهة والمؤتمتة بالكامل بواسطة الذكاء الاصطناعي حققت نسبة نقر بلغت 54%، متفوقةً بذلك على الخبراء البشريين المهرة، ومتجاوزةً بكثير نسبة النقر البالغة 12% التي حققتها رسائل التصيد الاحتيالي العامة في المجموعة الضابطة. لا يقتصر دور الذكاء الاصطناعي على كتابة المزيد من رسائل التصيد الاحتيالي، بل يكتب رسائل فعّالة.
  • تقنية التزييف العميق التي تستهدف الثقة، وليس البنية التحتية. استخدم قضية أروب لم يعد ما سبق حالةً شاذة، بل أصبح نموذجًا. فالصوت والفيديو المُولّدان بالذكاء الاصطناعي مقنعان لدرجة كافية لاعتبارهما صوت مسؤول تنفيذي حقيقي في مكالمة مباشرة، مما يحوّل الهندسة الاجتماعية من "خداع شخص ما للنقر" إلى "خداع شخص ما ليعتقد أنه ينظر إلى المدير المالي". وهذه مشكلة أصعب بكثير بالنسبة لبرامج التدريب على التوعية الأمنية، لأن الخداع يحدث على المستوى الإدراكي، وليس على المستوى التقني.
  • استطلاع أسرع وبرامج خبيثة قابلة للتكيف. إلى جانب الهندسة الاجتماعية، تعمل تقنيات الذكاء الاصطناعي على تقصير المسافة بين "وجود فكرة لدى المهاجم" و"امتلاك المهاجم لثغرة أمنية قابلة للاستغلال". يمكن لنماذج اللغة الكبيرة تسريع البحث عن الثغرات الأمنية ضد التعليمات البرمجية والبنية التحتية العامة للهدف، ويمكن للبرمجيات الخبيثة التكيفية تغيير سلوكها أثناء التنفيذ إذا اكتشفت أنها تخضع للتحليل في بيئة معزولة، وهي قدرة كانت تتطلب في السابق وجود مشغل بشري ماهر يراقب في الوقت الفعلي.
  • هجمات على بيانات الاعتماد بسرعة الآلة. يُحوّل إدخال بيانات الاعتماد المسربة إلى نموذج لتعلم الأنماط التي يستخدمها الأشخاص فعليًا عندما يعتقدون أنهم "أذكياء" في اختيار كلمات المرور، عملية التخمين والتجربة إلى ما يشبه التنبؤ. وبالإضافة إلى حشو بيانات الاعتماد الآلي، يُحوّل هذا ما كان يُعتبر هجومًا بطيئًا ومزعجًا إلى هجوم سريع وهادئ.

الذكاء الاصطناعي كأداة دفاعية

  • الكشف عن الحالات الشاذة على نطاق لا يستطيع البشر مجاراته. تتمثل القيمة الدفاعية الأساسية للذكاء الاصطناعي في معالجة كميات هائلة من حركة مرور الشبكة. login تُحلل هذه الدراسة أنشطة النظام وسجلاته التي لا يمكن لأي فريق تحليل مراجعتها يدويًا، وتُحدد ما ينحرف عن خط الأساس المُعتمد. وهذا ما يكشف الهجمات التي لم تُكتشف بصمتها بعد، بما في ذلك ثغرات اليوم الصفر وإساءة استخدام الموظفين من الداخل، والتي لا تُفعّل التنبيهات القائمة على القواعد.
  • تقليص قائمة التنبيهات، وليس إضافتها. وهذا هو أيضاً المكان الذي يحقق فيه الذكاء الاصطناعي في مجال الأمن السيبراني أكبر عائد تشغيلي فوري، والمكان الذي لا يزال أمام الصناعة فيه عمل حقيقي للقيام به. بحث شركة Vectra AI لعام 2026 ووجدت الدراسة أن المنظمات تتلقى في المتوسط ​​2,992 تنبيهًا أمنيًا يوميًا، وأن 63% منها لا تخضع للتحقيق، و مايكروسوفت وأومديا حالة جمعية الأمن السيبراني: اتحدوا الآن أو ادفعوا لاحقاً تقرير أظهرت الدراسات أن 46% من التنبيهات تُثبت أنها إنذارات خاطئة، وأن 42% منها لا تخضع للتحقيق إطلاقًا. ولا يقتصر دور الفرز المدعوم بالذكاء الاصطناعي على إضافة كاشف آخر إلى هذه المجموعة، بل إنه، عند تطبيقه بشكل صحيح، يربط التنبيهات ذات الصلة في حادثة واحدة، ويُقيّم ما يستحق فعلاً اهتمام المحللين، ويُمكّنهم من تركيز جهودهم على التنبيهات التي تُمثل خطرًا حقيقيًا بدلاً من إغلاق البقية يدويًا.
  • تصنيف البرامج الضارة والسلوكيات بما يتجاوز التوقيعات المعروفة. يعمل نفس أسلوب تحليل السلوك الذي يشير إلى نشاط الشبكة الشاذ على الملفات والحزم أيضًا: فبدلاً من المطابقة مع قائمة التوقيعات السيئة المعروفة، يمكن للذكاء الاصطناعي تقييم سلوك وقت التثبيت، واستدعاءات النظام غير العادية، وأنماط التمويه لاكتشاف البرامج الضارة التي لم يسبق رؤيتها من قبل، في اللحظة التي تظهر فيها بدلاً من بعد تحديد بصمتها.
  • استجابة آلية ومُحكمة. إن الكشف دون اتخاذ إجراء لا يعدو كونه مضيعة للوقت. أما الاستجابة المدعومة بالذكاء الاصطناعي فتستطيع عزل الجهاز المتأثر، وحظر حركة المرور المشبوهة، وبدء عملية الاحتواء تلقائيًا، مما يقلل الفجوة بين "لقد رصدنا الأمر" و"لقد أوقفناه" من ساعات إلى ثوانٍ في الحالات الأكثر أهمية.

لماذا تُؤتي نفس الأساليب ثمارها في كلا الاتجاهين؟

الحقيقة المزعجة في هذا الدليل الأمني ​​للذكاء الاصطناعي هي أن المهاجمين والمدافعين غالبًا ما يستخدمون نفس القدرة الأساسية لأغراض متضاربة. فنمذجة اللغة الطبيعية التي تكتب رسائل بريد إلكتروني تصيدية مقنعة هي نفسها التقنية التي تقرأ رسائل البريد الإلكتروني المشبوهة وتصنفها بشكل صحيح. كما أن التعرف على الأنماط الذي يسمح للبرمجيات الخبيثة بالتكيف لتجاوز بيئة الحماية المعزولة (Sandbox) يشبه من الناحية المعمارية التعرف على الأنماط الذي يُشير إلى سلوك البرمجيات الخبيثة على أنه شاذ في المقام الأول. لا يحتكر أي من الطرفين هذه التقنية، مما يعني أن الأفضلية لمن يدمجها بشكل كامل في سير عمله الفعلي، وليس لمن يمتلك نموذجًا أكثر تطورًا.

هذا التناظر هو أيضاً سبب كون الذكاء الاصطناعي في مجال الأمن السيبراني يُضيف مخاطره الخاصة على الجانب الدفاعي. فأنظمة الذكاء الاصطناعي، إذا لم تُضبط جيداً، قد تُنتج إنذارات خاطئة تُخفي الإشارات الحقيقية وسط الضوضاء، وقد ترث تحيزاً من بيانات التدريب غير المكتملة، ما يؤدي إلى تفويت فئات كاملة من التهديدات. كما يمكن استهدافها بتقنيات معادية، حيث يُدخل المهاجم بيانات مُضللة عمداً إلى نموذج الكشف للتلاعب بما يُشير إليه. مع ذلك، لا يُعد أي من هذا سبباً لتجنب استخدام الذكاء الاصطناعي دفاعياً، بل هو سببٌ لإبقاء العنصر البشري مُشاركاً في اتخاذ القرارات، والتعامل مع نظام الذكاء الاصطناعي نفسه كشيء يحتاج إلى مراقبة، لا كشيء يُنشر مرة واحدة ويُعتمد عليه إلى الأبد.

ما يعنيه دليل أمان الذكاء الاصطناعي هذا لفريقك

خمس خطوات تفصل الفرق التي تحصل على قيمة حقيقية من الذكاء الاصطناعي في مجال الأمن السيبراني عن الفرق التي أضافت أداة أخرى فقط:

  • لا تنتظر حتى تصبح الهجمات "المدعومة بالذكاء الاصطناعي" هي الأغلبية قبل أن تستثمر في الدفاع. تُظهر بيانات التصيّد الاحتيالي أعلاه مدى سرعة تحوّل أسلوبٍ أقلّ انتشارًا إلى الأسلوب السائد. لذا، بادر ببناء قدرات الكشف قبل ازدياد الهجمات، لا أثناء حدوثها.
  • وجّه الذكاء الاصطناعي إلى قائمة الفرز أولاً، وليس فقط إلى محيطك. إن أسرع وأكثر انتصار قابل للقياس بالنسبة لمعظم الفرق هو تقليل حجم النتائج الإيجابية الخاطئة التي يتعين على المحلل إزالتها يدويًا، وليس إضافة طبقة كشف جديدة.
  • تعامل مع مخاطر التزييف العميق واستنساخ الصوت كمشكلة إجرائية، وليس كمشكلة تقنية. لا توجد أداة كشف تسد ثغرة أروب بشكل كامل. يتم التحقق خارج النطاق لأي طلب يتضمن تحويل أموال أو تغييرات في بيانات الاعتماد.
  • قم بتطبيق نفس التفكير السلوكي المدعوم بالذكاء الاصطناعي على البرمجة و pipelines، وليس مجرد حركة مرور الشبكة. يستهدف المهاجمون بشكل متزايد سلسلة توريد البرامج بشكل مباشر (حزم خبيثة، تبعيات وهمية، تعليمات وكيل غير مراجع)، وهي فئة مخاطر لها ديناميكياتها الخاصة، والتي تم تغطيتها بعمق في دليل أمن سلسلة توريد الذكاء الاصطناعي الخاص بنا.
  • يجب محاسبة شخص ما على ما يقرره الذكاء الاصطناعي. تُعد الاستجابة الآلية ذات قيمة تحديداً لأنها سريعة، ولهذا السبب أيضاً تحتاج إلى مسار تصعيد واضح عندما تخطئ في شيء ما.

إلى أين يتجه الذكاء الاصطناعي في مجال الأمن السيبراني؟

سيُحدد تحولان رئيسيان ملامح السنوات القليلة القادمة. أولًا، يتجه المهاجمون نحو استخدام أساليب أقل عددًا وأكثر إقناعًا بدلًا من الأساليب البدائية الكثيرة: فالتصيد الاحتيالي المُولّد بالذكاء الاصطناعي والتزييف العميق ليسا مجرد شبكة أوسع، بل هما أداة أكثر دقة. ثانيًا، ينتقل المدافعون من مرحلة "الكشف والتنبيه البشري" إلى مرحلة "الكشف والتقييم والتصرف قبل تسجيل أي بلاغ"، وهو التحول الذي يُقلص الفجوة بين 2,992 تنبيهًا يوميًا تواجهها معظم مراكز عمليات الأمن السيبراني، ونسبة ضئيلة منها فقط تخضع للمراجعة الفعلية. المؤسسات الرائدة هي تلك التي تُطبّق هذا التحول في كل مكان يتداخل فيه الذكاء الاصطناعي مع بيئتها، بما في ذلك الشيفرة البرمجية التي يُصدرها مطوروها، وليس فقط حركة البيانات التي تعبر محيط شبكتها.

رأي شركة Xygeni: يجب أن يشمل أمن الذكاء الاصطناعي الشفرة البرمجية، وليس فقط صندوق البريد الوارد.

معظم التغطية الإعلامية للذكاء الاصطناعي في مجال الأمن السيبراني تتوقف عند مركز عمليات الأمن السيبراني: التصيد الاحتيالي، والبرمجيات الخبيثة، وشذوذ الشبكة. هذا ضروري، ولكنه غير مكتمل أيضاً، لأن جزءاً متزايداً من المخاطر الناجمة عن الذكاء الاصطناعي يكمن الآن داخل دورة حياة تطوير البرمجيات نفسها، حيث لا تشملها أدوات مركز عمليات الأمن السيبراني.

زيجيني CoreAI يطبق نفس التفكير السلوكي القائم على رصد الحالات الشاذة الموضح في هذا الدليل على أمن التطبيقات تحديدًا: ربط النتائج عبر الماسحات الضوئية الحالية (ليس فقط زيجيني (خاصة)، وتقييم ما يمكن استغلاله فعلياً بدلاً من إغراق الفرق بكمية هائلة من التنبيهات، وشرح سبب أهمية خطر معين، ووضع خطة للمعالجة. pull request بدلاً من تذكرة أخرى متراكمة. ديف أيه أي يمتد هذا النهج الدفاعي نفسه ليشمل أحدث جزء من سطح الهجوم: برامج الذكاء الاصطناعي التي تبرمج العملاء والمساعدين، والتحقق من صحة ملفات المهارات وتعليمات العملاء، ومنع التثبيت الضار قبل أن يتفاعل معه أي عميل. والهدف هو نفسه الذي يدعو إليه هذا الدليل على مستوى مركز عمليات الأمن، مطبقًا على... pipeline: تحويل ميزة الذكاء الاصطناعي على الحجم والسرعة إلى ميزة للمدافع بدلاً من المهاجم.

ابدأ مجاناً. Sign up with GitHub، أو GitLab، أو Google واحصل على رؤية لما يصل إلى 25 مستودعًا و50 عملية مسح بالذكاء الاصطناعي شهريًا بدون تكلفة، ولا يلزم وجود بطاقة ائتمان.

الأسئلة الشائعة

ما هو دور الذكاء الاصطناعي في الأمن السيبراني؟ 

يُعرَّف الذكاء الاصطناعي في مجال الأمن السيبراني بأنه استخدام التعلم الآلي ومعالجة اللغة الطبيعية ونماذج اللغة الضخمة في كلٍّ من الهجوم والدفاع. يستخدمه المهاجمون لإنشاء محتوى تصيّد احتيالي مقنع، وفيديوهات مزيفة بتقنية التزييف العميق، وبرامج خبيثة متكيفة؛ بينما يستخدم المدافعون نفس التقنيات الأساسية لاكتشاف الحالات الشاذة، وفرز التنبيهات، والاستجابة الآلية.

هل الذكاء الاصطناعي أكثر خطورة كأداة هجوم أم أكثر فائدة كأداة دفاع؟ 

لا يتمتع أي من الطرفين بميزة دائمة، لأن كلاهما مبني على نفس القدرات الأساسية. إن المنظمات الأكثر عرضة للخطر هي تلك التي لم تُطبّق الذكاء الاصطناعي دفاعيًا بنفس سرعة تطبيقه هجوميًا من قِبل المهاجمين، وليس تلك التي تواجه فجوة تكنولوجية لا تستطيع سدّها.

هل يمكن للذكاء الاصطناعي أن يحل محل المحللين البشريين بشكل كامل في مركز عمليات الأمن السيبراني؟ 

لا، ومخاطر محاولة ذلك (النتائج الإيجابية الخاطئة الناتجة عن نماذج غير مضبوطة جيدًا، والتحيز الناتج عن بيانات تدريب غير مكتملة، والتلاعب المُعادي بنظام الكشف نفسه) هي تحديدًا سبب ضرورة الإشراف البشري. تكمن القيمة الحقيقية للذكاء الاصطناعي في إنجاز المهام المتراكمة حتى يتمكن المحللون من التركيز على القرارات التي لا تزال تتطلب تدخلًا بشريًا.

كيف يختلف خطر الهجمات التي يقودها الذكاء الاصطناعي بالنسبة لفرق تطوير البرمجيات تحديداً؟ 

إلى جانب عمليات التصيد الاحتيالي والتزييف العميق، تواجه فرق التطوير مخاطر خاصة بالذكاء الاصطناعي داخل SDLC في جوهرها: برامج الذكاء الاصطناعي التي تُثبّت تبعيات وهمية أو خبيثة، وتعليمات غير مُراجعة في ملفات المهارات، وشفرة مُولّدة بواسطة الذكاء الاصطناعي تُعيد إنتاج أسرار مُضمّنة. هذا الجانب من الذكاء الاصطناعي في الأمن السيبراني مُغطّى بمزيد من التفصيل في مقالنا دليل أمن سلسلة التوريد للذكاء الاصطناعي. 

أدوات تحليل التركيبات البرمجية sca
إعطاء الأولوية للمخاطر التي تتعرض لها برامجك، ومعالجتها، وتأمينها
احصل على حسابك المجاني.
أي بطاقة ائتمان.

قم بتأمين تطوير البرامج الخاصة بك وتسليمها

مع مجموعة منتجات Xygeni