اسأل أي مسؤول أمني عن عدد أدوات الذكاء الاصطناعي التي تتعامل مع بيانات الشركة حاليًا، وستحصل على رقم دقيق. لكنه سيكون خاطئًا، وليس لأن أحدًا يخفي شيئًا. فمعظم أدوات الذكاء الاصطناعي غير المصرح بها لا تترك مجالًا للاكتشاف: لا تثبيت، ولا ترخيص، ولا حتى بند في سجل النظام. كل ما تحتاجه هو علامة تبويب في المتصفح وحساب شخصي. login يكفي هذا. إن الفجوة بين الذكاء الاصطناعي الذي تغطيه سياستك والذكاء الاصطناعي الذي تستخدمه مؤسستك فعليًا هي ما يُؤجج مخاطر الذكاء الاصطناعي الخفي، وقد تطورت هذه المخاطر من مجرد هامش في مجال تكنولوجيا المعلومات إلى واحدة من أسرع الفئات نموًا في أمن التطبيقات. يُغطي هذا الدليل كيفية اكتشاف الذكاء الاصطناعي الخفي والقضاء عليه عمليًا، مع توضيح مؤشرات الكشف وخطوات الحوكمة التي تظل فعّالة بعد انتهاء التدقيق.
مخاطر الذكاء الاصطناعي الخفي في فقرة واحدة
الذكاء الاصطناعي الخفي هو أي أداة أو نموذج أو وكيل أو استدعاء واجهة برمجة تطبيقات يعمل داخل مؤسستك دون مراجعة أمنية أو تقنية. يُعدّ الذكاء الاصطناعي الخفيّ الوريث المباشر لتقنية المعلومات غير الرسمية، لكن يصعب اكتشافه: فتقنية المعلومات غير الرسمية عادةً ما تترك سجلّ مشتريات أو بصمة شبكية يمكن لمركز أمن الوصول إلى السحابة (CASB) مطابقتها. أما الذكاء الاصطناعي الخفيّ، فغالبًا لا يترك أيًّا منهما. إذ يقوم موظف بلصق عقد في روبوت محادثة مسجّل دخوله بحسابه الشخصي، أو يقوم مطوّر برامج بربط مفتاح واجهة برمجة التطبيقات (API) من مزوّد نماذج مباشرةً في نص برمجي، دون أن يؤثر أيٌّ من ذلك على مخزون المورّد. ويُظهر رقمان مستقلّان حجم المخاطر المتراكمة للذكاء الاصطناعي الخفيّ: 80% من الموظفين يستخدمون أدوات ذكاء اصطناعي لم تُعتمدها مؤسساتهم، وفقًا لتقرير "حالة الذكاء الاصطناعي الخفيّ" الصادر عن شركة "أن سين سكيورتي" لعام 2026، و86% من المؤسسات تُصرّح بأنها تفتقر إلى الرؤية الواضحة لكيفية تدفّق البيانات من وإلى أدوات الذكاء الاصطناعي المستخدمة حاليًا.
لماذا تجاوزت مخاطر الذكاء الاصطناعي الخفي مخاطر تكنولوجيا المعلومات الخفية؟
ثلاثة تحولات تفسر سبب تحرك مخاطر الذكاء الاصطناعي الخفي بشكل أسرع من الحوكمة التي تم بناؤها لاصطياد تكنولوجيا المعلومات الخفية، ولا يمكن عكس أي منها.
- لم يعد الذكاء الاصطناعي بحاجة إلى تثبيت. الأدوات التي شكّلت مفهوم تكنولوجيا المعلومات الخفية (برامج SaaS غير المصرح بها، وإضافات المتصفح غير المصرح بها) تركت آثارًا في سجلات الأصول. فمساعد الذكاء الاصطناعي الذي يُفتح في علامة تبويب المتصفح، أو واجهة برمجة التطبيقات النموذجية التي تُستدعى باستخدام بطاقة شخصية، لا تترك أي شيء يمكن لأنظمة مراقبة نقاط النهاية أو قسم المشتريات رصده.
- تم دمج الذكاء الاصطناعي داخل الأدوات التي وافقت عليها بالفعل. أصبحت ميزات شبيهة بميزات مساعد الطيار متوفرة الآن مدمجة في المنصات المدرجة بالفعل في القائمة المسموح بها. خضعت المنصة للمراجعة. تم تفعيل خاصية الذكاء الاصطناعي فيها بشكل تلقائي، ولكن هذا لم يكن يحدث عادةً.
- انتقل حجم العمل من نطاق التشغيل البشري إلى نطاق التشغيل الآلي. قام فريق ThreatLabz التابع لشركة Zscaler بتحليل 536.5 مليار معاملة متعلقة بالذكاء الاصطناعي والتعلم الآلي عبر سحابتها وسجلت زيادة سنوية قدرها 3,464.6% enterprise حركة مرور الذكاء الاصطناعي/التعلم الآلي. هذا الحجم من التغيير هو بالضبط سبب كون تقييم مخاطر الذكاء الاصطناعي غير الرسمي الذي تم إجراؤه قبل عام قد أصبح قديماً بالفعل، وسبب استمرار خسارة عمليات التدقيق في وقت محدد أمام مشكلة تتفاقم شهرياً.
أين يختبئ الذكاء الاصطناعي الخفي فعلياً
عادةً ما تعود فرق الأمن التي تبحث عن مخاطر الذكاء الاصطناعي الخفي باستخدام أدوات تكنولوجيا المعلومات الخفية بقائمة غير مكتملة، لأن أماكن الاختباء مختلفة:
- أدوات تعتمد على المتصفح بدون أي بصمة على نقاط النهاية. يعمل الذكاء الاصطناعي بالكامل في علامة تبويب. لا يوجد برنامج وسيط للكشف عنه، ولا شيء للتثبيت.
- ميزات الذكاء الاصطناعي المدمجة في المنصات المعتمدة. تمت مراجعة المنصة. أما ميزة الذكاء الاصطناعي التي تم تضمينها فيها لاحقاً، فعادةً لم تتم مراجعتها.
- استخدام واجهة برمجة التطبيقات (API) على المصاريف الشخصية. يقوم مطور بوضع نموذج واجهة برمجة التطبيقات (API) على بطاقة شخصية ويستدعيها مباشرةً من خلال الكود. لا تصل هذه البيانات إلى قسم المشتريات، وبالتالي لا تصل إلى قسم المخزون.
- تعليمات الوكيل وملفات المهارات غير المراجعة. تتبع أدوات البرمجة الآلية بشكل متزايد التعليمات المكتوبة مباشرة في مستودع (ملفات المهارات، قواعد الوكيل)، ويمكن لهذه الملفات ربط الوكيل بنموذج أو مجموعة بيانات أو خادم MCP لم يوافق عليه أحد.
كيفية اكتشاف الذكاء الاصطناعي الخفي والقضاء عليه
إن معرفة كيفية اكتشاف الذكاء الاصطناعي الخفي والقضاء عليه تعني التعامل معه كمشكلتين منفصلتين يجب أن تعملان معًا: إيجاد ما هو موجود بالفعل والتأكد من أنه لا يعود دون إدارة.
اكتشفه: ثلاث إشارات تعمل معًا
لا يمكن لأي عملية مسح واحدة أن تكشف عن كل مخاطر الذكاء الاصطناعي الخفي، لأن كل مكان اختباء أعلاه يترك أثراً مختلفاً.
- سجلات الشبكة والوكيل. تسجل سجلات جدار الحماية والخادم الوكيل ونظام أسماء النطاقات (DNS) لديك بالفعل المكالمات الصادرة إلى نقاط نهاية مزود الذكاء الاصطناعي، سواءً تمت الموافقة على الأداة أم لا. وتُعدّ المكالمات المتكررة لواجهة برمجة التطبيقات (API) من مضيف واحد، أو حمولات البيانات الصادرة الكبيرة، أو حركة المرور الآلية خارج ساعات العمل إلى نقطة نهاية النموذج، من الأنماط التي تستحق التحليل.
- إشارات الهوية والوصول. تُخبرك سجلات الشبكة بأن أداةً ما قيد الاستخدام؛ ويُخبرك مُزوّد الهوية الخاص بك بمن يقف وراءها ومدى الصلاحيات الممنوحة. انتبه إلى منح OAuth لتطبيقات الذكاء الاصطناعي غير المُراجعة، وتسجيلات الدخول إلى أدوات الذكاء الاصطناعي باستخدام حسابات شخصية بدلاً من حسابات الشركات، ونشاط واجهة برمجة تطبيقات حساب الخدمة الذي لا يُمكن تفسيره.
- اكتشاف الأصول ومستوى التعليمات البرمجية. هذه هي الطبقة standard تغفل أدوات تكنولوجيا المعلومات غير الرسمية عن جوانب معينة، وهي تتعلق تحديداً بكيفية ظهور الذكاء الاصطناعي في البرامج: النماذج، ومجموعات البيانات، ونقاط نهاية الاستدلال، والوكلاء، وخوادم MCP، وأدوات ترميز الذكاء الاصطناعي المشار إليها مباشرة في المستودعات. pipelineملفات المهارات، وليس فقط في حركة مرور المتصفح. بدون هذه الطبقة، يمكنك أن ترى أن تم استدعاء واجهة برمجة تطبيقات النموذج؛ لا يمكنك الرؤية التي اتصل به الوكيل، من التي pipelineأو ما يرتبط به، وهو بالضبط المكان الذي يوجد فيه يتحول خطر الذكاء الاصطناعي الخفي إلى حادثة في سلسلة التوريد بدلاً من أن يكون ذلك انتهاكاً للسياسة.
تخلص منه: أربع خطوات تجعله نهائياً
يكشف لك نظام الكشف ما هو قيد التشغيل بالفعل. ويتطلب تحويل ذلك إلى شيء مستدام أربع خطوات، يتم تنفيذها كحلقة متكررة بدلاً من تدقيق لمرة واحدة، لأن مخاطر الذكاء الاصطناعي الخفي تتغير بشكل أسرع من قدرة أي مراجعة سنوية على تتبعها.
- قم ببناء مخزون واحد، وليس ثلاثة. الأصول التقليدية (عمليات إعادة الشراء، pipelineيجب أن تتواجد عناصر الذكاء الاصطناعي (مثل الحاويات والبرمجيات) وأصول الذكاء الاصطناعي (مثل النماذج ومجموعات البيانات والوكلاء وخوادم MCP وأدوات البرمجة) ضمن نفس الواجهة، مع توضيح العلاقات بينها. قد تُشكل أداة الذكاء الاصطناعي التي تبدو غير ضارة في حد ذاتها ثغرة أمنية حقيقية بمجرد معرفة مجموعة البيانات التي تغذيها ونقطة النهاية التي تتصل بها.
- صنّف قبل أن تكتب السياسة. لا جدوى من قاعدة تحظر "البيانات الحساسة في أدوات الذكاء الاصطناعي" إن لم يستطع أحد تحديد البيانات المهمة. يجب معرفة مكان وجود البيانات الخاضعة للتنظيم والسرية، وليكن هذا التصنيف هو الفيصل في تحديد حالات استخدام الذكاء الاصطناعي المسموح بها وتلك التي لا يجوز استخدامها مطلقًا.
- امنح الفرق مسارًا أسرع للموافقة، وليس قائمة حظر أطول. يلجأ المستخدمون إلى الذكاء الاصطناعي غير الرسمي لأن الخيار المعتمد أبطأ من الخيار المتاح أمامهم. إن وجود قائمة مُنظَّمة من النماذج والوكلاء المعتمدين، مع إخفاء بيانات اعتمادهم عن المطورين، يُزيل أي دافع للتحايل على السياسة.
- فرض الإجراءات حيثما يكون الخطر فعلياً: التثبيت والاستدعاء. إن حظر نموذج في مستند لا يمنع الوكيل من تثبيته. يجب أن يكون تطبيق القواعد عند نقطة تثبيت الحزمة أو استدعاء واجهة برمجة التطبيقات، بحيث يفشل الإجراء المحظور تلقائيًا بدلاً من الاعتماد على تذكر شخص ما للقاعدة.
ما تعنيه مخاطر الذكاء الاصطناعي الخفي لأمن التطبيقات، وليس فقط لتكنولوجيا المعلومات؟
تُعالج معظم إرشادات الذكاء الاصطناعي غير الرسمي هذه المسألة باعتبارها مشكلة منع فقدان البيانات فحسب، ويُعدّ منع فقدان البيانات جزءًا مشروعًا منها. لكن نسبة متزايدة من مخاطر الذكاء الاصطناعي غير الرسمي لا تظهر في المتصفح على الإطلاق: بل تظهر كحزمة وهمية حاول أحد البرامج تثبيتها، أو خادم MCP لم يتم التحقق منه، أو مساعد برمجي يتمتع بصلاحيات وصول دائمة إلى مستودع لم يُصرّح له بالوصول إليه. هذا ليس مجرد تقنية معلومات غير رسمية تحمل اسم الذكاء الاصطناعي. إنها فئة جديدة من مخاطر سلسلة توريد البرمجيات، وتحتاج إلى نفس الانضباط الذي يطبقه أمن التطبيقات على أي تبعية أخرى: معرفة ما هو موجود، والتحقق منه، وأتمتة عملية التحقق بدلًا من الاعتماد على كل مطور ليتذكر التحقق.
توقف عن إدارة الذكاء الاصطناعي من خلال جداول البيانات
لا تكمن الفجوة في الجهد المبذول، بل في الرؤية: فمعظم الفرق تفتقر إلى مكان واحد يتم فيه جمع أصول الذكاء الاصطناعي، والبرمجيات، و pipelineتظهر معًا، وهي بالضبط المسافة بين "لدينا سياسة ذكاء اصطناعي خفية" و "يمكننا بالفعل تطبيقها".
هذه هي المشكلة زيجيني تعتمد أنظمة أمان الذكاء الاصطناعي على ذلك. يقوم نظام جرد الذكاء الاصطناعي باكتشاف جميع أصول الذكاء الاصطناعي في مستودعاتك بشكل مستمر وتلقائي. pipelines، وبيئات المطورين: النماذج، والأطر، ومجموعات البيانات، ونقاط نهاية الاستدلال، والوكلاء، وخوادم MCP، وأدوات ترميز الذكاء الاصطناعي مثل Copilot أو Cursor أو Claude Code، والتي يتم رسمها كرسم بياني للعلاقات مع AI-BOM يتم إنشاؤه في كل عملية مسح. ديف أيه أي يعمل كحاجز وقائي فعال في نفس البيئات، حيث يتحقق من صحة ملفات المهارات وتعليمات الوكيل ويمنع عمليات التثبيت الضارة قبل أن يتصرف الوكيل، دون الحاجة إلى أي تنبيه. وذلك لأن CoreAI يطبق نفس نظام الربط والحوكمة المدعوم بالذكاء الاصطناعي على نتائج الماسحات الضوئية الحالية لديك كما يفعل مع نظام Xygeni الخاص، ولا يختفي خطر الذكاء الاصطناعي الخفي في أداة أخرى منفصلة: بل يظهر في نفس عرض المخاطر مثل كل شيء آخر في نظامك SDLC.
ابدأ مجاناً. Sign up with GitHub، أو GitLab، أو Google واحصل على رؤية لما يصل إلى 25 مستودعًا و50 عملية مسح بالذكاء الاصطناعي شهريًا بدون تكلفة، ولا يلزم وجود بطاقة ائتمان.
الأسئلة الشائعة
ما هو خطر الذكاء الاصطناعي الخفي، بعبارات بسيطة؟
يُعرَّف خطر الذكاء الاصطناعي الخفي بأنه المخاطر الناجمة عن أدوات الذكاء الاصطناعي أو نماذجه أو برامجه أو استدعاءات واجهة برمجة التطبيقات (API) التي تعمل داخل المؤسسة دون مراجعة أمنية. ولأن معظم هذه الأدوات لا تُسجَّل في سجلات التثبيت أو الشراء، يتفاقم الخطر تدريجيًا حتى يبحث عنه أحدهم عمدًا.
كيف يمكنك اكتشاف الذكاء الاصطناعي الخفي والقضاء عليه عملياً؟
يعتمد الكشف على ثلاث إشارات تعمل معًا (سجلات الشبكة والوكيل، وإشارات الهوية والوصول، والرمز/pipelineاكتشاف الأصول على مستوى -)، والإزالة عبارة عن حلقة من أربع خطوات: بناء جرد موحد واحد، وتصنيف البيانات قبل كتابة السياسة، ومنح الفرق مسارًا معتمدًا أسرع، والتنفيذ عند نقطة التثبيت أو استدعاء واجهة برمجة التطبيقات بدلاً من المستند.
هل الذكاء الاصطناعي الخفي هو نفسه تكنولوجيا المعلومات الخفية؟
ذات صلة، وليست متطابقة. عادةً ما تترك تقنية المعلومات غير الرسمية أثراً (تثبيت، ترخيص، توقيع شبكة). أما الذكاء الاصطناعي غير الرسمي فغالباً لا يترك أي أثر من ذلك: علامة تبويب متصفح وملف شخصي. login وهي كافية، وميزات الذكاء الاصطناعي تأتي الآن مدمجة داخل المنصات المعتمدة بالفعل.
هل يمكن لأداة CASB أو DLP اكتشاف مخاطر الذكاء الاصطناعي الخفي بمفردها؟
جزئيًا فقط. صُممت هذه الأدوات لكشف البرامج غير المصرح بها التي تترك أثرًا. لا يُولّد النموذج المُستدعى مباشرةً من الكود، أو ميزة الذكاء الاصطناعي المُفعّلة داخل منصة معتمدة، أيًا من الإشارات التي يُضبط عليها نظام CASB. تتطلب إدارة مخاطر الذكاء الاصطناعي الخفي بشكل كامل التحقق من الهوية والشبكة والكود.pipelineمستوى الرؤية معًا.
أين يظهر الذكاء الاصطناعي الخفي بشكل شائع في تطوير البرمجيات تحديداً؟
بالإضافة إلى روبوتات الدردشة المستندة إلى المتصفح، تظهر هذه التقنية على شكل مفاتيح API مضمنة في شفرة المصدر، ونماذج مفتوحة المصدر يتم سحبها إلى مشروع دون فحص أمني، وملفات مهارات الوكيل أو اتصالات خادم MCP التي تتم إضافتها إلى مستودع دون مراجعة، وهي بالضبط الطبقة التي لا تفحصها أدوات تكنولوجيا المعلومات الظلية العامة.
