سطح حمله هوش مصنوعی که هیچ کس آن را در نظر نمی‌گیرد

در چند سال گذشته، امنیت برنامه کاربردی مرز مشخصی داشت: مخزن و ... pipeline... آنجا جایی بود که کنترل‌ها قرار می‌گرفتند، اسکن‌ها اجرا می‌شدند، و تیم‌ها تصمیم می‌گرفتند که آیا چیزی به مرحله تولید برسد یا خیر. همه اینها بر یک فرض استوار بود: یک توسعه‌دهنده صراحتاً انتخاب می‌کرد که کدام کد و کدام وابستگی‌ها وارد سیستم شوند.

این فرض دیگر صادق نیست. امروزه بخش فزاینده‌ای از کدها توسط یک عامل هوش مصنوعی نوشته، پیشنهاد یا نصب می‌شوند، اغلب بدون اینکه کسی به نام آنچه که وارد می‌شود نگاه کند. وقتیcisبه همان اندازه که کد وارد می‌شود، حمله نیز حرکت می‌کند. حمله به ابتدای فرآیند منتقل می‌شود: لحظه‌ای که کد ایجاد می‌شود، درون خود دستیار و در فایل‌هایی که آن را پیکربندی می‌کنند.

این سطح حمله هوش مصنوعی شماست: هر مدل، عامل، سرور MCP، مهارت و وابستگی پیشنهادی هوش مصنوعی که اکنون می‌تواند قبل از بررسی توسط انسان، خطر ایجاد کند. همان هوش مصنوعی مورد اعتماد توسعه‌دهندگان شما اکنون بخشی از آن است. این یک خطر آینده نیست. این تغییری است که قبلاً اتفاق افتاده است و در عمل به این شکل به نظر می‌رسد.

موجی از حملات، نه یک حادثه‌ی منفرد

هیچ یک از موارد زیر جزو آزمایش‌های آزمایشگاهی نیستcisیا یک فرضی. اینها حوادث عمومی و مستند هستند که تقریباً همه مربوط به سال گذشته هستند و هر کدام کمی به خود عامل هوش مصنوعی نزدیک‌تر هستند:

• آگوست ۲۰۲۵، s1ngularity: مهاجمان یک توکن انتشار را از Nx، یکی از پرکاربردترین سیستم‌های ساخت، دزدیدند و نسخه‌های مخرب را به npm منتقل کردند و با استفاده از ابزارهای هوش مصنوعی، به دنبال اطلاعات محرمانه در دستگاه‌های توسعه‌دهندگان گشتند.
• سپتامبر ۲۰۲۵، گچ/اشکال‌زدایی: یکی از بزرگترین نفوذهای npm از نظر دسترسی، ۱۸ بسته با بیش از دو میلیارد دانلود هفتگی، که از طریق ربودن حساب کاربری یک نگهدارنده به دست آمده است.
• سپتامبر ۲۰۲۵، شای-هولود: یکی از اولین کرم‌های مستند شده که قادر به خودتکثیری از طریق npm بود. موج دوم آن، در ماه نوامبر، تهاجمی‌تر بود و به اسرار افشا شده در بیش از ۲۵۰۰۰ مخزن مرتبط بود.
• اکتبر ۲۰۲۵، واردات استفاده نشده: بخشی از کمپین PhantomRaven، که در آن توهم هوش مصنوعی، بدافزار واقعی را از طریق تکنیک slopsquatting به npm وارد کرد.
• امسال، ClawHub: یک رجیستری مهارت‌های هوش مصنوعی آلوده که در آن پنج مورد از هفت مهارتی که بیشترین دانلود را داشتند، بدافزار بودند.

صنعت نیز در حال رسمیت بخشیدن به همین نتیجه‌گیری است. OWASP Top 10 for LLM Applications، تزریق سریع را در رتبه اول قرار می‌دهد. OWASP MCP Top 10 (که در حال حاضر در نسخه بتا است) پروتکل‌هایی را که عامل‌ها برای ارتباط با ابزارها استفاده می‌کنند، هدف قرار می‌دهد. OWASP Agentic Skills Top 10، یک پروژه جدید در مرحله انکوباتور، مهارت‌های مخرب را به عنوان ریسک اصلی خود معرفی می‌کند. OWASP معمولاً با دقت حرکت می‌کند؛ باز کردن سه جبهه به طور همزمان، که یکی از آنها به صورت فوری است، نشان دهنده سرعت این حرکت است.

هر سه مورد در یک ایده مشترک هستند: دستورالعمل‌ها، ابزارها و پیکربندی‌های پیرامون یک مدل، اکنون بخشی از سطح حمله هوش مصنوعی هستند و معمولاً در مخزن خود شما قرار دارند. این اولین سوالی را که ارزش پرسیدن از تیم‌های شما را دارد، مطرح می‌کند: چه کسی فایل‌های قوانین، مهارت‌ها و پیکربندی‌های MCP موجود در مخزن شما را بررسی می‌کند؟