TL؛ DR
ده مورد از ده مورد برتر OWASP Agentic AI برای شما چه معنایی دارد؟ pipeline
یک LLM که چیزی را اشتباه میگوید، یک مشکل محتوایی است. یک عامل که کاری اشتباه انجام میدهد، یک حادثه امنیتی است. OWASP Agentic AI Top 10 نقشه راه دوم است.
- آنچه در آن است: ده مورد برتر هوش مصنوعی عاملدار OWASP (که رسماً ... ده مورد برتر OWASP برای برنامههای کاربردی عاملدار در سال ۲۰۲۶) ده ریسک خاص برای عوامل هوش مصنوعی که برنامهریزی میکنند، ابزارها را فراخوانی میکنند، حافظه را نگه میدارند و از طرف شما عمل میکنند را فهرست میکند. این کدها از ASI01 تا ASI10 هستند.
- نحوه ارتباط: این فهرست، به جای جایگزینی، فهرست OWASP LLM Top 10 را گسترش میدهد. فهرست LLM آنچه را که یک مدل میگوید پوشش میدهد؛ فهرست agentic آنچه را که یک agent انجام میدهد.
- جایی که وارد میشود: به صورت واقعی pipelineاین خطرات از چهار طریق وارد میشوند: IDE، کامپوننتهای عامل شخص ثالث، کد عامل خودتان و زمان اجرای محصول.
- آنچه میتوانید صید کنید: شش مورد از ده مورد، ردپایی در کد و پیکربندی از خود به جا میگذارند، بنابراین میتوانید قبل از استقرار، آنها را متوقف کنید. چهار مورد دیگر به کنترلهای طراحی زمان اجرا نیاز دارند و هر یک از آنها با دانستن اینکه کدام عاملها را اجرا میکنید، شروع میشود.
قدم اول: فهرستی از تمام عوامل، ابزارها، سرورهای MCP و مهارتها تهیه کنید، سپس کد عامل جدید را در CI وارد کنید و یافتهها را به کدهای ASI برچسبگذاری کنید.
چرا ده مورد برتر هوش مصنوعی عامل OWASP مهم هستند: شما pipeline جدید است commitترس
یک سال پیش، کد موجود در مخازن شما از افراد میآمد. امروزه، سهم فزایندهای از آن از عاملهای هوش مصنوعی میآید: دستیاران کدنویسی که وابستگیها را نصب میکنند، عاملهایی که باز میکنند pull requestsو چارچوبهای عاملی که درون محصولات خودتان با ابزارها، حافظه و اعتبارنامههای خودشان ارائه میشوند. این همان تغییری است که OWASP Agentic AI Top 10 برای آن نوشته شده است.
این مدل تهدید را تغییر میدهد. یک LLM که چیزی اشتباه میگوید، یک مشکل محتوایی است. عاملی که کاری اشتباه انجام میدهد (دادهها را حذف میکند، یک توکن را فاش میکند، یک بسته مسموم نصب میکند) یک حادثه امنیتی است.
ده مورد برتر هوش مصنوعی عامل OWASP اولین واژگان مشترک برای آن نوع دوم مشکل است. اکثر توضیحدهندگان در تعاریف متوقف میشوند. این مورد هر ریسک را به جایی که واقعاً وارد سیستم شما میشود، ترسیم میکند. pipelineو اینکه قبل از استقرار چه کاری میتوانید در مورد آن انجام دهید.
ده مورد برتر هوش مصنوعی عاملگرای OWASP کدامند؟
فهرست ده مورد برتر هوش مصنوعی عامل OWASP، فهرستی بررسیشده توسط همتا از ده مورد از مهمترین خطرات امنیتی در عاملهای هوش مصنوعی است: سیستمهایی که برنامهریزی میکنند، ابزارها را فراخوانی میکنند، حافظه را نگه میدارند و با اختیارات تفویضشده عمل میکنند. نام رسمی آن ... ده مورد برتر OWASP برای برنامههای کاربردی عاملدار در سال ۲۰۲۶پروژه امنیتی OWASP GenAI آن را در ۹ دسامبر ۲۰۲۵، از طریق ابتکار امنیتی Agentic خود منتشر کرد، که پیشوند ASI از آن گرفته شده است.
هنوز جوان است standard: این اولین ویرایش آن است. هر مدخل از قالب آشنای OWASP پیروی میکند، همراه با توضیحات، مثالهای رایج، سناریوهای حمله و راهنماییهای پیشگیری. توصیه اصلی طراحی OWASP در هر ده مورد صدق میکند: از دادن استقلال بیشتر به عاملها نسبت به نیاز وظیفه خودداری کنید و مشاهدهپذیری را اجباری در نظر بگیرید.
ده مورد برتر Agentic در مقابل ده مورد برتر LLM
فهرست عوامل جایگزین نمیشود ده مورد برتر OWASP برای برنامههای کارشناسی ارشد مدیریت بازرگانی... بر اساس آن ساخته میشود و ورودیهای آن با ارجاع متقابل، مستقیماً ریسک LLM را افزایش میدهند. یک قانون ساده:
| بعد | OWASP LLM 10 | ده مورد برتر هوش مصنوعی عامل OWASP |
|---|---|---|
| تمرکز | آنچه مدل میگوید | کاری که نماینده انجام میدهد |
| خرابی معمولی | پاسخ دستکاری شده یا فاش شده | یک هدف، فراخوان ابزار یا اقدام دستکاریشده |
| به درخواست | چتباتها، اپلیکیشنهای RAG، هر ویژگی LLM | عاملهایی با ابزار، حافظه، نمایندگی یا سایر عاملها |
| کد | LLM01 تا LLM10 | ASI01 تا ASI10 |
اگر درخواست شما فقط به سوالات پاسخ میدهد، فهرست LLM شما را پوشش میدهد. از لحظهای که میتواند اقداماتی انجام دهد، به هر دو نیاز دارید. راهنمای ما برای حملات استخراج مدل یکی از ریسکهای 10 شرکت برتر LLM را به طور عمیق نشان میدهد.
ده مورد برتر هوش مصنوعی OWASP Agentic، توضیح: ASI01 تا ASI10 در دنیای واقعی pipelines
در اینجا هر ریسک در 10 ریسک برتر هوش مصنوعی OWASP به زبان ساده آمده است، و پس از آن نحوه نمایش آن در پایگاههای کد و ... آمده است. pipelineما هر روز میبینیم.
ASI01: ربودن هدف توسط عامل
یک مهاجم از طریق دستورالعملهای تزریقشده در یک سند، ایمیل، صفحه وب یا پیام یک عامل دیگر، آنچه را که عامل سعی در دستیابی به آن دارد، تغییر میدهد. عاملها برای تشخیص دستورالعملها از محتوا مشکل دارند، بنابراین متن جاسازیشده میتواند کل یک طرح چندمرحلهای را تغییر مسیر دهد.
در خود pipeline: عاملی که خلاصه میکند pull requests توضیحات روابط عمومی حاوی دستورالعملهای پنهان را میخواند و به جای خلاصه کردن، شروع به تأیید یا افشای اطلاعات میکند.
ASI02: سوءاستفاده و بهرهبرداری از ابزار
عامل از ابزاری که مجاز به استفاده از آن است استفاده میکند، اما به روشی مضر: حذف دادهها، فراخوانی یک API پرهزینه در یک حلقه یا ارسال اطلاعات. هیچ امتیازی افزایش نمییابد؛ دسترسی مشروع به سادگی به هدف اشتباه هدایت میشود.
در خود pipeline: یک عامل کدنویسی با دسترسی shell، دستور پاکسازی را در دایرکتوری اشتباه اجرا میکند.
ASI03: سوءاستفاده از هویت و امتیاز
عاملها اعتبارنامهها، جلسات و نقشها را به ارث میبرند و مهاجمان از این زنجیرههای واگذاری برای دستیابی به آنچه که نمیتوانستند مستقیماً به آن دسترسی پیدا کنند، سوءاستفاده میکنند. علت اصلی، سیستمهای هویتی است که برای انسانها ساخته شدهاند و بر روی نرمافزاری اعمال میشوند که به صورت خودکار عمل میکند.
در خود pipeline: پیکربندی یک عامل، یک توکن با طول عمر بالا با دامنهی فعالیت در سطح سازمان را در خود جای میدهد که بین چندین ابزار به اشتراک گذاشته شده است.
ASI04: آسیبپذیریهای زنجیره تأمین عاملمحور
مدلها، ابزارها، افزونهها، سرورهای MCP، مهارتها و اعلانهایی که عاملها بارگذاری میکنند از اشخاص ثالث میآیند و هر یک از آنها میتوانند مخرب یا دستکاری شده باشند. برخلاف وابستگیهای کلاسیک، عاملها اغلب این اجزا را در زمان اجرا مونتاژ میکنند.
در خود pipeline: یک توسعهدهنده یک مهارت عامل با غلط املایی نصب میکند که دستورالعملهای آن به عامل میگوید که اعتبارنامهها را بخواند و آنها را به صورت خارجی ارسال کند.
ASI05: اجرای کد غیرمنتظره (RCE)
عامل، کدی را تولید یا اجرا میکند که در جایی که نباید اجرا شود، اجرا میشود: دستورات پوسته، اشیاء deserialized، موتورهای قالب، eval در خروجی مدل. نتیجه میتواند به خطر افتادن کل میزبان یا کانتینر باشد.
در خود pipeline: خروجی LLM مستقیماً به evalیا یک عامل، یک مجموعه دادهی غیرقابل اعتماد را با ... بارگذاری میکند. pickle.load.
ASI06: مسمومیت با حافظه و متن
مهاجمان حافظه بلندمدت، خلاصهها یا فروشگاههای RAG عامل را با دادههای مخرب پر میکنند، بنابراین هر حمله بعدیcisبرخلاف تزریق سریع و یکباره، این خرابی در طول جلسات ادامه مییابد.
در خود pipeline: یک سگ شکاری RAG اسناد خارجی را بدون پاکسازی میبلعد، و یک صفحه مسموم، هر پاسخی را که در ادامه میآید، شکل میدهد.
ASI07: ارتباطات ناامن بین عاملی
عاملها پیامها را بدون احراز هویت، بررسی یکپارچگی یا اعتبارسنجی رد و بدل میکنند، بنابراین پیامها میتوانند جعل، رهگیری یا تغییر داده شوند. همچنین یک دستورالعمل مشابه میتواند توسط عاملهای مختلف به صورت متفاوت خوانده شود.
در خود pipeline: یک عامل برنامهریز، وظایف را از هر سرویسی در شبکه داخلی که با پروتکل آن صحبت میکند، میپذیرد.
ASI08: خرابیهای آبشاری
یک خطا (یک توهم، یک خاطره مسموم، یک ابزار آسیبدیده) سریعتر از آنکه انسانها بتوانند واکنش نشان دهند، در سراسر عوامل و گردشهای کاری پخش میشود. OWASP این دسته را زمانی اعمال میکند که آسیب فراتر از نقض اولیه گسترش یابد.
در خود pipeline: یک عامل یک پیکربندی بد مینویسد، عامل دوم آن را مستقر میکند، عامل سوم آن را در تمام مناطق منتشر میکند. ما در مورد چگونگی مهار آن شعاع انفجار در [سیستم] خود بحث کردیم. گفتگوی SafeDev درباره Blast Radius.
ASI09: سوءاستفاده از اعتماد عامل انسانی
مردم به خروجی مطمئن و توضیح داده شدهی عامل اعتماد دارند و مهاجمان یا طرحهای ناقص از این اعتماد برای هدایت دادهها سوءاستفاده میکنند.cisانسان عمل نهایی را انجام میدهد، بنابراین نقش عامل میتواند از مسیر حسابرسی حذف شود.
در خود pipeline: یک بازبین، نظر یک نماینده را تأیید میکند pull request زیرا توضیح، بدون بررسی تفاوت، درست به نظر میرسد.
ASI10: مأموران سرکش
یک عامل از وظیفه مورد نظر خود منحرف میشود و به اقدامات مضر، فریبنده یا فراتر از محدوده ادامه میدهد. هر عملی ممکن است مشروع به نظر برسد؛ اما رفتار کلی اینطور نیست. ASI10 در مورد از دست دادن کنترل پس از شروع انحراف است، نه در مورد نفوذ اولیه.
در خود pipeline: یک عامل پس از پایان وظیفهاش، همچنان از مجوزها استفاده میکند و بیسروصدا آنچه را که لمس میکند، گسترش میدهد.
از بین ده ریسک، ASI04 ریسکی است که اکثر تیمها هر روز با آن مواجه هستند: انتخاب و نصب بستهها توسط کدنویسان بدون بررسی اینکه چه بستههایی وارد میشوند. ما دقیقاً همین موضوع را در یک گفتگوی اخیر SafeDev بررسی کردیم. نگاهی بیندازید!
جایی که OWASP Agentic AI Top 10 وارد سیستم شما میشود pipeline
این ده خطر از یک در وارد نمیشوند، بلکه از چهار در وارد میشوند و هر در نیاز به کنترل خاص خود دارد.
| نقطه ورود | چه چیزی وارد میشود؟ | خطرات ASI | کجا متوقفش کنیم |
|---|---|---|---|
| محیط توسعه یکپارچه (IDE) و ایستگاه کاری توسعهدهندگان | عوامل کدنویسی، سرورهای MCP، مهارتها، بستههایی که عوامل نصب میکنند | ASI04، ASI05 | روی ایستگاه کاری، قبل از نصب |
| اجزای عامل شخص ثالث | مدلها، ابزارها، افزونهها، اعلانها از رجیستریها | ASI04، ASI06 | فهرستبرداری و بررسی، قبل از پذیرش |
| کد نماینده خودتان | چارچوبهای عامل، اعلانها، تعاریف ابزار، اعتبارنامهها، RAG pipelines | ASI01، ASI02، ASI03، ASI05، ASI06 | تحلیل استاتیک، در pull requests و سی آی |
| زمان اجرای تولید | مأموران در حال عمل، صحبت با یکدیگر، کار با مردم | ASI07، ASI08، ASI09، ASI10 | معماری، نظارت و سوئیچهای kill |
این الگو برای نحوهی اعمال 10 مورد برتر OWASP Agentic AI اهمیت دارد. سه درب اول شواهدی را در کد و پیکربندی به جا میگذارند، به این معنی که میتوانید قبل از ارسال هر چیزی، آنها را پیدا کرده و مسدود کنید. درب چهارم به رفتار زمان اجرا بستگی دارد، بنابراین به گزینههای طراحی متکی است: حداقل عاملیت، پیامهای امضا شده، تأیید انسانی برای اقدامات با تأثیر بالا و امکان لغو سریع هر عامل.
حتی کنترلهای زمان اجرا هم به یک چیزی که قبلاً ساختهاید بستگی دارند: موجودی. شما نمیتوانید روی عاملی که از وجودش خبر ندارید، کلید مرگ بگذارید.
چگونه Xygeni قبل از استقرار، 10 ریسک برتر هوش مصنوعی Agentic OWASP را شناسایی میکند؟
امنیت هوش مصنوعی Xygeni اجزای هوش مصنوعی که برنامههای شما با آنها ساخته شدهاند را مستقیماً از کد منبع اسکن میکند. هر یافته شامل دسته 10 برتر OWASP LLM و در صورت لزوم، کد 10 برتر OWASP Agentic AI خود است، بنابراین تیم شما و حسابرسان شما یافتهها را به یک زبان میخوانند.
پوشش ده مورد برتر هوش مصنوعی OWASP Agentic با فهرست موجودی آغاز میشود. AI Security عوامل، مدلها، ابزارها، سرورهای MCP، مهارتها، اعلانها، guardrails، فروشگاههای برداری و مجموعه دادهها را در مخازن شما نمایش میدهد و نحوه اتصال آنها را ترسیم میکند: کدام عامل از کدام مدل استفاده میکند، کدام ابزارها را اجرا میکند و کدام سرورهای MCP را فراخوانی میکند. موجودی به عنوان یک CycloneDX 1.6 ML-BOM صادر میشود.
امنیت هوش مصنوعی Xygeni
آنچه Xygeni قبل از استقرار، بر اساس ریسک ASI، تشخیص میدهد
هر یافته با کد OWASP مربوط به خود برچسبگذاری میشود، بنابراین تیم شما و حسابرسان شما آن را به یک زبان میخوانند.
ربودن هدف توسط عامل
سطوح تزریق سریع، عواملی که محتوای خارجی را بدون ضدعفونی کردن میبلعند، اعلانهایی که از رجیستریها روی برچسبهای شناور کشیده میشوند.
سوء استفاده از ابزار
عاملهای فراخوانی ابزار بدون ورودی guardrailsبه علاوه، نمایی از قابلیتهایی مانند اجرای کد و اجرای خودکار به ازای هر دارایی.
سوءاستفاده از هویت و امتیاز
اعتبارنامههای ایستا با طول عمر بالا در پیکربندیهای عامل، اعتبارنامههای به اشتراک گذاشته شده بدون محدود کردن دامنه، سرورهای MCP و ابزار با امتیازات بالا و رمزهای مخفی در فایلهای اعلان.
زنجیره تامین عامل
مهارتهای مخرب یا غلط املایی، با حکم SAFE / CAUTION / DO_NOT_INSTALL؛ بارگذاری ناامن مدل (trust_remote_code=True); یک AI-BOM از هر جزء.
اجرای کد غیرمنتظره
آلودگی از خروجی LLM به داخل جریان مییابد eval و از مجموعه دادههای غیرقابل اعتماد به pickle.load، در پایتون و جاوا اسکریپت؛ تزریق الگو که منجر به اجرای کد از راه دور (RCE) میشود.
مسمومیت حافظه و زمینه
دستگاههای بازیابی RAG ضدعفونی نشده، و نقاط ضعف وکتور و جاسازی (LLM08).
رفتار زمان اجرا
ارتباطات بین عاملی، خطاهای آبشاری، اعتماد انسانی و عوامل سرکش در زمان اجرا ظاهر میشوند. Xygeni به شما نمودار موجودی و روابطی را میدهد که کنترلهای زمان اجرا به آنها وابسته هستند.
اطراف آن هسته:
- بررسی معنایی مهارتها و دستورالعملهای عامل. یک بررسی LLM اختیاری و قابل تکرار، هدف از آن را قضاوت میکند
SKILL.mdوAGENTS.mdفایلها، دستورالعملهای مخربِ صرفاً نثرگونه را که هیچ امضایی نمیتواند ببیند، شناسایی میکند. میتواند روی یک مدل خود-میزبان اجرا شود. - آن را در CI گیت کنید. La
xygeni aiاسکنر در دستگاه شما اجرا میشود pipeline و وقتی یافتهها وجود دارند، ساخت را با شکست مواجه میکند. در حالت فقط گزارش شروع کنید، سپس روی حالت بحرانی (Critical) قفل کنید. - امنیت درون حلقه عامل. هوش مصنوعی دو اسکنها، اولویتبندی و رفع مشکلات Xygeni را از طریق IDE و به عاملهای کدنویسی هوش مصنوعی میآورد. سرور Xygeni MCP.
- از ایستگاه کاری محافظت کنید. Shield قبل از دانلود بستههای مخرب، آنها را روی دستگاههای توسعهدهندگان، چه کسی که نصب را اجرا میکند و چه کسی، مسدود میکند و هر مسدودیت را به فرآیند و دستوری که آن را فعال کرده است، نسبت میدهد.
- سریع درستش کن. هوش مصنوعی، یافتهها را اولویتبندی میکند و هوش مصنوعی، دستورالعملهای اصلاحی را برای هر دسته از OWASP LLM ارائه میدهد.
چک لیست آمادگی OWASP برای هوش مصنوعی Agentic، ده مورد برتر
- فهرست: هر عامل، مدل، ابزار، سرور MCP و مهارت را در مخازن خود فهرست کنید و این فهرست را در هر مورد بهروز نگه دارید. commit.
- کمترین عاملیت: به هر عامل فقط استقلال و ابزارهایی را که وظیفهاش نیاز دارد، بدهد و برای اقدامات مخرب، تأیید انسان را لازم بداند.
- هویت محدودهبندیشده: اعتبارنامههای عامل مشترک و با طول عمر بالا را با توکنهای کوتاهمدت برای هر عامل جایگزین کنید.
- ورودی غیرقابل اعتماد: قبل از اینکه هر سند، صفحه وب، ایمیل و پیام عامل بتواند هدفی را شکل دهد یا فراخوانی ابزاری را انجام دهد، آن را غیرقابل اعتماد در نظر بگیرید.
- اجزای بررسی شده: مهارتها، سرورهای MCP و مدلها را قبل از پذیرش بررسی کنید، نسخهها را پین کنید و یک AI-BOM داشته باشید.
- عدم اجرای ناامن: منع کردن
evalروی خروجی مدل، اجرای کد در محیط سندباکس و هرگز اجرا نشدن عاملها به عنوان کاربر ریشه. - حافظه پاک: آنچه وارد حافظههای RAG و حافظه بلندمدت میشود را پاکسازی کنید و حافظه را بر اساس کاربر و زمینه جدا کنید.
- دروازه در CI: کد عامل را در هر مورد اسکن کنید pull request و یافتهها را با کدهای ASI تطبیق دهید.
- رعایت و شامل موارد زیر باشد: هر اقدام کارشناس و فراخوانی ابزار را ثبت کنید و مطمئن شوید که میتوانید هر کارشناس را به سرعت لغو کنید.
قبل از اقدام، بدانید کدام نمایندگان را اداره میکنید
ده مورد برتر OWASP Agentic AI نقشه راه را به شما نشان میدهد. اولین حرکت برای هر ده ریسک یکسان است: تمام عوامل، ابزارها و مهارتها را در کد خود پیدا کنید. ببینید چگونه Xygeni AI Security عوامل شما را فهرست میکند و یافتهها را به کدهای ASI نگاشت میدهد.، یا نسخه ی نمایشی را رزرو کنید.
سوالات متداول
عبارت ASI در فهرست ده ابزار برتر هوش مصنوعی OWASP Agentic به چه معناست؟
ASI مخفف Agentic Security Initiative است، تیمی از پروژه امنیتی OWASP GenAI که این لیست را نوشته است. هر ریسک دارای کدی از ASI01 (Agent Goal Hijack) تا ASI10 (Rogue Agents) است، همانطور که لیست LLM از LLM01 تا LLM10 استفاده میکند.
آیا اگر از قبل ده مورد برتر OWASP LLM را دنبال کرده باشم، به ده مورد برتر OWASP Agentic AI نیاز دارم؟
فقط در صورتی که هوش مصنوعی شما بتواند عمل کند. یک چتبات یا برنامه RAG که فقط به سؤالات پاسخ میدهد، توسط LLM Top 10 پوشش داده میشود. هنگامی که برنامه شما ابزارها را فراخوانی میکند، حافظه را نگه میدارد، به سایر نمایندگان واگذار میکند یا از اعتبارنامهها استفاده میکند، لیست نماینده خطراتی را پوشش میدهد که لیست LLM شامل آنها نمیشود.
آیا تحلیل استاتیک میتواند 10 ریسک برتر OWASP Agentic AI را تشخیص دهد؟
برای بسیاری از آنها، بله. سطوح ربودن هدف، ابزارهای محافظت نشده، اعتبارنامههای با امتیاز بیش از حد، مهارتهای مخرب، اجرای کد ناامن و ورودیهای RAG کنترل نشده، همگی شواهدی را در کد و پیکربندی به جا میگذارند. خطراتی که از رفتارهای زنده ناشی میشوند، مانند خرابیهای آبشاری و عوامل سرکش، به کنترلهای زمان اجرا در بالا نیاز دارند.







