TL، ڊاڪٽر
توهان جي لاءِ OWASP ايجنٽڪ AI ٽاپ 10 جو ڇا مطلب آهي pipeline
هڪ ايل ايل ايم جيڪو ڪجهه غلط چوي ٿو اهو هڪ مواد جو مسئلو آهي. هڪ ايجنٽ جيڪو ڪجهه غلط ڪري ٿو اهو هڪ سيڪيورٽي واقعو آهي. OWASP ايجنٽڪ اي آءِ ٽاپ 10 ٻئي لاءِ نقشو آهي.
- هي ڇا آهي: OWASP ايجنٽڪ AI ٽاپ 10 (سرڪاري طور تي 2026 ۾ ايجنٽڪ ايپليڪيشنن لاءِ OWASP ٽاپ 10) AI ايجنٽن لاءِ مخصوص ڏهه خطرن جي فهرست ڏئي ٿو جيڪي منصوبابندي ڪن ٿا، اوزار ڪال ڪن ٿا، ياداشت رکن ٿا ۽ توهان جي طرفان ڪم ڪن ٿا. ڪوڊ ASI01 کان ASI10 تائين هلن ٿا.
- اهو ڪيئن لاڳاپيل آهي: اهو OWASP LLM ٽاپ 10 کي تبديل ڪرڻ بدران وڌائي ٿو. LLM لسٽ ان کي ڍڪيندي آهي جيڪو هڪ ماڊل چوي ٿو؛ ايجنٽ لسٽ ان کي ڍڪيندي آهي جيڪو هڪ ايجنٽ ڪندو آهي.
- جتي اهو داخل ٿئي ٿو: هڪ حقيقي طور تي pipeline، اهي خطرا چار دروازن ذريعي پهچن ٿا: IDE، ٽئين پارٽي ايجنٽ جا حصا، توهان جو پنهنجو ايجنٽ ڪوڊ، ۽ پيداوار جو رن ٽائم.
- جيڪو توهان پڪڙي سگهو ٿا: ڏهن مان ڇهه فنگر پرنٽس ڪوڊ ۽ ترتيب ۾ ڇڏيندا آهن، تنهنڪري توهان انهن کي ترتيب ڏيڻ کان اڳ روڪي سگهو ٿا. ٻين چئن کي رن ٽائم ڊيزائن ڪنٽرول جي ضرورت آهي، ۽ انهن مان هر هڪ کي اهو ڄاڻڻ سان شروع ٿئي ٿو ته توهان ڪهڙا ايجنٽ هلائيندا آهيو.
پهريون قدم: هر ايجنٽ، ٽول، ايم سي پي سرور ۽ مهارت جي انوینٽري ڪريو، پوءِ CI ۾ نئون ايجنٽ ڪوڊ داخل ڪريو جنهن ۾ ASI ڪوڊ سان ٽيگ ٿيل نتيجا شامل آهن.
OWASP ايجنٽڪ AI ٽاپ 10 ڇو اهم آهن: توهان جو pipeline نئون آهي commitٽائر
هڪ سال اڳ، توهان جي ذخيرن ۾ ڪوڊ ماڻهن کان آيو هو. اڄ، وڌندڙ حصو AI ايجنٽن کان اچي ٿو: ڪوڊنگ اسسٽنٽ جيڪي انحصار کي انسٽال ڪن ٿا، ايجنٽ جيڪي کولين ٿا pull requests، ۽ ايجنٽ فريم ورڪ جيڪي توهان جي پنهنجي شين جي اندر اوزارن، ياداشت، ۽ انهن جي پنهنجي سند سان موڪليندا آهن. اهو ئي شفٽ آهي جنهن لاءِ OWASP ايجنٽڪ AI ٽاپ 10 لکيو ويو هو.
اهو خطري جي ماڊل کي تبديل ڪري ٿو. هڪ ايل ايل ايم جيڪو ڪجهه غلط چوي ٿو اهو هڪ مواد جو مسئلو آهي. هڪ ايجنٽ جيڪو ڪجهه غلط ڪري ٿو (ڊيٽا ختم ڪري ٿو، ٽوڪن ليڪ ڪري ٿو، زهر ٿيل پيڪيج انسٽال ڪري ٿو) هڪ سيڪيورٽي واقعو آهي.
OWASP ايجنٽڪ AI ٽاپ 10 ٻئي قسم جي مسئلي لاءِ پهرين شيئر ڪيل لغت آهي. گھڻا وضاحت ڪندڙ تعريفن تي رڪجي ويندا آهن. هي هر خطري کي نقشي ۾ رکي ٿو جتي اهو اصل ۾ توهان جي pipeline، ۽ توهان ان بابت ڇا ڪري سگهو ٿا ان کان اڳ.
OWASP ايجنٽڪ AI ٽاپ 10 ڇا آهي؟
OWASP ايجنٽڪ AI ٽاپ 10، AI ايجنٽن ۾ ڏهه انتهائي نازڪ سيڪيورٽي خطرن جي هڪ پير-جائزو ڪيل فهرست آهي: سسٽم جيڪي منصوبابندي ڪن ٿا، اوزارن کي ڪال ڪن ٿا، ياداشت کي برقرار رکن ٿا، ۽ تفويض ڪيل اختيار سان ڪم ڪن ٿا. ان جو سرڪاري نالو آهي 2026 ۾ ايجنٽڪ ايپليڪيشنن لاءِ OWASP ٽاپ 10. OWASP GenAI سيڪيورٽي پروجيڪٽ ان کي 9 ڊسمبر 2025 تي پنهنجي ايجنٽڪ سيڪيورٽي انيشيئيٽو ذريعي شايع ڪيو، جتان ASI پريفڪس اچي ٿو.
اڃا تائين نوجوان آهي. standard: هي ان جو پهريون ايڊيشن آهي. هر داخلا واقف OWASP فارميٽ جي پيروي ڪري ٿي، وضاحت، عام مثالن، حملي جي منظرنامي، ۽ بچاءُ جي هدايتن سان. OWASP جو مرڪزي ڊيزائن مشورو سڀني ڏهن ذريعي هلندو آهي: ايجنٽن کي ڪم جي ضرورت کان وڌيڪ خودمختياري ڏيڻ کان پاسو ڪريو، ۽ مشاهدي کي لازمي سمجهو.
ايجنٽڪ ٽاپ 10 بمقابله ايل ايل ايم ٽاپ 10
ايجنٽ جي فهرست تبديل نه ٿي ڪري ايل ايل ايم درخواستن لاءِ OWASP ٽاپ 10. اهو ان تي تعمير ڪري ٿو، ۽ ان جون داخلائون ڪراس ريفرنس LLM سڌو سنئون خطرو ڪن ٿيون. هڪ سادو اصول:
| طول | OWASP LLM ٽاپ 10 | OWASP ايجنٽڪ AI ٽاپ 10 |
|---|---|---|
| وڌائڻ | ماڊل ڇا چوي ٿو | ايجنٽ ڇا ڪندو آهي |
| عام ناڪامي | هڪ هٿرادو يا لڪيل جواب | هڪ هٿرادو مقصد، اوزار سڏ يا عمل |
| تي لاڳو ٿئي ٿو | چيٽ بوٽس، آر اي جي ايپس، ڪا به ايل ايل ايم فيچر | اوزارن، ياداشت، وفد يا ٻين ايجنٽن سان ايجنٽ |
| رموز | LLM01 کان LLM10 تائين | ASI01 کان ASI10 تائين |
جيڪڏهن توهان جي درخواست صرف سوالن جا جواب ڏئي ٿي، ته پوءِ LLM لسٽ توهان کي ڍڪيندي. جنهن وقت اهو ڪارروائي ڪري سگهي ٿو، توهان کي ٻنهي جي ضرورت آهي. اسان جي گائيڊ لاءِ ماڊل ڪڍڻ جا حملا هڪ ايل ايل ايم ٽاپ 10 خطري کي کوٽائي ۾ ڏيکاري ٿو.
OWASP ايجنٽڪ AI ٽاپ 10، وضاحت ڪئي وئي: ASI01 کان ASI10 اصل ۾ pipelines
هتي OWASP ايجنٽڪ AI ٽاپ 10 ۾ هر خطرو سادي لفظن ۾ آهي، ان کان پوءِ ڪوڊ بيس ۾ اهو ڪيئن نظر اچي ٿو ۽ pipelineاسين هر روز ڏسون ٿا.
ASI01: ايجنٽ گول هاءِ جيڪ
هڪ حملو ڪندڙ اهو تبديل ڪري ٿو جيڪو ايجنٽ حاصل ڪرڻ جي ڪوشش ڪري رهيو آهي هڪ دستاويز، هڪ اي ميل، هڪ ويب پيج، يا ٻئي ايجنٽ جي پيغام ۾ داخل ڪيل هدايتن ذريعي. ايجنٽ مواد کان علاوه هدايتون ٻڌائڻ ۾ جدوجهد ڪن ٿا، تنهنڪري پوکيل متن هڪ مڪمل گھڻ-قدمي منصوبي کي ريڊائريڪٽ ڪري سگهي ٿو.
توهان ۾ pipeline: هڪ ايجنٽ جيڪو خلاصو ڪري ٿو pull requests لڪيل هدايتن تي مشتمل هڪ پي آر وضاحت پڙهي ٿو، ۽ خلاصو ڪرڻ بدران منظور ڪرڻ يا ليڪ ڪرڻ شروع ڪري ٿو.
ASI02: اوزار جو غلط استعمال ۽ استحصال
ايجنٽ هڪ اوزار استعمال ڪري ٿو جيڪو ان کي استعمال ڪرڻ جي اجازت آهي، پر نقصانڪار طريقي سان: ڊيٽا کي حذف ڪرڻ، هڪ قيمتي API کي لوپ ۾ ڪال ڪرڻ، يا معلومات موڪلڻ. ڪو به امتياز نه وڌايو ويندو آهي؛ جائز رسائي صرف غلط هدف ڏانهن اشارو ڪيو ويندو آهي.
توهان ۾ pipeline: شيل رسائي سان هڪ ڪوڊنگ ايجنٽ غلط ڊاريڪٽري جي خلاف صفائي جو ڪمانڊ هلائي ٿو.
ASI03: سڃاڻپ ۽ استحقاق جو غلط استعمال
ايجنٽ سندون، سيشن، ۽ ڪردار ورثي ۾ حاصل ڪندا آهن، ۽ حملي آور انهن وفد جي زنجيرن جو استحصال ڪندا آهن ته جيئن اهي سڌو سنئون پهچي نه سگهن. بنيادي سبب انسانن لاءِ ٺهيل سڃاڻپ سسٽم آهن، جيڪي سافٽ ويئر تي لاڳو ٿين ٿا جيڪي پاڻ تي ڪم ڪن ٿا.
توهان ۾ pipeline: هڪ ايجنٽ جي ترتيب تنظيم جي وسيع دائري سان هڪ ڊگهي عرصي وارو ٽوڪن رکي ٿي، ڪيترن ئي اوزارن ۾ ورهايل آهي.
ASI04: ايجنٽ سپلائي چين جون ڪمزوريون
ماڊل، ٽولز، پلگ ان، ايم سي پي سرور، صلاحيتون ۽ پرامپٽس جيڪي ايجنٽ لوڊ ڪن ٿا اهي ٽئين پارٽين کان ايندا آهن، ۽ انهن مان ڪو به نقصانڪار يا خراب ٿي سگهي ٿو. ڪلاسيڪل انحصار جي برعڪس، ايجنٽ اڪثر ڪري رن ٽائم تي انهن حصن کي گڏ ڪندا آهن.
توهان ۾ pipeline: هڪ ڊولپر هڪ ٽائيپوسڪواٽڊ ايجنٽ اسڪل انسٽال ڪري ٿو جنهن جون هدايتون ايجنٽ کي سندون پڙهڻ ۽ انهن کي ٻاهرين طور تي پوسٽ ڪرڻ لاءِ چون ٿيون.
ASI05: غير متوقع ڪوڊ ايگزيڪيوشن (RCE)
ايجنٽ ڪوڊ ٺاهي ٿو يا ٽرگر ڪري ٿو جيڪو اتي هلندو آهي جتي ان کي نه هلڻ گهرجي: شيل ڪمانڊ، ڊيسيريلائيزڊ شيون، ٽيمپليٽ انجن، eval ماڊل آئوٽ پُٽ تي. نتيجو مڪمل هوسٽ يا ڪنٽينر سمجهوتو ٿي سگهي ٿو.
توهان ۾ pipeline: ايل ايل ايم آئوٽ پُٽ سڌو سنئون ۾ وهندو آهي eval، يا ڪو ايجنٽ هڪ غير قابل اعتماد ڊيٽاسيٽ لوڊ ڪري ٿو pickle.load.
ASI06: ياداشت ۽ حوالي سان زهر ڏيڻ
حملو ڪندڙ ايجنٽ جي ڊگهي مدت جي ياداشت، خلاصن يا RAG اسٽورن کي خراب ڊيٽا سان گڏ ڪن ٿا، تنهنڪري هر مستقبل جي ڊيcisآئن اسڪيو آهي. هڪ ڀيرو فوري طور تي لڳائڻ جي برعڪس، ڪرپشن سيشنن ۾ جاري رهي ٿي.
توهان ۾ pipeline: هڪ RAG ريٽريور ٻاهرين دستاويزن کي صفائي کان سواءِ کائي ٿو، ۽ هڪ زهر ڀريل صفحو ايندڙ هر جواب کي شڪل ڏئي ٿو.
ASI07: ايجنٽن جي وچ ۾ غير محفوظ رابطو
ايجنٽ تصديق، سالميت جي چڪاس، يا تصديق کان سواءِ پيغامن جو تبادلو ڪندا آهن، تنهن ڪري پيغامن کي جعلي، روڪيو، يا تبديل ڪري سگهجي ٿو. ساڳي هدايت کي مختلف ايجنٽ مختلف طريقن سان پڙهي سگهن ٿا.
توهان ۾ pipeline: هڪ پلانر ايجنٽ اندروني نيٽ ورڪ تي ڪنهن به سروس مان ڪم قبول ڪري ٿو جيڪو ان جو پروٽوڪول ڳالهائيندو آهي.
ASI08: ڪيسڪيڊنگ ناڪاميون
هڪ غلطي (هڪ وهم، هڪ زهر آلود ياداشت، هڪ خراب ٿيل اوزار) ايجنٽن ۽ ورڪ فلو ۾ انسانن جي رد عمل کان وڌيڪ تيزيءَ سان پکڙجي ٿي. OWASP هن درجي کي لاڳو ڪري ٿو جڏهن نقصان اصل ڀڃڪڙي کان ٻاهر نڪري وڃي ٿو.
توهان ۾ pipeline: هڪ ايجنٽ هڪ خراب ترتيب لکي ٿو، ٻيو ان کي ترتيب ڏئي ٿو، ٽيون ان کي هر علائقي ۾ رول آئوٽ ڪري ٿو. اسان بحث ڪيو ته اسان جي ۾ انهي ڌماڪي جي ريڊيس کي ڪيئن شامل ڪجي بلاسٽ ريڊيس سيف ڊيو ٽاڪ.
ASI09: انساني ايجنٽ جي اعتماد جو استحصال
ماڻهو اعتماد واري، چڱيءَ طرح بيان ڪيل ايجنٽ جي پيداوار تي ڀروسو ڪن ٿا، ۽ حملو ڪندڙ يا ناقص ڊيزائن ان اعتماد کي غلط طريقي سان هلائڻ لاءِ استعمال ڪن ٿا.cisآئن. انسان آخري عمل انجام ڏئي ٿو، تنهنڪري ايجنٽ جو ڪردار آڊٽ ٽريل مان غائب ٿي سگهي ٿو.
توهان ۾ pipeline: هڪ جائزو وٺندڙ هڪ ايجنٽ جي منظوري ڏئي ٿو pull request ڇاڪاڻ ته وضاحت صحيح لڳي ٿي، فرق کي جانچڻ کان سواءِ.
ASI10: بدمعاش ايجنٽ
هڪ ايجنٽ پنهنجي ارادي واري ڪم کان هٽي ويندو آهي ۽ نقصانڪار، فريب سان، يا دائري کان ٻاهر ڪم ڪندو رهندو آهي. هر عمل جائز نظر اچي سگهي ٿو؛ مجموعي رويو جائز نه آهي. ASI10 ڊرافٽ شروع ٿيڻ کان پوءِ ڪنٽرول وڃائڻ بابت آهي، شروعاتي مداخلت بابت نه.
توهان ۾ pipeline: هڪ ايجنٽ پنهنجو ڪم ختم ٿيڻ کان پوءِ اجازتون استعمال ڪندو رهي ٿو، خاموشيءَ سان ان کي وڌائيندو رهي ٿو جيڪو اهو ڇهي ٿو.
ڏهن خطرن مان، ASI04 اهو آهي جيڪو گهڻيون ٽيمون اڳ ۾ ئي هر روز منهن ڏين ٿيون: ڪوڊنگ ايجنٽ پيڪيجز چونڊڻ ۽ انسٽال ڪرڻ سان گڏ ڪو به جائزو نه ٿو وٺي ته ڇا ٿئي ٿو. اسان تازو SafeDev ٽاڪ ۾ ان کي بلڪل ڳولهيو. هڪ نظر وجهو!
جتي OWASP ايجنٽڪ AI ٽاپ 10 توهان جي pipeline
ڏهه خطرا هڪ دروازي مان نه ٿا اچن. اهي چئن مان اچن ٿا، ۽ هر دروازي کي پنهنجي ڪنٽرول جي ضرورت آهي.
| داخلا پوائنٽ | ڇا اندر اچي ٿو؟ | ASI خطرا | ڪٿي روڪيو وڃي |
|---|---|---|---|
| ڊولپر IDE ۽ ورڪ اسٽيشن | ڪوڊنگ ايجنٽ، ايم سي پي سرور، صلاحيتون، پيڪيجز جيڪي ايجنٽ انسٽال ڪن ٿا | اي ايس آءِ 04، اي ايس آءِ 05 | انسٽال ڪرڻ کان اڳ، ورڪ اسٽيشن تي |
| ٽئين پارٽي ايجنٽ جا جزا | ماڊل، اوزار، پلگ ان، رجسٽري مان پرامپٽس | اي ايس آءِ 04، اي ايس آءِ 06 | اپنائڻ کان اڳ انوینٽري ۽ جائزو |
| توهان جو پنهنجو ايجنٽ ڪوڊ | ايجنٽ فريم ورڪ، اشارا، اوزار جي تعريف، سندون، RAG pipelines | ASI01، ASI02، ASI03، اي ايس آءِ 05، اي ايس آءِ 06 | جامد تجزيو، ۾ pull requests ۽ سي آءِ |
| پيداوار جو وقت | ايجنٽ ڪم ڪري رهيا آهن، هڪ ٻئي سان ڳالهائي رهيا آهن، ماڻهن سان ڪم ڪري رهيا آهن | اي ايس آءِ 07، اي ايس آءِ 08، اي ايس آءِ 09، اي ايس آءِ 10 | آرڪيٽيڪچر، نگراني ۽ ڪِل سوئچز |
OWASP ايجنٽڪ AI ٽاپ 10 کي ڪيئن لاڳو ڪجي ان لاءِ نموني اهم آهي. پهرين ٽي دروازا ڪوڊ ۽ ترتيب ۾ ثبوت ڇڏي ويندا آهن، جنهن جو مطلب آهي ته توهان ڪنهن به شيءِ جي موڪلڻ کان اڳ انهن کي ڳولي ۽ بلاڪ ڪري سگهو ٿا. چوٿون رن ٽائم رويي تي منحصر آهي، تنهنڪري اهو ڊيزائن جي چونڊن تي منحصر آهي: گهٽ ۾ گهٽ ايجنسي، دستخط ٿيل پيغام، اعليٰ اثر وارين ڪاررواين لاءِ انساني منظوري، ۽ ڪنهن به ايجنٽ کي تيزيءَ سان رد ڪرڻ جي صلاحيت.
رن ٽائم ڪنٽرول به هڪ شيءِ تي منحصر آهن جيڪا توهان اڳ ۾ ٺاهيندا آهيو: هڪ انوینٽري. توهان ڪنهن ايجنٽ تي ڪِل سوئچ نٿا لڳائي سگهو جنهن جي توهان کي خبر ناهي ته موجود آهي.
زائيگيني OWASP ايجنٽڪ AI کي ڪيئن پڪڙي ٿو تعیناتي کان اڳ مٿيان 10 خطرا
زائيگيني اي آءِ سيڪيورٽي توهان جي ايپليڪيشنن سان ٺهيل AI حصن کي سڌو سنئون سورس ڪوڊ مان اسڪين ڪري ٿو. هر فائنڊنگ پنهنجي OWASP LLM ٽاپ 10 ڪيٽيگري ۽، جتي لاڳو ٿئي ٿي، ان جو OWASP ايجنٽڪ AI ٽاپ 10 ڪوڊ رکي ٿو، تنهن ڪري توهان جي ٽيم ۽ توهان جا آڊيٽر ساڳئي ٻولي ۾ فائنڊنگ پڙهن ٿا.
OWASP ايجنٽڪ AI ٽاپ 10 کي ڍڪڻ انوینٽري سان شروع ٿئي ٿو. AI سيڪيورٽي ايجنٽ، ماڊل، اوزار، MCP سرور، صلاحيتون، اشارا، guardrails، ویکٹر اسٽور، ۽ توهان جي ذخيرن ۾ ڊيٽاسيٽ، ۽ نقشا ٺاهي ٿو ته اهي ڪيئن ڳنڍجن ٿا: ڪهڙو ايجنٽ ڪهڙو ماڊل استعمال ڪري ٿو، ڪهڙا اوزار هلائي ٿو، ۽ ڪهڙا MCP سرور ڪال ڪري ٿو. انوینٽري هڪ CycloneDX 1.6 ML-BOM جي طور تي برآمد ٿئي ٿي.
زائيگيني اي آءِ سيڪيورٽي
اي ايس آءِ خطري جي ذريعي، ايڪسيگيني ڇا ڊيپلائي ڪرڻ کان اڳ ڳولي ٿو
هر ڳولا کي ان جي OWASP ڪوڊ سان ٽيگ ڪيو ويندو آهي، تنهنڪري توهان جي ٽيم ۽ توهان جا آڊيٽر ان کي ساڳئي ٻولي ۾ پڙهندا آهن.
ايجنٽ گول هاءِ جيڪ
فوري طور تي انجيڪشن جي مٿاڇري، ايجنٽن جو صفائي کان سواءِ ٻاهرين مواد کي نگلڻ، سچل ليبلن تي رجسٽرين مان نڪتل اشارا.
اوزار جو غلط استعمال
اوزار استعمال ڪندڙ ايجنٽ بغير ان پٽ جي guardrails، گڏوگڏ ڪوڊ ايگزيڪيوشن ۽ آٽو ايگزيڪيوٽو جهڙين صلاحيتن جو في-ايسيٽ ڏيک.
سڃاڻپ ۽ استحقاق جي غلط استعمال
ايجنٽ ڪنفيگريشن ۾ جامد ڊگهي عرصي تائين رهڻ وارا سندون، دائري کي تنگ ڪرڻ کان سواءِ شيئر ڪيل سندون، اعليٰ مراعات سان MCP ۽ ٽول سرور، ۽ پرامپٽ فائلن ۾ راز.
ايجنٽ سپلاءِ چين
خراب يا ٽائيپوسڪواٽ ٿيل صلاحيتون، هڪ SAFE / CAUTION / DO_NOT_INSTALL فيصلي سان؛ غير محفوظ ماڊل لوڊنگ (trust_remote_code=True); هر جزو جو هڪ AI-BOM.
غير متوقع ڪوڊ جي عملدرآمد
ٽينٽ ايل ايل ايم آئوٽ پُٽ مان وهندو آهي eval ۽ غير قابل اعتماد ڊيٽاسيٽس مان pickle.load, پٿون ۽ جاوا اسڪرپٽ ۾؛ ٽيمپليٽ انجيڪشن جيڪو RCE ڏانهن وٺي ٿو.
ياداشت ۽ حوالي سان زهر ڏيڻ
غير صفائي ٿيل RAG ريٽريور، ۽ ویکٹر ۽ ايمبيڊنگ ڪمزوريون (LLM08).
رن ٽائم رويي
انٽر ايجنٽ ڪميونيڪيشن، ڪيسڪيڊنگ ناڪاميون، انساني ڀروسو ۽ بدمعاش ايجنٽ رن ٽائم تي ظاهر ٿين ٿا. زائيگيني توهان کي انوینٽري ۽ رشتي جو گراف ڏئي ٿو جنهن تي اهي رن ٽائم ڪنٽرول انحصار ڪن ٿا.
انهي ڪور جي چوڌاري:
- صلاحيتن ۽ ايجنٽ جي هدايتن جو معنوي جائزو. هڪ اختياري، ٻيهر پيدا ٿيندڙ LLM جائزو جي ارادي جو فيصلو ڪري ٿو
SKILL.md۽AGENTS.mdفائلون، صرف نثر جي خراب هدايتن کي پڪڙيندي جيڪي ڪو به دستخط نه ڏسي سگهي ٿو. اهو هڪ خود ميزبان ماڊل تي هلائي سگهي ٿو. - ان کي CI ۾ داخل ڪريو. هن
xygeni aiاسڪينر توهان جي اندر هلندو آهي pipeline ۽ جڏهن ڳولا موجود هجي ته تعمير ناڪام ٿئي ٿي. صرف رپورٽ موڊ ۾ شروع ڪريو، پوءِ ڪرٽيڪل تي گيٽ ڪريو. - ايجنٽ لوپ اندر سيڪيورٽي. ديو اي آءِ زائيگيني اسڪين، ٽرائيج، ۽ فڪسس کي IDE ۽ AI ڪوڊنگ ايجنٽن ۾ آڻيندو آهي زائيگيني ايم سي پي سرور.
- ڪم اسٽيشن جي حفاظت ڪريو. Shield ڊولپر مشينن تي خراب پيڪيجز کي بلاڪ ڪري ٿو، جيڪو به انسٽال هلائي ٿو، ۽ هر بلاڪ کي ان عمل ۽ ڪمانڊ سان منسوب ڪري ٿو جيڪو ان کي شروع ڪيو.
- جلدي درست ڪريو. AI Triage نتيجن کي ترجيح ڏئي ٿو، ۽ AI Remediation هر OWASP LLM ڪيٽيگري لاءِ درست رهنمائي پيدا ڪري ٿو.
OWASP ايجنٽڪ AI مٿيان 10 تياري چيڪ لسٽ
- inventory پنهنجي ذخيرن ۾ هر ايجنٽ، ماڊل، ٽول، ايم سي پي سرور ۽ مهارت جي فهرست ٺاهيو، ۽ هر هڪ تي فهرست کي موجوده رکو commit.
- گھٽ ۾ گھٽ ايجنسي: هر ايجنٽ کي صرف خودمختياري ۽ اوزار ڏيو جيڪي ان جي ڪم جي ضرورت آهي، ۽ تباهي واري ڪمن لاءِ انساني منظوري جي ضرورت آهي.
- وسيع سڃاڻپ: ڊگهي عرصي واري، شيئر ٿيل ايجنٽ سندن کي مختصر عرصي واري، في-ايجنٽ ٽوڪن سان تبديل ڪريو.
- بي اعتبار ان پٽ: هر دستاويز، ويب پيج، اي ميل ۽ ايجنٽ پيغام کي غير اعتباري سمجهيو ان کان اڳ جو اهو ڪو مقصد يا ٽول ڪال ٺاهي سگهي.
- تصديق ٿيل اجزا: اختيار ڪرڻ کان اڳ صلاحيتن، MCP سرورز ۽ ماڊلز جو جائزو وٺو، ورجن کي پن ڪريو، ۽ AI-BOM رکو.
- ڪابه غير محفوظ عملدرآمد ناهي: پابند
evalماڊل آئوٽ پُٽ تي، سينڊ باڪس ڪوڊ ايگزيڪيوشن تي ۽ ڪڏهن به ايجنٽن کي روٽ طور نه هلايو. - صاف ياداشت: آر اي جي اسٽورن ۽ ڊگهي مدت جي ياداشت ۾ داخل ٿيندڙ شين کي صاف ڪريو، ۽ استعمال ڪندڙ ۽ حوالي سان ياداشت کي الڳ ڪريو.
- سي آءِ ۾ گيٽ: هر هڪ تي ايجنٽ ڪوڊ اسڪين ڪريو pull request ۽ ASI ڪوڊس سان ڳولا جو نقشو ٺاهيو.
- ڏسو ۽ شامل ڪريو: هر ايجنٽ جي ڪارروائي ۽ ٽول ڪال کي لاگ ڪريو، ۽ پڪ ڪريو ته توهان ڪنهن به ايجنٽ کي جلدي رد ڪري سگهو ٿا.
ڄاڻو ته توهان ڪهڙا ايجنٽ هلائيندا آهيو ان کان اڳ جو اهي عمل ڪن
OWASP ايجنٽڪ AI ٽاپ 10 توهان کي نقشو ڏئي ٿو. پهرين حرڪت سڀني ڏهن خطرن لاءِ ساڳي آهي: پنهنجي ڪوڊ ۾ هر ايجنٽ، اوزار ۽ مهارت ڳوليو. ڏسو ته ڪيئن زائيجيني اي آءِ سيڪيورٽي توهان جي ايجنٽن جي فهرست ٺاهي ٿي ۽ ڳولا کي ASI ڪوڊس ۾ نقشي ۾ آڻي ٿي.، يا ڪتاب هڪ ڊيمو.
FAQs
OWASP ايجنٽڪ AI ٽاپ 10 ۾ ASI جو ڇا مطلب آهي؟
ASI جو مطلب آهي ايجنٽڪ سيڪيورٽي انيشيئيٽو، OWASP GenAI سيڪيورٽي پروجيڪٽ ٽيم جنهن لسٽ لکي. هر خطري ۾ ASI01 (ايجنٽ گول هاءِ جيڪ) کان ASI10 (روگ ايجنٽ) تائين هڪ ڪوڊ هوندو آهي، ساڳيءَ طرح LLM لسٽ LLM01 کان LLM10 تائين استعمال ڪندي آهي.
ڇا مون کي OWASP ايجنٽڪ AI ٽاپ 10 جي ضرورت آهي جيڪڏهن مان اڳ ۾ ئي OWASP LLM ٽاپ 10 جي پيروي ڪريان ٿو؟
صرف جيڪڏهن توهان جو AI ڪم ڪري سگهي ٿو. هڪ چيٽ بوٽ يا RAG ايپ جيڪا صرف سوالن جا جواب ڏئي ٿي اها LLM ٽاپ 10 ۾ شامل آهي. هڪ دفعو توهان جي ايپليڪيشن ٽولز کي ڪال ڪري ٿي، ياداشت رکي ٿي، ٻين ايجنٽن کي تفويض ڪري ٿي، يا سندون استعمال ڪري ٿي، ايجنٽ لسٽ خطرن کي ڍڪي ٿي جيڪا LLM لسٽ نٿي ڪري.
ڇا جامد تجزيو OWASP ايجنٽڪ AI مٿين 10 خطرن کي ڳولي سگهي ٿو؟
انهن مان ڪيترن لاءِ، ها. گول هائيڪ سطحون، غير محفوظ اوزار، وڌيڪ مراعات يافته سندون، خراب صلاحيتون، غير محفوظ ڪوڊ عملدرآمد، ۽ غير صفائي ٿيل RAG ان پٽ سڀ ڪوڊ ۽ ترتيب ۾ ثبوت ڇڏي ويندا آهن. لائيو رويي مان نڪرندڙ خطرا، جهڙوڪ ڪيسڪيڊنگ ناڪاميون ۽ بدمعاش ايجنٽ، انهن کي مٿي تي رن ٽائم ڪنٽرول جي ضرورت آهي.







