TL; ডিআর
OWASP Agentic AI Top 10 আপনার জন্য কী বোঝায় pipeline
একটি এলএলএম (LLM) যখন কোনো ভুল তথ্য দেয়, তখন তা একটি কনটেন্ট সমস্যা। একটি এজেন্ট যখন কোনো ভুল কাজ করে, তখন তা একটি নিরাপত্তা সংক্রান্ত ঘটনা। OWASP Agentic AI Top 10 হলো দ্বিতীয়টির জন্য নির্দেশিকা।
- এটা কি: OWASP Agentic AI Top 10 (আনুষ্ঠানিকভাবে এজেন্টিক অ্যাপ্লিকেশনের জন্য OWASP শীর্ষ ১০ ২০২৬) এমন দশটি ঝুঁকির তালিকা দেয় যা এআই এজেন্টদের জন্য নির্দিষ্ট, যারা পরিকল্পনা করে, টুলকে নির্দেশ দেয়, স্মৃতি সংরক্ষণ করে এবং আপনার হয়ে কাজ করে। কোডগুলো ASI01 থেকে ASI10 পর্যন্ত।
- এর সম্পর্ক: এটি OWASP LLM টপ ১০ তালিকাটিকে প্রতিস্থাপন না করে বরং এর পরিধি বাড়ায়। LLM তালিকাটি একজন মডেল যা বলেন তা অন্তর্ভুক্ত করে; এজেন্টিক তালিকাটি একজন এজেন্ট যা করেন তা অন্তর্ভুক্ত করে।
- যেখানে এটি প্রবেশ করে: বাস্তবে pipelineএই ঝুঁকিগুলো চারটি দরজা দিয়ে আসে: IDE, থার্ড-পার্টি এজেন্ট কম্পোনেন্ট, আপনার নিজের এজেন্ট কোড এবং প্রোডাকশন রানটাইম।
- আপনি যা ধরতে পারেন: দশটির মধ্যে ছয়টি কোড এবং কনফিগারেশনে তাদের চিহ্ন রেখে যায়, তাই আপনি ডেপ্লয় করার আগেই সেগুলোকে থামাতে পারেন। বাকি চারটির জন্য রানটাইম ডিজাইন কন্ট্রোল প্রয়োজন, এবং সেগুলোর প্রত্যেকটিই শুরু হয় আপনি কোন এজেন্টগুলো চালাচ্ছেন তা জানার মাধ্যমে।
বরাবর পায়: প্রতিটি এজেন্ট, টুল, এমসিপি সার্ভার এবং স্কিলের তালিকা তৈরি করুন, তারপর প্রাপ্ত ফলাফলগুলোকে এএসআই কোডে ট্যাগ করে সিআই-তে নতুন এজেন্ট কোড গেট করুন।
OWASP Agentic AI Top 10 কেন গুরুত্বপূর্ণ: আপনার pipeline নতুন আছে commitTERs
এক বছর আগে, আপনার রিপোজিটরিগুলোর কোড মানুষের তৈরি ছিল। আজ, এর একটি ক্রমবর্ধমান অংশ আসছে এআই এজেন্টদের কাছ থেকে: কোডিং অ্যাসিস্ট্যান্ট যারা ডিপেন্ডেন্সি ইনস্টল করে, এজেন্ট যারা ফাইল খোলে। pull requestsএবং এজেন্ট ফ্রেমওয়ার্ক, যা আপনার নিজস্ব পণ্যের ভেতরেই নিজস্ব টুল, মেমরি এবং ক্রেডেনশিয়াল সহ অন্তর্ভুক্ত থাকে। OWASP Agentic AI Top 10 মূলত এই পরিবর্তনের জন্যই তৈরি করা হয়েছিল।
এটি থ্রেট মডেল পরিবর্তন করে দেয়। একটি এলএলএম (LLM) যখন কোনো ভুল শনাক্ত করে, তখন তা একটি কনটেন্ট সমস্যা হিসেবে গণ্য হয়। আর কোনো এজেন্ট যখন কোনো ভুল কাজ করে (যেমন ডেটা মুছে ফেলা, টোকেন ফাঁস করা, বা ক্ষতিকর প্যাকেজ ইনস্টল করা), তখন তা একটি নিরাপত্তা সংক্রান্ত ঘটনা হিসেবে বিবেচিত হয়।
OWASP Agentic AI Top 10 হলো সেই দ্বিতীয় ধরনের সমস্যার জন্য প্রথম অভিন্ন পরিভাষা। বেশিরভাগ ব্যাখ্যামূলক গ্রন্থ সংজ্ঞা দিয়েই থেমে যায়। এটি প্রতিটি ঝুঁকিকে সেই স্থানের সাথে সংযুক্ত করে যেখানে এটি আসলে আপনার কাজে প্রবেশ করে। pipelineএবং স্থাপনের আগে এ ব্যাপারে আপনি কী করতে পারেন।
OWASP Agentic AI Top 10 বলতে কী বোঝায়?
OWASP Agentic AI Top 10 হলো এআই এজেন্টদের দশটি সবচেয়ে গুরুতর নিরাপত্তা ঝুঁকির একটি পিয়ার-রিভিউড তালিকা। এআই এজেন্ট হলো এমন সিস্টেম যা পরিকল্পনা করে, টুল আহ্বান করে, স্মৃতি সংরক্ষণ করে এবং অর্পিত কর্তৃত্ব নিয়ে কাজ করে। এর আনুষ্ঠানিক নাম হলো... এজেন্টিক অ্যাপ্লিকেশনের জন্য OWASP শীর্ষ ১০ ২০২৬OWASP GenAI সিকিউরিটি প্রজেক্ট তাদের Agentic Security Initiative-এর মাধ্যমে ৯ ডিসেম্বর ২০২৫-এ এটি প্রকাশ করে, যেখান থেকে ASI প্রিফিক্সটি এসেছে।
এটি এখনও তরুণ standardএটি এর প্রথম সংস্করণ। প্রতিটি এন্ট্রি পরিচিত OWASP ফরম্যাট অনুসরণ করে, যেখানে রয়েছে বর্ণনা, সাধারণ উদাহরণ, আক্রমণের পরিস্থিতি এবং প্রতিরোধের নির্দেশনা। OWASP-এর কেন্দ্রীয় নকশার পরামর্শটি এই দশটি এন্ট্রির সবকটিতেই রয়েছে: এজেন্টদেরকে কাজের প্রয়োজনের চেয়ে বেশি স্বায়ত্তশাসন দেওয়া এড়িয়ে চলুন, এবং পর্যবেক্ষণযোগ্যতাকে বাধ্যতামূলক হিসেবে বিবেচনা করুন।
এজেন্টিক টপ ১০ বনাম এলএলএম টপ ১০
এজেন্টিক তালিকাটি প্রতিস্থাপন করে না এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০এটি তার উপর ভিত্তি করে গড়ে উঠেছে, এবং এর ভুক্তিগুলো সরাসরি এলএলএম (LLM) ঝুঁকিগুলোর সাথে পারস্পরিক সংযোগ স্থাপন করে। একটি সহজ সাধারণ নিয়ম হলো:
| মাত্রা | OWASP LLM শীর্ষ ১০ | OWASP Agentic AI শীর্ষ ১০ |
|---|---|---|
| কেন্দ্রবিন্দু | মডেলটি যা বলে | এজেন্ট যা করে |
| সাধারণ ব্যর্থতা | একটি কারসাজিপূর্ণ বা ফাঁস হওয়া প্রতিক্রিয়া | একটি কারসাজিপূর্ণ লক্ষ্য, সরঞ্জামের আহ্বান বা পদক্ষেপ |
| প্রযোজ্য | চ্যাটবট, RAG অ্যাপ, LLM-এর যেকোনো বৈশিষ্ট্য | সরঞ্জাম, স্মৃতি, প্রতিনিধিদল বা অন্যান্য এজেন্ট সহ এজেন্ট |
| কোড | এলএলএম০১ থেকে এলএলএম১০ | ASI01 থেকে ASI10 |
আপনার অ্যাপ্লিকেশনটি যদি শুধু প্রশ্নের উত্তর দেয়, তবে এলএলএম তালিকাটি আপনার জন্য যথেষ্ট। কিন্তু যখন এটি কার্যকর পদক্ষেপ নেওয়ার সুযোগ তৈরি করে, তখন আপনার উভয়েরই প্রয়োজন। আমাদের নির্দেশিকা মডেল নিষ্কাশন আক্রমণ একটি এলএলএম-এর শীর্ষ ১০টি ঝুঁকি বিশদভাবে তুলে ধরে।
OWASP Agentic AI Top 10, ব্যাখ্যা: বাস্তবে ASI01 থেকে ASI10 pipelines
এখানে OWASP Agentic AI Top 10-এর প্রতিটি ঝুঁকি সহজ ভাষায় তুলে ধরা হলো, এবং এরপরে কোডবেসগুলিতে এটি কেমন দেখায় তা বর্ণনা করা হলো। pipelineযেমনটা আমরা প্রতিদিন দেখি।
ASI01: এজেন্ট গোল হাইজ্যাক
একজন আক্রমণকারী কোনো ডকুমেন্ট, ইমেল, ওয়েব পেজ বা অন্য কোনো এজেন্টের মেসেজে নির্দেশাবলী ঢুকিয়ে দিয়ে এজেন্টের উদ্দেশ্য পরিবর্তন করে দেয়। এজেন্টরা নির্দেশাবলী এবং মূল বিষয়বস্তু আলাদা করতে পারে না, তাই এই ধরনের লেখা একটি সম্পূর্ণ বহু-ধাপের পরিকল্পনাকে ভিন্ন পথে চালিত করতে পারে।
আপনার মধ্যে pipeline: একটি এজেন্ট যা সংক্ষিপ্ত করে pull requests লুকানো নির্দেশনা সম্বলিত একটি পিআর বিবরণ পড়ে, এবং সারসংক্ষেপ করার পরিবর্তে অনুমোদন বা ফাঁস করা শুরু করে।
ASI02: টুলের অপব্যবহার এবং শোষণ
এজেন্টটি এমন একটি টুল ব্যবহার করে যা ব্যবহার করার অনুমতি তার আছে, কিন্তু ক্ষতিকর উপায়ে: যেমন ডেটা মুছে ফেলা, একটি লুপের মধ্যে ব্যয়বহুল এপিআই কল করা, বা বাইরে তথ্য পাঠিয়ে দেওয়া। এতে কোনো বিশেষাধিকার বৃদ্ধি পায় না; বৈধ অ্যাক্সেস কেবল ভুল লক্ষ্যের দিকে পরিচালিত হয়।
আপনার মধ্যে pipeline: শেল অ্যাক্সেস থাকা একটি কোডিং এজেন্ট ভুল ডিরেক্টরিতে একটি ক্লিনআপ কমান্ড চালায়।
ASI03: পরিচয় এবং বিশেষাধিকারের অপব্যবহার
এজেন্টরা ক্রেডেনশিয়াল, সেশন এবং রোল উত্তরাধিকারসূত্রে পায়, এবং আক্রমণকারীরা সেই ডেলিগেশন চেইনগুলোকে কাজে লাগিয়ে এমন কিছুতে পৌঁছায় যা তারা সরাসরি পৌঁছাতে পারত না। এর মূল কারণ হলো মানুষের জন্য তৈরি আইডেন্টিটি সিস্টেম, যা এমন সফটওয়্যারে প্রয়োগ করা হয় যা নিজে থেকেই কাজ করে।
আপনার মধ্যে pipeline: একটি এজেন্ট কনফিগারেশনে প্রতিষ্ঠান-ব্যাপী পরিধির একটি দীর্ঘস্থায়ী টোকেন থাকে, যা বিভিন্ন টুলের মধ্যে শেয়ার করা হয়।
ASI04: এজেন্টিক সাপ্লাই চেইন দুর্বলতা
এজেন্টরা যে মডেল, টুল, প্লাগইন, এমসিপি সার্ভার, স্কিল এবং প্রম্পট লোড করে, সেগুলো তৃতীয় পক্ষ থেকে আসে এবং এগুলোর যেকোনোটিই ক্ষতিকারক বা বিকৃত হতে পারে। চিরাচরিত ডিপেন্ডেন্সির মতো নয়, এজেন্টরা প্রায়শই রানটাইমে এই উপাদানগুলো একত্রিত করে।
আপনার মধ্যে pipeline: একজন ডেভেলপার একটি টাইপোস্কোয়াটেড এজেন্ট স্কিল ইনস্টল করেন, যার নির্দেশাবলীতে এজেন্টকে ক্রেডেনশিয়ালগুলো পড়ে বাহ্যিকভাবে পোস্ট করতে বলা হয়।
ASI05: অপ্রত্যাশিত কোড নির্বাহ (RCE)
এজেন্ট এমন কোড তৈরি বা চালু করে যা এমন জায়গায় চলে যেখানে চলা উচিত নয়: শেল কমান্ড, ডিসিরিয়ালাইজড অবজেক্ট, টেমপ্লেট ইঞ্জিন। eval মডেল আউটপুটের উপর। এর ফলে সম্পূর্ণ হোস্ট বা কন্টেইনারের নিরাপত্তা বিঘ্নিত হতে পারে।
আপনার মধ্যে pipeline: এলএলএম-এর ফলাফল সরাসরি প্রবাহিত হয় evalঅথবা একজন এজেন্ট একটি অবিশ্বস্ত ডেটাসেট লোড করে pickle.load.
ASI06: স্মৃতি এবং প্রেক্ষাপট বিষক্রিয়া
আক্রমণকারীরা এজেন্টের দীর্ঘমেয়াদী স্মৃতি, সারাংশ বা RAG স্টোরে ক্ষতিকারক ডেটা ঢুকিয়ে দেয়, যাতে ভবিষ্যতের প্রতিটি ডিটেকশনের সময় তা সক্রিয় হয়ে ওঠে।cisআয়নটি বিকৃত। এককালীন প্রম্পট ইনজেকশনের বিপরীতে, এই বিকৃতি সেশন জুড়ে স্থায়ী থাকে।
আপনার মধ্যে pipeline: একটি RAG রিট্রিভার কোনো রকম পরিমার্জন ছাড়াই বাহ্যিক নথি গ্রহণ করে, এবং একটি দূষিত পৃষ্ঠাই এর পরবর্তী প্রতিটি উত্তরকে প্রভাবিত করে।
ASI07: এজেন্টদের মধ্যে অনিরাপদ যোগাযোগ
এজেন্টরা কোনো প্রমাণীকরণ, অখণ্ডতা যাচাই বা বৈধতা ছাড়াই বার্তা আদান-প্রদান করে, ফলে বার্তা নকল করা, হস্তগত করা বা পরিবর্তন করা যেতে পারে। একই নির্দেশনাও বিভিন্ন এজেন্ট ভিন্নভাবে পড়তে পারে।
আপনার মধ্যে pipeline: একটি প্ল্যানার এজেন্ট অভ্যন্তরীণ নেটওয়ার্কের এমন যেকোনো পরিষেবা থেকে কাজ গ্রহণ করে, যা তার প্রোটোকল ব্যবহার করে।
ASI08: ক্রমিক ব্যর্থতা
একটি ত্রুটি (যেমন বিভ্রম, বিষাক্ত স্মৃতি, বা ত্রুটিপূর্ণ সরঞ্জাম) মানুষের প্রতিক্রিয়া দেখানোর আগেই বিভিন্ন এজেন্ট ও কর্মপ্রবাহের মধ্যে দ্রুত ছড়িয়ে পড়ে। যখন এই ক্ষতি মূল লঙ্ঘনের স্থান ছাড়িয়ে বিস্তৃত হয়, তখন OWASP এই বিভাগটি প্রয়োগ করে।
আপনার মধ্যে pipeline: একজন এজেন্ট একটি ভুল কনফিগারেশন লেখে, দ্বিতীয়জন সেটি স্থাপন করে, তৃতীয়জন তা প্রতিটি অঞ্চলে ছড়িয়ে দেয়। আমরা আলোচনা করছিলাম কীভাবে এর প্রভাবের পরিধি আমাদের মধ্যে সীমাবদ্ধ রাখা যায়। ব্লাস্ট রেডিয়াস সেফডেভ টক.
ASI09: মানব-এজেন্ট বিশ্বাসের অপব্যবহার
মানুষ এজেন্টের আত্মবিশ্বাসী ও সুস্পষ্টভাবে ব্যাখ্যা করা আউটপুটের ওপর আস্থা রাখে, এবং আক্রমণকারী বা ত্রুটিপূর্ণ ডিজাইন সেই আস্থাকে কাজে লাগিয়ে ডিকে চালিত করে।cisযেহেতু মানুষই চূড়ান্ত কাজটি করে, তাই এজেন্টের ভূমিকা নিরীক্ষা বিবরণ থেকে হারিয়ে যেতে পারে।
আপনার মধ্যে pipeline: একজন পর্যালোচক একজন এজেন্টের অনুমোদন দেন pull request কারণ পার্থক্য যাচাই না করেই ব্যাখ্যাটি সঠিক বলে মনে হচ্ছে।
ASI10: দুর্বৃত্ত এজেন্ট
একটি এজেন্ট তার উদ্দিষ্ট কাজ থেকে বিচ্যুত হয় এবং ক্ষতিকর, প্রতারণামূলক বা পরিধির বাইরে কাজ করতে থাকে। প্রতিটি কাজ বৈধ বলে মনে হতে পারে; কিন্তু সামগ্রিক আচরণটি বৈধ নয়। ASI10 হলো বিচ্যুতি শুরু হওয়ার পর নিয়ন্ত্রণ হারানোর বিষয়, প্রাথমিক অনুপ্রবেশের বিষয় নয়।
আপনার মধ্যে pipeline: একটি এজেন্ট তার কাজ শেষ হওয়ার পরেও অনুমতি ব্যবহার করতে থাকে এবং নীরবে তার সংস্পর্শে আসা বিষয়গুলোকে প্রসারিত করে।
দশটি ঝুঁকির মধ্যে, ASI04 হলো এমন একটি যা বেশিরভাগ টিমকে ইতিমধ্যেই প্রতিদিন মোকাবেলা করতে হয়: কোডিং এজেন্টরা এমনভাবে প্যাকেজ নির্বাচন ও ইনস্টল করে, যা কেউ পর্যালোচনা করে না। আমরা সাম্প্রতিক একটি SafeDev Talk-এ ঠিক এই বিষয়টি নিয়েই বিস্তারিত আলোচনা করেছি। দেখে নিন!
OWASP Agentic AI Top 10 আপনার কোথায় প্রবেশ করে pipeline
দশটি ঝুঁকি একটি দরজা দিয়ে আসে না। সেগুলো আসে চারটি দরজা দিয়ে, এবং প্রতিটি দরজার জন্য নিজস্ব নিয়ন্ত্রণের প্রয়োজন।
| এন্ট্রি পয়েন্ট | কী আসে | এএসআই ঝুঁকি | কোথায় থামাবো এটা |
|---|---|---|---|
| ডেভেলপার আইডিই এবং ওয়ার্কস্টেশন | কোডিং এজেন্ট, এমসিপি সার্ভার, দক্ষতা, এজেন্টদের দ্বারা ইনস্টল করা প্যাকেজ | ASI04, ASI05 | ওয়ার্কস্টেশনে, ইনস্টল করার আগে |
| তৃতীয় পক্ষের এজেন্ট উপাদান | রেজিস্ট্রি থেকে মডেল, টুল, প্লাগইন, প্রম্পট | ASI04, ASI06 | গ্রহণের পূর্বে তালিকা ও পর্যালোচনা |
| আপনার নিজস্ব এজেন্ট কোড | এজেন্ট ফ্রেমওয়ার্ক, প্রম্পট, টুল ডেফিনিশন, ক্রেডেনশিয়াল, RAG pipelines | ASI01, ASI02, ASI03, ASI05, ASI06 | স্থির বিশ্লেষণ, pull requests এবং সিআই |
| উৎপাদনের সময়কাল | এজেন্টরা অভিনয় করছে, একে অপরের সাথে কথা বলছে, মানুষের সাথে কাজ করছে | ASI07, ASI08, ASI09, ASI10 | স্থাপত্য, পর্যবেক্ষণ এবং কিল সুইচ |
OWASP Agentic AI Top 10 কীভাবে প্রয়োগ করবেন, তার জন্য প্যাটার্নটি গুরুত্বপূর্ণ। প্রথম তিনটি এজেন্ট কোড এবং কনফিগারেশনে প্রমাণ রেখে যায়, যার মানে হলো কোনো কিছু শিপ করার আগেই আপনি সেগুলোকে খুঁজে বের করে ব্লক করতে পারেন। চতুর্থটি রানটাইম আচরণের উপর নির্ভর করে, তাই এটি ডিজাইনের কিছু সিদ্ধান্তের উপর নির্ভরশীল: ন্যূনতম এজেন্সি, স্বাক্ষরিত বার্তা, উচ্চ-প্রভাবশালী কাজের জন্য মানুষের অনুমোদন, এবং যেকোনো এজেন্টকে দ্রুত বাতিল করার ক্ষমতা।
এমনকি রানটাইম কন্ট্রোলগুলোও এমন একটি জিনিসের উপর নির্ভর করে যা আপনি আগে থেকেই তৈরি করেন: একটি ইনভেন্টরি। যে এজেন্টের অস্তিত্ব সম্পর্কে আপনি জানেন না, তার উপর আপনি কিল সুইচ বসাতে পারবেন না।
স্থাপনের আগেই Xygeni কীভাবে OWASP Agentic AI-এর শীর্ষ ১০টি ঝুঁকি শনাক্ত করে
জাইজেনি এআই নিরাপত্তা আপনার অ্যাপ্লিকেশনগুলো যে AI উপাদান দিয়ে তৈরি, তা সরাসরি সোর্স কোড থেকে স্ক্যান করা হয়। প্রতিটি অনুসন্ধানের সাথে তার OWASP LLM টপ ১০ ক্যাটাগরি এবং, যেখানে প্রযোজ্য, তার OWASP Agentic AI টপ ১০ কোড উল্লেখ থাকে, ফলে আপনার দল এবং নিরীক্ষকরা একই ভাষায় ফলাফলগুলো পড়তে পারেন।
OWASP Agentic AI Top 10-এর আলোচনা শুরু হয় এর উপাদান তালিকা দিয়ে। AI Security-তে এজেন্ট, মডেল, টুল, MCP সার্ভার, স্কিল, প্রম্পট ইত্যাদি অন্তর্ভুক্ত রয়েছে। guardrailsআপনার রিপোজিটরি জুড়ে থাকা ভেক্টর স্টোর এবং ডেটাসেটগুলো, এবং সেগুলো কীভাবে সংযুক্ত তার ম্যাপ: কোন এজেন্ট কোন মডেল ব্যবহার করে, কোন টুল চালায়, এবং কোন এমসিপি সার্ভারকে কল করে। এই ইনভেন্টরিটি একটি CycloneDX 1.6 ML-BOM হিসেবে এক্সপোর্ট হয়।
জাইজেনি এআই নিরাপত্তা
স্থাপনের আগে, ASI ঝুঁকি অনুসারে Xygeni যা শনাক্ত করে
প্রতিটি পর্যবেক্ষণকে তার OWASP কোড দিয়ে চিহ্নিত করা থাকে, যাতে আপনার দল এবং নিরীক্ষকরা এটি একই ভাষায় পড়তে পারেন।
এজেন্ট গোল হাইজ্যাক
প্রম্পট ইনজেকশন সারফেস, স্যানিটাইজেশন ছাড়াই বাহ্যিক উপাদান গ্রহণকারী এজেন্ট, ফ্লোটিং লেবেলে থাকা রেজিস্ট্রি থেকে নেওয়া প্রম্পট।
সরঞ্জামের অপব্যবহার
ইনপুট ছাড়াই টুল-আহ্বানকারী এজেন্ট guardrailsএর পাশাপাশি, কোড এক্সিকিউশন এবং অটো-এক্সিকিউটের মতো সক্ষমতাগুলোর একটি অ্যাসেট-ভিত্তিক ভিউও রয়েছে।
পরিচয় এবং বিশেষাধিকারের অপব্যবহার
এজেন্ট কনফিগে থাকা স্থায়ী ক্রেডেনশিয়াল, পরিধি সংকুচিত না করে শেয়ার করা ক্রেডেনশিয়াল, উচ্চতর বিশেষাধিকার সম্পন্ন এমসিপি ও টুল সার্ভার এবং প্রম্পট ফাইলে থাকা গোপনীয় তথ্য।
এজেন্টিক সাপ্লাই চেইন
ক্ষতিকর বা টাইপোস্কোয়াটেড দক্ষতা, যার জন্য SAFE / CAUTION / DO_NOT_INSTALL রায় দেওয়া হয়েছে; অনিরাপদ মডেল লোডিং (trust_remote_code=Trueপ্রতিটি উপাদানের একটি এআই-বিওএম।
অপ্রত্যাশিত কোড নির্বাহ
LLM আউটপুট থেকে দূষিত পদার্থ প্রবাহিত হয় eval এবং অবিশ্বস্ত ডেটাসেট থেকে pickle.loadপাইথন এবং জাভাস্ক্রিপ্টে; টেমপ্লেট ইনজেকশনের ফলে RCE ঘটে।
স্মৃতি এবং প্রেক্ষাপট বিষক্রিয়া
অজীবাণুমুক্ত RAG রিট্রিভার, এবং বাহক ও সংস্থাপন দুর্বলতা (LLM08)।
রানটাইম আচরণ
এজেন্টদের মধ্যকার যোগাযোগ, ধারাবাহিক ব্যর্থতা, মানুষের বিশ্বাস এবং দুর্বৃত্ত এজেন্ট রানটাইমে উদ্ভূত হয়। জাইজেনি আপনাকে সেই ইনভেন্টরি এবং সম্পর্ক গ্রাফ প্রদান করে, যার উপর এই রানটাইম নিয়ন্ত্রণগুলো নির্ভর করে।
সেই কেন্দ্রকে ঘিরে:
- দক্ষতা ও এজেন্টের নির্দেশাবলীর শব্দার্থগত পর্যালোচনা। একটি ঐচ্ছিক, পুনরুৎপাদনযোগ্য এলএলএম পর্যালোচনা অভিপ্রায় বিচার করে।
SKILL.mdএবংAGENTS.mdফাইলগুলো এমন গদ্য-ভিত্তিক ক্ষতিকারক নির্দেশাবলী শনাক্ত করতে পারে, যা কোনো সিগনেচার দেখতে পায় না। এটি সেলফ-হোস্টেড মডেলে চলতে পারে। - CI-তে এটিকে গেট করুন। সার্জারির
xygeni aiআপনার স্ক্যানারটি চলে pipeline এবং ফাইন্ডিং থাকলে বিল্ডটি ব্যর্থ করে দেয়। শুধু-রিপোর্ট মোডে শুরু করুন, তারপর ক্রিটিক্যাল-এর উপর গেট প্রয়োগ করুন। - এজেন্ট লুপের অভ্যন্তরে নিরাপত্তা। দেবাই এর মাধ্যমে Xygeni-এর স্ক্যান, ট্রায়েজ এবং ফিক্সগুলো IDE-তে ও AI কোডিং এজেন্টগুলোর মধ্যে নিয়ে আসে। জাইজেনি এমসিপি সার্ভার.
- ওয়ার্কস্টেশনটি সুরক্ষিত রাখুন। Shield ডেভেলপারদের মেশিনে ক্ষতিকর প্যাকেজ ডাউনলোড হওয়ার আগেই এটি ব্লক করে, যিনিই ইনস্টল করুন না কেন, এবং প্রতিটি ব্লকের জন্য দায়ী প্রসেস ও কমান্ডকে চিহ্নিত করে।
- দ্রুত ঠিক করুন। এআই ট্রায়েজ প্রাপ্ত ফলাফলগুলোকে অগ্রাধিকার দেয় এবং এআই রেমিডিয়েশন প্রতিটি OWASP LLM ক্যাটাগরির জন্য সমাধানের নির্দেশনা তৈরি করে।
OWASP Agentic AI শীর্ষ ১০ প্রস্তুতি চেকলিস্ট
- পরিসংখ্যা: আপনার রিপোজিটরিগুলোতে থাকা প্রতিটি এজেন্ট, মডেল, টুল, এমসিপি সার্ভার এবং স্কিলের তালিকা তৈরি করুন এবং প্রতিবার তালিকাটি হালনাগাদ রাখুন। commit.
- ন্যূনতম এজেন্সি: প্রতিটি এজেন্টকে কেবল তার কাজের জন্য প্রয়োজনীয় স্বায়ত্তশাসন ও সরঞ্জাম দিন এবং ধ্বংসাত্মক কার্যকলাপের জন্য মানুষের অনুমোদন আবশ্যক করুন।
- পরিধিগত পরিচয়: দীর্ঘস্থায়ী, যৌথ এজেন্ট ক্রেডেনশিয়ালগুলোকে স্বল্পমেয়াদী, এজেন্ট-ভিত্তিক টোকেন দিয়ে প্রতিস্থাপন করুন।
- অবিশ্বস্ত ইনপুট: কোনো লক্ষ্য বা টুল কল নির্ধারণ করার আগে প্রতিটি ডকুমেন্ট, ওয়েব পেজ, ইমেল এবং এজেন্ট মেসেজকে অবিশ্বস্ত হিসেবে বিবেচনা করুন।
- যাচাইকৃত উপাদানসমূহ: গ্রহণের পূর্বে দক্ষতা, এমসিপি সার্ভার ও মডেল, পিন সংস্করণ পর্যালোচনা করুন এবং একটি এআই-বিওএম (AI-BOM) রাখুন।
- অনিরাপদ নির্বাহ নয়: নিষেধাজ্ঞা
evalমডেল আউটপুটে, স্যান্ডবক্স কোড এক্সিকিউশনে এবং এজেন্টদের কখনোই রুট হিসেবে রান না করতে। - পরিষ্কার স্মৃতি: RAG স্টোর এবং দীর্ঘমেয়াদী মেমরিতে যা প্রবেশ করে তা পরিশুদ্ধ করুন, এবং ব্যবহারকারী ও প্রেক্ষাপট অনুযায়ী মেমরি আলাদা করুন।
- CI-তে গেট: প্রতিটিতে এজেন্ট কোড স্ক্যান করুন pull request এবং প্রাপ্ত ফলাফলগুলোকে এএসআই কোডগুলোর সাথে সংযুক্ত করুন।
- পর্যবেক্ষণ করুন এবং নিয়ন্ত্রণ করুন: প্রতিটি এজেন্ট কার্যকলাপ ও টুল কল লগ করুন, এবং নিশ্চিত করুন যে আপনি যেকোনো এজেন্টকে দ্রুত বাতিল করতে পারেন।
কোন এজেন্টরা কাজ করার আগেই জেনে নিন আপনি তাদের দিয়ে কোন এজেন্ট চালাচ্ছেন।
OWASP Agentic AI Top 10 আপনাকে পথনির্দেশিকাটি দেয়। দশটি ঝুঁকির ক্ষেত্রেই প্রথম পদক্ষেপ একই: আপনার কোডের মধ্যে থাকা প্রতিটি এজেন্ট, টুল এবং স্কিল খুঁজে বের করুন। দেখুন কিভাবে Xygeni AI Security আপনার এজেন্টদের তালিকা তৈরি করে এবং প্রাপ্ত ফলাফলকে ASI কোডের সাথে সংযুক্ত করে।, বা একটি ডেমো বুক.
বিবরণ
OWASP Agentic AI Top 10-এ ASI বলতে কী বোঝায়?
ASI-এর পূর্ণরূপ হলো Agentic Security Initiative, যা OWASP GenAI Security Project টিমের তৈরি একটি তালিকা। প্রতিটি ঝুঁকির জন্য ASI01 (Agent Goal Hijack) থেকে ASI10 (Rogue Agents) পর্যন্ত একটি কোড রয়েছে, ঠিক যেমন LLM তালিকায় LLM01 থেকে LLM10 পর্যন্ত কোড ব্যবহৃত হয়।
আমি যদি ইতিমধ্যেই OWASP LLM Top 10 অনুসরণ করি, তাহলে আমার কি OWASP Agentic AI Top 10-এর প্রয়োজন আছে?
শুধুমাত্র যদি আপনার এআই কাজ করতে পারে। একটি চ্যাটবট বা RAG অ্যাপ যা শুধু প্রশ্নের উত্তর দেয়, তা LLM টপ ১০-এর অন্তর্ভুক্ত। যখনই আপনার অ্যাপ্লিকেশন টুলস কল করে, মেমরি ধরে রাখে, অন্য এজেন্টদের কাছে দায়িত্ব অর্পণ করে, বা ক্রেডেনশিয়াল ব্যবহার করে, তখন এজেন্টিক তালিকাটি এমন ঝুঁকিগুলোকে অন্তর্ভুক্ত করে যা LLM তালিকায় নেই।
স্ট্যাটিক অ্যানালাইসিস কি OWASP Agentic AI-এর শীর্ষ ১০টি ঝুঁকি শনাক্ত করতে পারে?
তাদের অনেকের ক্ষেত্রেই, হ্যাঁ। গোল হাইজ্যাকের সুযোগ, অরক্ষিত টুল, অতিরিক্ত সুবিধাপ্রাপ্ত ক্রেডেনশিয়াল, ক্ষতিকারক দক্ষতা, অনিরাপদ কোড এক্সিকিউশন এবং অপরিশোধিত RAG ইনপুট—এই সবকিছুই কোড এবং কনফিগারেশনে প্রমাণ রেখে যায়। লাইভ কার্যকলাপ থেকে উদ্ভূত ঝুঁকি, যেমন ধারাবাহিক ব্যর্থতা এবং দুর্বৃত্ত এজেন্ট, এগুলোর জন্য উপরে রানটাইম নিয়ন্ত্রণের প্রয়োজন হয়।







