এআই পেন্টেস্টিং: একজন আক্রমণকারীর মতো করে এআই সিস্টেম পরীক্ষা করা

TL; ডিআর

পেন্টেস্টিং প্রমাণ করে যে একজন আক্রমণকারী কী করতে পারে। এআই-এর যুগে, আপনি গত ত্রৈমাসিকে যে সিস্টেমটি পরীক্ষা করেছিলেন তার আর কোনো অস্তিত্ব নেই। মডেলের নতুন সংস্করণ আসে, প্রম্পটগুলো সম্পাদিত হয়, টুলগুলো সংযুক্ত হয়, এবং এর কোনোটিই আপনার কোডের একটি লাইনকেও স্পর্শ করে না। এআই পেন্টেস্টিং কোডের পথের পরিবর্তে আচরণকে লক্ষ্য করে: মডেলকে কী করতে প্ররোচিত করা যায়, এজেন্টকে কী কল করতে বাধ্য করা যায়, এবং এর ফলে কী বেরিয়ে যায়। এর পরিধি এখন OWASP Top 10 for LLM Applications এবং OWASP Top 10 for Agentic Applications 2026-এর সাথে সামঞ্জস্যপূর্ণ।

পেলোডটি একটি বাক্য, এবং অনুরোধের মধ্যে কোনো কিছুই ত্রুটিপূর্ণ বলে মনে হচ্ছে না। যখন কোনো সাপোর্ট টিকেট, কোড কমেন্ট বা পুনরুদ্ধার করা ডকুমেন্টের মধ্যে আক্রমণটি আসে, তখন তা শনাক্ত করার কোনো উপায় থাকে না, আর একারণেই ইনডাইরেক্ট প্রম্পট ইনজেকশন এমন একটি কৌশল যা সহজে সম্প্রসারণযোগ্য: এর জন্য কাউকে আপনার ফ্রন্ট-এন্ডে হস্তক্ষেপ করতে হয় না। একবার মডেলটি টুলস ব্যবহারের ক্ষমতা পেয়ে গেলে, সেটিকে যে টুলসগুলো ব্যবহারের অনুমতি দেওয়া হয়, সেগুলোর মাধ্যমেই ক্ষতি সাধিত হয়। টুলের অপব্যবহার, ক্ষমতার অতিরিক্ত প্রয়োগ এবং এজেন্টের নিজস্ব ইন্টিগ্রেশনের মাধ্যমে ডেটা পাচার—এগুলোই হলো গুরুত্বপূর্ণ ফলাফল, উত্তরগুলো পড়তে ভালো লাগছে কি না তা নয়।

একটি ব্যর্থ প্রচেষ্টা কিছুই প্রমাণ করে না। এআই সিস্টেমগুলো সম্ভাবনামূলক, তাই একটি কার্যকর ফলাফল হলো একটি হার, কোনো ঘটনা নয়: এই আক্রমণটি ১০০টি চেষ্টার মধ্যে ১২টিতে সফল হয়েছে। এবং লক্ষ্যবস্তুটি মডেলের চেয়েও ব্যাপক। নথিভুক্ত আক্রমণগুলো ইতিমধ্যেই পার্শ্ববর্তী অ্যাসেটগুলোতে আঘাত হেনেছে: রুলস ফাইলে লুকানো ইউনিকোড যা একটি অ্যাসিস্ট্যান্টকে ব্যাকডোরযুক্ত আউটপুট নির্গত করতে বাধ্য করে, এমসিপি সার্ভারে টুল পয়জনিং, এবং ৪৩৭,০০০ বারেরও বেশি ব্যবহৃত একটি এমসিপি ব্রিজের মাধ্যমে সম্পূর্ণ রিমোট কোড এক্সিকিউশন। প্রতিটি মডেল, প্রম্পট, টুল এবং সার্ভার পরিবর্তনের উপর পুনরায় পরীক্ষা করাই হলো একমাত্র ধারাবাহিকতা যা বাস্তবতাকে প্রতিফলিত করে।

পরীক্ষা করা দ্বিতীয় বিষয়। দেখাটাই প্রথম বিষয়: এআই-এসপিএম ইনভেন্টরি এবং এআই-বিওএম তৈরি করে, ফলে আপনি জানতে পারেন কোন এজেন্টের কাছে কোন টুল আছে এবং কোন এমসিপি সার্ভারগুলো কেউ অনুমোদন করেনি; এআই নিরাপত্তা এটি LLM অ্যাপ্লিকেশনের জন্য OWASP টপ ১০-এর সাথে সেই অ্যাসেটগুলোকে মিলিয়ে স্কোর করে এবং সুনির্দিষ্ট ফাইল ও লাইন নির্দেশ করে, এবং অগ্রাধিকার নির্ধারণকারী ফানেলটি হাজার হাজার ফলাফল থেকে কেবল সেইগুলোই বেছে নেয় যেগুলো ব্যবহৃত, নাগালের মধ্যে, শোষণযোগ্য, বিশেষাধিকারপ্রাপ্ত এবং ব্যবসার জন্য অত্যন্ত গুরুত্বপূর্ণ; xy-dast এআই অ্যাপ্লিকেশনটি যে ওয়েব এবং এপিআই সারফেসের ওপর এখনও চলে, তা পরীক্ষা করে চলেছে। আপনার মালিকানাধীন স্ক্যানারগুলো থেকে প্রাপ্ত তথ্যের ক্ষেত্রেও একই বুদ্ধিমত্তা প্রযোজ্য।সুতরাং এটি আপনার স্ট্যাককে প্রতিস্থাপন করার পরিবর্তে প্রসারিত করে।