এআই নিরাপত্তা কী?

এআই নিরাপত্তা কী? এআই নিরাপত্তা হলো এআই মডেল, এজেন্ট, ডেটাসেট এবং সফটওয়্যার যে অবকাঠামোর উপর নির্ভর করে, সেগুলোকে এমন সব ঝুঁকি থেকে রক্ষা করার অনুশীলন, যা এআই সিস্টেম তৈরি, প্রশিক্ষণ এবং পরিচালনার পদ্ধতির সাথে স্বতন্ত্রভাবে জড়িত থাকে। এর আওতায় রয়েছে ব্যবহৃত প্রতিটি এআই অ্যাসেটের সন্ধান, প্রম্পট ইনজেকশন ও অনিরাপদ এজেন্ট আচরণের মতো এআই-নির্দিষ্ট দুর্বলতা শনাক্তকরণ, এবং ক্ষতি সাধনের আগেই অনিরাপদ এআই কার্যক্রম বন্ধ করার জন্য নীতিমালা প্রয়োগ করা। এটাই হলো এআই নিরাপত্তার মূল অর্থ, যা এই শব্দকোষের বাকি অংশে বিশদভাবে ব্যাখ্যা করা হয়েছে।

প্রচলিত অ্যাপ্লিকেশন সিকিউরিটি, যা কোড, ডিপেন্ডেন্সি এবং ইনফ্রাস্ট্রাকচারকে সুরক্ষা দেয়, তার থেকে ভিন্নভাবে এআই সিকিউরিটি এক নতুন শ্রেণীর অ্যাসেটকে সুরক্ষা দেয়: মডেল, প্রম্পট, এজেন্ট এবং এদেরকে সংযুক্তকারী মেশিন-টু-মেশিন প্রোটোকল। এআই যখন একটি ফিচার থেকে বেরিয়ে এসে সফটওয়্যার সাপ্লাই চেইনেরই একটি অংশ হয়ে উঠছে, তখন এটি একটি স্বতন্ত্র ও অপরিহার্য প্রতিরক্ষা স্তর হিসেবে আবির্ভূত হয়েছে।

এআই সুরক্ষার অর্থ: সংক্ষিপ্ত সংজ্ঞা #

সহজ কথায়, এআই নিরাপত্তার অর্থ হলো এই: আপনি যেভাবে ইতিমধ্যেই কোড সুরক্ষিত করেন, সেভাবেই এআই-কে সুরক্ষিত করুন, কিন্তু এমন কিছু উপাদান এবং আচরণের জন্য যা দেখার মতো করে প্রচলিত টুলগুলো কখনও তৈরি করা হয়নি।

সাধারণ বিভ্রান্তির উৎস থেকে ধারণাটিকে আলাদা করার একটি কার্যকর উপায়: এআই নিরাপত্তা এবং “নিরাপত্তায় এআই” এক জিনিস নয়। নিরাপত্তায় এআই বলতে বিদ্যমান নিরাপত্তা ব্যবস্থার উন্নতি সাধনে কৃত্রিম বুদ্ধিমত্তার ব্যবহারকে বোঝায়, যেমন একটি এআই মডেল যা দুর্বলতার ফলাফলগুলোকে বাছাই করে। অন্যদিকে, এআই নিরাপত্তা বলতে স্বয়ং এআই-কে সুরক্ষিত করাকে বোঝায়: যেমন মডেল ফাইল, প্রশিক্ষণ ডেটা, এজেন্ট, প্রম্পট এবং সেই সার্ভারগুলো যা এআই টুলগুলোকে কাজ করতে সক্ষম করে। উভয়ই এআই-এর বৈধ ব্যবহার, কিন্তু এগুলো ভিন্ন ভিন্ন প্রশ্নের উত্তর দেয়।

কেন এটি গুরুত্বপূর্ণ #

সফটওয়্যার টিমগুলো এআই কোডিং অ্যাসিস্ট্যান্ট, স্বায়ত্তশাসিত এজেন্ট এবং অন্যান্য প্রযুক্তি গ্রহণ করেছে। মডেল প্রসঙ্গ প্রোটোকল (এমসিপি) এমন গতিতে যা সেগুলোকে সুরক্ষিত করার সরঞ্জামগুলোকেও ছাড়িয়ে গেছে। এই পরিবর্তনটি যে কয়েকটি কারণে একটি নতুন আক্রমণের ক্ষেত্র তৈরি করেছে:

এআই নির্ভরতা বিষাক্ত বা উদ্ভাবিত হতে পারে। এআই কোডিং অ্যাসিস্ট্যান্টগুলো মাঝে মাঝে এমন প্যাকেজের সুপারিশ করে যেগুলোর কোনো অস্তিত্ব নেই; এই ধরণটি স্লপসকোয়াটিং নামে পরিচিত, যা আক্রমণকারীরা আগে থেকেই নিবন্ধন করে অস্ত্র হিসেবে ব্যবহার করতে পারে।

এআই-সৃষ্ট কোডের নিজস্ব ঝুঁকি রয়েছে। এআই কোড জেনারেশনের স্বাধীন বেঞ্চমার্কিংয়ে দেখা গেছে যে, এআই দ্বারা লিখিত কোডের একটি উল্লেখযোগ্য অংশ সাধারণ দুর্বলতার ধরণগুলো প্রবর্তন করে, এমনকি যখন অন্তর্নিহিত মডেলটি সক্ষম এবং সুপ্রশিক্ষিত হয়।

এজেন্ট এবং এমসিপি সার্ভারগুলো নতুন এবং মূলত নিরীক্ষিত নয় এমন অবকাঠামো। এজেন্টরা ফাইল পড়তে, টুল কল করতে এবং ডেভেলপারের পক্ষ থেকে কাজ করতে পারে। যদি কোনো এজেন্টের নির্দেশাবলী, রুলস ফাইল বা সংযুক্ত এমসিপি সার্ভার বিকৃত করা হয়, তবে এজেন্টটিকে সেই সিস্টেমের বিরুদ্ধেই ব্যবহার করা যেতে পারে, যেটিকে রক্ষা করার জন্য এটি তৈরি করা হয়েছিল।

এআই কনফিগারেশন এখন আক্রমণের একটি ক্ষেত্র। স্কিল ফাইল, রুলস ফাইল এবং প্রম্পট টেমপ্লেটগুলোকে সাধারণত ডকুমেন্টেশন হিসেবে গণ্য করা হয়, নিরাপত্তা-সম্পর্কিত উপাদান হিসেবে নয়। আক্রমণকারীরা ইতোমধ্যে দেখিয়েছে যে, এই ফাইলগুলোতে লুকানো নির্দেশাবলীর মাধ্যমে একটি এআই অ্যাসিস্ট্যান্টকে তার প্রতিক্রিয়ায় কোনো দৃশ্যমান চিহ্ন না রেখেই ব্যাকডোরযুক্ত কোড তৈরি করতে বাধ্য করা যায়।

এর আওতায় কী কী অন্তর্ভুক্ত? #

একটি পূর্ণাঙ্গ এআই নিরাপত্তা প্রোগ্রামে সাধারণত তিনটি কার্যক্রম অন্তর্ভুক্ত থাকে:

১. আবিষ্কার (এআই ইনভেন্টরি) #

কোনো কিছু সুরক্ষিত করার আগে, সেটিকে খুঁজে বের করতে হয়। একটি প্রতিষ্ঠানের রিপোজিটরি জুড়ে থাকা প্রতিটি এআই অ্যাসেটের ক্রমাগত অনুসন্ধানের মাধ্যমেই এআই নিরাপত্তা শুরু হয় এবং pipelineউপাদানসমূহ: মডেল, এআই ফ্রেমওয়ার্ক, ডেটাসেট, ইনফারেন্স এন্ডপয়েন্ট, এজেন্ট, এআই কোডিং টুল, এবং যে এমসিপি সার্ভারগুলোর সাথে এগুলো সংযুক্ত থাকে। এই তালিকাটি সাধারণত একটি মেশিন-পঠনযোগ্য এআই বিল অফ মেটেরিয়ালস (এআই-বিওএম) হিসাবে প্রকাশ করা হয়, যা সফটওয়্যার বিল অফ মেটেরিয়ালস-এর এআই সমতুল্য।SBOM).

২. সনাক্তকরণ (এআই ঝুঁকি) #

এআই অ্যাসেটগুলো শনাক্ত হয়ে গেলে, এআই সিকিউরিটি সেগুলোর জন্য নির্দিষ্ট ঝুঁকিগুলো সনাক্ত করে, যার মধ্যে অন্তর্ভুক্ত রয়েছে:

• দ্রুত ইনজেকশন এবং সিস্টেম দ্রুত লিকেজযেখানে অবিশ্বস্ত বিষয়বস্তু একটি এআই মডেলের আচরণকে প্রভাবিত করে
• অনিরাপদ এমসিপি কনফিগারেশনযেখানে কোনো সংযুক্ত টুল বা সার্ভারকে বিষাক্ত করা বা তার ছদ্মবেশ ধারণ করা যেতে পারে।
• অতিরিক্ত এজেন্সিযেখানে কোনো সত্তাকে মানবিক যাচাই ছাড়াই তার উদ্দিষ্ট সীমার বাইরে কাজ করার অনুমতি দেওয়া হয়।
• এআই ফাইলে গোপনীয় তথ্য ফাঁসযেখানে এআই টুল দ্বারা ব্যবহৃত কনফিগারেশনের মাধ্যমে এপিআই কী বা ক্রেডেনশিয়াল ফাঁস হয়ে যায়
• দুর্বল বা বিভ্রমগ্রস্ত এআই নির্ভরতাস্লপস্কোয়াটিং সহ

এই ঝুঁকির বিভাগগুলো প্রকাশিত ও কমিউনিটি-পর্যালোচিত ফ্রেমওয়ার্কগুলোর সাথে সামঞ্জস্যপূর্ণ, যার মধ্যে সবচেয়ে উল্লেখযোগ্য হলো LLM আবেদনের জন্য OWASP টপ ১০।

৩. প্রয়োগ (Guardrails) #

চূড়ান্ত স্তরটি অনিরাপদ এআই আচরণ কার্যকর হওয়ার আগেই থামিয়ে দেয়: একটি ক্ষতিকারক প্যাকেজ ইনস্টল ব্লক করাকোনো দক্ষতা বা নিয়ম ফাইলকে বিশ্বাসযোগ্য করার আগে তা যাচাই করা, অথবা নীতি লঙ্ঘনকারী কোনো এজেন্টের কার্যকলাপ প্রতিহত করা। এখানেই এআই নিরাপত্তা পর্যবেক্ষণের পর্যায় থেকে সক্রিয় প্রতিরক্ষার পর্যায়ে চলে যায়।

এআই নিরাপত্তার প্রধান ঝুঁকিসমূহের সংজ্ঞা #

এআই নিরাপত্তা কাঠামো এবং Standards #

এটি অল্প কিছু প্রকাশিত বিষয়ের সাথে যুক্ত। standardকোনো একক বিক্রেতার শ্রেণিবিন্যাসের পরিবর্তে:

• এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০ (2025)এআই অ্যাপ্লিকেশনের ঝুঁকির সবচেয়ে বহুল ব্যবহৃত তালিকা, যার মধ্যে প্রম্পট ইনজেকশন, সংবেদনশীল তথ্য ফাঁস, সরবরাহ শৃঙ্খলের ঝুঁকি এবং আরও অনেক কিছু অন্তর্ভুক্ত রয়েছে।
• NIST SP 800-218A: জেনারেটিভ এআই এবং দ্বৈত-ব্যবহারের ভিত্তি মডেলের জন্য অভিযোজিত নিরাপদ সফটওয়্যার উন্নয়ন পদ্ধতির নির্দেশিকা।
• গার্টনারের AI-SPM এবং AI TRiSMএআই সিকিউরিটি পোস্টার ম্যানেজমেন্ট এবং এআই ট্রাস্ট, রিস্ক ও সিকিউরিটি ম্যানেজমেন্টের বৃহত্তর শাখার জন্য বিশ্লেষক-নির্ধারিত বিভাগসমূহ।

সম্মিলিতভাবে, এগুলো সংস্থাগুলোকে শুধুমাত্র বিপণনের সংজ্ঞার উপর নির্ভর না করে, “নিরাপদ এআই” আসলে কী বোঝায় সে সম্পর্কে একটি অভিন্ন পরিভাষা প্রদান করে।

এআই নিরাপত্তা বনাম সম্পর্কিত পরিভাষা #

• এআই নিরাপত্তা বনাম অ্যাপ নিরাপত্তাঅ্যাপসেক অ্যাপ্লিকেশন কোড এবং এর নির্ভরশীলতাগুলোকে সুরক্ষিত করে। এটি এআই মডেল, এজেন্ট এবং এআই-নির্দিষ্ট কনফিগারেশনকে সুরক্ষিত করে, যেগুলো পরিদর্শন করার জন্য অ্যাপসেক টুল তৈরি করা হয়নি।
• এআই নিরাপত্তা বনাম এআই শাসনগভর্নেন্স একটি প্রতিষ্ঠানের এআই ব্যবহারের জন্য প্রয়োজনীয় নীতিমালা ও অনুমোদনসমূহ নির্ধারণ করে। এটি কোড এবং এজেন্ট পর্যায়ে সেই নীতিমালাগুলো বাস্তবে কার্যকর আছে কিনা তা প্রয়োগ ও যাচাই করে।
• এআই নিরাপত্তা বনাম এমএলসেকওপিএসএমএলসেকওপিএস (MLSecOps) মেশিন লার্নিং লাইফসাইকেল (প্রশিক্ষণ, ডেটা, মডেল ডেপ্লয়মেন্ট) সুরক্ষিত করার উপর মনোযোগ দেয়। এটি আরও ব্যাপক, যা এজেন্ট, কোডিং অ্যাসিস্ট্যান্ট এবং সেগুলোকে লাইভ সিস্টেমের সাথে সংযোগকারী প্রোটোকল পর্যন্ত বিস্তৃত।

জাইজেনি যেভাবে এআই নিরাপত্তা নিয়ে কাজ করে
#

জাইজেনির এআই সিকিউরিটি প্রোডাক্ট এই একই আবিষ্কার, সনাক্তকরণ এবং প্রয়োগ মডেলটি সরাসরি সফটওয়্যার ডেভেলপমেন্ট লাইফসাইকেলে প্রয়োগ করে। এটি ক্রমাগত বিভিন্ন রিপোজিটরি জুড়ে একটি এআই ইনভেন্টরি তৈরি করে, প্রম্পট ইনজেকশন এবং অসুরক্ষিত এমসিপি কনফিগারেশনের মতো এআই-নির্দিষ্ট ঝুঁকি সনাক্ত করে এবং প্রতিটি প্রাপ্ত ফলাফলকে OWASP Top 10 for LLM Applications-এর সাথে ম্যাপ করে। এর ফলে, সিকিউরিটি এবং ইঞ্জিনিয়ারিং টিমগুলো তাদের কোডে ইতিমধ্যে কোন এআই চলছে তা অনুমান করার পরিবর্তে একটিমাত্র এআই-বিওএম এবং একটিমাত্র ঝুঁকি দৃষ্টিকোণ থেকে কাজ করতে পারে।

FAQ #