এমএলসেকওপিএস (MLSecOps) বলতে কী বোঝায়?

TL; ডিআর #

এমএলসেকওপিএস (মেশিন লার্নিং সিকিউরিটি অপারেশনস) হলো মেশিন লার্নিং লাইফসাইকেলের প্রতিটি পর্যায়ে—যেমন ডেটা সংগ্রহ, প্রশিক্ষণ, যাচাইকরণ, প্যাকেজিং, ডেপ্লয়মেন্ট এবং মনিটরিং—নিরাপত্তা অন্তর্ভুক্ত করার একটি অনুশীলন। এর অস্তিত্বের কারণ হলো, একটি মডেলের লজিক লেখার পরিবর্তে শেখা হয়। ফলে, ট্রেনিং ডেটা, মডেল আর্টিফ্যাক্ট এবং ইনফারেন্স এন্ডপয়েন্ট—এই সবগুলোই এমন নিরাপত্তা সম্পদে পরিণত হয়, যা পরীক্ষা করার জন্য কোড স্ক্যানারগুলোকে কখনোই ডিজাইন করা হয়নি। এমএলসেকওপিএস (MLSecOps) মেশিন লার্নিং-এর হয়ে এই কাজটি করে থাকে। pipeline সফটওয়্যারের জন্য ডেভসেকওপিএস যা করেছে pipelineএটি নিয়ন্ত্রণকে উৎসের উপরে নিয়ে যায়, প্রতিটি আর্টিফ্যাক্টের সাথে তার উৎসের পরিচয় যুক্ত করে, এবং মডেলটিকে এমন কিছু হিসেবে গণ্য করে যা উৎপাদনে পৌঁছানোর আগেই বিষাক্ত করা, চুরি করা বা গোপনে পুনঃপ্রোগ্রাম করা যেতে পারে।

এমএলসেকওপিএস কী? একটি কার্যকরী সংজ্ঞা #

দশটি ইঞ্জিনিয়ারিং টিমকে জিজ্ঞাসা করুন MLSecOps কী, এবং আপনি দুই ধরনের উত্তর পাবেন। একটি দল এটিকে বিদ্যমান MLOps-এর সাথে জুড়ে দেওয়া একটি অতিরিক্ত স্ক্যান হিসেবে বর্ণনা করে। pipelineঅন্যটি সত্যের কাছাকাছি একটি বিষয় বর্ণনা করে: আপনার সফটওয়্যার লজিকের কোনো অংশ লিখিত না হয়ে পরিসংখ্যানগত হয়ে গেলে, কোনটিকে নিরাপত্তা সম্পদ হিসেবে গণ্য করা হবে তা নিয়ে নতুন করে ভাবা।

দ্বিতীয় দলটি সঠিক, এবং তার কারণ নিচে দেওয়া হলো। চিরাচরিত অ্যাপ্লিকেশন নিরাপত্তা একটি স্বস্তিদায়ক অনুমানের উপর নির্ভর করে: সিস্টেমের আচরণ সোর্স কোডে এনকোড করা থাকে, এবং সোর্স কোড পড়া, পর্যালোচনা করা, স্ক্যান করা ও প্যাচ করা যায়। একটি মেশিন লার্নিং সিস্টেম এই অনুমানটিকে একেবারে গোড়া থেকেই ভেঙে দেয়। এর আচরণ আসে প্রশিক্ষণের সময় গ্রহণ করা ডেটা, বাইনারি আর্টিফ্যাক্টে সিরিয়ালাইজ করা ওয়েট এবং এমন একটি ইন্টারফেস থেকে, যা এর নাগাল পাওয়া যে কারো প্রশ্নের উত্তর দেয়। এই তিনটি জিনিসের কোনোটিই কোড নয়, এবং তিনটিই আক্রমণের যোগ্য।

সুতরাং কার্যকরী সংজ্ঞাটি হলো: এমএলসেকওপিএস হলো ডেটা ও মডেল সুরক্ষিত করার একটি শাখা। pipelineএকটি মেশিন লার্নিং সিস্টেমের অবকাঠামোকে, লঞ্চ-পূর্ব পর্যালোচনার পরিবর্তে, এর সম্পূর্ণ জীবনচক্র জুড়ে নিরবচ্ছিন্নভাবে পরিষেবা প্রদান করা। এটি পূর্বে পৃথক থাকা তিনটি অনুশীলনকে একত্রিত করে: মেশিন লার্নিং ইঞ্জিনিয়ারিং, সিকিউরিটি অপারেশনস এবং ডেভঅপস-এর অটোমেশন সংস্কৃতি।

বাস্তবে যে পার্থক্যটি গুরুত্বপূর্ণ: একটি ভালনারেবিলিটি স্ক্যানার জিজ্ঞাসা করে যে কোনো ফাংশন এক্সপ্লয়েটযোগ্য কিনা। এমএলসেকওপিএস জিজ্ঞাসা করে যে, একটি ক্রেডিট-স্কোরিং মডেল তৈরি করা ডেটাসেটটি ছয় মাস আগে বিকৃত করা হয়েছিল কিনা, একটি পাবলিক হাব থেকে নেওয়া প্রি-ট্রেইনড ওয়েটগুলো প্রকাশকের স্বাক্ষরিত ওয়েট কিনা, এবং প্রেডিকশন এন্ডপয়েন্টটি একটি করে কোয়েরির মাধ্যমে তার নিজস্ব ট্রেনিং ডেটা ফাঁস করছে কিনা।

MLSecOps-এর অর্থ, এর তিনটি অংশে বিভক্ত #

MLSecOps-এর অর্থ বোঝার সবচেয়ে স্পষ্ট উপায় হলো শব্দটিকে বিশ্লেষণ করা, কারণ এর প্রতিটি তৃতীয়াংশ একটি বাস্তব তাৎপর্য বহন করে। commitment।

• এমএল। যে সম্পদটি সুরক্ষিত করা হচ্ছে তা কোনো অ্যাপ্লিকেশন নয়। এটি একটি pipeline যা একটি মডেল তৈরি করে, সাথে মডেলটি নিজে, এবং যে ডেটা দিয়ে এটি গঠিত হয়েছে তাও। ডেটাসেট, ফিচার স্টোর, নয়ebooksট্রেনিং জব, চেকপয়েন্ট, রেজিস্ট্রি এবং ইনফারেন্স এন্ডপয়েন্ট সবই এর আওতাভুক্ত।
• সেকেন্ড। নিরাপত্তা হলো একটি বৈশিষ্ট্য pipelineশেষে কোনো গেট নয়। থ্রেট মডেলিং প্রথম ট্রেনিং রানের আগেই সম্পন্ন হয়, মডেল কার্ড লেখার পরে নয়।
• অপ্স নিয়ন্ত্রণ ব্যবস্থাগুলো স্বয়ংক্রিয়, অবিচ্ছিন্ন এবং পর্যবেক্ষণযোগ্য। প্রকাশের সময় নিরাপদ থাকা একটি মডেল বিচ্যুতি, পুনঃপ্রশিক্ষণ, বা এর গৃহীত ডেটার পরিবর্তনের কারণে অনিরাপদ হয়ে যেতে পারে, তাই একবারের মূল্যায়ন একটি মেয়াদোত্তীর্ণ মূল্যায়ন।

সব মিলিয়ে, MLSecOps বলতে বেশিরভাগ দল যে অর্থটি বোঝে তা হলো: কোড এবং ডিপেন্ডেন্সির ক্ষেত্রে ইতোমধ্যে যে কঠোরতা প্রয়োগ করা হয়, ডেটা এবং মডেলকেও সেই একই কঠোরতা সহকারে প্রথম শ্রেণীর নিরাপত্তা সম্পদ হিসেবে বিবেচনা করুন। আরও কঠোরতা নয়। সেই একই কঠোরতা, যা বেশিরভাগ সংস্থাই রিপোজিটরির বাইরে কখনও প্রসারিত করেনি।

বেশিরভাগ দল প্যাকেজিং এবং ডেপ্লয়মেন্ট পর্যায়ে প্রবেশ করে, কারণ এই পর্যায়গুলোই সফটওয়্যারের মতো দেখতে। প্রাথমিক পর্যায়গুলোতেই শক্তিশালী আক্রমণগুলো সক্রিয় থাকে, এবং এই পর্যায়গুলোর নিয়ন্ত্রণ কারও হাতে থাকে না।

এমএলসেকওপিএস কীভাবে এআই-কে সুরক্ষিত করে #

এটাই হলো প্রশ্নের পেছনের প্রশ্ন। বিমূর্তভাবে এমএলসেকওপিএস (MLSecOps) কী, তা বোঝা সহজ। কিন্তু একটি বাস্তব প্রতিষ্ঠানে এমএলসেকওপিএস কীভাবে এআই-কে সুরক্ষিত করে, তা চারটি নিয়ন্ত্রণ চক্রের ওপর নির্ভর করে, যেগুলো একে অপরকে শক্তিশালী করে। এর মধ্যে একটিকে বিচ্ছিন্নভাবে চালালে আপনি একটি চেকবক্স পাবেন। আর চারটিই চালালে আপনি একটি প্রোগ্রাম পাবেন।

১. তালিকা ও উৎস: কী আছে এবং তা কোথা থেকে এসেছে তা জানুন। #

আপনি এমন কোনো মডেল নিশ্চিত করতে পারবেন না, যেটির উৎপাদনে থাকার কথা আপনার জানা ছিল না, এবং ছায়া এআই এটি ব্যতিক্রম নয়, বরং বেশিরভাগ প্রকৌশল সংস্থার স্বাভাবিক অবস্থা। প্রথম পর্যায়টি হলো আবিষ্কার: প্রতিটি মডেল, ডেটাসেট, ফ্রেমওয়ার্ক, ইত্যাদি।ebook, অনুমানের শেষবিন্দু, এবং pipelineএবং তাদের মধ্যকার সম্পর্ক। উৎসের বিবরণ মজুদের পাশাপাশি থাকে। প্রতিটি প্রত্নবস্তুর জন্য, কে এটি তৈরি করেছে, কী কী উপকরণ দিয়ে, কোন কোড ব্যবহার করে, তা লিপিবদ্ধ করুন এবং একটি যাচাইযোগ্য স্বাক্ষর সংযুক্ত করুন। এমএল-বিওএম এটি হলো এর যন্ত্রপাঠযোগ্য প্রকাশ, এবং এটিই সেই নিদর্শন যা একজন নিরীক্ষক অবশেষে চাইবেন।

২. অখণ্ডতা: বিকৃতিকে কেবল অসম্ভাব্য না রেখে শনাক্তযোগ্য করে তোলা। #

দ্বিতীয় লুপটি ডেটা থেকে ডেপ্লয়েড আর্টিফ্যাক্ট পর্যন্ত চেইনটিকে সুরক্ষিত রাখে। ডেটাসেট এবং ওয়েট-এর উপর চেকসাম ও সিগনেচার। লেবেলিং এবং প্রিপ্রসেসিং-এর উপর অপরিবর্তনীয় অডিট ট্রেইল। নিরাপদ সিরিয়ালাইজেশন ফরম্যাট, কারণ ক্লাসিক পাইথন পিকেল ফরম্যাট লোড করার সময় যথেচ্ছ কোড কার্যকর করে।যা “একটি পূর্ব-প্রশিক্ষিত মডেল ডাউনলোড করুন”-কে “একজন অপরিচিতের প্রোগ্রাম চালান”-এ পরিণত করে। প্রশিক্ষণের সততা গড়ে তুলুন। pipeline এর ফলে, আর্টিফ্যাক্টটি তৈরি করা কাজটি অনুমান না করে বরং যাচাই করা যায়। এখানেই MLSecOps এবং software supply chain security প্রতিবেশী হওয়া বন্ধ করুন এবং একই শৃঙ্খলাবদ্ধ হোন।

৩. প্রতিপক্ষীয় যাচাইকরণ: শুধু নির্ভুলতা নয়, ব্যর্থতার ধরণও পরীক্ষা করুন। #

একটি মডেল যা একটি সংরক্ষিত টেস্ট সেটে ৯৭% স্কোর করে, তাকেও এমন ইনপুট দিয়ে নির্ভরযোগ্যভাবে বোকা বানানো যায় যা পরিবর্তিত হয়েছে তা একজন মানুষ খেয়ালও করবে না। তৃতীয় লুপটি রিলিজ প্রক্রিয়ায় অ্যাডভার্সারিয়াল ইভ্যালুয়েশন যোগ করে: ইভেশন টেস্টিং, পয়জনিং রেজিলিয়েন্স, মেম্বারশিপ ইনফারেন্স ও এক্সট্র্যাকশন প্রোব এবং স্ট্রাকচার্ড এআই রেড টিমিং। এর আউটপুট কোনো পাস বা ফেল স্কোর নয়, এটি একটি doA (ডু-অ্যাজ-ইউ-আর্ন) মডেল যা একটি সংরক্ষিত টেস্ট সেটে ৯৭% স্কোর করে, তাকেও এমন ইনপুট দিয়ে নির্ভরযোগ্যভাবে বোকা বানানো যায় যা পরিবর্তিত হয়েছে তা একজন মানুষ খেয়ালও করবে না। তৃতীয় লুপটি রিলিজ প্রক্রিয়ায় অ্যাডভার্সারিয়াল ইভ্যালুয়েশন যোগ করে: ইভেশন টেস্টিং, পয়জনিং রেজিলিয়েন্স, মেম্বারশিপ ইনফারেন্স ও এক্সট্র্যাকশন প্রোব এবং স্ট্রাকচার্ড এআই রেড টিমিং। যে ট্যাক্সোনমির বিরুদ্ধে এটি চালাতে হবে তা হলো NIST AI 100-2e2025যা আক্রমণের শ্রেণি এবং সেগুলোর প্রতিকারের উপায়গুলোকে তালিকাভুক্ত করে। এর ফলাফল কোনো পাস বা ফেলের স্কোর নয়, বরং এটি হলো সেইসব শর্তের একটি নথিভুক্ত সেট, যার অধীনে মডেলটি ত্রুটিপূর্ণ আচরণ করে। এরপর দলটি সেই শর্তগুলো গ্রহণ, প্রতিকার বা ব্লক করার সিদ্ধান্ত নেয়।

৪. চলমান পর্যবেক্ষণ ও প্রতিক্রিয়া: ধরে নিন মূল্যায়নটির মেয়াদ শেষ হয়ে গেছে। #

চতুর্থ লুপটি ডেপ্লয় করা সিস্টেমটিকে পর্যবেক্ষণ করে। কোয়েরি-রেটের অসঙ্গতি যা ডেটা নিষ্কাশনের সংকেত দেয়। ইনপুট ডিস্ট্রিবিউশন যা আর ট্রেনিং ডেটার মতো থাকে না। আউটপুট ড্রিফট। মডেল রেজিস্ট্রির বিরুদ্ধে অ্যাক্সেস প্যাটার্নগুরুত্বপূর্ণভাবে, এটি একটি প্রকৃত ইনসিডেন্ট রেসপন্স পথের সাথে সংযুক্ত হয়, কারণ “মডেলটি অদ্ভুত আচরণ করছে” এই বার্তার জন্য একজন ওনার, একটি রানবুক এবং একটি রোলব্যাক টার্গেট প্রয়োজন, ঠিক যেমনটি একটি কম্প্রোমাইজড সার্ভিসের ক্ষেত্রে হয়ে থাকে।

এমএলসেকওপিএস যেভাবে এআই-কে সুরক্ষিত করে তার সংক্ষিপ্ত বিবরণ: এটি এমএল তৈরি করে pipeline নিরীক্ষণযোগ্য, টেম্পারিং শনাক্তযোগ্য করে তোলে, প্রতিপক্ষের ব্যর্থতাকে রিলিজের মানদণ্ড বানায়, এবং মডেলের আচরণকে অনুমানের পরিবর্তে একটি নিরীক্ষিত সংকেতে পরিণত করে। এই তালিকার কোনো কিছুই অভিনব নয়। এর সবকিছুই অভিনব। standard সফটওয়্যার ইঞ্জিনিয়ারিংয়ের এমন একটি চর্চা যা কখনোই ডেটা সায়েন্সের সীমানা অতিক্রম করেনি।

MLOps-এর জন্য MLSecOps ঠিক তেমনই, যেমন DevOps-এর জন্য DevSecOps: একই জীবনচক্র, যেখানে নিরাপত্তা হলো একটি বৈশিষ্ট্য। pipeline শেষে নিরীক্ষার পরিবর্তে। এবং জেনারেটিভের সাথে সীমানা। এআই নিরাপত্তা এটা স্পষ্টভাবে বলা দরকার, কারণ এখানেই বেশিরভাগ বিভ্রান্তি তৈরি হয়। এমএলসেকওপিএস (MLSecOps) মনোযোগ দেয়... নির্মাণ ও প্রশিক্ষণ পার্শ্ব: কীভাবে একটি মডেল তৈরি, প্যাকেজ এবং পরিবেশন করা হয়। জেনারেটিভ এআই নিরাপত্তা এর উপর মনোযোগ দেয় ব্যবহার পার্শ্ব: প্রম্পট, এজেন্ট, টুল অ্যাক্সেস, এবং ইনফারেন্সের সময় মডেলের আচরণ। যে সংস্থা তার নিজস্ব মডেলগুলোকে সূক্ষ্মভাবে সমন্বয় ও স্থাপন করে, তাদের উভয়েরই প্রয়োজন, এবং উভয়ের উপরে একটিমাত্র ঝুঁকি মডেল থাকা দরকার, নতুবা তাদের দুটি কিউ তৈরি হবে এবং কোনো অগ্রাধিকার থাকবে না।

প্রবিধানের ক্ষেত্রে, এর সৎ কাঠামোটি সংকীর্ণ। ইইউ এআই অ্যাক্টের প্রযুক্তিগত ডকুমেন্টেশনের দায়িত্ব এবং সাইবার রেজিলিয়েন্স অ্যাক্টের বিল অফ মেটেরিয়ালস-এর বাধ্যবাধকতা প্রকৃত প্রমাণের আবশ্যকতা তৈরি করে, এবং একটি রক্ষণাবেক্ষণ করা এমএল ইনভেন্টরি তা পূরণে সহায়তা করে। কোনোটিতেই এমএল-বিওএম-এর উল্লেখ নেই। কেউ যদি আপনাকে বলে যে কোনো প্রবিধানে এটির প্রয়োজন আছে, তবে সে মূল লেখাটি পড়ার আগেই বিষয়টি বিক্রি করার চেষ্টা করছে।

সংজ্ঞা থেকে প্রোগ্রাম পর্যন্ত #

একটি কাঠামো পরিভাষা স্থির করে। কিন্তু এটি যা স্থির করতে পারে না, তা হলো—মডেল প্রোভেনেন্স যে গুরুত্বপূর্ণ, তা জানা এবং আজ বিকেলে কোনটি প্রমাণ করতে পারার মধ্যকার দূরত্ব। pipeline বর্তমানে প্রোডাকশনে প্রেডিকশন প্রদানকারী আর্টিফ্যাক্টটি তৈরি করেছে। সেই দূরত্ব একটি অনুমানযোগ্য ক্রমে কমে আসে। আপনার রিপোজিটরি জুড়ে থাকা প্রতিটি এআই এবং এমএল অ্যাসেট আবিষ্কার করুন। pipelineএবং ডেভেলপার এনভায়রনমেন্ট, এমনকি যেগুলো কেউ ঘোষণা করেনি সেগুলোও। গুরুত্বপূর্ণ আর্টিফ্যাক্টগুলোর সাথে প্রোভেনেন্স এবং ইন্টিগ্রিটি সংযুক্ত করুন। প্রতিপক্ষের ব্যর্থতাকে গবেষণার বিষয় না করে রিলিজের মানদণ্ড হিসেবে প্রতিষ্ঠা করুন। তারপর পর্যবেক্ষণ করুন, কারণ সিস্টেমটি রিট্রেইন করার মুহূর্তেই প্রতিটি মূল্যায়ন বাতিল হয়ে যায়।

জাইজেনি এটি সেই অনুক্রমের সফটওয়্যার অংশে কাজ করে, যা বেশিরভাগ MLSecOps প্রোগ্রাম স্থগিত রাখে এবং বেশিরভাগ অডিটর প্রথমে এ বিষয়েই জিজ্ঞাসা করেন। বিভিন্ন রিপোজিটরি জুড়ে এআই অ্যাসেটের ক্রমাগত আবিষ্কার, pipelineপ্রতিটি স্ক্যানে স্বয়ংক্রিয়ভাবে তৈরি হওয়া একটি এআই-বিওএম (AI-BOM) সহ এস (s), এবং ডেভেলপার এনভায়রনমেন্ট। আপনার প্যাকেজ এবং নির্ভরতাগুলিতে ম্যালওয়্যার সনাক্তকরণ pipelineএস টেনে ভেতরেতাদের জন্য কোনো স্বাক্ষর তৈরি হওয়ার আগেই। এর উপর ভিত্তি করে অখণ্ডতা গড়ে তুলুন। pipelineযেগুলো আপনার আর্টিফ্যাক্ট তৈরি করে। এবং এআই ফাইন্ডিং ও আপনার আগে থেকেই পরিচালিত অ্যাপ্লিকেশন ফাইন্ডিংগুলো জুড়ে একটি একক অগ্রাধিকারপ্রাপ্ত ঝুঁকি চিত্র, যাতে কাজটি চতুর্থ কোনো সারির পরিবর্তে একটি সারিতেই আসে। একটি ডেমো তফসিল আপনার নিজের এআই ইনভেন্টরি দেখতে।

প্রায়শই জিজ্ঞাসিত প্রশ্ন – এমএলসেকওপিএস কী, তার সংক্ষিপ্ত উত্তর #