ছায়া এআই ঝুঁকি কীভাবে শনাক্ত ও নির্মূল করা যায়?

ছায়া এআই কীভাবে সনাক্ত এবং নির্মূল করবেন

ছায়া এআই শনাক্ত ও নির্মূল করার উপায় জানার অর্থ হলো, এটিকে দুটি পৃথক সমস্যা হিসেবে বিবেচনা করা, যেগুলোকে একসাথেই সমাধান করতে হবে: যা ইতিমধ্যেই বিদ্যমান, তা খুঁজে বের করা এবং এটি যেন অব্যবস্থাপিত অবস্থায় ফিরে না আসে, তা নিশ্চিত করা।

এটি শনাক্ত করুন: তিনটি সংকেত যা একসাথে কাজ করে

কোনো একটি স্ক্যানেই ছায়া এআই ঝুঁকির সবটুকু খুঁজে পাওয়া যায় না, কারণ এর উপরের প্রতিটি লুকানোর জায়গা ভিন্ন ভিন্ন চিহ্ন রেখে যায়।

• নেটওয়ার্ক ও প্রক্সি লগ। আপনার ফায়ারওয়াল, প্রক্সি এবং ডিএনএস লগ ইতিমধ্যেই এআই প্রোভাইডার এন্ডপয়েন্টগুলিতে পাঠানো আউটবাউন্ড কল রেকর্ড করে, টুলটি অনুমোদিত হোক বা না হোক। একটি একক হোস্ট থেকে ঘন ঘন এপিআই কল, বড় আকারের আউটবাউন্ড পেলোড, অথবা কোনো মডেল এন্ডপয়েন্টে কর্মঘণ্টার বাইরের স্বয়ংক্রিয় ট্র্যাফিক হলো সেইসব প্যাটার্ন যা খতিয়ে দেখা উচিত।
• পরিচয় এবং প্রবেশাধিকার সংকেত। নেটওয়ার্ক লগ আপনাকে জানায় যে কোনো একটি টুল ব্যবহৃত হচ্ছে; আপনার আইডেন্টিটি প্রোভাইডার আপনাকে জানায় এর পেছনে কারা আছে এবং তারা কী পরিমাণ অ্যাক্সেস দিয়েছে। অপরীক্ষিত এআই অ্যাপ্লিকেশনগুলিতে OAuth গ্রান্ট, কর্পোরেট অ্যাকাউন্টের পরিবর্তে ব্যক্তিগত অ্যাকাউন্ট দিয়ে এআই টুলগুলিতে সাইন-ইন, এবং এমন সার্ভিস-অ্যাকাউন্ট এপিআই কার্যকলাপের দিকে নজর রাখুন যা কেউ ব্যাখ্যা করতে পারে না।
• অ্যাসেট এবং কোড-স্তরের ডিসকভারি। এই স্তরটি standard শ্যাডো-আইটি টুলিংয়ের কিছু সীমাবদ্ধতা রয়েছে, এবং এটি বিশেষভাবে সফটওয়্যারে এআই যেভাবে প্রকাশিত হয় তার সাথে সম্পর্কিত: যেমন মডেল, ডেটাসেট, ইনফারেন্স এন্ডপয়েন্ট, এজেন্ট, এমসিপি সার্ভার, এবং রিপোজিটরিগুলোতে সরাসরি রেফারেন্স করা এআই কোডিং টুল। pipelineশুধু ব্রাউজার ট্র্যাফিকের মধ্যেই নয়, স্কিল ফাইলগুলোও। এই স্তরটি ছাড়া, আপনি দেখতে পাবেন যে একটি মডেল এপিআই কল করা হয়েছিল; আপনি দেখতে পাচ্ছেন না যে এজেন্ট এটাকে ফোন করেছিল, থেকে যে pipeline, অথবা এটি কিসের সাথে সংযুক্ত, যা ঠিক সেখানেই ছায়া এআই ঝুঁকি সরবরাহ শৃঙ্খলের ঘটনায় পরিণত হয়েছে নীতিমালা লঙ্ঘনের পরিবর্তে

দূর করুন: চারটি পদক্ষেপ যা একে স্থায়ী করে তোলে

সনাক্তকরণ আপনাকে বলে দেয় যে ইতিমধ্যে কী চলছে। সেটিকে একটি টেকসই ব্যবস্থায় পরিণত করতে চারটি ধাপ প্রয়োজন, যা এককালীন নিরীক্ষার পরিবর্তে একটি চক্রাকার প্রক্রিয়া হিসেবে চালানো হয়, কারণ ছায়া এআই-এর ঝুঁকি এত দ্রুত পরিবর্তিত হয় যে কোনো বার্ষিক পর্যালোচনার পক্ষে তা অনুসরণ করা সম্ভব হয় না।

• একটি ইনভেন্টরি তৈরি করুন, তিনটি নয়। ঐতিহ্যবাহী সম্পদ (রিপো, pipelineএআই অ্যাসেট (যেমন ডেটাসেট, কন্টেইনার) এবং এআই অ্যাসেট (যেমন মডেল, ডেটাসেট, এজেন্ট, এমসিপি সার্ভার, কোডিং টুল)-কে একই ভিউতে রাখতে হবে এবং তাদের মধ্যকার সম্পর্কগুলো ম্যাপ করা থাকতে হবে। একটি এআই টুল, যা নিজে থেকে নিরীহ মনে হলেও, আসল বিপদ ডেকে আনতে পারে যখন আপনি দেখতে পান কোন ডেটাসেট থেকে এটি ডেটা পায় এবং কোন এন্ডপয়েন্টের সাথে এটি যোগাযোগ করে।
• নীতিমালা লেখার আগে শ্রেণিবিভাগ করুন। ‘এআই টুলে সংবেদনশীল ডেটা’ নিষিদ্ধ করার একটি নিয়মের কোনো অর্থই থাকে না, যদি কেউ বলতে না পারে কোন ডেটাটি গুরুত্বপূর্ণ। নিয়ন্ত্রিত এবং গোপনীয় ডেটা কোথায় থাকে তা জানুন, এবং সেই শ্রেণিবিন্যাসকেই সিদ্ধান্ত নিতে দিন কোন এআই ব্যবহারগুলো গ্রহণযোগ্য এবং কোনগুলো কখনোই বাইরে যাবে না।
• দলগুলোকে দ্রুত অনুমোদনের পথ দিন, দীর্ঘতর নিষেধাজ্ঞার তালিকা নয়। লোকেরা শ্যাডো এআই ব্যবহার করে, কারণ অনুমোদিত বিকল্পটি তাদের সামনে আগে থেকে খোলা ট্যাবের চেয়ে ধীরগতির। ডেভেলপারদের কাছ থেকে ক্রেডেনশিয়াল গোপন রাখা অনুমোদিত মডেল ও এজেন্টের একটি নিয়ন্ত্রিত ক্যাটালগ, নীতিমালা এড়িয়ে চলার কারণটি দূর করে দেয়।
• যেখানে ঝুঁকিটি প্রকৃতপক্ষে কাজ করে, সেখানেই ব্যবস্থা নিন: ইনস্টলেশন এবং কলের সময়। একটি ডকুমেন্টে কোনো মডেল ব্লক করলে তা এজেন্টকে সেটি ইনস্টল করা থেকে বিরত রাখে না। নিয়মটি প্রয়োগ করার ব্যবস্থা ঠিক সেই মুহূর্তে থাকা উচিত, যখন কোনো প্যাকেজ ইনস্টল করা হয় বা কোনো এপিআই কল করা হয়। এর ফলে, ব্লক করা কাজটি কারও নিয়মটি মনে রাখার ওপর নির্ভর না করে স্বয়ংক্রিয়ভাবে ব্যর্থ হবে।