TL; ডিআর
"এআই নিরাপত্তা হুমকি" বলতে দুটি ভিন্ন বিষয়কে বোঝায়: এআই সিস্টেমকে লক্ষ্য করে চালানো আক্রমণ, এবং এআই-কে অস্ত্র হিসেবে ব্যবহার করে চালানো আক্রমণ। এগুলোর জন্য ভিন্ন ভিন্ন নিয়ন্ত্রণ, ভিন্ন ভিন্ন মালিক এবং ভিন্ন ভিন্ন প্রমাণের প্রয়োজন হয়, এবং বেশিরভাগ তালিকা এগুলোকে একসাথে মিশিয়ে ফেলে, যে কারণে এগুলোর ওপর ভিত্তি করে ব্যবস্থা নেওয়া এত কঠিন। নীচের প্রথম পাঁচটি আপনার এআই-কে লক্ষ্য করে। পরের পাঁচটি আপনার সাপ্লাই চেইনের বিরুদ্ধে এআই ব্যবহার করে।
- এআই সিস্টেমের জন্য হুমকিগুলো বেশিরভাগ ক্ষেত্রেই এর কনফিগারেশনে থাকে, মডেলে নয়। টুল স্কোপ, যে ক্রেডেনশিয়ালের অধীনে একজন এজেন্ট চলে, একটি রুলস ফাইল, একটি
.mcp/servers.jsonএন্ট্রি। মডেল এন্ডপয়েন্ট থেকে এর কোনোটিই অ্যাক্সেসযোগ্য নয়, যে কারণে শুধু রেড-টিমিং করলে কোনো ফলাফল আসে না। - এআই-চালিত আক্রমণগুলো বেশিরভাগ ক্ষেত্রে আপনার নিরাপত্তা বেষ্টনী ভেদ করে নয়, বরং নির্ভরশীলতার মাধ্যমেই আসে। আক্রমণকারীদের দ্বারা নিবন্ধিত অলীক প্যাকেজ নাম, ডেভেলপার ক্রেডেনশিয়াল এবং এআই প্রোভাইডার কী ব্যবহার করে স্ব-প্রসারিত ওয়ার্মই হলো মূল লক্ষ্য।
- দশটির মধ্যে নয়টিই নির্দিষ্ট বিষয় সম্পর্কিত প্রশ্ন। কোন এমসিপি সার্ভার, কোন এজেন্ট, কোন স্কোপ, কোন ক্রেডেনশিয়াল, কোন রুলস ফাইল, কোন প্যাকেজ। একটি পলিসি ডকুমেন্ট এগুলোর কোনোটিরই উত্তর দেয় না।
- দশজনের প্রত্যেকেরই একটি সাধারণ পূর্বশর্ত রয়েছে। আপনি এমন কোনো এআই অ্যাসেটকে রক্ষা করতে পারবেন না যাকে আপনি কখনো ম্যাপ করেননি, যার ফলে এটিকে আবিষ্কার করাটা নিয়ন্ত্রণের পরের ধাপ না হয়ে আগের ধাপ হয়ে দাঁড়ায়।
এআই নিরাপত্তার হুমকি দুই প্রকারের কী কী?
এআই নিরাপত্তা হুমকির বেশিরভাগ তালিকাতেই এই দুটি বিষয়কে গুলিয়ে ফেলা হয়, যে কারণে সেগুলোর ওপর পদক্ষেপ নেওয়া কঠিন।
- এআই সিস্টেমের প্রতি হুমকি আপনার এআই-কে লক্ষ্যবস্তু হিসেবে বিবেচনা করুন। কেউ একটি মডেলকে ম্যানিপুলেট করে, এর অনুসরণ করা নির্দেশাবলীকে বিষাক্ত করে, অথবা কোনো এজেন্টকে দেওয়া অনুমতির অপব্যবহার করে। ডিফেন্ডারের কাজ হলো নিয়ন্ত্রণ করা: একটি আপোসকৃত এআই যা করতে পারে, তা সীমিত করা।
- এআই-চালিত আক্রমণ এআই-কে আক্রমণকারীর হাতিয়ার হিসেবে বিবেচনা করুন। এর লক্ষ্য হলো আপনার সাধারণ সফটওয়্যার: ডিপেন্ডেন্সি, ক্রেডেনশিয়াল, বিল্ড সিস্টেম এবং ডেভেলপার। রক্ষাকারীর কাজ হলো দ্রুততার সাথে এটি শনাক্ত করা, কারণ আক্রমণের অর্থনৈতিক দিক বদলে গেছে এবং এর পরিমাণও বেড়ে গেছে।
এগুলোর জন্য ভিন্ন ভিন্ন নিয়ন্ত্রণ, ভিন্ন ভিন্ন মালিক এবং ভিন্ন ভিন্ন প্রমাণের প্রয়োজন। যে দল তাদের চ্যাটবটকে ‘রেড-টিমিং’ করেছে, তারা ‘স্লপস্কোয়াটিং’ নিয়ে কিছুই করেনি। চমৎকার ডিপেন্ডেন্সি স্ক্রিনিং সম্পন্ন একটি দলও হয়তো প্রোডাকশন রিপোজিটরিগুলোতে রাইট অ্যাক্সেস এবং কোনো স্কোপ লিমিট ছাড়াই একটি এজেন্ট চালাচ্ছে। উভয়ই এআই নিরাপত্তার জন্য হুমকি। একটি অন্যটিকে সুরক্ষা দেয় না।
এআই সিস্টেমের জন্য হুমকি: যে পাঁচটি প্রায়শই ঘটে থাকে
০১. প্রম্পট ইনজেকশন যা একটি টুল সিঙ্কে পৌঁছায়
অবিশ্বস্ত কন্টেন্ট এসে একটি সিস্টেম প্রম্পটে সংযুক্ত হয়, এবং অপর প্রান্তের এজেন্ট টুলগুলো চালু করতে পারে। প্রম্পটটি দুর্বলতা নয়। বরং অবিশ্বস্ত ইনপুট থেকে একটি বিপজ্জনক সক্ষমতা পর্যন্ত পৌঁছানোর পথটিই হলো দুর্বলতা।
এই কারণেই শুধু প্রম্পট ফিল্টারিং হতাশ করে। এটি একটি শৃঙ্খলের এক প্রান্তকে শক্তিশালী করে, অথচ আকর্ষণীয় প্রশ্নটি হলো, ইনপুট এবং টুল কলের মধ্যে কোথাও কোনো রক্ষাকবচ আছে কি না। এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০ দ্রুত ইনজেকশনকে তালিকার শীর্ষে রাখে, কিন্তু ঠিক এই কারণেই একে অতিরিক্ত কর্তৃত্বর সঙ্গে যুক্ত করে।
কি জন্য পর্যবেক্ষণ: সিস্টেম প্রম্পটে অবিশ্বস্ত ইনপুট পৌঁছানো, পরিমার্জন ছাড়াই কনটেক্সট পুনরুদ্ধার করা, এবং মাঝখানে কোনো সুরক্ষাব্যবস্থা ছাড়াই সহজলভ্য টুল সিঙ্ক।
০২. ক্ষতিকর নিয়মাবলী এবং দক্ষতা ফাইল
একটি নিয়মাবলী ফাইল হলো সাধারণ টেক্সট। এটি commitডকুমেন্টেশনের মতো টেড এবং রিভিউড, এবং এটি অ্যাসিস্ট্যান্টকে কী করতে হবে সে সম্পর্কে নির্দেশ দেয়। জিরো-উইডথ ক্যারেক্টার একটিতে লাইনগুলিকে অদৃশ্য করে তোলে। pull request এজেন্টের কাছে পুরোপুরি পাঠযোগ্য থাকা সত্ত্বেও পার্থক্য।
মিট্রে অ্যাটলাস এটিকে রুলস ফাইল ব্যাকডোর, কেস স্টাডি AML.CS0041 হিসেবে তালিকাভুক্ত করা হয়েছে। পর্যালোচক একটি ফরম্যাটিং রীতি অনুমোদন করেন। এজেন্টটি একজন আক্রমণকারী-নিয়ন্ত্রিত প্যাকেজ থেকে ইম্পোর্ট করার এবং সে সম্পর্কে কিছু না বলার একটি নির্দেশনা পড়ে।
কি জন্য পর্যবেক্ষণ: অদৃশ্য অক্ষর শনাক্তকরণের মাধ্যমে রুলস ফাইল, স্কিল ফাইল এবং প্রম্পট টেমপ্লেটগুলোকে গদ্যের পরিবর্তে কোড হিসেবে বিশ্লেষণ করা হয়।
০৩. অনিরাপদ এমসিপি সার্ভার কনফিগারেশন
এমসিপি কনফিগারেশন এখানেই এজেন্ট তার নির্দেশ গ্রহণ করে এবং ক্রেডেনশিয়াল জমা হয়। উভয় অংশই একটি সমস্যা। জুলাই ২০২৫-এ প্রকাশিত CVE-2025-6514 ছিল একটি বহুল ব্যবহৃত MCP ব্রিজের একটি গুরুতর OS কমান্ড ইনজেকশন, যার CVSS স্কোর ছিল ৯.৬ এবং এটি একটি অবিশ্বস্ত সার্ভারের সাথে সংযোগ করার সময় ক্লায়েন্ট হোস্টে যথেচ্ছ কমান্ড চালানোর সুযোগ দিত।
ক্রেডেনশিয়াল অংশটি আরও খারাপ, কারণ এটি নিষ্ক্রিয়। ২০২৬ সালের এক গবেষণায় দেখা গেছে, পাবলিক গিটহাবে থাকা এমসিপি কনফিগারেশন ফাইলগুলোতে ২৪,০০০-এরও বেশি গোপনীয় তথ্য রয়েছে, যেগুলোর মধ্যে ২,০০০-এরও বেশি এখনও বৈধ।
কি জন্য পর্যবেক্ষণ: ব্যবহৃত এমসিপি সার্ভারগুলোর একটি তালিকা, তাদের সংস্করণ, তাদের ঘোষিত টুলসমূহ, এবং কনফিগারেশন ফাইলগুলোর ওপর চলমান গোপনীয় তথ্য শনাক্তকরণ।
০৪. অতিরিক্ত এজেন্সি
একটি এজেন্টকে যখন ব্যাপক টুল ব্যবহারের সুযোগ এবং একটি দীর্ঘস্থায়ী ক্রেডেনশিয়াল দেওয়া হয়, তখন তা একটি চলমান প্রিভিলেজ এসক্যালেশনের মতো কাজ করে যা একটি ট্রিগারের অপেক্ষায় থাকে। এর ক্ষতি করার জন্য কোনো কিছুকে কাজে লাগানোর প্রয়োজন হয় না। একটি বিভ্রান্ত এজেন্ট এবং একটি কম্প্রোমাইজড এজেন্ট একই ধরনের ক্ষতি করে, যখন উভয়ের কাছেই এমন রাইট অ্যাক্সেস থাকে যা তাদের কখনোই প্রয়োজন ছিল না।
এটি তালিকার সবচেয়ে আকর্ষণহীন এবং সবচেয়ে সাধারণ বিষয়। এর সমাধানও সবচেয়ে সস্তা, যা হলো পরিধি কমানো, এবং এই সমাধানটি খুব কমই প্রয়োগ করা হয় কারণ প্রশ্নটির মালিক কেউ নয়।
কি জন্য পর্যবেক্ষণ: কোন কোন প্রতিনিধি বিদ্যমান, তাদের প্রত্যেকে কী কী ক্ষমতা প্রয়োগ করতে পারে, কার পরিচয়পত্রের অধীনে, এবং সেই পরিধি কেউ অনুমোদন করেছে কিনা।
০৫. বিষাক্ত মডেল, ডেটাসেট এবং এআই নির্ভরতা
এআই স্ট্যাকটি সাধারণ প্যাকেজ এবং হোস্টেড আর্টিফ্যাক্টের উপর নির্মিত। মডেলগুলো পাবলিক হাব থেকে ডাউনলোড করা হয়। ডেটাসেটগুলো যেকোনো জায়গা থেকে সংগ্রহ করা হয়। যেকোনো ডিপেন্ডেন্সির মতোই এ দুটির ক্ষেত্রেও উৎসের একই সমস্যা বিদ্যমান, তবে এক্ষেত্রে টুলিং কম এবং যাচাই-বাছাইও অনেক কম।
কি জন্য পর্যবেক্ষণ: একই গঠন বিশ্লেষণ এবং একই বৈশিষ্ট্য সহ, সরবরাহ শৃঙ্খলের উপাদান হিসাবে বিবেচিত মডেল, কাঠামো এবং ডেটাসেট। আপনার অন্যান্য ডিপেন্ডেন্সিগুলোর মতোই CVE ট্র্যাকিং।
এআই-চালিত আক্রমণ: যে পাঁচটি আপনার সাপ্লাই চেইনকে নতুন রূপ দিচ্ছে
০৬. স্লপস্কোটিং
২০২৫ সালে ইউএসএনআইএক্স সিকিউরিটি-তে উপস্থাপিত একটি গবেষণায় ১৬টি মডেল জুড়ে ২২.৩ লক্ষ কোড স্যাম্পল তৈরি করা হয় এবং এতে দেখা যায় যে, প্রস্তাবিত প্যাকেজগুলোর ১৯.৭%-এর কোনো অস্তিত্বই ছিল না, যার ফলে ২ লক্ষ ৫ হাজারেরও বেশি স্বতন্ত্র ও অলীক নাম তৈরি হয়। এই নামগুলোর প্রায় ৪৩% একই প্রম্পট বারবার চালানোর পরেও পুনরাবৃত্ত হয়েছে, যা এগুলোকে সংগ্রহযোগ্য করে তোলে।
আক্রমণকারীদের আর কোনো রক্ষণাবেক্ষণকারীকে হ্যাক করার প্রয়োজন নেই। তারা আপনার এজেন্টের তৈরি করা নামটি নিবন্ধন করে এবং ইনস্টলের জন্য অপেক্ষা করে। প্যাকেজটিতে কোনো স্বাক্ষর বা বিজ্ঞপ্তি নেই, কারণ এটি নতুন এবং আগে কেউ এটি দেখেনি।
কি জন্য পর্যবেক্ষণ: ম্যালওয়্যার স্ক্রিনিং যা খ্যাতির পরিবর্তে আচরণের উপর ভিত্তি করে কাজ করে এবং এজেন্টের যোগ করা প্রতিটি নির্ভরতার ক্ষেত্রে প্রয়োগ করা হয়।
০৭. স্ব-প্রজননশীল সরবরাহ শৃঙ্খল কীট
সার্জারির সেপ্টেম্বর ২০২৫ এনপিএম ওয়ার্ম এটি সেই মুহূর্তটিকে চিহ্নিত করে যখন ডেভেলপার মেশিনগুলো লক্ষ্যবস্তু না হয়ে বিতরণের মাধ্যমে পরিণত হয়। ২০২৬ সাল পর্যন্ত এই ধারাটি ব্যাপক আকারে পুনরাবৃত্ত হয়। প্রতিটি ফাঁস হওয়া ডেভেলপার ক্রেডেনশিয়াল পরবর্তী দফায় ফাঁস হওয়া প্যাকেজগুলো প্রকাশ করে, এবং এর বিস্তার বাড়ার পরিবর্তে বহুগুণে বৃদ্ধি পায়।
কি জন্য পর্যবেক্ষণ: অস্বাভাবিক প্রকাশনা কার্যকলাপ, অস্বাভাবিক commit প্যাটার্ন এবং ক্রেডেনশিয়াল ব্যবহার, যা ডেভেলপারের স্বাভাবিক আচরণের সাথে মেলে না।
০৮. রাষ্ট্র কর্তৃক এআই যোগ্যতার লক্ষ্যবস্তু নির্ধারণ
২০২৬ সালের মার্চ মাসে, প্রায় ১০ কোটি সাপ্তাহিক ডাউনলোডের একটি প্যাকেজ কয়েক ঘণ্টার জন্য হ্যাক করা হয়েছিল, যার উদ্দেশ্য ছিল এআই প্রোভাইডারদের এপিআই কী (API key) হাতিয়ে নেওয়া। এই সময়কালটি ইচ্ছাকৃতভাবে সংক্ষিপ্ত রাখা হয়েছিল। ডেটা সংগ্রহের জন্য যথেষ্ট দীর্ঘ, কিন্তু শনাক্ত হওয়ার সম্ভাবনা কমানোর জন্য যথেষ্ট সংক্ষিপ্ত।
এআই ক্রেডেনশিয়ালগুলো এখন নিজেরাই একটি প্রথম শ্রেণীর লক্ষ্যবস্তু, কারণ এগুলো কম্পিউটিং ক্ষমতা, অ্যাক্সেস এবং একটি বিশ্বাসযোগ্য পরিচয় নিশ্চিত করে। ২০২৫ সালের শেষভাগ থেকে ২০২৬ সালের প্রথমভাগের মধ্যে এগুলো চুরির লক্ষ্যে পরিচালিত আক্রমণগুলো তীব্রভাবে বৃদ্ধি পেয়েছে।
কি জন্য পর্যবেক্ষণ: এআই প্রোভাইডার কী-গুলোকে সিক্রেট হিসেবে গণ্য করা হয় এবং ক্লাউড ক্রেডেনশিয়ালের মতোই এগুলোর শনাক্তকরণ ও বাতিলকরণ প্রক্রিয়া একই।
০৯. এলএলএম ব্যবহার করে তৈরি বা রোপণ করা ম্যালওয়্যার
২০২৬ সাল নাগাদ, এজেন্ট ওয়ার্কফ্লোর ভেতরে ক্ষতিকারক কোড ঢুকিয়ে দেওয়ার জন্য একটি ল্যাঙ্গুয়েজ মডেলকে অস্ত্র হিসেবে ব্যবহার করার নথিভুক্ত ঘটনা পাওয়া যায়। এর তাৎপর্য এই নয় যে ম্যালওয়্যারটি নতুন ছিল। বরং তাৎপর্য হলো, এর রচয়িতা আর কোনো বাধা ছিল না, এবং সেই অনুযায়ী আক্রমণকারীর কাছে বিশ্বাসযোগ্য দেখতে ক্ষতিকারক কোডের পরিমাণও বেড়ে গিয়েছিল।
কি জন্য পর্যবেক্ষণ: সনাক্তকরণ এর জন্য নমুনাটি আগে দেখা হয়েছে কি না, তার উপর নির্ভর করতে হয় না।
১০. ধারণক্ষমতার পতন পর্যালোচনা করুন
এটি কোনো আক্রমণ নয়, আর সে কারণেই এটি সবার শেষে রয়েছে এবং সবচেয়ে গুরুত্বপূর্ণ। যখন কোনো এজেন্ট এক সপ্তাহে হাজারখানেক ফাইল তৈরি করে, তখন কোড রিভিউ আর নিয়ন্ত্রণের মাধ্যম না থেকে একটি অপেক্ষমাণ তালিকায় পরিণত হয়। যখন শেষ মানবিক যাচাই প্রক্রিয়াটি বিপর্যস্ত হয়ে পড়ে, তখন এই তালিকার অন্য সব হুমকি আরও সহজ হয়ে যায়।
কি জন্য পর্যবেক্ষণ: প্রাপ্ত ফলাফলগুলোকে নিছক গুরুতরতার পরিবর্তে শোষণযোগ্যতার ভিত্তিতে র্যাঙ্ক করা হয়, ফলে যে অল্প কয়েকটি ফলাফল প্রোডাকশনের জন্য হুমকি সৃষ্টি করে, সেগুলোই কোনো ডেভেলপারের কাছে পৌঁছায়।
দশটি হুমকিই হলো মূল রূপরেখা। প্রতিটি হুমকি নিয়ে কী করতে হবে, তা একটি ব্লগ পোস্টের চেয়েও দীর্ঘ, তাই আমরা বিষয়টি নিয়ে যথাযথভাবে আলোচনা করেছি। এই পর্বের বিষয় হলো... সেফডেভ টকসজাইজেনির সিইও জেসুস কুয়াদ্রাদো, ডেভসেকওপিএস বিশেষজ্ঞ এবং এস আতানাস নিকোলোভের সাথে আলোচনায় বসেছেন।SDLC টেক লিড, পলিমরফিক ম্যালওয়্যার, প্রম্পট ইনজেকশন, মডেল টেম্পারিং এবং এগুলোর বিরুদ্ধে আসলে কী টিকে থাকে সে বিষয়ে। কোনো ফর্ম নেই, কোনো গেট নেই।
আপনি কেন এমন এআই সম্পদ রক্ষা করতে পারছেন না যা আপনি ম্যাপ করেননি?
দশটি আবার পড়ুন, তাহলে এর ধরণটি সহজে চোখে পড়বে। এগুলোর মধ্যে নয়টিই নির্দিষ্ট কিছু বিষয় সম্পর্কিত প্রশ্ন: কোন এমসিপি সার্ভার, কোন এজেন্ট, কোন স্কোপ, কোন ক্রেডেনশিয়াল, কোন রুলস ফাইল, কোন প্যাকেজ।
এই প্রশ্নগুলোর কোনোটিরই উত্তর কোনো নীতিমালা থেকে পাওয়া সম্ভব নয়। এগুলোর উত্তর পাওয়া যায় একটি তালিকা থেকে, এবং বেশিরভাগ সংস্থার কাছেই এমন কোনো তালিকা থাকে না। ডেভেলপারদের দ্রুত পদক্ষেপের মাধ্যমেই এআই-এর আগমন ঘটেছে; কোনো টিকেট, সংগ্রহ প্রক্রিয়া বা এমন কোনো রিপোজিটরি এন্ট্রি ছাড়াই, যা নিজেকে এআই হিসেবে ঘোষণা করে।
এর ফলে ম্যাপিং প্রথম ধাপের পরিবর্তে পূর্বশর্তে পরিণত হয়। একটি এআই নিরাপত্তা হুমকি প্রোগ্রাম যা নিয়ন্ত্রণ ব্যবস্থা দিয়ে শুরু হয়, তা সেই নিয়ন্ত্রণগুলো তার জানা এআই-এর উপর প্রয়োগ করবে, যা এমন একটি উপসেট যার পরিমাপ সে করতে পারে না। আবিষ্কার প্রথমে করতে হবে: মডেল, ফ্রেমওয়ার্ক, ডেটাসেট, ইনফারেন্স এন্ডপয়েন্ট, এজেন্ট, এমসিপি সার্ভার, স্কিল, প্রম্পট এবং আপনার ডেভেলপাররা বাস্তবে যে এআই কোডিং টুলগুলো ব্যবহার করে, সেগুলোর মধ্যকার সম্পর্কসহ; কারণ বিচ্ছিন্ন কোনো সম্পদ আপনাকে খুব কমই তথ্য দেয় এবং ঝুঁকিটি শৃঙ্খলের মধ্যেই কেন্দ্রীভূত হয়।
সার্জারির NIST AI ঝুঁকি ব্যবস্থাপনা কাঠামো একই কারণে মেজার এবং ম্যানেজ-এর আগে ম্যাপ রাখা হয়। এটি ফ্রেমওয়ার্কের সবচেয়ে কম আকর্ষণীয় ফাংশন এবং বাকি সবকিছু এর উপরেই নির্ভরশীল।
কোন এআই নিরাপত্তা হুমকিগুলোর বিরুদ্ধে আপনার প্রথমে ব্যবস্থা নেওয়া উচিত?
সবচেয়ে অত্যাধুনিক নয়। সবচেয়ে সহজলভ্য।
- এই সপ্তাহ: আপনার MCP সার্ভারগুলো গণনা করুন এবং সেগুলোর কনফিগারেশন ফাইলে সিক্রেটস ডিটেকশন চালান। এই তালিকায় থ্রেট ০৩-এর ক্ষেত্রে প্রচেষ্টার তুলনায় ঝুঁকির অনুপাত সর্বোচ্চ, এবং প্রায় কেউই এটি খতিয়ে দেখেনি।
- এই মাস: আপনার এজেন্টদের খুঁজে বের করুন এবং লিখে রাখুন যে তাদের প্রত্যেকে কী কী ব্যবহার করতে পারে এবং কার পরিচয়পত্রের অধীনে তা করে। এটি চতুর্থ হুমকিটির মোকাবিলা করে, যা সবচেয়ে সাধারণ এবং সবচেয়ে কম খরচে কমানো যায়।
- এই ত্রৈমাসিকে: একটি এজেন্ট যে প্রতিটি ডিপেন্ডেন্সি যোগ করে, তার আগে বিহেভিওরাল ম্যালওয়্যার স্ক্রিনিং রাখুন। এটি একবারে ০৬, ০৭ এবং ০৯ নম্বর থ্রেটগুলোকে কভার করে, কারণ এই তিনটিই নতুন হওয়ায় রেপুটেশন-ভিত্তিক চেকগুলোকে ফাঁকি দেয়।
বাকি সবকিছু ঐ তিনটির পেছনে অপেক্ষা করতে পারে, কারণ অন্য সবকিছু ধরেই নেয় যে আপনার কাছে কী আছে তা আপনি আগে থেকেই জানেন।
২০২৭ সালে যে সংস্থাগুলো এআই নিরাপত্তা হুমকি ভালোভাবে মোকাবেলা করবে, তারা সেরা মডেল মূল্যায়নকারী সংস্থা হবে না। বরং তারাই হবে, যারা যেকোনো দিন এই প্রশ্নের উত্তর দিতে পারবে যে, তাদের সফটওয়্যারে কোন এআই চলছে এবং সেটির কতদূর পর্যন্ত পৌঁছানোর অনুমতি আছে। এটাই হলো তাদের অবস্থান। জাইজেনি এটি গড়ে তোলা হয়েছিল বিভিন্ন রিপোজিটরি জুড়ে প্রতিটি এআই অ্যাসেটের নিরবচ্ছিন্ন আবিষ্কার এবং pipelineআপনার অডিটরদের দ্বারা ইতিমধ্যে স্বীকৃত ফ্রেমওয়ার্কগুলোর সাপেক্ষে ঝুঁকির মূল্যায়ন, এবং সাপ্লাই চেইন স্ক্রিনিং যা এখনও অনুমোদনহীন বিষয়গুলো শনাক্ত করে।
দশটি হুমকি, দুটি বিভাগ, এবং উভয়ের নিচে একটি মানচিত্র।
FAQ
এআই নিরাপত্তা হুমকি কি সাধারণ অ্যাপ্লিকেশন নিরাপত্তা হুমকি থেকে সত্যিই আলাদা?
আংশিকভাবে। এর পরিণতিগুলো পরিচিত: কোড এক্সিকিউশন, ক্রেডেনশিয়াল চুরি, ডেটা ফাঁস। যা পরিবর্তিত হয় তা হলো প্রবেশের পথ এবং গতি। যে কনফিগারেশন ফাইলগুলো আগে নিষ্ক্রিয় ছিল, সেগুলো এখন এমন নির্দেশনা বহন করে যার ওপর ভিত্তি করে কোনো কিছু কাজ করে, এবং বিশ্বাসযোগ্য ক্ষতিকারক কোড তৈরি করার জন্য আক্রমণকারীর খরচ কমে গেছে। আপনার বিদ্যমান নিয়ন্ত্রণগুলো এখনও কার্যকর; শুধু সেগুলো আর সম্পূর্ণ সুরক্ষা দেয় না।
আমাদের মডেলগুলোতে রেড-টিমিং কি এই হুমকিগুলোর বেশিরভাগ মোকাবেলা করতে পারে?
এটি সেগুলোর একটির অংশকে সম্বোধন করে। রেড-টিমিং এই প্রশ্নের উত্তর দেয় যে, একটি মডেলকে এমন কিছু করতে রাজি করানো যায় কি না যা তার প্রত্যাখ্যান করা উচিত, যা সত্যিই কার্যকর। এটি টুল স্কোপ, ক্রেডেনশিয়াল, রুলস ফাইল বা এমসিপি কনফিগারেশন দেখতে পারে না, কারণ এগুলোর কোনোটিই মডেল এন্ডপয়েন্টের মাধ্যমে অ্যাক্সেসযোগ্য নয়। একটি ত্রুটিমুক্ত রেড-টিম রিপোর্ট এবং একটি বিপজ্জনকভাবে অতিরিক্ত সুবিধাপ্রাপ্ত এজেন্ট কোনো বিরোধ ছাড়াই সহাবস্থান করে।
এই এআই নিরাপত্তা হুমকিগুলোর মধ্যে কোনটি সবচেয়ে অবমূল্যায়িত?
অনেক বড় ব্যবধানে এর প্রভাব অনেক বেশি। এর কোনো CVE নেই, দেখানোর মতো কোনো এক্সপ্লয়েট নেই, এবং এর জন্য কোনো বিশেষ পণ্য বিক্রি করার মতো বিক্রেতাও নেই, তাই এটি কোনো জরুরি অবস্থা তৈরি করে না। এটি একটি নিয়ন্ত্রিত ঘটনা এবং একটি অনিয়ন্ত্রিত ঘটনার মধ্যে পার্থক্যও গড়ে দেয়, কারণ প্রথম ভুলের পর কোনো কিছু কতদূর ছড়াবে তা এর পরিধিই নির্ধারণ করে।
এআই-চালিত আক্রমণগুলো আমাদের পরিমাপের বিষয়গুলোকে কীভাবে পরিবর্তন করে?
তারা কার্যকর পরিমাপকটিকে গুরুত্বের পরিবর্তে সময়ের দিকে সরিয়ে দেয়। যখন সিগনেচার প্রকাশের চেয়ে দ্রুত ক্ষতিকারক প্যাকেজ তৈরি হয়, তখন “কতগুলো ক্রিটিক্যাল ত্রুটি খোলা আছে” তার চেয়ে “কত দ্রুত নতুন কিছু চিহ্নিত হচ্ছে” তা বেশি গুরুত্বপূর্ণ হয়ে ওঠে। আপনার কোডবেসে একটি ডিপেন্ডেন্সি প্রবেশ করা এবং স্ক্রিনিং হওয়ার মধ্যবর্তী ব্যবধান, এবং কোনো ত্রুটি চিহ্নিত হওয়ার পর তা এমন একজন ডেভেলপারের কাছে পৌঁছানো যিনি সেটির উপর ব্যবস্থা নিতে পারেন—এই দুইয়ের মধ্যবর্তী ব্যবধান পরিমাপ করুন।







