HalluSquatting, যার পুরো নাম adversarial hallucination squatting, হলো এমন একটি আক্রমণ যেখানে কেউ একটি এআই মডেলের তৈরি করতে পারে এমন রিপোজিটরি, প্যাকেজ বা দক্ষতার নাম রেজিস্টার করে রাখে এবং তারপর এজেন্টটির সেগুলোর কোনো একটি খোঁজার জন্য অপেক্ষা করে। এজেন্টটি বিশ্বাস করে যে এটি একটি আসল প্রজেক্ট খুঁজে পাচ্ছে। কিন্তু এর পরিবর্তে এটি আক্রমণকারীর নিয়ন্ত্রিত কন্টেন্ট পেয়ে যায়, যাতে এমন নির্দেশাবলী থাকে যা এজেন্টটি তখন তার নিজের টার্মিনালের মাধ্যমে কার্যকর করে। এটি ব্যাপকভাবে কাজ করে কারণ এই বিভ্রমগুলো এলোমেলো নয়: একই মনগড়া নামগুলো বিভিন্ন মডেল এবং বিভিন্ন রানের মধ্যে বারবার আসে, তাই এগুলো আগে থেকেই অনুমান করে রেজিস্টার করা যায়। HalluSquatting হলো typosquatting-এর জন্য ঠিক তেমনই, যেমন একজন ডেভেলপারের জন্য একটি এজেন্ট। একটি মানুষের ভুল টাইপ করার জন্য অপেক্ষা করে। অন্যটি একটি মেশিনের কল্পনা করার জন্য অপেক্ষা করে।
হ্যালুস্কোয়াটিং কী? একটি কার্যকরী সংজ্ঞা #
সাপ্লাই চেইন অ্যাটাক সফল হতে সবসময়ই একটি ভুলের প্রয়োজন হয়। টাইপোস্কোয়াটিংয়ের জন্য প্রয়োজন হয় কেউ যেন ভুল করে প্যাকেজের নাম টাইপ করে ফেলে। ডিপেন্ডেন্সি কনফিউশনের জন্য প্রয়োজন হয় একটি রিজলভার যেন প্রাইভেট রেজিস্ট্রির চেয়ে পাবলিক রেজিস্ট্রিকে বেশি প্রাধান্য দেয়। উভয়ই এমন একটি ভুলের জন্য অপেক্ষা করে যা অবশেষে ঘটে।
HalluSqutting কোনো ভুলের জন্য অপেক্ষা করে না। এটি একটি উদ্ভাবনের জন্য অপেক্ষা করে।
সুতরাং কার্যকরী সংজ্ঞাটি হলো: হ্যালুস্কোয়াটিং হলো একটি সাপ্লাই চেইন অ্যাটাক, যেখানে একজন আক্রমণকারী আগে থেকেই এমন রিসোর্স আইডেন্টিফায়ার রেজিস্টার করে রাখে যা বড় ল্যাঙ্গুয়েজ মডেলগুলো পরিসংখ্যানগতভাবে তৈরি করার সম্ভাবনা রাখে। এর ফলে, যখন কোনো এআই এজেন্ট সেই উদ্ভাবিত রিসোর্সটি খোঁজে, তখন এটি কোনো বৈধ প্রজেক্টের পরিবর্তে আক্রমণকারীর নিয়ন্ত্রিত কন্টেন্ট পেয়ে যায়। রিসোর্সটি একটি গিটহাব রিপোজিটরি, কোনো পাবলিক রেজিস্ট্রির প্যাকেজ, একটি প্লাগইন বা একটি এজেন্ট স্কিল হতে পারে। এদের মধ্যে মিল হলো, এজেন্টটি একটি নির্দিষ্ট নামে কিছু একটা চেয়েছিল এবং নামটি এমন কারো ছিল যিনি সেই কলের জন্য অপেক্ষা করছিলেন।
কৌশলটি আনুষ্ঠানিকভাবে বর্ণনা করা হয়েছিল এজেন্টিক বটনেট থেকে সাবধান: সার্বজনীন ও স্থানান্তরযোগ্য অ্যাডভার্সারিয়াল হ্যালুস্কোয়াটিং-এর মাধ্যমে পরিমাপযোগ্য ও লক্ষ্যহীন প্রম্পটওয়্যার আক্রমণতেল আভিভ বিশ্ববিদ্যালয়, টেকনিয়ন এবং ইনটুইটের গবেষকদের দ্বারা ৮ জুলাই ২০২৬-এ প্রকাশিত। গবেষণাপত্রটির কার্যপ্রণালীর মতোই এর উপস্থাপনাও গুরুত্বপূর্ণ। এটি একটি লক্ষ্যহীন আক্রমণের বর্ণনা দেয়: আক্রমণকারীর কোনো নির্দিষ্ট শিকারের কাছে পৌঁছানোর জন্য কোনো মাধ্যমের প্রয়োজন হয় না। কোনো ইমেল নেই, কোনো বার্তা নেই, কোনো প্রবেশাধিকারও নেই। তারা নাম নিবন্ধন করে এবং ইকোসিস্টেমকে তথ্য পৌঁছে দেওয়ার কাজটি করতে দেয়।
বিভ্রমের বসা, এর তিনটি অংশে বিভক্ত #
সংক্ষিপ্ত নামের চেয়ে পুরো নামটি কার্যপ্রণালীটি ভালোভাবে ব্যাখ্যা করে, তাই এটিকে খুলে দেখাটা যুক্তিযুক্ত।
- হ্যালুসিনেশন। যখন কোনো মডেল একটি অপরিচিত অনুরোধের সম্মুখীন হয়, তখন এটি বলে না যে এটি জানে না। এটি বিশ্বাসযোগ্য কিছু তৈরি করে। এমন কোনো টুলের রিপোজিটরি সম্পর্কে জিজ্ঞাসা করা হলে যা এটি দেখেনি, এটি সাধারণত এই ধরনের শনাক্তকারীগুলোর যে রূপ থাকে, সেই আকারে একটি বিশ্বাসযোগ্য মালিক এবং প্রকল্পের নাম তৈরি করে।
- উবু হয়ে বসা। টাইপোস্কোয়াটিং এবং সাইবারস্কোয়াটিং-এর মতোই একই যুক্তি। কোনো নামের বৈধ দাবিদারের আগে, অথবা কেউ খেয়াল করার আগেই যে নামটি আদৌ কখনো দাবি করা হয়নি, তা দখল করে নেওয়া।
- প্রতিপক্ষীয়। এটাই একটি উপদ্রবকে আক্রমণে পরিণত করে। সাধারণ হ্যালুসিনেশন স্কোয়াটিং হলো সুবিধাবাদী: একটি মডেল যে নামগুলো পছন্দ করে, সেগুলো রেজিস্টার করে রাখা এবং তারপর আশা করা। এর প্রতিপক্ষীয় সংস্করণটি ইচ্ছাকৃত, যেখানে সার্বজনীন ও স্থানান্তরযোগ্য ট্রিগার ব্যবহার করে মডেলগুলোকে আক্রমণকারীর বেছে নেওয়া একটি নির্দিষ্ট নামের দিকে চালিত করা হয়। এটি অপেক্ষার পালা দূর করে এবং আক্রমণটিকে পুনরাবৃত্তিযোগ্য করে তোলে।
এক কথায় বলতে গেলে, HalluSquatting-এর অর্থ হলো: মডেলকে দিয়ে এমন একটি নাম তৈরি করান যা আপনার নিজের, তারপর এজেন্টকে সেই নামের ওপর ভিত্তি করে কাজ করতে দিন।
দুটি পদ্ধতি ক্ষতিসাধন করে। প্রথমত, সাম্প্রতিকতা জালিয়াতিকে চালিত করে। মডেলগুলো দীর্ঘদিনের প্রতিষ্ঠিত প্রজেক্টগুলোর আইডেন্টিফায়ার নির্ভরযোগ্যভাবে পুনরুৎপাদন করে এবং সাম্প্রতিক প্রজেক্টগুলোর আইডেন্টিফায়ার প্রায় নিশ্চিত হারে উদ্ভাবন করে। প্রশিক্ষণের সময়সীমার পরে যা কিছু আবির্ভূত হয়েছে, তা একটি শূন্যস্থান হিসেবে কাজ করে যা মডেলটি পূরণ করে। দ্বিতীয়ত, বিভ্রম স্থানান্তরিত হয়। একই মনগড়া নাম বিভিন্ন ভিত্তি মডেলে এবং বারবার চালানোর পরেও পুনরাবৃত্ত হয়, তাই একজন আক্রমণকারীর এটা জানার প্রয়োজন হয় না যে লক্ষ্যবস্তুটি কোন অ্যাসিস্ট্যান্ট ব্যবহার করছে। একটি নিবন্ধিত নামই একাধিক নামকে আড়াল করে।
এই সংমিশ্রণই একটি অদ্ভুত বৈশিষ্ট্যকে পরিকাঠামোতে পরিণত করে। একটি মডেল দ্বারা একবার উদ্ভাবিত নাম একটি কৌতূহল মাত্র। কিন্তু যখনই কেউ কোনো জনপ্রিয় টুল সম্পর্কে জিজ্ঞাসা করে, তখন একাধিক মডেল দ্বারা ধারাবাহিকভাবে উদ্ভাবিত একটি নাম হলো একটি বিতরণ চ্যানেল।
HalluSquatting আক্রমণ কীভাবে কাজ করে? #
শৃঙ্খলটির পাঁচটি সংযোগ রয়েছে, এবং লক্ষণীয় বিষয় হলো, সেটআপের পর আক্রমণকারী খুব সামান্যই কাজ করে।
১. ভবিষ্যদ্বাণী করুন। আক্রমণকারী একটি নির্দিষ্ট শ্রেণীর অনুরোধের জন্য শনাক্তকারী মডেলগুলো তৈরি করে: এই রিপোজিটরি ক্লোন করুন, এই স্কিলটি ইনস্টল করুন, এই প্যাকেজটি যোগ করুন। সাম্প্রতিক এবং ট্রেন্ডিং রিসোর্সগুলো সর্বোচ্চ ফলন দেয়।
২. নিবন্ধন করুন। তারা আসল প্ল্যাটফর্মে ওই নামগুলো দাবি করে। রিপোজিটরিটির অস্তিত্ব আছে। প্যাকেজটি রিজলভ হয়। প্রাথমিক অস্তিত্ব যাচাইয়ে কোনো কিছুই ব্যর্থ হয় না, কারণ রিসোর্সটি সত্যিই বিদ্যমান।
৩. বীজ। রিসোর্সটি এমন বিষয়বস্তু দিয়ে পূর্ণ যা একটি মডেলের জন্য নির্দেশাবলী হিসাবে পড়ার জন্য লেখা হয়েছে: যেমন একটি README-তে থাকা প্রতিপক্ষীয় প্রম্পট, একটি কনফিগারেশন ফাইল, ডকুমেন্টেশন বা রিসোর্সের বিবরণ। এটাই হলো প্রম্পটওয়্যার, এবং এটি ইনডিরেক্ট-এর সাথে ঘনিষ্ঠভাবে সম্পর্কিত। প্রম্পট ইনজেকশনপেলোডটি মূলত কোড নয়, বরং এটি এমন একটি ভাষা যা পরবর্তীতে যা কিছু পড়বে, তাদের লক্ষ্য করে তৈরি।
৪. নিয়ে আসুন। একজন ডেভেলপার একটি এজেন্টকে রিপোজিটরি ক্লোন করতে বা স্কিলটি ইনস্টল করতে বলেন। এজেন্টটি নামটি কল্পনা করে, আক্রমণকারীর রিসোর্সে পৌঁছে যায় এবং এর বিষয়বস্তুকে সেই উপাদান হিসেবে নিজের প্রেক্ষাপটে টেনে নেয়, যা তাকে পুনরুদ্ধার করতে বলা হয়েছিল।
৪. সম্পাদন করুন। অন্তর্নিহিত নির্দেশাবলী এজেন্টের কার্য সম্পাদনকে নিয়ন্ত্রণ করে। যেহেতু বর্তমান এজেন্টগুলোতে সমন্বিত টার্মিনাল থাকে, তাই এর ফলে দূর থেকে টুল ও কোড চালানো সম্ভব হয়, যার পরিণামে হোস্টে একটি বট ইনস্টল হয়ে যায়।
শেষের ওই সংযোগটিই গবেষণাটিকে এর শিরোনাম দিয়েছে। প্রতিটি হ্যাক হওয়া মেশিন একটি এজেন্টিক বটনেটে যোগ দেয়: এটি এমন একটি নেটওয়ার্ক যা কোনো দুর্বলতা বা ত্রুটিপূর্ণ ক্রেডেনশিয়ালের মাধ্যমে নয়, বরং এমন সব মেশিনে থাকা এজেন্টদের মাধ্যমে ছড়ায়, যেগুলোকে কেউ সরাসরি লক্ষ্যবস্তু করেনি এবং এজেন্টরা সেই নির্দেশাবলী পড়ে নেয় যা তাদের মানার কথা ছিল না।
স্লপস্কোয়াটিং হলো এর সবচেয়ে কাছের আত্মীয় এবং সাধারণ পূর্বপুরুষ: রেজিস্টার প্যাকেজ নেম মডেলগুলো অলীক কল্পনা করে, এবং কেউ ইনস্টলটি চালাবে বলে অপেক্ষা করে। হ্যালুস্কোয়াটিং এটিকে দুই দিকে আরও এক ধাপ এগিয়ে নিয়ে যায়। লক্ষ্যবস্তু ডেভেলপার থেকে এজেন্টের দিকে চলে যায়, যা মানবিক যাচাইকে পুরোপুরি সরিয়ে দেয়। এবং এর ভঙ্গি সুবিধাবাদী থেকে প্রতিপক্ষীয় হয়ে ওঠে, কারণ নামটি কেবল আশা করার পরিবর্তে নিয়ন্ত্রণ করা যায়।
এই পরিবর্তনটি সেইসব দলের জন্য সবচেয়ে গুরুত্বপূর্ণ যারা ইতিমধ্যেই কাজ করছে এজেন্টিক কোডিংযেখানে ডিcisডেভেলপারের অনুরোধে তৈরি করা এবং আর পর্যবেক্ষণে না থাকা একটি প্রসেসের ভেতরে অনুসন্ধান এবং সম্পাদন একই ধাপে সম্পন্ন হয়।
কেন বিদ্যমান নিয়ন্ত্রণগুলো ব্যর্থ হয় #
প্রচলিত সাপ্লাই চেইন স্ক্রিনিংয়ের পেছনের প্রতিটি ধারণাই এখানে উল্টে যায়, আর এটাই অস্বস্তিকর অংশ।
মূল কথা হলো, এই প্রতিটি নিয়ন্ত্রণই কোনো না কোনোভাবে জিজ্ঞাসা করে, “এটা কি আগে কেউ দেখেছে?” চার ঘণ্টা আগে নিবন্ধিত একটি নামের ক্ষেত্রে এর সৎ উত্তর হলো ‘না’, এবং ‘না’ কোনো বাধা নয়।
এজেন্ট খোলার আগেই উইন্ডোটি বন্ধ করা। #
আসল প্রশ্নটা এটা নয় যে আপনার ডেভেলপাররা কোনো মনগড়া প্যাকেজ নামের ফাঁদে পা দেবে কি না। বরং প্রশ্নটা হলো, আপনার মধ্যে এমন কিছু আছে কি না। pipeline চার ঘণ্টা পুরোনো, কোনো ইতিহাস নেই এবং কোনো ব্যক্তির পরিবর্তে একজন এজেন্ট দ্বারা যুক্ত করা একটি নির্ভরতা চোখে পড়বে।
তিনটি নিয়ন্ত্রণ সেই সুযোগের বেশিরভাগটাই বন্ধ করে দেয়, এবং সেগুলোর কোনোটির জন্যই আক্রমণকারী কোন নামগুলো নিবন্ধন করেছে তা অনুমান করার প্রয়োজন হয় না।
বয়স এবং উৎসকে একটি প্রবেশদ্বার হিসেবে বিবেচনা করুন। কয়েক ঘন্টা আগে তৈরি হওয়া এবং কোনো এজেন্টের দ্বারা ব্যবহৃত একটি রিসোর্স, পাঁচ বছরের ইতিহাস থাকা একটি রিসোর্স থেকে সম্পূর্ণ ভিন্ন। প্যাকেজের বয়স এমন মেটাডেটা হিসেবে কাজ করার চেয়ে পলিসির ইনপুট হিসেবে অনেক ভালো কাজ করে, যা কেউ পড়ে না। খ্যাতির পরিবর্তে আচরণের উপর ভিত্তি করে স্ক্রিনিং করুন, কারণ একটি নতুন নিবন্ধিত নাম সর্বদা "এটি কি কেউ দেখেছে" এই যাচাইয়ে উত্তীর্ণ হয়, কিন্তু "এটি আসলে কী করে" এই যাচাইয়ে কখনোই উত্তীর্ণ হয় না। এবং ইনস্টলেশন কোথায় হবে তা বাধ্যতামূলক করুন, কারণ ডি...cisআয়ন পয়েন্টটি ডেভেলপারের মেশিন এবং এজেন্টের টার্মিনালে স্থানান্তরিত হয়েছে, এবং এমন একটি কন্ট্রোল যা শুধুমাত্র CI-তে চলে, তা কোডটি স্থানীয়ভাবে এক্সিকিউট হওয়ার পরে এসে পৌঁছায়।
জাইজেনি সেই স্তরে কাজ করে। ম্যালওয়্যারের প্রাথমিক সতর্কতা খ্যাতির পরিবর্তে আচরণের ভিত্তিতে প্যাকেজগুলো স্ক্রিন করা হয়, এবং সিগনেচার তৈরি হওয়ার আগেই ক্ষতিকারক প্যাকেজগুলোকে চিহ্নিত করা হয়; আর এটাই একমাত্র শর্ত যার অধীনে আজ সকালে নিবন্ধিত একটি নাম ধরা পড়ে। সাপ্তাহিক ফলাফলগুলো প্রকাশ্যে প্রকাশ করা হয়। ম্যালিসিয়াস কোড ডাইজেস্ট. Shield এটি ডেভেলপার এন্ডপয়েন্টেই নীতি প্রয়োগ করে, যার মধ্যে প্যাকেজের জন্য ন্যূনতম বয়সের প্রয়োজনীয়তা এবং ক্ষতিকারক ইনস্টল ব্লক করা অন্তর্ভুক্ত, ফলে কোনো এজেন্ট কল্পনা করার সাথে সাথেই কিছু ডাউনলোড করতে পারে না। দেবাই প্রযোজ্য guardrails IDE-র ভিতরে এবং কোডিং এজেন্টের ভিতরে, এজেন্ট যা যোগ করে তা চূড়ান্ত রূপ নেওয়ার আগে পর্যালোচনা করা। commitএবং অবিচ্ছিন্ন এআই সম্পদ আবিষ্কার এটি আপনার রিপোজিটরিগুলোতে আগে থেকেই চলমান এজেন্ট, স্কিল এবং এমসিপি সার্ভারগুলোকে ম্যাপ করে, কারণ এই আক্রমণটি যে প্রথম প্রশ্নটি উত্থাপন করে, তার উত্তর বেশিরভাগ দলই দিতে পারে না: আমাদের হয়ে কে এবং কার কর্তৃত্বের অধীনে ডেটা সংগ্রহ করছে?
একটি ডেমো বুক করুন আপনার এজেন্টরা কী পরিমাণ আয় করছে তা দেখতে।
প্রায়শই জিজ্ঞাসিত প্রশ্ন: হ্যালুস্কোয়াটিং কী, এর সংক্ষিপ্ত উত্তর #
একজন আক্রমণকারী এআই মডেলগুলোর তৈরি করা ভুয়া নামগুলো নিবন্ধন করে রাখে, যাতে কোনো এজেন্ট যখন সেটির খোঁজ করে, তখন আসল প্রজেক্টের পরিবর্তে আক্রমণকারীর তৈরি কন্টেন্টটি খুঁজে পায়। মডেলটির এই ভুলটিই তখন ডেলিভারি ব্যবস্থা হয়ে ওঠে।
মূলত, এলএলএম রেড টিমিং ল্যাঙ্গুয়েজ মডেল এবং সেগুলোর উপর নির্মিত অ্যাপ্লিকেশনগুলোর উপর আলোকপাত করে। এআই রেড টিমিং হলো এমন একটি ব্যবস্থা যেখানে বিভ্রমকে কেবল কাজে লাগানোর পরিবর্তে চালিত করা হয়। মডেলগুলোর পছন্দের নাম নিবন্ধন করে অপেক্ষা করার পরিবর্তে, গবেষণায় এমন কিছু ট্রিগার দেখানো হয়েছে যা এজেন্টদেরকে চাহিদা অনুযায়ী আক্রমণকারীর বেছে নেওয়া একটি নির্দিষ্ট নাম তৈরি করতে বাধ্য করে এবং যা বিভিন্ন মডেলে কাজ করে।
না। টাইপোস্কোয়াটিং মানুষের ভুলকে কাজে লাগায়, যেমন—ভুল টাইপ করা বা ভুল মনে রাখা কোনো নাম। হ্যালুসিনেশন স্কোয়াটিং যন্ত্রের তৈরি করা নামকে কাজে লাগায়, এমন একটি নাম যা কখনোই বাস্তব ছিল না এবং কোনো মানুষ কখনো টাইপ করেনি। এখানে নামের সাদৃশ্য শনাক্তকরণ কোনো কাজ করে না, কারণ মনগড়া নামটি কোনো কিছুর কাছাকাছিও নয়।
এগুলোর মধ্যে মিল রয়েছে, এবং স্লপস্কোয়াটিং আগে এসেছিল। স্লপস্কোয়াটিং বলতে সাধারণত বোঝায় অলীক প্যাকেজ নাম নিবন্ধন করা এবং কোনো সহকারীর সুপারিশে একজন ডেভেলপারের সেটি ইনস্টল করার জন্য অপেক্ষা করা। হ্যালুস্কোয়াটিং হলো এর পরবর্তী ধাপ: এজেন্ট নিজে থেকেই প্যাকেজ সংগ্রহ ও কার্যকর করে, অলীক অনুভূতির জন্য অপেক্ষা না করে তা সৃষ্টি করা যায়, এবং এর প্রমাণিত চূড়ান্ত পরিণতি হলো রিমোট কোড এক্সিকিউশন ও বটনেট ইনস্টলেশন।
আপনার এজেন্টরা মানুষের হস্তক্ষেপ ছাড়াই কী কী আনতে ও ইনস্টল করতে পারে তা খুঁজে বের করুন, তারপর এর সামনে একটি বয়স ও আচরণ যাচাইয়ের ব্যবস্থা রাখুন। দুটিই কনফিগারেশন-সম্পর্কিত প্রশ্ন, যার উত্তর এই সপ্তাহেই দেওয়া সম্ভব, এবং এগুলোর কোনোটির জন্যই আক্রমণকারী আগে থেকে কোন কোন নাম নিবন্ধন করে রেখেছে তা জানার প্রয়োজন নেই।
