এজেন্ট হারনেস ইঞ্জিনিয়ারিং

এজেন্ট হারনেস ইঞ্জিনিয়ারিং: মডেলটি আক্রমণের ক্ষেত্র নয়, হারনেসটিই আক্রমণের ক্ষেত্র।

সুচিপত্র

অবশ্যই পঠনীয় পোস্ট

সারসংক্ষেপ: এজেন্ট হারনেস ইঞ্জিনিয়ারিং এবং এর গোপন আক্রমণের ক্ষেত্র

এজেন্ট হারনেস ইঞ্জিনিয়ারিং হলো একটি এআই মডেলের চারপাশের সবকিছু (নির্দেশাবলী, সরঞ্জাম, অনুমতি, মেমরি এবং ফিডব্যাক লুপ) এমনভাবে তৈরি করার অনুশীলন, যা এটিকে একটি কার্যকরী এজেন্টে পরিণত করে। মডেলটিতে নয়, বরং ওই হারনেসটিতেই এখন বেশিরভাগ আসল নিরাপত্তা ঝুঁকি রয়েছে।

  • পরিবর্তন: দলগুলো টিউনিং প্রম্পট বন্ধ করে হারনেস ইঞ্জিনিয়ারিং শুরু করল। এজেন্ট = মডেল + হারনেস।
  • সমস্যাটি: হারনেসটি সাধারণ টেক্সট ফাইলে (নিয়ম, দক্ষতা, এমসিপি কনফিগারেশন) থাকে, যেগুলো ডকুমেন্টেশনের মতোই পর্যালোচনা করা হয়, তাও যদি আদৌ করা হয়।
  • প্রমাণ: রুলস ফাইল ব্যাকডোর এবং আসল এমসিপি সিভিইগুলো থেকে দেখা যায় যে আক্রমণকারীরা ইতিমধ্যেই এটিকে লক্ষ্যবস্তু করছে।
  • ঠিক করা: হারনেসটিকে কোড হিসেবে বিবেচনা করুন। পাঠানোর আগে এর তালিকা তৈরি করুন, পর্যালোচনা করুন এবং স্ক্যান করুন।

এআই নিয়ে প্রতিটি নিরাপত্তা আলোচনা শেষ পর্যন্ত মডেলটির প্রসঙ্গে এসে দাঁড়ায়। একে কি জেলব্রেক করা সম্ভব? এটি কি বিভ্রমের শিকার হবে? সরবরাহকারী কি আমাদের ডেটা ব্যবহার করে প্রশিক্ষণ নিচ্ছে?

ন্যায্য প্রশ্ন। কিন্তু এগুলো ক্রমশই ভুল হয়ে উঠছে। যখন একটি এআই এজেন্ট কোনো প্রোডাকশন টেবিল মুছে ফেলে, একটি ব্যাকডোর চালু করে বা কোনো অপরিচিত ব্যক্তিকে গ্রাহক তালিকা ইমেল করে, তখন মডেলটির ব্যর্থতা খুব কমই ঘটে। মডেলটি ঠিক তাই করেছে, যা করার জন্য তার নিয়ন্ত্রণ ব্যবস্থা তাকে অনুমতি দিয়েছিল।

এজেন্ট = মডেল + হারনেস

গত এক বছরে, এই শিল্পটি নীরবে এআই দিয়ে নির্মাণের অর্থ বদলে দিয়েছে। প্রম্পট ইঞ্জিনিয়ারিংয়ের জায়গা নিয়েছে কনটেক্সট ইঞ্জিনিয়ারিং, এবং কনটেক্সট ইঞ্জিনিয়ারিং আরও বড় কিছুর জন্ম দিয়েছে: এজেন্ট হারনেস ইঞ্জিনিয়ারিং.

ধারণাটি সহজ। একটি মডেল নিজে থেকে হাতবিহীন একটি যুক্তিবাদী ইঞ্জিন। এর নিয়ন্ত্রকটি হলো সেই সবকিছু যা একে হাত ও কাজ দেয়: এটি যে নির্দেশাবলী অনুসরণ করে, যে সরঞ্জামগুলো ব্যবহার করতে পারে, যে অনুমতিগুলো ধারণ করে, যে স্মৃতি সংরক্ষণ করে এবং যে পরীক্ষাগুলো এর ভুল ধরে ফেলে। মার্টিন ফাউলারের সাইট হারনেস ইঞ্জিনিয়ারিংকে এমন কাজ হিসেবে বর্ণনা করা হয়েছে যা কোডিং-এজেন্ট ব্যবহারকারীরা এখন এজেন্টদের নির্ভরযোগ্য করে তোলার জন্য করে থাকেন, এবং একটি এই বছর প্রকাশিত একাডেমিক কাঠামো হারনেসটিকে টুল অ্যাক্সেস ও প্রজেক্ট মেমরি থেকে শুরু করে পারমিশন ও ভেরিফিকেশন পর্যন্ত এগারোটি দায়িত্বে বিভক্ত করে।

ফলাফলগুলো বাস্তব। এজেন্ট হারনেস ইঞ্জিনিয়ারিং নিয়ে কাজ করা দলগুলো জানাচ্ছে যে, ভেতরের মডেলটি একই থাকা সত্ত্বেও শুধু হারনেস পরিবর্তন করলেই একটি এজেন্টের ফলাফলে নাটকীয় পরিবর্তন আসতে পারে। এটি নিরাপত্তাক্ষেত্রে কর্মরত যে কারো জন্য একটি অস্বস্তিকর প্রশ্ন উত্থাপন করে: যদি হারনেসই এজেন্টের আচরণ নির্ধারণ করে, তবে হারনেসই ঠিক করে দেয় যে এর অপব্যবহার কীভাবে করা যাবে। 

একটি ডিপেন্ডেন্সি ইনস্টল করার মতো একটি সাধারণ বিষয়ই ধরুন। একজন ডেভেলপার প্যাকেজের নামটি যাচাই করার জন্য একটু থামেন। কিন্তু সঠিক টুলসহ একটি এজেন্ট সরাসরি কমান্ডটি চালিয়ে দেয়, এবং প্যাকেজটি যদি ক্ষতিকারক হয়, তবে মডেলের কোনো কিছুই এটিকে আটকাতে পারবে না। সেফডেভ টকস-এর এই পর্বে আমরা ঠিক এই বিষয়টিই বিশদভাবে আলোচনা করব: এআই এজেন্টরা যখন ডিপেন্ডেন্সি ইনস্টল করে তখন কী পরিবর্তন হয় নিজস্বভাবে, এবং কেন এজেন্ট হারনেস ইঞ্জিনিয়ারিং নীরবে একটি সরবরাহ শৃঙ্খল সমস্যায় পরিণত হয়েছে।

একটি রিপোজিটরিতে এজেন্ট হারনেস ইঞ্জিনিয়ারিং দেখতে কেমন

এমন একটি রিপোজিটরি খুলুন যেখানে ডেভেলপাররা এআই এজেন্ট ব্যবহার করে এবং হারনেসটি সেখানেই আছে, এমন সব ফাইলের মধ্যে যা আপনি সম্ভবত কখনও স্ক্যান করেননি:

  • নিয়ম ও নির্দেশিকা ফাইল (AGENTS.md, .cursorrulesকো-পাইলট নির্দেশাবলী) যা এজেন্টকে বলে দেয় কীভাবে আচরণ করতে হবে।
  • দক্ষতা ফাইল সেই প্যাকেজটি পুনঃব্যবহারযোগ্য সক্ষমতা প্রদান করে, যা এজেন্ট চাহিদা অনুযায়ী লোড করে।
  • এমসিপি সার্ভার কনফিগারেশন যেগুলো এজেন্টকে টুল, ডেটাবেস এবং এপিআই-এর সাথে সংযুক্ত করে।
  • সিস্টেম প্রম্পট এবং প্রম্পট টেমপ্লেট অ্যাপ্লিকেশন কোডে অন্তর্ভুক্ত।
  • এজেন্ট ওয়্যারিংএকজন এজেন্ট কোন কোন টুল ব্যবহার করতে পারে, কোন ডেটা সংগ্রহ করতে পারে, এবং এর মাঝে কোনো সুরক্ষা ব্যবস্থা আছে কিনা।

এর সবই সাধারণ টেক্সট। এর সবই commitকোডের পাশাপাশি এগুলোও পর্যালোচনা করা হয়। এবং ডকুমেন্টেশন যেভাবে পর্যালোচনা করা হয়, সেভাবেই এই সবকিছু পর্যালোচনা করা হয়: এক ঝলক দেখে, অনুমোদন দিয়ে এবং মার্জ করে। তবুও, এই ফাইলগুলোর প্রতিটিই নীরবে পরিবর্তন করে দিতে পারে যে, একজন এজেন্টকে কী করতে নির্দেশ দেওয়া হয়েছে এবং তাকে কী স্পর্শ করার অনুমতি দেওয়া হয়েছে।

এজেন্ট হারনেস ইঞ্জিনিয়ারিংয়ের এটাই আসল পরিণতি: আপনার সফটওয়্যারের সবচেয়ে শক্তিশালী কনফিগারেশনটিই এখন সবচেয়ে কম পর্যালোচিত।

আক্রমণকারীরা ইতিমধ্যেই লক্ষ্য করেছে

এটি কোনো তাত্ত্বিক উদ্বেগ নয়। এই হারনেসটির একটি সংক্ষিপ্ত কিন্তু তাৎপর্যপূর্ণ ঘটনার ইতিহাস রয়েছে।

  • নিয়ম ফাইলের ব্যাকডোর। ২০২৫ সালের মার্চ মাসে গবেষকরা এমন একটি আক্রমণ প্রকাশ করেন, যেখানে একটি রুলস ফাইলের ভেতরে থাকা লুকানো ইউনিকোড ক্যারেক্টারগুলো এআই কোডিং অ্যাসিস্ট্যান্টদেরকে তাদের দৃশ্যমান প্রতিক্রিয়ায় কোনো উল্লেখ না করেই ব্যাকডোরযুক্ত কোড প্রবেশ করানোর নির্দেশ দিয়েছিল। ফাইলটি পাঠকারী একজন পর্যালোচক এতে অস্বাভাবিক কিছু দেখেননি। এটিকে এখন তালিকাভুক্ত করা হয়েছে MITRE ATLAS কেস স্টাডি AML.CS0041.
  • বিষাক্ত এমসিপি টুলস। ২০২৫ সাল পর্যন্ত গবেষকরা বারবার দেখিয়েছেন যে এজেন্টরা টুলের বিবরণকে চোখ বন্ধ করে বিশ্বাস করে, তাই একটি ক্ষতিকারক এমসিপি সার্ভার কেবল নিজেকে সঠিক উপায়ে বর্ণনা করার মাধ্যমেই একটি এজেন্টকে চালনা করতে পারে। একই বছর, জন্য CVE-2025-6514 বহুলভাবে ডাউনলোড হওয়া একটি এমসিপি ক্লায়েন্ট, যা একটি অবিশ্বস্ত সার্ভারে সংযোগ করার সময় দূরবর্তী কমান্ড কার্যকর করার সুযোগ দিত এবং CVSS-এ যার রেটিং ছিল ৯.৬।
  • অতিরিক্ত কর্তৃত্ব। সার্জারির এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০ অতিরিক্ত এজেন্সিকে একটি প্রধান ঝুঁকি হিসেবে তালিকাভুক্ত করা হয়েছে: এজেন্টদেরকে কাজের প্রয়োজনের চেয়ে বেশি সরঞ্জাম, অনুমতি বা স্বায়ত্তশাসন দেওয়া। এটি মডেলের কোনো ত্রুটি নয়। এটি একটি হারনেস ডিজাইনের ত্রুটি।cisআয়ন।

ধরণটি লক্ষ্য করুন। এই আক্রমণগুলোর কোনোটিই মডেলটিকে ভাঙতে পারে না। এগুলো জোয়ালটিকে ভেঙে দেয়, এবং মডেলটি বিশ্বস্তভাবে বাকি কাজটা করে।

কেন আপনার নিরাপত্তা ব্যবস্থা এটি দেখতে পায় না

অস্বস্তিকর অংশটা এখানেই। বেশিরভাগ সংস্থাই ইতোমধ্যে ভালো অ্যাপসেক টুলিং ব্যবহার করে, এবং সেগুলোর প্রায় কোনোটিই এই স্তরের জন্য তৈরি করা হয়নি।

স্ট্যাটিক অ্যানালাইসিস কোড বোঝে, কিন্তু এটি জানে না মডেল কী বা সিস্টেম প্রম্পটে আসা অবিশ্বস্ত টেক্সট কেন গুরুত্বপূর্ণ। কম্পোজিশন অ্যানালাইসিস প্যাকেজগুলোর তালিকা তৈরি করে, কিন্তু এটি এমসিপি সার্ভার বা স্কিল ফাইল গণনা করে না। সিক্রেট স্ক্যানারগুলো এজেন্ট কনফিগারেশন ফাইলে থাকা কোনো এপিআই কী খুঁজে পেতে ব্যর্থ হতে পারে। এই টুলগুলোর কোনোটিই ত্রুটিপূর্ণ নয়। এগুলো কেবল এমন এক বিশ্বের জন্য তৈরি করা হয়েছিল যেখানে কনফিগারেশন কোনো আদেশ দিত না।

তাই এজেন্ট হারনেস ইঞ্জিনিয়ারিং দ্রুতগতিতে কাজ করে, এবং নিরাপত্তা বিভাগ এর দৃশ্যমান অংশটুকু পর্যালোচনা করে: অর্থাৎ মডেল এবং কোড। হারনেসটি এই দুইয়ের মাঝে অবস্থান করে।

হারনেস সুরক্ষিত করার পাঁচটি অভ্যাস

এজেন্ট হারনেস ইঞ্জিনিয়ারিং সুরক্ষিত করার জন্য কোনো নতুন দলের প্রয়োজন নেই। এর জন্য প্রয়োজন কয়েকটি অভ্যাস, যা হারনেসটিকে তার আসল রূপে বিবেচনা করে: অর্থাৎ, একটি নির্বাহযোগ্য অভিপ্রায় হিসেবে।

অভ্যাসকেন এটি গুরুত্বপূর্ণকি করো
১. প্রতিটি হারনেসের তালিকা তৈরি করুনআপনি এমন কোনো এজেন্ট জোগাড় করতে পারবেন না, যার ঘোষণা কেউ দেয়নি।কোনো সার্ভের পরিবর্তে সরাসরি কোড এবং কনফিগ ফাইলগুলো থেকে আপনার রিপোজিটরি জুড়ে প্রতিটি মডেল, এজেন্ট, এমসিপি সার্ভার, স্কিল এবং প্রম্পট খুঁজে বের করুন।
২. কোডের মতো হারনেস ফাইলগুলো পর্যালোচনা করুন।নিয়ম, দক্ষতা এবং এমসিপি কনফিগারেশন একজন এজেন্টের কার্যকলাপকে আমূল পরিবর্তন করে দিতে পারে, তবুও সেগুলোকে ডকুমেন্টেশনের মতোই পর্যালোচনা করা হয়।তাদেরকে একই জিনিস দিন pull request অ্যাপ্লিকেশন লজিক হিসেবে পুঙ্খানুপুঙ্খ যাচাই, যার মধ্যে লুকানো অক্ষরের জন্য পরীক্ষাও অন্তর্ভুক্ত।
৩. এজেন্ট যা লোড করে তা পিন করুন।পরিবর্তনযোগ্য লেবেল দ্বারা নির্দেশিত কোনো প্রম্পট বা মডেলকে কোডে কোনো পরিবর্তন ছাড়াই পুনঃনির্দেশিত করা যায়।প্রম্পট এবং মডেলগুলোকে অপরিবর্তনীয় সংস্করণে পিন করুন।
৪. প্রতিটি সিঙ্কে একটি রেলিং লাগান।সংগৃহীত নথি, টুলের আউটপুট এবং ব্যবহারকারীর কন্টেন্ট—এগুলো সবই মডেলে ইনজেক্টেড নির্দেশনা বহন করতে পারে।পথের যে যে অংশে কন্টেন্টটি মডেল পর্যন্ত পৌঁছাতে পারে, সেখানে একটি গার্ডরেল স্থাপন করুন।
৫. হারনেসের মধ্যে পরিচয়পত্র রাখবেন না।প্রম্পট ফাইল এবং এজেন্ট কনফিগারেশনে থাকা এআই প্রোভাইডার কীগুলো আক্রমণকারীর জন্য সহজেই জয় এনে দেয়।সেগুলো সরিয়ে ফেলুন এবং গোপনীয় তথ্যের জন্য হারনেস ফাইলগুলো স্ক্যান করতে থাকুন। এর সমাধান খুব সহজ।

শুধু মডেল নয়, হারনেসটিও সুরক্ষিত করা।

জাইজেনি এআই নিরাপত্তা এজেন্ট হারনেস ইঞ্জিনিয়ারিং যেখানে তার পদচিহ্ন রাখে, সেখান থেকেই এর কাজ শুরু হয়: আপনার রিপোজিটরিগুলোতে। এটি আপনার কোডবেস জুড়ে থাকা এআই অ্যাসেটগুলো (মডেল, এজেন্ট, এমসিপি সার্ভার, স্কিল, প্রম্পট, ইত্যাদি) খুঁজে বের করে। guardrailsএবং ব্যবহৃত এআই কোডিং টুলগুলো) কোড, ডিপেন্ডেন্সি এবং সেই টুলগুলোর রেখে যাওয়া কনফিগারেশন ফাইলগুলো থেকে।

এরপর এটি স্কিল ফাইল, রুলস ফাইল এবং এমসিপি কনফিগারেশনকে ডকুমেন্টেশন হিসেবে নয়, বরং সিকিউরিটি আর্টিফ্যাক্ট হিসেবে বিশ্লেষণ করে এবং এজেন্ট ওয়্যারিং-এ প্রম্পট-ইনজেকশন-শ্রেণির ঝুঁকি শনাক্ত করে; যেমন—সিস্টেম প্রম্পটে অবিশ্বস্ত কন্টেন্টের পৌঁছানো অথবা কোনো গার্ডরেল ছাড়া রিট্রিভাল সিঙ্কে ডেটা পুনরুদ্ধার করা। জাইজেনির সিক্রেটস স্ক্যানিং প্রম্পট এবং এজেন্ট কনফিগারেশন ফাইলে থাকা এআই প্রোভাইডারের ক্রেডেনশিয়ালগুলোকে ফ্ল্যাগ করে এবং সিগনেচার তৈরি হওয়ার আগেই আপনার এআই স্ট্যাকের ডিপেন্ডেন্সিগুলো অন্য সবকিছুর মতোই ম্যালওয়্যার শনাক্তকরণের আওতায় আসে।

FAQ

এজেন্ট হারনেস ইঞ্জিনিয়ারিং বলতে কী বোঝায়?

এজেন্ট হারনেস ইঞ্জিনিয়ারিং হলো একটি এআই মডেলের চারপাশের পরিবেশ (নির্দেশাবলী, সরঞ্জাম, অনুমতি, মেমরি, প্রেক্ষাপট এবং যাচাইকরণ লুপ) এমনভাবে ডিজাইন করার একটি শাখা, যাতে এটি একটি নির্ভরযোগ্য এজেন্ট হিসেবে আচরণ করে। মডেলটি যুক্তি প্রদান করে; হারনেসটি সিদ্ধান্ত নেয় যে এজেন্ট কী দেখতে এবং করতে পারবে।

এজেন্ট হারনেস ইঞ্জিনিয়ারিং এবং প্রম্পট ইঞ্জিনিয়ারিংয়ের মধ্যে পার্থক্য কী?

প্রম্পট ইঞ্জিনিয়ারিং একটি একক নির্দেশনাকে রূপ দেয়। এজেন্ট হারনেস ইঞ্জিনিয়ারিং বহু ধাপ, টুল এবং সেশন জুড়ে এজেন্ট যে সম্পূর্ণ সিস্টেমে কাজ করে, তাকে রূপ দেয়। একটি প্রম্পট হলো হারনেসের একটি ফাইল।

হারনেসটি কেন একটি নিরাপত্তা ঝুঁকি?

কারণ এটি নিয়ন্ত্রণ করে যে একজন এজেন্ট কী করতে পারবে, এবং এটি প্লেইন-টেক্সট ফাইলে থাকে যা নিরাপত্তা সংক্রান্ত নিদর্শন হিসেবে খুব কমই পর্যালোচনা করা হয়। একটি রুলস ফাইল বা এমসিপি কনফিগারেশন হ্যাক করতে পারলেই আপনি মডেলটিতে কোনো পরিবর্তন না করেই এজেন্টকে নিয়ন্ত্রণ করতে পারবেন।

এজেন্ট হারনেস সিকিউরিটির মালিক কে হওয়া উচিত?

অ্যাপ্লিকেশন নিরাপত্তা, এজেন্ট তৈরি ও কনফিগারকারী ইঞ্জিনিয়ারদের সাথে কাজ করা। হারনেসটি আপনার সরবরাহ করা সফটওয়্যারের একটি অংশ, তাই এটি আপনার কোডের বাকি অংশের মতোই একই পর্যালোচনা, স্ক্যানিং এবং ইনভেন্টরি প্রক্রিয়ার অন্তর্ভুক্ত।

sca-tools-software-composition-analysis-tools
আপনার সফটওয়্যারের ঝুঁকিগুলোকে অগ্রাধিকার দিন, প্রতিকার করুন এবং সুরক্ষিত করুন।
আপনার বিনামূল্যে অ্যাকাউন্টটি নিন।
কোন ক্রেডিট কার্ড প্রয়োজন নেই

আপনার সফটওয়্যার উন্নয়ন ও বিতরণ সুরক্ষিত করুন

Xygeni প্রোডাক্ট স্যুটের সাথে