প্রম্পট ইনজেকশন কী?

যদি আপনাকে জিজ্ঞাসা করা হয়ে থাকে প্রম্পট ইনজেকশন কী এবং আপনি শুধু একটি অসম্পূর্ণ উত্তর পেয়ে থাকেন, তাহলে এর সংক্ষিপ্ত রূপটি হলো: এটি এমন একটি আক্রমণ কৌশল যেখানে একটি এআই মডেল যে ইনপুট প্রসেস করে, তার মধ্যে ক্ষতিকারক বা কারসাজিপূর্ণ টেক্সট ঢুকিয়ে দেওয়া হয়। এর ফলে মডেলটি তার আসল নির্দেশাবলী উপেক্ষা করে আক্রমণকারীর নির্দেশ অনুসরণ করতে প্রতারিত হয়। প্রম্পট ইনজেকশনের মূল অর্থ এটাই: এটি কোডের কোনো বাগ নয়, বরং এটি এমন একটি আক্রমণ যা প্রচলিত এক্সপ্লয়েট কোডের পরিবর্তে সাধারণ ভাষা ব্যবহার করে মডেলের নির্দেশাবলীকে হাইজ্যাক করে।

সহজ ভাষায় প্রম্পট ইনজেকশনের অর্থ #

প্রম্পট ইনজেকশনের অর্থ শব্দে শব্দে ভেঙে ব্যাখ্যা করলে তা মনে রাখতে সাহায্য হয়:

• প্রম্পট: নির্দেশাবলী এবং প্রাসঙ্গিক তথ্য একটি এআই মডেলে দেওয়া হয়, যা ব্যবহারকারী সরাসরি টাইপ করেন অথবা কোনো ডকুমেন্ট, ওয়েবপেজ বা এপিআই রেসপন্স থেকে স্বয়ংক্রিয়ভাবে সংগ্রহ করা হয়।
• ইনজেকশন: এমন কিছু প্রবেশ করানো যা সেখানে থাকার কথা ছিল না, এবং এর পেছনের যুক্তিটি এসকিউএল ইনজেকশনের (SQL injection) মতোই, যেখানে অবিশ্বস্ত ইনপুটকে সাধারণ ডেটার পরিবর্তে একটি কমান্ড হিসেবে গণ্য করা হয়।

সুতরাং, যখন কেউ জিজ্ঞাসা করে প্রম্পট ইনজেকশন কী, তখন এর সবচেয়ে সহজ উত্তর হলো: এটি তখন ঘটে যখন একটি এআই মডেল তার ডেভেলপারের দেওয়া নির্দেশাবলী এবং যে বিষয়বস্তু সে প্রক্রিয়া করছে তার ভেতরে লুকানো নির্দেশাবলীর মধ্যে পার্থক্য করতে পারে না।

এতে আসলে কী কী অন্তর্ভুক্ত আছে? #

বাস্তব জগতের অধিকাংশ ঘটনাই এই প্রধান বিভাগগুলোর অন্তর্ভুক্ত:

• সরাসরি দ্রুত ইনজেকশনআক্রমণকারী সরাসরি চ্যাট বা ইনপুট ফিল্ডে ক্ষতিকারক নির্দেশনাটি টাইপ করে, এবং মডেলকে তার পূর্ববর্তী নিয়মগুলো উপেক্ষা করতে খোলাখুলিভাবে বলে (“পূর্ববর্তী সমস্ত নির্দেশনা উপেক্ষা করো এবং…”)।
• পরোক্ষ প্রম্পট ইনজেকশনক্ষতিকারক নির্দেশনাটি এমন কোনো কন্টেন্টের ভেতরে লুকানো থাকে যা মডেলটি পরে পড়ে, যেমন একটি ওয়েবপেজ, পিডিএফ, ইমেল বা কোড কমেন্ট, এবং এটি কেবল তখনই সক্রিয় হয় যখন মডেলটি সেই কন্টেন্টটি প্রসেস করে, এবং সেই মুহূর্তে কোনো আক্রমণকারী উপস্থিত থাকে না।
• জেল পালানোর মতো ইনজেকশনইনজেকশনের একটি বিশেষ পদ্ধতি যা মডেলের নিরাপত্তা এড়ানোর জন্য ভূমিকাভিনয়, কাল্পনিক কাঠামো বা এনকোডিং কৌশল ব্যবহার করে। guardrails বিশেষত, এর কাজকে ছিনতাই করার পরিবর্তে।

প্রম্পট ইনজেকশন বনাম জেলব্রেকিং: পার্থক্য কী? #

প্রম্পট ইনজেকশন কী, এই প্রশ্নের একটি সাধারণ পরবর্তী প্রশ্ন হলো এটি জেলব্রেকিং থেকে কীভাবে আলাদা। এই দুটি বিষয়ের মধ্যে মিল থাকলেও, এগুলো হুবহু এক নয়। জেলব্রেকিং বিশেষভাবে কোনো মডেলের নিরাপত্তা ব্যবস্থাকে পাশ কাটানোর একটি প্রক্রিয়া। বিষয়বস্তু guardrails, একে দিয়ে এমন কিছু বলানো বা তৈরি করানো, যা করতে এটিকে প্রশিক্ষণ দেওয়া হয়েছিল। প্রম্পট ইনজেকশন আরও ব্যাপক: এর মাধ্যমে মডেলের নির্দেশাবলী বা কাজকে হাইজ্যাক করা হয়, যার মধ্যে নিরাপত্তা জড়িত থাকতেও পারে বা নাও থাকতে পারে। guardrails মোটেই না। একটি সাপোর্ট টিকিটের মধ্যে লুকানো একটি পরোক্ষ ইনজেকশন, যা নীরবে একজন কাস্টমার-সার্ভিস এজেন্টকে ব্যবহারকারীর ডেটা একটি বাহ্যিক ঠিকানায় ইমেল করতে বলে, তা কোনো কিছু জেলব্রেক করার চেষ্টা করছে না; এটি কাজটিকেই অন্য দিকে চালিত করছে।

প্রম্পট ইনজেকশন আসলে কোথায় দেখা যায় #

একবার আপনি প্রম্পট ইনজেকশনের অর্থ বুঝে গেলে, বাস্তব সিস্টেমগুলিতে ঝুঁকিটি কোথায় রয়েছে তা চিহ্নিত করা সহজ হয়ে যায়:

এমসিপি সার্ভার এবং এআই কোডিং সহকারী একটি ক্ষতিকারক মন্তব্য, README, বা টুল-রেজাল্ট পেলোড একজন ডেভেলপারের কোডবেস বা টার্মিনালের ভিতরে একটি এজেন্টের কার্যকলাপকে ভিন্ন পথে চালিত করতে পারে। এটি যে প্রোগ্রামিং ভাষার উপর ভিত্তি করে তৈরি, তার উপর নির্ভর করে এর কার্যকলাপ ভিন্ন হতে পারে, কিন্তু মূল ধারণাটি (এডিটর + বিল্ড টুলস + ডিবাগার, এক জায়গায়) একই থাকে।

চ্যাটবট এবং সাপোর্ট এজেন্ট – একজন ব্যবহারকারী ইনজেক্টেড টেক্সট পেস্ট করে বটটিকে তার সিস্টেম প্রম্পট প্রকাশ করতে বা অনাকাঙ্ক্ষিত কাজ করতে বাধ্য করে।

পুনরুদ্ধার-বর্ধিত প্রজন্ম (RAG) pipelines – নলেজ বেসে থাকা একটি বিষাক্ত ডকুমেন্টে এমন নির্দেশাবলী থাকে যা পুনরুদ্ধার করা হলে সক্রিয় হয়।

স্বায়ত্তশাসিত এআই এজেন্টরা – একটি এজেন্ট যা ওয়েব ব্রাউজ করে, ইমেল পড়ে বা টুল কল করে, সেটি তার স্পর্শ করা যেকোনো কন্টেন্ট থেকে ইনজেক্ট করা নির্দেশাবলী গ্রহণ করতে পারে এবং তারপর প্রকৃত অনুমতি নিয়ে সে অনুযায়ী কাজ করতে পারে।

“শুধু একটি প্রম্পট কৌশল” এর বাইরেও প্রম্পট ইনজেকশনের অর্থ কেন গুরুত্বপূর্ণ #

একে একটি নতুনত্ব, বা চ্যাটবটকে দিয়ে বোকার মতো কিছু বলানোর একটি চতুর উপায় হিসেবে উড়িয়ে দেওয়া সহজ। কিন্তু যখন এআই মডেলগুলোকে এমন এজেন্টের সাথে যুক্ত করা হয় যা ইমেল পাঠাতে, কোড চালাতে, ডেটাবেস কোয়েরি করতে বা প্যাকেজ ইনস্টল করতে পারে, তখন প্রম্পট ইনজেকশন আর চ্যাট-উইন্ডোর কৌতূহল থাকে না, বরং এটি একটি প্রকৃত নিরাপত্তা সীমানার সমস্যায় পরিণত হয়: যে ব্যক্তি একটি মডেলের পঠিত বিষয়বস্তু নিয়ন্ত্রণ করে, সে সঠিক পরিস্থিতিতে সেই মডেলের পরবর্তী কার্যকলাপও নিয়ন্ত্রণ করতে পারে। এ কারণেই এই ইনজেকশনটি এখন একটি স্বতন্ত্র বিভাগ হিসেবে আবির্ভূত হয়েছে। এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০এবং কেন প্রম্পট ইনজেকশন কী, তা বোঝা এখন এআই-চালিত সিস্টেম তৈরি বা সুরক্ষিত করার সাথে জড়িত যে কারও জন্য একটি প্রাথমিক জ্ঞান হিসেবে বিবেচিত হয়, কেবল রেড-টিমারদের কৌতূহলের বিষয় নয়।

আপনি যদি এই বিষয়টিকে শুধুমাত্র পরিভাষাটির অর্থ না দেখে, বরং বিশেষভাবে AppSec এবং DevSecOps-এর দৃষ্টিকোণ থেকে দেখেন—অর্থাৎ, AI এজেন্ট, MCP সার্ভার এবং AI-দ্বারা উৎপাদিত কোডের ক্ষেত্রে প্রম্পট ইনজেকশনের ঝুঁকি কীভাবে প্রকাশ পায়—তবে আমরা এখানে সে সম্পর্কে আরও বিস্তারিত আলোচনা করেছি: এআই সাপ্লাই চেইন নিরাপত্তা.

FAQ #