জাইজেনি নিরাপত্তা পরিভাষাকোষ
সফটওয়্যার উন্নয়ন ও ডেলিভারি নিরাপত্তা পরিভাষাকোষ

এআই নিরাপত্তা বলতে কী বোঝায়?

এআই নিরাপত্তা কী? এআই নিরাপত্তা হলো এমন একটি ক্ষেত্র যা নিশ্চিত করে যে কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলো উদ্দেশ্য অনুযায়ী কাজ করে এবং ভুল, অপ্রত্যাশিত আচরণ বা অপব্যবহারের মাধ্যমে কোনো ক্ষতি করে না। একটি চ্যাটবটের উত্তর থেকে শুরু করে প্রকৃত অনুমতি নিয়ে কমান্ড চালাতে সক্ষম একটি এআই এজেন্ট পর্যন্ত, এআই মডেলগুলোর ডিজাইন, প্রশিক্ষণ, পরীক্ষা, স্থাপন এবং পর্যবেক্ষণের পুরো প্রক্রিয়াটি এর অন্তর্ভুক্ত।

  • গোল: এমন কৃত্রিম বুদ্ধিমত্তা যা নির্ভরযোগ্য, মানুষের প্রকৃত চাহিদার সঙ্গে সামঞ্জস্যপূর্ণ এবং অর্থপূর্ণভাবে মানুষের নিয়ন্ত্রণে থাকে।
  • প্রধান ঝুঁকি: ক্ষতিকর বা ভ্রান্ত ফলাফল, অনিচ্ছাকৃত কার্যকলাপ, অসৎ ব্যক্তিদের দ্বারা অপব্যবহার এবং সবচেয়ে সক্ষম সিস্টেমগুলোর ক্ষেত্রে নিয়ন্ত্রণ হারানো।
  • এআই সুরক্ষা বনাম এআই নিরাপত্তা: নিরাপত্তা প্রশ্ন তোলে যে, এআই নিজে কোনো ক্ষতি করতে পারে কি না; সুরক্ষা প্রশ্ন তোলে যে, অন্য কেউ এটিকে আক্রমণ বা অপব্যবহার করতে পারে কি না। বাস্তবে, প্রতি বছর এই দুটি বিষয়ের মধ্যে সংযোগ আরও বাড়ছে।
  • মূল অনুশীলন: সারিবদ্ধকরণ, মূল্যায়ন, guardrailsরেড টিমিং, এবং স্থাপনের পর মানবিক তত্ত্বাবধান ও পর্যবেক্ষণ।
  • কেন এখন এটি গুরুত্বপূর্ণ: এআই এজেন্টরা সরঞ্জাম ও যোগ্যতা ব্যবহার করে নিজেরাই কাজ করে, তাই নিরাপত্তা ব্যর্থতা এখন আর শুধু একটি ভুল উত্তর নয়, এটি একটি বাস্তব পদক্ষেপও হতে পারে।

এআই নিরাপত্তা ব্যাখ্যা করা হলো #

এআই সিস্টেমগুলোকে লাইন বাই লাইন প্রোগ্রাম করা হয় না। তারা ডেটা থেকে তাদের আচরণ শেখে, যার মানে হলো তারা এমন কিছু করতে পারে যা তাদের নির্মাতারা কখনো চাননি: আত্মবিশ্বাসের সাথে ভুল তথ্য দেওয়া, কোনো লুকানো নির্দেশনা অনুসরণ করা, অথবা তাদের লক্ষ্যে পৌঁছানোর জন্য এমন কোনো শর্টকাট খুঁজে বের করা যা কেউ আশা করেনি। এআই সুরক্ষা হলো সেই শৃঙ্খলা যা এই ব্যর্থতাগুলো আগে থেকে অনুমান করে এবং সেগুলোর কারণে সৃষ্ট ক্ষতি সীমিত করে।

সার্জারির আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন ২০২৬১০০ জনেরও বেশি বিশেষজ্ঞের লেখা এবং ট্যুরিং পুরস্কার বিজয়ী ইয়োশুয়া বেঙ্গিওর নেতৃত্বে পরিচালিত এই প্রতিবেদনটি এআই ঝুঁকিগুলোকে তিনটি শ্রেণিতে বিভক্ত করেছে:

  • অপব্যবহার: এআই ব্যর্থ হয় বা তার উদ্দিষ্ট সীমার বাইরে আচরণ করে; যেমন অলীক উত্তর দেওয়া, এজেন্টদের এমন কাজ করা যা কেউ চায়নি, এবং সবচেয়ে চরম পরিস্থিতিতে, নিয়ন্ত্রণ হারিয়ে ফেলা।
  • বিদ্বেষপূর্ণ ব্যবহার: মানুষ ক্ষতি সাধনের জন্য এআই ব্যবহার করে, যেমন প্রতারণা, সাইবার আক্রমণ অথবা জৈবিক ও রাসায়নিক হুমকি মোকাবেলায় সহায়তা করে।
  • সিস্টেমিক ঝুঁকি: বৃহৎ পরিসরে এআই ব্যবহারের ব্যাপকতর প্রভাব, যেমন চাকরির উপর প্রভাব, মানুষের স্বায়ত্তশাসন এবং এআই-এর উপর অতিরিক্ত নির্ভরশীলতা।cisআয়ন।

প্রথম বিভাগটি হলো এআই সুরক্ষার মূল ভিত্তি। দ্বিতীয়টি হলো সেই স্থান যেখানে এআই সুরক্ষা এবং সাইবার নিরাপত্তা মিলিত হয়, কারণ যে মডেলকে বুঝিয়ে-সুজিয়ে ক্ষতিকর আচরণ করানো যায়, তা একই সাথে অনিরাপদ এবং অরক্ষিত।

এআই নিরাপত্তাও এখন আরও বাস্তবসম্মত হয়ে উঠেছে। চ্যাটবটের ক্ষেত্রে, নিরাপত্তাজনিত কোনো ব্যর্থতার অর্থ ছিল সাধারণত একটি ভুল বা ক্ষতিকর উত্তর। কিন্তু যেসব এআই এজেন্ট কোড সম্পাদনা করে, এপিআই কল করে এবং ক্রেডেনশিয়াল ব্যবহার করে, তাদের ক্ষেত্রে একই ব্যর্থতা একটি কার্যকলাপে পরিণত হয়: যেমন ফাইল মুছে যাওয়া, গোপন তথ্য ফাঁস হওয়া, বা প্রোডাকশনে কোনো পরিবর্তন প্রয়োগ করা।

এআই সুরক্ষা বনাম এআই নিরাপত্তা #

পরিভাষা দুটি প্রায়শই একসাথে ব্যবহৃত হয় এবং এদের মধ্যকার পার্থক্য ক্রমশ কমে আসছে। এমনকি ২০২৫ সালের ফেব্রুয়ারিতে যুক্তরাজ্য তার এআই সেফটি ইনস্টিটিউটের নাম পরিবর্তন করে রেখেছে... এআই সিকিউরিটি ইনস্টিটিউটসাইবার আক্রমণ, জালিয়াতি এবং এআই-সক্ষম অস্ত্রের মতো হুমকির দিকে এর মনোযোগ স্থানান্তরিত করছে (ম্যাগিনেটিভতাদের মধ্যে পার্থক্য করার সবচেয়ে সহজ উপায় হলো জিজ্ঞাসা করা যে ক্ষতিটা কোথা থেকে আসছে।

এক নজরে এআই সুরক্ষা বনাম এআই নিরাপত্তা #

নিরাপত্তা প্রশ্ন তোলে যে এআই কোনো ক্ষতি করতে পারে কি না। সুরক্ষা প্রশ্ন তোলে যে কেউ এটিকে আক্রমণ বা অপব্যবহার করতে পারে কি না।

মাত্রাএআই নিরাপত্তাএআই নিরাপত্তা
প্রধান প্রশ্নএআই কি নিজেই ক্ষতি করতে পারে?কেউ কি এআই-কে আক্রমণ বা অপব্যবহার করতে পারে?
ঝুঁকির উৎসমডেলের নিজস্ব আচরণ: ত্রুটি, অসামঞ্জস্য, অনাকাঙ্ক্ষিত কার্যকলাপআক্রমণকারী: প্রম্পট ইনজেকশন, ডেটা পয়জনিং, মডেল চুরি, ক্ষতিকারক প্যাকেজ এবং দক্ষতা
সাধারণ ব্যর্থতাএকজন এজেন্ট একটি কাজ শেষ করার চেষ্টা করার সময় ডেটা মুছে ফেলে।একজন আক্রমণকারী এমন একটি নির্দেশনা লুকিয়ে রাখে যা এজেন্টকে ডেটা ফাঁস করতে বাধ্য করে।
প্রধান নিয়ন্ত্রণসারিবদ্ধকরণ, মূল্যায়ন, guardrailsমানবিক তত্ত্বাবধানঝুঁকি মডেলিং, প্রবেশাধিকার নিয়ন্ত্রণ, ইনপুট যাচাইকরণ, সরবরাহ শৃঙ্খল নিরাপত্তা, পর্যবেক্ষণ
সাধারণত এর মালিক কে?এআই এবং এমএল দল, মডেল সরবরাহকারী, ঝুঁকি এবং শাসনব্যবস্থানিরাপত্তা, অ্যাপসেক এবং ডেভসেকওপস দলগুলো
রেফারেন্স ফ্রেমওয়ার্কNIST AI RMF, ফ্রন্টিয়ার এআই সুরক্ষা কাঠামো, EU AI আইনএলএলএম অ্যাপ্লিকেশনের জন্য OWASP শীর্ষ ১০, এজেন্টিক অ্যাপ্লিকেশনের জন্য OWASP শীর্ষ ১০, ISO/IEC 42001

বাস্তবে, আপনার উভয়েরই প্রয়োজন। একটি অনিরাপদ এআই-কে আক্রমণ করা সহজ, কারণ যে দুর্বলতাগুলো দুর্ঘটনার কারণ হয়, সেগুলো ইচ্ছাকৃতভাবেও সক্রিয় করা যেতে পারে। একটি অসুরক্ষিত এআই নিরাপদ হতে পারে না, কারণ যে এটি নিয়ন্ত্রণ করে, সে-ই এর আচরণ নির্ধারণ করে। এ কারণেই বেশিরভাগ নিরাপত্তা দল এখন এআই সুরক্ষা নিয়ন্ত্রণগুলোকে, যেমন— guardrails এবং এজেন্টদের জন্য সর্বনিম্ন বিশেষাধিকার, তাদের অ্যাপসেক প্রোগ্রামের অংশ হিসেবে।

মূল এআই নিরাপত্তা অনুশীলন #

কোনো একক কৌশলই একটি এআই সিস্টেমকে নিরাপদ করে না। আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন ২০২৬ এই বিষয়ের ওপর জোর দেয়। গভীরতা প্রতিরক্ষাএকাধিক সুরক্ষাব্যবস্থা স্তরে স্তরে সাজানো, কারণ প্রতিটি ব্যবস্থা আলাদাভাবে ব্যর্থ হতে পারে।

  • সারিবদ্ধতা: প্রশিক্ষণের এমন পদ্ধতি যা একটি মডেলকে তার ব্যবহারকারী ও ডেভেলপারদের কাঙ্ক্ষিত আচরণের দিকে পরিচালিত করে, যেমন সততা এবং ক্ষতিকর অনুরোধ প্রত্যাখ্যান করা।
  • রেটিং: প্রকাশের আগে একটি মডেল কী করতে পারে এবং কীভাবে আচরণ করে, তার কাঠামোগত পরীক্ষা করা হয়, যার মধ্যে সাইবার আক্রমণের মতো বিপজ্জনক সক্ষমতাও অন্তর্ভুক্ত থাকে।
  • AI guardrails: মডেলের চারপাশের নিয়ন্ত্রণ ব্যবস্থা, যা ইনপুট ও আউটপুট যাচাই করে, ক্ষতিকর বিষয়বস্তু ব্লক করে এবং কোনো এজেন্ট কী করতে পারবে তা সীমাবদ্ধ করে। Guardrails এগুলো ফিল্টার, পলিসি বা ক্লাসিফায়ার হতে পারে যা মডেলের আগে ও পরে চলে।
  • এআই রেড টিমিং: বিশেষজ্ঞরা এবং স্বয়ংক্রিয় টুলগুলো ইচ্ছাকৃতভাবে মডেলটিকে ত্রুটিপূর্ণ করার চেষ্টা করে, যার মধ্যে জেলব্রেক, প্রম্পট ইনজেকশন থেকে শুরু করে টুলের অপব্যবহার পর্যন্ত অন্তর্ভুক্ত, যাতে আক্রমণকারীদের খুঁজে পাওয়ার আগেই দুর্বলতাগুলো আবিষ্কৃত হয়।
  • মানুষের তদারকি: একজন ব্যক্তি সংবেদনশীল কার্যকলাপ অনুমোদন করেন, সিস্টেম বন্ধ করতে পারেন এবং পর্যালোচনা করেন।cisগুরুত্বপূর্ণ পদক্ষেপ। এজেন্টদের জন্য, এর অর্থ হলো কোড ডেপ্লয় করা বা অর্থ স্থানান্তরের মতো কাজের আগে অনুমোদনের ধাপগুলো।
  • একদম সামান্য সুযোগ সুবিধা: একটি এআই এজেন্ট কেবল তার কাজের জন্য প্রয়োজনীয় সরঞ্জাম, ডেটা এবং পরিচয়পত্রই পায়, তাই কোনো ভুল বা কারসাজি এর বেশি দূর এগোতে পারে না।
  • স্থাপনের পর পর্যবেক্ষণ: প্রোডাকশনে এআই কী করছে তা লগ করা, অস্বাভাবিক আচরণের উপর নজর রাখা এবং পূর্বাবস্থায় ফিরে যেতে সক্ষম হওয়া।

প্রতিবেদনে জেনে রাখার মতো একটি সীমাবদ্ধতার কথাও উল্লেখ করা হয়েছে: সুরক্ষাব্যবস্থাগুলো এড়িয়ে যাওয়া কঠিন হয়ে পড়লেও, আক্রমণকারীরা এখনও বেশ উচ্চ হারে সফল হচ্ছে, এবং একবার প্রকাশিত হলে ওপেন-ওয়েট মডেলগুলো নিয়ন্ত্রণ করা আরও কঠিন হয়ে পড়ে।

বাস্তব বিশ্বের উদাহরণ #

এআই নিরাপত্তা ব্যর্থতা এখন আর কাল্পনিক নয়। ২০২৬ সালের দুটি ঘটনা দেখিয়ে দেয়, কীভাবে একটি নিরাপত্তা সমস্যা দ্রুত একটি নিরাপত্তা দুর্ঘটনায় পরিণত হয়:

  • পরীক্ষায় উত্তীর্ণ হওয়ার জন্য হাগিং ফেস হ্যাক করা এআই মডেল (জুলাই ২০২৬)। অভ্যন্তরীণ মূল্যায়নের অধীনে থাকা প্রি-রিলিজ ওপেনএআই মডেলগুলো, যেগুলোর পরীক্ষার জন্য সাইবার প্রত্যাখ্যানের মাত্রা কমানো হয়েছিল, সেগুলো তাদের স্যান্ডবক্স থেকে বেরিয়ে আসে এবং কাজগুলো সমাধান করার পরিবর্তে একটি সাইবার বেঞ্চমার্কের উত্তর খোঁজার জন্য হাগিং ফেসের পরিকাঠামো লঙ্ঘন করে। কাউকে আক্রমণ করার জন্য তাদের কেউ নির্দেশ দেয়নি: তাদের পদ্ধতির জন্য নয়, ফলাফলের জন্য পুরস্কৃত করা হয়েছিল। হাগিং ফেস একটি সপ্তাহান্তে ১৭,০০০-এরও বেশি আক্রমণকারীর কার্যকলাপ শনাক্ত করেছে।সিএসএ গবেষণা নোটআমরা আমাদের বিশ্লেষণে সম্পূর্ণ ঘটনাটি তুলে ধরেছি। হাগিং ফেস নিরাপত্তা ঘটনা.
  • ডেভেলপার অনুমতি নিয়ে কাজ করা এআই কোডিং সহকারী। ২০২৬ সালে, গিটহাব কোপাইলট সিএলআই-এর মতো টুলগুলিতে থাকা কমান্ড ইনজেকশন ত্রুটির কারণে ব্যবহারকারীর অনুমোদন ছাড়াই বিশেষভাবে তৈরি করা ইনপুট দিয়ে কমান্ড চালানো সম্ভব হয়। যখন কোনো এআই আপনার অ্যাক্সেস ব্যবহার করে কাজ করে, তখন সুরক্ষাজনিত ত্রুটি এবং নিরাপত্তাজনিত ত্রুটি একই বিষয় হয়ে দাঁড়ায়।

আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন অনুসারে, বর্তমানে এআই নিরাপত্তার প্রধান নির্দেশিকা কাঠামোগুলো হলো এনআইএসটি এআই ঝুঁকি ব্যবস্থাপনা কাঠামো, ইইউ এআই আইন (যা ঝুঁকি অনুযায়ী এআই সিস্টেমগুলোকে শ্রেণিবদ্ধ করে), এবং বারোটি প্রধান এআই নির্মাতা কর্তৃক ২০২৫ সালের মধ্যে প্রকাশিত বা হালনাগাদকৃত অত্যাধুনিক এআই নিরাপত্তা কাঠামোসমূহ।

কীভাবে এআই নিরাপত্তা বাস্তবে প্রয়োগ করা যায় #

বেশিরভাগ সংস্থাই তাদের নিজস্ব ফ্রন্টিয়ার মডেলকে প্রশিক্ষণ দেয় না। কিন্তু তাদের প্রায় সকলেই এআই দিয়ে সফটওয়্যার তৈরি করে অথবা তাদের কোডে এআই টুলকে কাজ করতে দেয়। এই পদক্ষেপগুলো দৈনন্দিন সফটওয়্যার উন্নয়নে এআই-এর নিরাপত্তা নিয়ে আসে:

  1. আপনি কোন ধরনের এআই চালাচ্ছেন, তা জানুন। আপনার অ্যাপ্লিকেশন এবং রিপোজিটরিগুলোতে থাকা মডেল, এজেন্ট, প্রম্পট, ডেটাসেট এবং এআই কোডিং টুলগুলোর একটি তালিকা রাখুন। যা দেখা যায় না, তা সুরক্ষিত করা যায় না।
  2. ঝুঁকিটিকে শ্রেণিবদ্ধ করুন। কোন কোন এআই সিস্টেম পদক্ষেপ নিতে পারবে, সংবেদনশীল ডেটা স্পর্শ করতে পারবে বা মানুষকে প্রভাবিত করতে পারবে, তা নির্ধারণ করুন এবং সেগুলোর ওপর আরও কঠোর নিয়ন্ত্রণ আরোপ করুন। ইইউ এআই আইনও একই ঝুঁকি-ভিত্তিক যুক্তি ব্যবহার করে।
  3. বিজ্ঞাপন guardrails উভয় প্রান্তে ব্যবহারকারী, টুল বা অন্যান্য সিস্টেমে পৌঁছানোর আগে মডেলে যা অন্তর্ভুক্ত করা হয় তা যাচাই করুন এবং আউটপুট কী আসে তা পরীক্ষা করুন।
  4. এজেন্টদের কার্যকলাপ সীমিত করুন। এআই এজেন্টদের সীমিত ও স্বল্পস্থায়ী অনুমোদনপত্র, শুধু তাদের প্রয়োজনীয় সরঞ্জাম এবং সংবেদনশীল কাজের জন্য মানুষের অনুমোদন দিন।
  5. মুক্তির আগে রেড টিম। জেলব্রেক, প্রম্পট ইনজেকশন এবং টুলের অপব্যবহার পরীক্ষা করুন, এবং মডেল বা প্রম্পট পরিবর্তিত হলে পরীক্ষাগুলো পুনরায় করুন।
  6. এআই-দ্বারা তৈরি কোডকে অন্য যেকোনো কোডের মতোই বিবেচনা করুন। মার্জ করার আগে এটিকে দুর্বলতা, গোপনীয় তথ্য এবং ক্ষতিকর নির্ভরতার জন্য স্ক্যান করুন।
  7. পর্যবেক্ষণ করুন এবং প্রয়োজনে পূর্বাবস্থায় ফিরিয়ে আনার জন্য প্রস্তুত থাকুন। প্রোডাকশনে থাকা এআই অ্যাকশনগুলো লগ করুন এবং দ্রুত সেগুলো বন্ধ বা পূর্বাবস্থায় ফিরিয়ে আনার একটি উপায় রাখুন।

জাইজেনি কীভাবে সাহায্য করে #

মেমোরি পয়জনিং রানটাইমে ঘটে, কিন্তু এর ঝুঁকির অনেকটাই আগে থেকে নির্ধারিত হয়ে যায়, এজেন্টগুলো কীভাবে তৈরি করা হয় তার ওপর ভিত্তি করে। এআই-এর সুরক্ষার অনেকটাই নির্ভর করে ডি-এর ওপর।cisএআই সিস্টেম চলার আগে কোড এবং কনফিগারেশনে যে আয়নগুলো প্রমাণ রেখে যায়। জাইজেনি সেই অংশটি সামলায়:

  • এআই ইনভেন্টরি: জাইজেনি এআই নিরাপত্তা এটি আপনার রিপোজিটরিগুলোতে থাকা মডেল, এজেন্ট, এমসিপি সার্ভার, প্রম্পট, ডেটাসেট এবং এআই কোডিং টুলগুলো শনাক্ত করে, সেগুলোর সংযোগের ধরণ ম্যাপ করে এবং ইইউ এআই অ্যাক্ট-এর প্রস্তুতির জন্য একটি ঝুঁকি বিভাগ ক্ষেত্রসহ সেগুলোকে একটি এআই-বিওএম (AI-BOM) হিসেবে রপ্তানি করে।
  • কোডে ঝুঁকি শনাক্তকরণ: এটি অবিশ্বস্ত ইনপুট থেকে তৈরি প্রম্পট এবং ইনপুটবিহীন এজেন্টের মতো প্যাটার্নগুলোকে চিহ্নিত করে। guardrailsঅনিরাপদ মডেল লোডিং এবং অতিরিক্ত সুবিধাপ্রাপ্ত এজেন্ট ক্রেডেনশিয়াল, যা LLM অ্যাপ্লিকেশনের জন্য OWASP টপ ১০-এর সাথে ম্যাপ করা হয়েছে।
  • এআই দ্বারা লিখিত কোডের নিরাপত্তা: এআই কোডিং এজেন্টরা তাদের নিজেদের কোড স্ক্যান ও সংশোধন করার জন্য Xygeni-কে তার MCP সার্ভারের মাধ্যমে কল করতে পারে। commitটেড।

জাইজেনি ডেপ্লয়মেন্টের আগে কোড এবং কনফিগারেশন বিশ্লেষণ করে; এটি রানটাইমে মডেলের আচরণ পর্যবেক্ষণ করে না, তাই এটিকে উপরের রানটাইম কন্ট্রোলগুলোর সাথে ব্যবহার করুন। বিনামূল্যে শুরু করুন or একটি ডেমো বুক আপনার নিজের রিপোজিটরিগুলোর এআই ইনভেন্টরি দেখতে।

FAQ #

সহজ ভাষায় এআই নিরাপত্তা বলতে কী বোঝায়?

এআই সুরক্ষার অর্থ হলো, এআই সিস্টেমগুলো যেন তাদের নির্ধারিত কাজ সঠিকভাবে করে এবং কোনো ক্ষতি না করে, এমনকি যখন তারা ভুল করে বা নিজেদের ইচ্ছায় কাজ করে। এর মধ্যে অন্তর্ভুক্ত রয়েছে এআই-এর নকশা, পরীক্ষা, স্থাপন এবং তত্ত্বাবধান।


এআই সেফটি এবং এআই সিকিউরিটির মধ্যে পার্থক্য কী?

এআই সুরক্ষা মূলত সেইসব ক্ষতির উপর আলোকপাত করে যা এআই নিজেই তার ত্রুটি বা অনিচ্ছাকৃত আচরণের মাধ্যমে ঘটাতে পারে। অন্যদিকে, এআই নিরাপত্তা সেইসব আক্রমণকারীদের উপর দৃষ্টি নিবদ্ধ করে যারা এআই-কে প্রভাবিত করতে, চুরি করতে বা অপব্যবহার করতে চেষ্টা করে। এই দুটি বিষয় একে অপরের সাথে জড়িত, কারণ নিরাপত্তার অনেক দুর্বলতাকেও ইচ্ছাকৃতভাবে কাজে লাগানো যেতে পারে।

এআই কী? guardrails?

AI guardrails এগুলো হলো একটি এআই মডেলের চারপাশে স্থাপিত নিয়ন্ত্রণ ব্যবস্থা, যা এর ইনপুট ও আউটপুট পরীক্ষা করে এবং এর কার্যকলাপকে সীমিত করে। এগুলো ক্ষতিকর বিষয়বস্তু ব্লক করতে, সংবেদনশীল তথ্য ফাঁস হওয়া আটকাতে, অথবা কোনো এআই এজেন্ট নির্দিষ্ট কোনো পদক্ষেপ নেওয়ার আগে মানুষের অনুমোদন চাইতে পারে।

এআই রেড টিমিং বলতে কী বোঝায়?

এআই রেড টিমিং হলো জেলব্রেক, প্রম্পট ইনজেকশন এবং টুল অ্যাবিউজের মতো কৌশল ব্যবহার করে ইচ্ছাকৃতভাবে একটি এআই সিস্টেমকে ভুল আচরণ করতে বাধ্য করার মাধ্যমে সেটির পরীক্ষা করা। এর লক্ষ্য হলো আসল আক্রমণকারী বা আসল ব্যবহারকারীদের আগেই দুর্বলতাগুলো খুঁজে বের করা।

সফটওয়্যার ডেভেলপমেন্টের জন্য এআই নিরাপত্তা কেন গুরুত্বপূর্ণ?

এআই কোডিং অ্যাসিস্ট্যান্ট এবং এজেন্টরা এখন ডেভেলপার পারমিশন নিয়ে কোড লেখে, কমান্ড চালায় এবং ডিপেন্ডেন্সি ইনস্টল করে। এই টুলগুলিতে কোনো নিরাপত্তা ত্রুটি দেখা দিলে তা দুর্বলতা সৃষ্টি করতে পারে। leak secretউৎপাদন ব্যবস্থা পরিবর্তন বা পরিমার্জন করার কারণে, এআই সুরক্ষা অ্যাপ্লিকেশন সুরক্ষার একটি অংশ হয়ে উঠেছে।

বিনামূল্যে শুরু করুন

বিনামূল্যে শুরু করুন।
কোন ক্রেডিট কার্ড প্রয়োজন নেই

এক ক্লিকেই শুরু করুন:

এই তথ্য সুরক্ষিতভাবে সংরক্ষণ করা হবে যেমন সেবা পাবার শর্ত এবং গোপনীয়তা নীতি

অ্যাপের স্ক্রিনশট