এআই নিরাপত্তা ঝুঁকি: এআই সিস্টেম সুরক্ষিত করতে ডেভসেকওপিএস টিমগুলোর যা জানা আবশ্যক
এআই নিরাপত্তা ঝুঁকি এখন আর শুধু মডেলের আচরণ বা ডেটার গোপনীয়তার মধ্যেই সীমাবদ্ধ নেই। বর্তমানে, এগুলো সফটওয়্যার লেখা, পর্যালোচনা, নির্মাণ এবং সরবরাহের পদ্ধতিকেও প্রভাবিত করে। এআই কোডিং টুল, এজেন্টিক এআই সিস্টেম এবং এআই-চালিত ওয়ার্কফ্লোর আগমনের সাথে সাথে এই ঝুঁকিগুলো আরও বাড়ছে। SDLCDevSecOps টিমগুলো এক নতুন ধরনের ঝুঁকির সম্মুখীন হচ্ছে: দ্রুততর কোড, দ্রুততর অটোমেশন এবং দ্রুততর ভুল।
তবে, এর মানে এই নয় যে দলগুলোকে এআই গ্রহণ করার গতি কমিয়ে দিতে হবে। বরং, তাদের এমন নিরাপত্তা ব্যবস্থা প্রয়োজন যা এআই-সহায়তায় উন্নয়নের গতির সাথে তাল মেলাতে পারে। এই নির্দেশিকায়, আমরা সবচেয়ে গুরুত্বপূর্ণ এআই নিরাপত্তা ঝুঁকিগুলো, বাস্তব ইঞ্জিনিয়ারিং কার্যপ্রবাহে সেগুলো কীভাবে প্রকাশ পায়, এবং দলগুলো কীভাবে কোড, ডিপেন্ডেন্সি, সিক্রেটস জুড়ে ঝুঁকি কমাতে পারে, তা ব্যাখ্যা করেছি। pipelines, এবং agents.
এআই কীভাবে হুমকির প্রেক্ষাপট পরিবর্তন করে, সে সম্পর্কে আরও বিস্তারিত জানতে আমাদের নির্দেশিকাটি দেখুন। এআই সাইবার সিকিউরিটি.
এআই নিরাপত্তা ঝুঁকিগুলো কী কী?
এআই নিরাপত্তা ঝুঁকি হলো এমন দুর্বলতা, হুমকি বা ব্যর্থতার ধরণ যা বাস্তব সিস্টেমের অভ্যন্তরে কৃত্রিম বুদ্ধিমত্তা ডিজাইন, প্রশিক্ষণ, একীভূত বা ব্যবহার করার সময় দেখা দেয়। এই ঝুঁকিগুলো মডেল, ডেটা, প্রম্পট, এপিআই, কোড ইত্যাদিকে প্রভাবিত করতে পারে। pipelineএবং সেগুলোকে সংযুক্তকারী সরঞ্জামগুলো।
সার্জারির এআই এবং সাইবার নিরাপত্তা বিষয়ে এনসিএসসি-র নির্দেশিকা ব্যাখ্যা করে যে নিরাপদ এবং নির্ভরযোগ্য এআই সিস্টেমের জন্য সাইবার নিরাপত্তা একটি মূল পূর্বশর্ত। একইভাবে, NIST AI ঝুঁকি ব্যবস্থাপনা কাঠামো এটি প্রতিষ্ঠানগুলোকে সুশাসন, পরিমাপ এবং বাস্তবসম্মত নিয়ন্ত্রণের মাধ্যমে এআই ঝুঁকি ব্যবস্থাপনার জন্য একটি কাঠামো প্রদান করে।
DevSecOps টিমগুলোর জন্য সমস্যাটি আরও সুনির্দিষ্ট। AI এখন সফটওয়্যার ডেলিভারি চেইনের একটি অংশ। এটি কোড লেখে, ডিপেন্ডেন্সি সাজেস্ট করে, কনফিগারেশন তৈরি করে, API কল করে এবং কখনও কখনও স্বয়ংক্রিয়ভাবে কাজ করে। ফলে, AI নিরাপত্তা ঝুঁকিগুলো অবশ্যই এর ভেতরেই মোকাবিলা করতে হবে। SDLCশুধু মডেল লেয়ারেই নয়।
কেন এআই নিরাপত্তা ঝুঁকি এখন ভিন্ন
প্রচলিত সাইবার নিরাপত্তা ঝুঁকিগুলো সাধারণত মানুষের লেখা কোড, অরক্ষিত প্যাকেজ, দুর্বল ক্রেডেনশিয়াল বা ত্রুটিপূর্ণ অবকাঠামো থেকে আসে। সেই ঝুঁকিগুলো এখনও বিদ্যমান। তবে, কৃত্রিম বুদ্ধিমত্তা (AI) এই ঝুঁকিগুলোর আবির্ভাবের গতি এবং শনাক্তকরণের কঠিনতাকে বদলে দিয়েছে।
এআই-নির্মিত কোড দেখতে সঠিক মনে হলেও তা অনুমোদন যাচাইয়ে ব্যর্থ হতে পারে। একটি এআই কোডিং অ্যাসিস্ট্যান্ট কোনো ঝুঁকিপূর্ণ প্যাকেজের পরামর্শ দিতে পারে। একটি এজেন্টিক ওয়ার্কফ্লো ভুল টুলকে কল করতে পারে, ভুল ফাইল অ্যাক্সেস করতে পারে, অথবা লগের মাধ্যমে কোনো গোপনীয় তথ্য প্রকাশ করে ফেলতে পারে। এছাড়াও, এআই সিস্টেমগুলো প্রায়শই প্রেক্ষাপট, প্রম্পট, কানেক্টর এবং বাহ্যিক টুলের উপর নির্ভর করে, যা নিরাপত্তা ব্যর্থতার আরও সুযোগ তৈরি করে।
সার্জারির এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০ এটি দ্রুত ইনজেকশন, সংবেদনশীল তথ্য ফাঁস, সরবরাহ শৃঙ্খলের সমস্যা এবং অতিরিক্ত সক্রিয়তার মতো ঝুঁকিগুলোকে তুলে ধরে। এই বিভাগগুলো উপকারী, কারণ এগুলো এআই-এর আচরণকে বাস্তব অ্যাপ্লিকেশন নিরাপত্তা সমস্যার সাথে সংযুক্ত করে।
অন্য কথায়, এআই নিরাপত্তা ঝুঁকি শুধু মডেলটিকে কেন্দ্র করে নয়, বরং মডেলটিকে ঘিরে থাকা সম্পূর্ণ সিস্টেমটিকেই কেন্দ্র করে।
DevSecOps টিমের জন্য মূল AI নিরাপত্তা ঝুঁকি
ডেভেলপমেন্ট, অ্যাপসেক এবং অন্যান্য ক্ষেত্রে এআই ব্যবহারের সময় যে ঝুঁকিগুলো সবচেয়ে বেশি গুরুত্বপূর্ণ, সেগুলো নিচে দেওয়া হলো। CI/CD কর্মপ্রবাহ।
১. এআই-সৃষ্ট কোডের দুর্বলতা
এআই কোডিং টুল এমন কোড তৈরি করতে পারে যা কাজ করে কিন্তু নিরাপদ নয়। উদাহরণস্বরূপ, এগুলি যথাযথ প্যারামিটারাইজেশন ছাড়া SQL কোয়েরি তৈরি করতে পারে, ইনপুট ভ্যালিডেশন এড়িয়ে যেতে পারে, অথবা দুর্বল অথেনটিকেশন লজিক প্রয়োগ করতে পারে।
এর কারণ হলো, অনেক এআই সিস্টেম ট্রেনিং ডেটার ওপর ভিত্তি করে সম্ভাব্য কোড প্যাটার্ন তৈরি করে। তবে, সম্ভাব্য কোড সবসময় নিরাপদ কোড হয় না। বাস্তবে, মডেলটি অনিরাপদ উদাহরণগুলোই পুনরায় তৈরি করতে পারে, কারণ সেগুলো পাবলিক রিপোজিটরিগুলোতে সহজলভ্য।
সাধারণ উদাহরণ অন্তর্ভুক্ত:
- এসকিউএল ইনজেকশন
- ক্রস সাইট স্ক্রিপ্টিং
- অনুমোদন যাচাই অনুপস্থিত
- দুর্বল সেশন হ্যান্ডলিং
- অনিরাপদ ডিসিরিয়ালাইজেশন
- CSRF সুরক্ষা অনুপস্থিত
অতএব, এআই-উৎপাদিত কোডকে ততক্ষণ পর্যন্ত অবিশ্বস্ত হিসেবে গণ্য করা উচিত যতক্ষণ না এটি উত্তীর্ণ হয়। SASTনীতি যাচাই এবং পর্যালোচনা।
অভ্যন্তরীণ লিঙ্কের পরামর্শ: এই বিভাগটিকে আপনার পোস্টের সাথে সংযুক্ত করুন AI SAST.
২. সরবরাহ শৃঙ্খল এবং নির্ভরশীলতার ঝুঁকি
এআই টুলগুলো শুধু কোডই তৈরি করে না। এগুলো প্যাকেজ, ভার্সন, স্ক্রিপ্ট এবং ইনস্টলেশন কমান্ডও সাজেস্ট করে। এর ফলে এআই-এর সুপারিশগুলো সফটওয়্যার সাপ্লাই চেইন ঝুঁকির দিকে সরাসরি পথ তৈরি করে।
উদাহরণস্বরূপ, একটি এআই টুল পরামর্শ দিতে পারে:
- একটি পুরানো প্যাকেজ
- একটি টাইপোস্কোয়াটেড নির্ভরতা
- একটি অলীক প্যাকেজের নাম
- সন্দেহজনক ইনস্টল স্ক্রিপ্ট সহ একটি প্যাকেজ
- একটি লাইব্রেরি যা ঝুঁকিপূর্ণ কিন্তু তবুও ব্যাপকভাবে ব্যবহৃত হয়
তাছাড়া, আক্রমণকারীরা এমন প্যাকেজ নাম নিবন্ধন করে এই আচরণের সুযোগ নিতে পারে, যা এআই টুলগুলো উদ্ভাবন করতে পারে। এই ঝুঁকিকে প্রায়শই স্লপস্কোয়াটিং বলা হয়। এটি মডেলের অলীক কল্পনাকে একটি প্যাকেজ সরবরাহ শৃঙ্খল আক্রমণে পরিণত করে।
এই ঝুঁকি কমাতে, দলগুলোর প্রয়োজন SCAম্যালওয়্যার সনাক্তকরণ, নির্ভরতা নীতি প্রয়োগ, এবং পৌঁছানোযোগ্যতা বিশ্লেষণ। তাদের শোষণযোগ্যতার সংকেতও ব্যবহার করা উচিত, যেমন ইপিএসএস এবং সক্রিয় শোষণ গোয়েন্দা তথ্য থেকে CISপরিচিত শোষিত দুর্বলতার একটি ক্যাটালগ.
৩. এআই ওয়ার্কফ্লোতে গোপনীয় তথ্য ফাঁস
গোপনীয় তথ্য ফাঁস হওয়া এআই নিরাপত্তার অন্যতম বাস্তব ঝুঁকি। ডেভেলপাররা প্রায়শই এআই টুলগুলিতে প্রাসঙ্গিক তথ্য যুক্ত করে দেন। এই প্রাসঙ্গিক তথ্যের মধ্যে এপিআই কী, টোকেন, ক্রেডেনশিয়াল, ইউআরএল বা অভ্যন্তরীণ কনফিগারেশন অন্তর্ভুক্ত থাকতে পারে।
এছাড়াও, এআই-দ্বারা তৈরি কোডে এমন প্লেসহোল্ডার থাকতে পারে যা দেখতে আসল মনে হয়, অথবা আরও খারাপভাবে, গোপনীয় তথ্য সোর্স ফাইলে কপি করে দিতে পারে। pipeline স্ক্রিপ্ট, অথবা লগ। একবার গোপনীয় তথ্য গিট ইতিহাসে প্রবেশ করলে বা CI/CD লগগুলো মূল ঘটনার অনেক পরেও ব্যবহারযোগ্য থাকতে পারে। commit.
সাধারণ সংস্পর্শের স্থানগুলো হলো:
- প্রম্পট ইতিহাস
- তৈরি করা কোড
- git commits
- CI/CD লগ
- IaC নথি পত্র
- ধারক ইমেজ
- ভাগ করা কর্মক্ষেত্র
এই কারণে, দলগুলোর IDE-স্তরের স্ক্যানিং একত্রিত করা উচিত, pre-commit চেক, রিপোজিটরি হিস্ট্রি স্ক্যান, CI/CD লগ স্ক্যানিং এবং স্বয়ংক্রিয় বাতিলকরণ।
অভ্যন্তরীণ লিঙ্কের পরামর্শ: এই বিভাগটিকে আপনার গোপনীয় নিরাপত্তা পণ্য বা সম্পর্কিত বিষয়বস্তুর সাথে সংযুক্ত করুন।
৪. এআই এজেন্ট ও টুলের অপব্যবহার
এজেন্টিক এআই এটি ঝুঁকির একটি নতুন স্তর যুক্ত করে, কারণ এজেন্টরা শুধু কাজের পরামর্শই দেয় না, তারা কাজও করতে পারে।
একটি এআই এজেন্ট শেল কমান্ড চালাতে, ফাইল সম্পাদনা করতে, এপিআই কল করতে, খুলতে পারে। pull requestsসিআই ওয়ার্কফ্লো পরিবর্তন করা, অথবা ক্লাউড পরিষেবাগুলির সাথে ইন্টারঅ্যাক্ট করা। যদিও এটি উৎপাদনশীলতা ব্যাপকভাবে বৃদ্ধি করে, তবে এটি ভুলের প্রভাবও বাড়িয়ে দেয়।
মূল ঝুঁকি অন্তর্ভুক্ত:
- অনিরাপদ শেল এক্সিকিউশন
- অতিরিক্ত অনুমতিপ্রাপ্ত এপিআই কী
- অননুমোদিত কোড পরিবর্তন
- MCP বা API সংযোগকারীর ভুল কনফিগারেশন
- অনুমোদিত পরিধির বাইরে টুল কল।
- কাজের প্রয়োজনের অতিরিক্ত পরিবেশগত প্রবেশাধিকার।
অতিরিক্ত এজেন্সির জন্য OWASP LLM টপ ১০ ক্যাটাগরিটি এখানে বিশেষভাবে প্রাসঙ্গিক। যদি কোনো এজেন্টের অতিরিক্ত অ্যাক্সেস থাকে, তবে একটি ভুল নির্দেশনা, প্রম্পট ইনজেকশন, বা আপোসকৃত টুল একটি প্রকৃত নিরাপত্তা ঘটনায় পরিণত হতে পারে।
5. CI/CD এবং Pipeline ঝুঁকি
এআই-উৎপাদিত কোড অবশেষে পৌঁছায় pipelineসেই পর্যায়ে, ঝুঁকি সোর্স কোড থেকে বিল্ড, আর্টিফ্যাক্ট, সিক্রেট, ডিপেন্ডেন্সি এবং ডেপ্লয়মেন্ট ওয়ার্কফ্লোতে স্থানান্তরিত হয়।
উদাহরণস্বরূপ, এআই-এর সহায়তায় করা কোনো পরিবর্তনে যা হতে পারে:
- একটি অনিরাপদ বিল্ড ধাপ যোগ করুন
- একটি গিটহাব অ্যাকশনস ওয়ার্কফ্লো পরিবর্তন করুন
- ইনস্টলের সময় একটি ক্ষতিকারক প্যাকেজ টেনে আনুন।
- বিল্ড লগে গোপনীয় তথ্য প্রিন্ট করুন
- একটি নিরাপত্তা নিয়ন্ত্রণ নিষ্ক্রিয় করুন
- ডিপ্লয়মেন্ট লজিক পরিবর্তন করুন
অতএব, CI/CD এআই গ্রহণের জন্য নিরাপত্তা অপরিহার্য হয়ে ওঠে। Pipeline guardrails অনিরাপদ প্যাটার্নগুলো প্রোডাকশনে পৌঁছানোর আগেই ব্লক করা উচিত। আরও বিস্তারিত তথ্যের জন্য, আমাদের এই সম্পর্কিত কন্টেন্ট দেখুন। CI/CD নিরাপত্তা এবং software supply chain security.
৬. ডেটা ফাঁস এবং প্রম্পট ইনজেকশন
প্রম্পট ইনজেকশন সবচেয়ে পরিচিত এআই নিরাপত্তা ঝুঁকিগুলোর মধ্যে একটি, কিন্তু এটি প্রায়শই ভুলভাবে বোঝা হয়। এটি শুধু চ্যাটবটের সমস্যা নয়। এটি এমন যেকোনো এআই ওয়ার্কফ্লোকে প্রভাবিত করতে পারে যা বাহ্যিক ইনপুট গ্রহণ করে এবং তারপর সেই ইনপুট ব্যবহার করে বিভিন্ন কাজ পরিচালনা করে।
উদাহরণস্বরূপ, একটি ক্ষতিকারক সমস্যার বিবরণ, README ফাইল, সাপোর্ট টিকেট বা ডিপেন্ডেন্সি ডকুমেন্টেশন পেজে লুকানো নির্দেশাবলী থাকতে পারে। যদি কোনো এআই এজেন্ট সেই বিষয়বস্তু পড়ে এবং তা অনুসরণ করে, তবে আক্রমণকারী টুল কল, কোড পরিবর্তন বা ডেটা অ্যাক্সেসকে প্রভাবিত করতে পারে।
একই ধরনের উপায়ে ডেটা ফাঁস হতে পারে। মডেলটি সংবেদনশীল তথ্য প্রকাশ করতে পারে, ব্যক্তিগত ফাইলের সারসংক্ষেপ তৈরি করতে পারে, অথবা গোপনীয় ডেটা বাহ্যিক পরিষেবাগুলিতে পাঠাতে পারে। তাই, এআই সিস্টেমগুলির জন্য দ্রুত ফিল্টারিং, আউটপুট নিয়ন্ত্রণ, টুলের উপর সীমাবদ্ধতা এবং তারা কোন ডেটা অ্যাক্সেস করতে পারবে তার সুস্পষ্ট সীমারেখা থাকা প্রয়োজন।
এআই নিরাপত্তা ঝুঁকি জুড়ে SDLC
সফটওয়্যার জীবনচক্রের বিভিন্ন পর্যায়ে এআই নিরাপত্তা ঝুঁকি দেখা দেয়। মূল বিষয় হলো প্রতিটি পর্যায়কে সুরক্ষিত করা, শুধু চূড়ান্ত অ্যাপ্লিকেশনটিকে নয়।
| SDLC পর্যায় | এআই নিরাপত্তা ঝুঁকি | উদাহরণ | সুপারিশকৃত নিয়ন্ত্রণ |
|---|---|---|---|
| এখানে | অনিরাপদ এআই-উৎপাদিত কোড | একটি এআই কোডিং সহকারী অনিরাপদ প্রমাণীকরণ যুক্তির পরামর্শ দেয়। | প্রকৃত সময় SAST এবং নিরাপদ কোডিং প্রতিক্রিয়া। |
| Commit | গোপনীয়তা ফাঁস | একটি টোকেন জেনারেট করা কোডে দেখা যায় অথবা commit ইতিহাস। | গোপনীয়তা সনাক্তকরণ, pre-commit যাচাইকরণ, এবং স্বয়ংক্রিয় বাতিলকরণ। |
| Pull Request | নীতি বাইপাস | তৈরি করা কোড পর্যালোচনা ছাড়াই অ্যাক্সেস কন্ট্রোল নিয়ম পরিবর্তন করে। | PR guardrails এবং নীতি প্রয়োগ। |
| নির্মাণ করা | ক্ষতিকর নির্ভরতা | এআই-এর পরামর্শে দেওয়া একটি প্যাকেজের ইনস্টলেশন আচরণ সন্দেহজনক। | SCAম্যালওয়্যার সনাক্তকরণ, এবং নির্ভরতা নীতি যাচাই। |
| CI/CD | Pipeline দক্ষতা সহকারে হস্তচালন | একজন এজেন্ট ওয়ার্কফ্লো ফাইল বা ডেপ্লয়মেন্ট স্ক্রিপ্ট পরিবর্তন করে। | CI/CD নিরাপত্তা যাচাই এবং অসঙ্গতি সনাক্তকরণ। |
| রানটাইম | প্রম্পট ইনজেকশন বা ডেটা ফাঁস | বাহ্যিক ইনপুটের কারণে একটি এআই ওয়ার্কফ্লো সংবেদনশীল প্রেক্ষাপট প্রকাশ করে ফেলে। | প্রম্পট নিয়ন্ত্রণ, প্রবেশাধিকার সীমাবদ্ধতা এবং পর্যবেক্ষণ। |
এআই নিরাপত্তা ঝুঁকি বনাম প্রচলিত সাইবার নিরাপত্তা ঝুঁকি
প্রচলিত সাইবার নিরাপত্তা এখনও গুরুত্বপূর্ণ। তবে, কৃত্রিম বুদ্ধিমত্তা এমন নতুন আচরণগত ধরণ তৈরি করে যার জন্য ভিন্ন ধরনের নিয়ন্ত্রণ প্রয়োজন।
| ফোন | প্রচলিত সাইবার নিরাপত্তা ঝুঁকি | এআই নিরাপত্তা ঝুঁকি |
|---|---|---|
| কোড | মানুষের তৈরি দুর্বলতা। | উচ্চ গতিতে এআই-সৃষ্ট অনিরাপদ প্যাটার্ন। |
| নির্ভরতা | পরিচিত ঝুঁকিপূর্ণ প্যাকেজসমূহ। | বিভ্রম সৃষ্টিকারী, ক্ষতিকর বা অনিরাপদ এআই-প্রস্তাবিত প্যাকেজ। |
| অন্ধিসন্ধি | ভুলবশত পরিচয়পত্র commitডেভেলপারদের দ্বারা তৈরি। | প্রম্পট, জেনারেটেড কোড বা লগে গোপন তথ্য কপি করা হয়েছে। |
| টুলস | ডেভেলপার টুলসের ম্যানুয়াল অপব্যবহার। | স্বায়ত্তশাসিত এজেন্টরা টুল বা এপিআই-এর অপব্যবহার করছে। |
| Pipelines | ভুলভাবে কনফিগার করা হয়েছে CI/CD কর্মপ্রবাহ। | এজেন্ট-সৃষ্ট ওয়ার্কফ্লো পরিবর্তন বা অনিরাপদ অটোমেশন। |
বাস্তব জগতের এআই নিরাপত্তা ঝুঁকির উদাহরণ
এআই নিরাপত্তা ঝুঁকি কোনো তাত্ত্বিক বিষয় নয়। বর্তমানে বেশ কিছু পাবলিক ফ্রেমওয়ার্ক এবং গবেষণা কার্যক্রম এই বিষয়গুলোকে আরও আনুষ্ঠানিকভাবে পর্যবেক্ষণ করছে।
সার্জারির এমআইটি এআই ঝুঁকি ভান্ডার বিভিন্ন কারণ ও ক্ষেত্র জুড়ে ১,৭০০-এরও বেশি এআই ঝুঁকির তালিকা তৈরি করে। অন্যদিকে, OWASP এলএলএম অ্যাপ্লিকেশন ঝুঁকির জন্য বাস্তবসম্মত বিভাগ সরবরাহ করে, যার মধ্যে রয়েছে প্রম্পট ইনজেকশন, সংবেদনশীল তথ্য প্রকাশ, সরবরাহ শৃঙ্খলের দুর্বলতা এবং অতিরিক্ত এজেন্সি।
DevSecOps টিমগুলোর জন্য সবচেয়ে প্রাসঙ্গিক উদাহরণগুলো প্রায়শই সফটওয়্যার ডেলিভারির ক্ষেত্রে দেখা যায়:
- দুর্বল কোড শনাক্তকারী এআই টুল
- এআই এজেন্টরা ওয়ার্কফ্লো ফাইল পরিবর্তন করছে
- এআই-সৃষ্ট নির্ভরশীলতা সরবরাহ শৃঙ্খলে ঝুঁকি তৈরি করছে
- প্রম্পট, লগ বা এর মাধ্যমে গোপনীয় তথ্য ফাঁস হচ্ছে commits
- অনুমোদিত পরিধির বাইরের এজেন্টিক ওয়ার্কফ্লো কলিং টুল
সংক্ষেপে, যখন এআই সিস্টেম কোড, ক্রেডেনশিয়াল, প্যাকেজ স্পর্শ করতে পারে, তখন এআই নিরাপত্তা ঝুঁকি অনেক বেশি গুরুতর হয়ে ওঠে। pipelines, বা অবকাঠামো।
বাস্তবে এআই নিরাপত্তা ঝুঁকি কীভাবে প্রশমিত করা যায়
এআই নিরাপত্তা ঝুঁকি কমানোর সর্বোত্তম উপায় হলো এআই-সহায়তাযুক্ত উন্নয়নকে এর অংশ হিসেবে বিবেচনা করা। SDLCএর অর্থ হলো শুরুতেই স্ক্যান করা, ঘন ঘন যাচাই করা এবং ডেভেলপাররা যেখানে প্রকৃতপক্ষে কাজ করেন, সেখানেই নীতিমালা প্রয়োগ করা।
১. IDE-তে AI দ্বারা তৈরি কোড স্ক্যান করুন
ডেভেলপারদের এআই-জেনারেটেড কোড লেখা বা গ্রহণ করার সময়েই নিরাপত্তা সংক্রান্ত ফিডব্যাক দেখা উচিত। এটি কনটেক্সট সুইচিং কমায় এবং সমস্যাগুলো গিট-এ পৌঁছানোর আগেই সমাধান করতে সাহায্য করে।
ব্যবহার করুন:
- SAST IDE-তে
- ইনলাইন দুর্বলতার ব্যাখ্যা
- নিরাপদ সমাধানের পরামর্শ
- নীতি-সচেতন প্রতিকার
এটি বিশেষত এআই কোডিং অ্যাসিস্ট্যান্টদের জন্য গুরুত্বপূর্ণ, যেখানে অনিরাপদ পরামর্শগুলো দ্রুত কোডবেসে প্রবেশ করতে পারে।
২. বিল্ড করার আগে নির্ভরতা যাচাই করুন
এআই-প্রস্তাবিত নির্ভরতাগুলো ইনস্টল বা প্রেরণের আগে অবশ্যই যাচাই করতে হবে। অতএব, দলগুলোর উচিত উন্নয়নকালে নির্ভরতা নিয়ন্ত্রণ প্রয়োগ করা এবং CI/CD.
ব্যবহার করুন:
- SCA
- ম্যালওয়্যার সনাক্তকরণ
- টাইপোস্কোয়াটিং সনাক্তকরণ
- ইপিএসএস স্কোরিং
- নাগালের বিশ্লেষণ
- নীতি-ভিত্তিক ব্লকিং
এটি সেইসব প্যাকেজকে অগ্রাধিকার দিতে সাহায্য করে যেগুলো কেবল তাত্ত্বিক ঝুঁকি নয়, বরং প্রকৃত ঝুঁকি বহন করে।
৩. স্বয়ংক্রিয়ভাবে গোপনীয় তথ্য শনাক্ত ও প্রত্যাহার করুন
গোপনীয় তথ্য স্ক্যান করার আওতায় শুধু সোর্স কোডই নয়, আরও অনেক কিছু অন্তর্ভুক্ত থাকতে হবে। এআই-সহায়তাযুক্ত ওয়ার্কফ্লো বিভিন্ন জায়গায় ক্রেডেনশিয়াল প্রকাশ করে দিতে পারে।
ব্যবহার করুন:
- Pre-commit স্ক্যানিং
- রিপোজিটরি ইতিহাস স্ক্যানিং
- Pipeline লগ স্ক্যানিং
- IaC স্ক্যানিং
- কন্টেইনার ইমেজ স্ক্যানিং
- স্বয়ংক্রিয় প্রত্যাহার
এর ফলে, দলগুলো সংক্রমণ ও নিয়ন্ত্রণের মধ্যবর্তী সময় কমিয়ে আনে।
৪. বলবৎ করুন Guardrails in CI/CD
Guardrails কোনো পরিবর্তন এগিয়ে নিয়ে যাওয়ার জন্য যথেষ্ট নিরাপদ কিনা, তা স্থির করা উচিত। প্রতিবেদন করা উপকারী, কিন্তু গুরুতর ঝুঁকির ক্ষেত্রে তা আটকে দেওয়া আবশ্যক।
Guardrails আবরণ করা উচিত:
- নতুন গুরুতর দুর্বলতা
- অন্ধিসন্ধি
- ক্ষতিকর নির্ভরতা
- পিনবিহীন বা অবিশ্বস্ত প্যাকেজ
- অনিরাপদ ওয়ার্কফ্লো পরিবর্তন
- নিখোঁজ SBOMs
- নীতি লঙ্ঘন
এছাড়াও, প্রয়োজন অনুযায়ী দলগুলোকে প্রথমে শুধু-রিপোর্ট মোড দিয়ে শুরু করা উচিত এবং আত্মবিশ্বাস বাড়ার সাথে সাথে ব্লক করার দিকে অগ্রসর হওয়া উচিত।
৫. এজেন্টিক টুলের আচরণ পর্যবেক্ষণ করুন
এজেন্টিক এআই সিস্টেমের জন্য পর্যবেক্ষণযোগ্যতা প্রয়োজন। যদি কোনো এজেন্ট ফাইল সম্পাদনা করতে, বিল্ড চালু করতে বা এপিআই কল করতে পারে, তবে টিমকে জানতে হবে যে এটি কী করেছে, কখন করেছে এবং কাজটি প্রত্যাশিত ছিল কি না।
নজর রাখুন:
- টুল কল
- ওয়ার্কফ্লো ফাইলের পরিবর্তন
- রিপোজিটরি লেখার কার্যকলাপ
- নেটওয়ার্ক গন্তব্যস্থল
- গোপনীয় তথ্যে প্রবেশাধিকার
- Pull request সৃষ্টি
- Pipeline ট্রিগার
এই স্বচ্ছতা না থাকলে এজেন্টের স্বায়ত্তশাসনের ওপর আস্থা রাখা কঠিন হয়ে পড়ে।
যেখানে জাইজেনি এআই নিরাপত্তা ঝুঁকি কমাতে সাহায্য করে
জাইজেনি সম্পূর্ণ সফটওয়্যার ডেলিভারি চেইন জুড়ে এআই-সহায়তাযুক্ত উন্নয়নকে সুরক্ষিত করার উপর মনোযোগ দেয়। এআই ঝুঁকিকে একটি পৃথক বিভাগ হিসেবে বিবেচনা না করে, এটি কোড, নির্ভরতা, গোপনীয় তথ্য, pipelineএবং ব্যবসায়িক প্রেক্ষাপট।
উদাহরণ স্বরূপ:
- SAST অনিরাপদ এআই-নির্মিত কোড আগেভাগেই শনাক্ত করতে সাহায্য করে।
- SCA নির্ভরতা যাচাই করে এবং ক্ষতিকর প্যাকেজ শনাক্ত করে।
- গোপনীয়তা নিরাপত্তা বিভিন্ন রিপোজিটরি জুড়ে উন্মুক্ত ক্রেডেনশিয়াল সনাক্ত করে এবং pipelines.
- CI/CD নিরাপত্তা অনিরাপদ পরিবর্তনগুলো কার্যকর হওয়ার আগেই নীতিমালা প্রয়োগ করা হয়।
- অ্যানোমালি ডিটেকশন উন্নয়ন এবং বিতরণ কর্মপ্রবাহে অস্বাভাবিক আচরণ শনাক্ত করে।
- ASPM প্রাপ্ত ফলাফলগুলোকে সমন্বিত করে একটি একক ঝুঁকি চিত্র তৈরি করে, যাতে দলগুলো গুরুত্বপূর্ণ বিষয়গুলোকে অগ্রাধিকার দিতে পারে।
এই বিষয়টি গুরুত্বপূর্ণ, কারণ এআই নিরাপত্তা ঝুঁকিগুলো স্বভাবতই বহুস্তরীয়। একটি দুর্বল নির্ভরতা, উন্মুক্ত টোকেন এবং অনিরাপদ কর্মপ্রবাহ পরিবর্তন নির্দিষ্ট টুলগুলোতে আলাদা মনে হতে পারে। তবে, সব মিলিয়ে এগুলো একটি অনেক বড় আক্রমণের পথ তৈরি করতে পারে।
এআই নিরাপত্তা ঝুঁকি ব্যবস্থাপনার যে সকল ফ্রেমওয়ার্ক সম্পর্কে জানা প্রয়োজন
বিভিন্ন কাঠামো দলগুলোকে তাদের কাজের বিন্যাস করতে সাহায্য করে।
সার্জারির NIST AI ঝুঁকি ব্যবস্থাপনা কাঠামো এটি প্রতিষ্ঠানগুলোকে এআই ঝুঁকি চিহ্নিত করতে, পরিমাপ করতে, পরিচালনা করতে এবং নিয়ন্ত্রণ করতে সাহায্য করে। এটি নেতৃত্ব, সম্মতি এবং ঝুঁকি কর্মসূচির জন্য উপযোগী।
সার্জারির এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০ অ্যাপসেক দলগুলোর জন্য এটি আরও বেশি বাস্তবসম্মত, কারণ এটি প্রম্পট ইনজেকশন, সংবেদনশীল তথ্য ফাঁস, সাপ্লাই চেইন দুর্বলতা এবং অতিরিক্ত এজেন্সির মতো প্রযুক্তিগত ঝুঁকিগুলোর সাথে সরাসরি সম্পর্কিত।
সার্জারির এনসিএসসি এআই এবং সাইবার নিরাপত্তা নির্দেশিকা এটি সেইসব নিরাপত্তা প্রধানদের জন্য উপযোগী, যাদের বোঝা প্রয়োজন যে কৃত্রিম বুদ্ধিমত্তা কীভাবে প্রাতিষ্ঠানিক সাইবার ঝুঁকি পরিবর্তন করে।
সম্মিলিতভাবে, এই উৎসগুলো একটি সুস্পষ্ট বিষয় তুলে ধরে: এআই নিরাপত্তা অবশ্যই মানুষ, প্রক্রিয়া, সিস্টেম এবং সফটওয়্যার ডেলিভারি ওয়ার্কফ্লো জুড়ে পরিচালনা করতে হবে।
চেকলিস্ট: এআই নিরাপত্তা ঝুঁকি কমানোর উপায়
এই চেকলিস্টটিকে একটি বাস্তবসম্মত সূচনা বিন্দু হিসেবে ব্যবহার করুন।
| নিয়ন্ত্রণ অঞ্চল | কি করো | কেন এটি গুরুত্বপূর্ণ |
|---|---|---|
| এআই-জেনারেটেড কোড | চালান SAST IDE, PR, এবং CI/CD pipeline. | অনিরাপদ কোডকে প্রোডাকশনে পৌঁছানো থেকে বিরত রাখে। |
| নির্ভরতা | ব্যবহার SCAম্যালওয়্যার সনাক্তকরণ, ইপিএসএস, এবং পৌঁছানোযোগ্যতা। | ঝুঁকিপূর্ণ এআই-প্রস্তাবিত প্যাকেজ ব্লক করে। |
| অন্ধিসন্ধি | স্ক্যান commits, লগ, ইতিহাস, IaC, এবং পাত্র। | ক্রেডেনশিয়ালের প্রকাশ ও অপব্যবহার হ্রাস করে। |
| CI/CD | জোরদার করা pipeline guardrails এবং নীতি গেট। | অনিরাপদ বিল্ড এবং ডেপ্লয়মেন্ট বন্ধ করে। |
| এজেন্টিক সরঞ্জাম | টুল কল, এপিআই অ্যাক্সেস এবং ওয়ার্কফ্লো পরিবর্তন নিরীক্ষণ করুন। | অতিরিক্ত স্বেচ্ছাচারিতা এবং অপ্রত্যাশিত আচরণ সীমিত করে। |
| ঝুকি ব্যবস্থাপনা | ব্যবহার ASPM বিভিন্ন স্তরের প্রাপ্ত ফলাফলের মধ্যে সম্পর্ক স্থাপন করতে। | দলগুলোকে প্রকৃত ব্যবসায়িক ঝুঁকির ওপর মনোযোগ দিতে সাহায্য করে। |
কী Takeaways
- এআই নিরাপত্তা ঝুঁকি এখন কোড, ডিপেন্ডেন্সি, সিক্রেটসকে প্রভাবিত করে। pipelines, এবং agents.
- প্রচলিত অ্যাপসেক টুলগুলোর এখনও প্রয়োজন আছে, কিন্তু সেগুলোকে আরও আগে এবং আরও বেশি প্রাসঙ্গিকতার সাথে চালু করতে হবে।
- যাচাই না হওয়া পর্যন্ত এআই-দ্বারা তৈরি কোডকে অবিশ্বস্ত হিসেবে গণ্য করা উচিত।
- এআই এজেন্ট ওয়ার্কফ্লো প্রয়োজন guardrailsঅনুমতি এবং পর্যবেক্ষণযোগ্যতা।
- DevSecOps দলগুলোর জুড়ে একীভূত দৃশ্যমানতা প্রয়োজন SDLC এআই ঝুঁকি কার্যকরভাবে পরিচালনা করতে
প্রায়শই জিজ্ঞাসিত প্রশ্ন: এআই নিরাপত্তা ঝুঁকি
এআই নিরাপত্তা ঝুঁকিগুলো কী কী?
এআই নিরাপত্তা ঝুঁকি হলো এমন হুমকি বা দুর্বলতা যা এআই সিস্টেম তৈরি, একীভূত বা ব্যবহার করার সময় দেখা দেয়। এগুলি মডেল, ডেটা, প্রম্পট, কোড, নির্ভরতা, এপিআই এবং অন্যান্য বিষয়কে প্রভাবিত করতে পারে। pipelines.
DevSecOps টিমের জন্য সবচেয়ে বড় AI নিরাপত্তা ঝুঁকিগুলো কী কী?
সবচেয়ে বড় ঝুঁকিগুলোর মধ্যে রয়েছে অসুরক্ষিত এআই-জেনারেটেড কোড, ঝুঁকিপূর্ণ নির্ভরতা, গোপনীয় তথ্য ফাঁস, প্রম্পট ইনজেকশন, এজেন্টের অতিরিক্ত অনুমতি এবং অসুরক্ষিত CI/CD অটোমেশন।
কেন এআই নিরাপত্তা ঝুঁকিগুলো প্রচলিত সাইবার নিরাপত্তা ঝুঁকি থেকে ভিন্ন?
এআই সিস্টেম কোড তৈরি করতে, নির্ভরতার পরামর্শ দিতে, টুল আহ্বান করতে এবং স্বয়ংক্রিয়ভাবে কাজ করতে পারে। ফলে, ঝুঁকিগুলো আরও দ্রুত এবং আরও বেশি স্তরে প্রকাশ পায়। SDLC.
দলগুলো কীভাবে এআই নিরাপত্তা ঝুঁকি কমাতে পারে?
দলগুলো এআই-জেনারেটেড কোড স্ক্যান করে, নির্ভরতা যাচাই করে, গোপনীয় বিষয় শনাক্ত করে এবং প্রয়োগ করার মাধ্যমে ঝুঁকি কমাতে পারে। CI/CD guardrailsএজেন্টের আচরণ পর্যবেক্ষণ করে এবং প্রাপ্ত ফলাফলের মধ্যে সম্পর্ক স্থাপন করে ASPM.
এআই দ্বারা তৈরি কোড কি নিরাপদ?
এআই-দ্বারা তৈরি কোড স্বাভাবিকভাবেই নিরাপদ নয়। প্রোডাকশনে যাওয়ার আগে এটি পর্যালোচনা, স্ক্যান, পরীক্ষা এবং যাচাই করা উচিত।
শেষ কথা: এআই নিরাপত্তা ঝুঁকি এবং প্রয়োজনীয়তা SDLC-স্তর নিয়ন্ত্রণ
এআই সফটওয়্যার ঝুঁকির গতি ও ধরন বদলে দেয়। এটি টিমগুলোকে দ্রুত সফটওয়্যার তৈরিতে সাহায্য করে, কিন্তু একই সাথে ডেলিভারি চেইনে অনিরাপদ কোড, ফাঁস হওয়া গোপনীয় তথ্য, অসুরক্ষিত ডিপেন্ডেন্সি এবং ঝুঁকিপূর্ণ অটোমেশন প্রবেশের নতুন পথও তৈরি করে।
সুতরাং, শুধুমাত্র মডেল গভর্নেন্স বা নীতি নথি দিয়ে এআই নিরাপত্তা নিশ্চিত করা যায় না। এর জন্য অভ্যন্তরীণভাবে বাস্তবসম্মত নিয়ন্ত্রণ প্রয়োজন। SDLCIDE প্রতিক্রিয়া, SAST, SCAগোপনীয় তথ্য সনাক্তকরণ, CI/CD guardrails, অসঙ্গতি সনাক্তকরণ, এবং ASPM-স্তরের পারস্পরিক সম্পর্ক।
যে দলগুলো এআই নিরাপত্তা ঝুঁকি ভালোভাবে সামাল দেয়, তারা এআই গ্রহণকে বাধা দেবে না। বরং তারাই এর চারপাশে সঠিক সুরক্ষা স্তর তৈরি করবে।
