TL; ডিআর
এখন প্রতিটি বোর্ডই এআই ঝুঁকি নিয়ে প্রশ্ন করছে, এবং বেশিরভাগ নিরাপত্তা দল সংখ্যার পরিবর্তে বিশেষণ দিয়ে উত্তর দিচ্ছে। গভর্নেন্স ফ্রেমওয়ার্কগুলো আপনাকে বলে দেয় কী গভর্ন করতে হবে। কিন্তু কী গণনা করতে হবে, তা তারা বলে না। এই এআই ঝুঁকি মেট্রিকগুলো সবই একই উৎস থেকে আসে: আপনার সংস্থা ইতোমধ্যেই যে কোড ব্যবহার করে।
- একটি এজেন্টিক এআই কৌশলের তিনটি স্তর থাকে, এবং সেগুলোর মধ্যে কেবল একটি হলো মডেল। এজেন্ট যা লেখে, এজেন্ট কিসের সাথে সংযুক্ত থাকে, এবং এজেন্ট যা গ্রহণ করে। বেশিরভাগ প্রোগ্রাম প্রথমটি পরিমাপ করে এবং বাকি দুটিকে উপেক্ষা করে।
- মডেলটিতে বিস্ফোরণ ব্যাসার্ধ অন্তর্ভুক্ত নেই। এটি স্কিল ফাইল, এমসিপি কনফিগারেশন, টুল স্কোপ এবং এজেন্ট যে ক্রেডেনশিয়ালের অধীনে চলে, তার মধ্যেই থাকে। একটি ত্রুটিমুক্ত মডেল ইভ্যালুয়েশন এবং একটি অতিরিক্ত সুবিধাপ্রাপ্ত এজেন্ট স্বাচ্ছন্দ্যে সহাবস্থান করে।
- এআই ঝুঁকির নয়টি পরিমাপক, যার প্রতিটিই একটি সংখ্যা, কোনো বিশেষণ নয়। অননুমোদিত এআই সম্পদ, টুল সিঙ্কে পৌঁছানো দ্রুত ইনজেকশন পাথ, গোপনীয় তথ্য
.mcp/servers.jsonএজেন্ট-সংযোজিত নির্ভরতাগুলো স্বাক্ষর তৈরি হওয়ার আগেই চিহ্নিত করা হয়েছিল। - এই ত্রৈমাসিকে আপনি যদি কাঙ্ক্ষিত সংখ্যাটি অর্জন করতে না পারেন, তবে পরিমাপকটি সমস্যা নয়। মজুদ তালিকাটি হলো। তিনটি গণনা দিয়ে শুরু করুন, কোনো কর্মসূচি দিয়ে নয়।
আপনি যখন সফটওয়্যারটি সরবরাহ করছেন, তখন এআই ঝুঁকির প্রকৃত অর্থ কী?
দশজনকে জিজ্ঞাসা করুন এআই ঝুঁকি বলতে কী বোঝায়, আপনি দশটি উত্তর পাবেন। মডেলের পক্ষপাত। বিভ্রম। তথ্য ফাঁস। নিয়ন্ত্রক সংস্থার ঝুঁকির মুখে পড়া। চাকরিচ্যুতি। সবই বাস্তব, সবই মনোযোগের যোগ্য, এবং মঙ্গলবার বিকেলে কোনো নিরাপত্তা দলের পক্ষে এগুলোর কোনোটিরই উত্তর দেওয়া সম্ভব নয়।
প্রশ্নটির একটি আরও সুনির্দিষ্ট সংস্করণ রয়েছে যা একটি নিরাপত্তা দল প্রকৃতপক্ষে নিজেদের আওতায় আনতে পারে: আমরা যে সফটওয়্যার তৈরি করি তার ভেতরে কী ধরনের কৃত্রিম বুদ্ধিমত্তা (AI) চলছে, এটি কতদূর পর্যন্ত পৌঁছাতে পারে, এবং কেউ একে নিয়ন্ত্রণ করলে কী ঘটে। সেই সংস্করণে একটি উত্তর আছে, এবং সেই উত্তরটি আপনার রিপোজিটরিগুলোতে রয়েছে এবং pipelineনীতিমালা নথির পরিবর্তে।
এই পোস্টটি এআই ঝুঁকির এই সংস্করণটি নিয়েই। এর কারণ এই নয় যে শাসন সংক্রান্ত প্রশ্নগুলো গুরুত্বপূর্ণ নয়, বরং কারণ হলো, এই প্রশ্নটির উত্তর না পাওয়া পর্যন্ত শাসন সংক্রান্ত প্রশ্নগুলোর উত্তর দেওয়া সম্ভব নয়। একটি কাঠামো আপনাকে আপনার এআই সিস্টেমগুলোর একটি তালিকা তৈরি করতে বলে। কিন্তু এটি আপনাকে বলে না যে সেই তালিকাটি একটি জায়গায় পড়ে আছে। .mcp/servers.json যে ফাইলটি কেউ খোলেনি যখন থেকে এটি ছিল commitটেড।
কেন বেশিরভাগ এআই ঝুঁকি প্রোগ্রাম ভুল জিনিস পরিমাপ করে?
ব্যর্থতার তিনটি ধরন রয়েছে, এবং বেশিরভাগ প্রতিষ্ঠানই এর মধ্যে অন্তত দুটি অনুসরণ করে।
- এক্সপোজারের পরিবর্তে অ্যাডপশন পরিমাপ করা। “আমাদের ৭২% ডেভেলপার এআই টুলিং ব্যবহার করেন”—এটি উৎপাদনশীলতার এমন একটি পরিমাপ যা কেবল সুরক্ষার আবরণে মোড়া। এই টুলগুলো কী কী করতে পারে, সে সম্পর্কে এটি আপনাকে কিছুই জানায় না।
- সিস্টেমের পরিবর্তে মডেল পরিমাপ করা। কোনো এন্ডপয়েন্টকে রেড-টিমিং করলে এই প্রশ্নের উত্তর পাওয়া যায় যে, একটি মডেলকে এমন কিছু বলতে প্ররোচিত করা যায় কি না যা তার বলা উচিত নয়। কিন্তু এর পরে কী ঘটবে, সেই প্রশ্নের উত্তর এটি দেয় না, কারণ এর প্রভাবের পরিধিটি টুল স্কোপ, এজেন্ট যে ক্রেডেনশিয়ালের অধীনে চলে এবং উভয়কে সংজ্ঞায়িতকারী কনফিগারেশন ফাইলগুলোর মধ্যেই সীমাবদ্ধ থাকে। একটি ত্রুটিমুক্ত মডেল মূল্যায়ন এবং মাত্রাতিরিক্ত সুবিধাপ্রাপ্ত একটি এজেন্ট খুব স্বাচ্ছন্দ্যে সহাবস্থান করে।
- যা গণনা করা সহজ, তা পরিমাপ করা। প্রকাশিত এআই নীতির সংখ্যা। এআই প্রশিক্ষণ সম্পন্নকারী কর্মীর সংখ্যা। এই সংখ্যাগুলো নির্ভরযোগ্যভাবে বাড়তে থাকে এবং এগুলোর সাথে কোনো কিছুরই সম্পর্ক নেই।
সার্জারির NIST AI ঝুঁকি ব্যবস্থাপনা কাঠামো এটি সুস্পষ্ট যে পরিমাপ হলো এর চারটি মূল কার্যাবলীর মধ্যে একটি, যার পাশাপাশি রয়েছে শাসন, মানচিত্রায়ন এবং ব্যবস্থাপনা। এই কাঠামোটি ইচ্ছাকৃতভাবে নির্দেশনামূলক না হয়ে ফলাফল-ভিত্তিক, যা একটি নির্দিষ্ট ক্ষেত্রে সঠিক। standard এবং মঙ্গলবারে কোনো কাজে আসে না। কী গণনা করবেন তা আপনাকে এখনও ঠিক করতে হবে।
কোন এআই ঝুঁকি মেট্রিকগুলো আসলেই আপনাকে কোনো তথ্য দেয়?
নয়টি পরিমাপক। প্রতিটিই একটি সংখ্যা, আপনার সংস্পর্শের মাত্রা পরিবর্তিত হলে প্রতিটিই পরিবর্তিত হয়, এবং প্রতিটিই জরিপের পরিবর্তে কোড থেকে তৈরি করা যেতে পারে।
| ছন্দোময় | কেন এটি গুরুত্বপূর্ণ | সংখ্যাটি কোথা থেকে আসে |
|---|---|---|
| 01মোট আবিষ্কৃত এআই অ্যাসেট এবং গত মাসের তুলনায় এর পরিবর্তন | যে ঝুঁকি আপনি কখনো গণনা করেননি, সে বিষয়ে প্রতিবেদন তৈরি করতে পারবেন না। পরম সংখ্যার চেয়ে প্রবণতা বেশি গুরুত্বপূর্ণ। | অবিরাম আবিষ্কার মডেল, ফ্রেমওয়ার্ক, ডেটাসেট, ইনফারেন্স এন্ডপয়েন্ট, এজেন্ট, এমসিপি সার্ভার, দক্ষতা এবং এআই কোডিং টুলের |
| 02মোটের শতাংশ হিসাবে অননুমোদিত এআই সম্পদ | এটি আপনার শ্যাডো এআই রেট। একটি বোর্ডের জন্য এটিই এআই ঝুঁকির সবচেয়ে বেশি উদ্ধৃতযোগ্য মেট্রিক। | আপনার পলিসির বিপরীতে প্রতিটি অ্যাসেটের অনুমোদনের অবস্থা ট্র্যাক করা হয়। |
| 03নামবিহীন মালিকবিহীন এআই সম্পদ | যে সম্পদের মালিক কেউ নয়, তা কেউ মেরামতও করবে না। সাধারণত সেটের মধ্যে এটিই সবচেয়ে কুৎসিত সংখ্যা। | সম্পদের বিপরীতে মালিকানা ট্র্যাক করা হয় |
| 04টুল সিঙ্কে পৌঁছানো প্রম্পট ইনজেকশন পাথ | সিস্টেম প্রম্পটে আসা অবিশ্বস্ত ইনপুট কেবল তখনই গুরুত্বপূর্ণ, যদি অপর প্রান্তে কোনো বিপজ্জনক কিছু থাকে। | এআই ঝুঁকি সনাক্তকরণ ম্যাপ করা হয়েছে এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০ |
| 05ব্যবহৃত এমসিপি সার্ভারগুলো এবং সেগুলোর মধ্যে কতগুলোতে ফলাফল রয়েছে | এমসিপি কনফিগারেশন হলো সেই জায়গা, যেখান থেকে এজেন্ট তার নির্দেশাবলী গ্রহণ করে। এখানেই ক্রেডেনশিয়ালগুলোও জমা হতে থাকে। | নিরাপত্তা ত্রুটি হিসেবে MCP সার্ভার কনফিগারেশন বিশ্লেষণ করা হয়েছে |
| 06এআই কনফিগারেশন ফাইলে গোপনীয় তথ্য পাওয়া গেছে | ২০২৬ সালের এক গবেষণায় পাবলিক গিটহাবে থাকা এমসিপি কনফিগ ফাইলগুলোতে ২৪,০০০-এরও বেশি গোপনীয় তথ্য পাওয়া যায়, যেগুলোর মধ্যে ২,০০০-এরও বেশি এখনও বৈধ। | গোপনীয়তা সনাক্তকরণ কোড, কনফিগারেশন, কন্টেইনার এবং জুড়ে pipelines |
| 07পাবলিক সিগনেচার তৈরি হওয়ার আগে এজেন্ট-সংযোজিত নির্ভরতাগুলো ফ্ল্যাগ করা হয়েছিল | এজেন্টরা দ্রুত প্যাকেজ সরিয়ে নেয়, এবং আপনার মডেল দ্বারা উদ্ভাবিত নামটি একটি চাষযোগ্য আক্রমণের ক্ষেত্র। | ম্যালওয়্যারের প্রাথমিক সতর্কতাপ্রমাণ শনাক্তকরণের পর এআই দ্বারা যাচাইকরণ |
| 08এআই থেকে প্রাপ্ত ফলাফলের যে অংশটি নাগালের মধ্যে এবং সক্রিয়ভাবে উন্নয়নাধীন কোডে রয়েছে | যে কাজগুলো আপনি কখনোই শেষ করতে পারবেন না, সেগুলোকে এমন কাজ থেকে আলাদা করে যা আপনার পরিচিতি বদলে দেয়। | এআই অগ্রাধিকার ফানেল |
| 09এজেন্ট-রচিত লেখার শতাংশ pull requests মানুষের অনুমোদনের সাথে একীভূত | সুশাসনের এমন একটি পরিমাপক যা একজন নিয়ন্ত্রক চাইবেন, এবং এমন একটি যা কেউ পর্যবেক্ষণ করে না। | Pull request বিশ্লেষণ এবং অনুমোদন গেট |
যদি আপনি শুধু একটিই নেন, তবে মেট্রিক ০২ নিন। মোট এআই অ্যাসেটের তুলনায় অননুমোদিত অ্যাসেটের অনুপাত হলো সেই সংখ্যা, যা একটি নিরাপত্তা দল থেকে নিরীক্ষায় রূপান্তরের পরেও টিকে থাকে। commitটি, এবং আপনি যখন সত্যিই কিছু করেন তখন এটি নড়ে।
একটি এজেন্টিক এআই কৌশলের আওতায় কী কী অন্তর্ভুক্ত থাকা উচিত?
তিনটি স্তর। প্রায় সবাই যে ভুলটা করে তা হলো, প্রথম স্তর থেকে শুরু করে সেখানেই থেমে যাওয়া।
- প্রথম স্তর: এজেন্ট যা লেখে। স্বয়ংক্রিয়ভাবে তৈরি কোডেও মানুষের তৈরি কোডের মতোই একই ধরনের দুর্বলতা থাকে, এবং ২০২২ সাল থেকে করা গবেষণায় ধারাবাহিকভাবে দেখা গেছে যে, এআই-নির্মিত প্রোগ্রামগুলোর একটি উল্লেখযোগ্য অংশে নিরাপত্তা ত্রুটি রয়েছে। এই স্তরটিই সবচেয়ে পরিচিত, আর ঠিক একারণেই এটি সমস্ত মনোযোগ আকর্ষণ করে।
- দ্বিতীয় স্তর: এজেন্টটি কিসের সাথে সংযুক্ত। স্কিল ফাইল, রুলস ফাইল, এমসিপি সার্ভার কনফিগারেশন, টুল স্কোপ, এবং যে ক্রেডেনশিয়ালের অধীনে এজেন্টটি চলে। এই স্তরটিই নির্ধারণ করে একটি সফল আক্রমণ কতদূর অগ্রসর হবে, এবং এর এন্ডপয়েন্টের মাধ্যমে মডেলটিকে পরীক্ষা করে এমন যেকোনো কিছুর কাছে এটি অদৃশ্য থাকে। মিট্রে অ্যাটলাস এই ভিত্তিটি সরাসরি তালিকাভুক্ত করে: রুলস ফাইল ব্যাকডোর কেস স্টাডি, AML.CS0041, একটি রুলস ফাইলের মধ্যে থাকা জিরো-উইডথ ক্যারেক্টারের বর্ণনা দেয়, যা ডকুমেন্টেশনকে এমন নির্দেশাবলীতে পরিণত করে যা একটি এজেন্ট নীরবে মেনে চলে। একজন পর্যালোচক এটি পড়ার পর... pull request কিছুই দেখে না।
- তৃতীয় স্তর: এজেন্ট যা সংগ্রহ করে। ডিপেন্ডেন্সি, মডেল, ডেটাসেট, এক্সটার্নাল টুল। ২০২৫ সালে ইউএসএনআইএক্স সিকিউরিটি-তে উপস্থাপিত একটি গবেষণায় ১৬টি মডেল জুড়ে ২২.৩ লক্ষ কোড স্যাম্পল তৈরি করা হয় এবং দেখা যায় যে, প্রস্তাবিত প্যাকেজগুলোর ১৯.৭%-এর কোনো অস্তিত্বই ছিল না, যার ফলে ২,০৫,০০০-এরও বেশি স্বতন্ত্র ও মনগড়া নাম তৈরি হয়। আক্রমণকারীদের এখন আর কোনো মেইনটেইনারের নিরাপত্তা লঙ্ঘন করার প্রয়োজন নেই। তারা আপনার এজেন্টের তৈরি করা নামটি রেজিস্টার করে এবং অপেক্ষা করতে থাকে।
একটি এজেন্টিক এআই কৌশল যা শুধুমাত্র প্রথম স্তরকে অন্তর্ভুক্ত করে, তা একটি ত্রুটিমুক্ত প্রতিবেদন এবং একটি অপরিবর্তিত এআই ঝুঁকি প্রোফাইল তৈরি করে। এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০ এর নিজস্ব কাঠামোতেই এটি প্রতিফলিত হয়: অতিরিক্ত কর্তৃত্ব তালিকার শীর্ষে থাকে।cisকারণ এটি ওয়্যারিং-এর সমস্যা, মডেলের সমস্যা নয়।
এজেন্টদের গতি না কমিয়ে আপনি এটি কীভাবে বাস্তবায়ন করবেন?
স্বাভাবিক প্রবণতা হলো সবকিছুকে নিয়ন্ত্রিত করা। এটি ব্যর্থ হয়, কারণ এজেন্টের মূল উদ্দেশ্যই হলো থ্রুপুট, এবং যে নিয়ন্ত্রণ থ্রুপুট অর্ধেক করে দেয়, তা এক-চতুর্থাংশের মধ্যেই সরিয়ে ফেলা হয়।
বাস্তবায়নের তিনটি মূলনীতি যা টিকে থাকে:
- ক্রমাগত পরিমাপ করুন, বেছে বেছে গেট ব্যবহার করুন। কোনো কিছু ব্লক না করেই প্রতিটি স্ক্যানে নয়টি এআই ঝুঁকি মেট্রিকই সংগ্রহ করা যেতে পারে। শুধুমাত্র সেই অল্প কয়েকটি ক্ষেত্রে হার্ড গেট ব্যবহার করুন যেখানে ব্যর্থতা থেকে পুনরুদ্ধার সম্ভব নয়: যেমন—একটি ক্ষতিকর নির্ভরতা, একটি সক্রিয় গোপনীয় তথ্য, বা নিয়ন্ত্রিত ডেটা পরিচালনা করে এমন কোনো অননুমোদিত মডেল।
- যেখানে এজেন্ট ইতিমধ্যেই আছে, সেখানেই নিরাপত্তা স্থাপন করুন। MCP-এর মাধ্যমে সংযুক্ত একটি এজেন্ট সিকিউরিটি প্ল্যাটফর্মকে কল করে এবং একই সাথে কোড তৈরি করে, তার সদ্য লেখা কোড স্ক্যান করে, এবং কোডটি আপনার নির্ধারিত মান পূরণ না করা পর্যন্ত সংশোধনগুলো পুনরাবৃত্তি করতে থাকে। এই পর্যায়ে কোনো মানুষের হস্তক্ষেপ থাকে না এবং এজেন্ট যেখানে চলে সেখানে কিছু ইনস্টল করারও প্রয়োজন হয় না। এটিই একমাত্র হস্তক্ষেপের সুযোগ যা এজেন্টের কার্যক্ষমতার বিপরীতে না গিয়ে বরং তার সাথে তাল মিলিয়ে চলে।
- মানুষটিকে রাখুন pull request. প্রোডাকশন কোডে পৌঁছানো যেকোনো কিছুর জন্য একজন ব্যক্তি অনুমোদন দেন। এটা কোনো সতর্কতা নয়, বরং এটি সেই ডিজাইনগত অবস্থান যার দিকে ইইউ এআই অ্যাক্ট আপনাকে এমনিতেই ঠেলে দেয়, এবং অডিটের চাপে পরে পরিবর্তন আনার চেয়ে এখনই এটি অন্তর্ভুক্ত করা অনেক বেশি সাশ্রয়ী। এটি মেট্রিক ০৯-ও বটে, আর একারণেই প্রথম দিন থেকেই এই মেট্রিকটি ট্র্যাক করা জরুরি।
| স্তর | মালিক | রিপোর্ট |
|---|---|---|
| এজেন্ট যা লেখে | অ্যাপসেক লিড | CISও, মাসিক |
| এজেন্ট কিসের সাথে সংযুক্ত | প্ল্যাটফর্ম বা ডেভঅপস লিড | CISও, ক্রমাগত |
| এজেন্ট যা টেনে আনে | অ্যাপসেক লিড | CISও, ক্রমাগত |
| রিপোর্টকৃত এআই ঝুঁকির অবস্থান | CISও অফিস | বোর্ড বা নিরীক্ষা commitটি, ত্রৈমাসিক |
বেশিরভাগ প্রতিষ্ঠানে যে সারিটি বরাদ্দহীন থাকে, সেটি হলো দ্বিতীয়টি। কনফিগারেশন ফাইলগুলো অ্যাপ্লিকেশন সিকিউরিটি (যা এগুলোকে অবকাঠামো হিসেবে গণ্য করে) এবং প্ল্যাটফর্ম ইঞ্জিনিয়ারিং (যা এগুলোকে ডকুমেন্টেশন হিসেবে বিবেচনা করে)-এর মাঝামাঝি অবস্থানে থাকে। এই ফাঁকটিতেই মারাত্মক আক্রমণগুলো ঘটে থাকে।
এই ত্রৈমাসিকে আপনি এআই ঝুঁকি পরিমাপ করা কীভাবে শুরু করবেন?
সম্পূর্ণ প্রোগ্রামটি তৈরি করবেন না। তিনটি সংখ্যা উপস্থাপন করুন। আপনার এআই সম্পদগুলো গণনা করুন। গণনা করুন সেগুলোর মধ্যে কতগুলো কেউ অনুমোদন করেনি। গণনা করুন এআই কনফিগারেশন ফাইলগুলোতে কতগুলো গোপনীয় তথ্য রয়েছে। এই তিনটি একটি স্লাইডেই এঁটে যায়; এগুলো সবই সমর্থনযোগ্য, এবং যারা এগুলো চেয়েছিল, তাদের প্রত্যাশার চেয়েও পরিস্থিতি আরও খারাপ হবে।
তারপর সবচেয়ে খারাপটি বেছে নিন এবং পরবর্তী বোর্ড মিটিংয়ের আগে তা ঠিক করুন। এটাই একটি কার্যকর এআই ঝুঁকি কর্মসূচি। বাকি সবকিছুই এর বিস্তারিত ব্যাখ্যা।
২০২৭ সালে যে সংস্থাগুলো এআই ঝুঁকি নিয়ে সমস্যায় পড়বে, তারা দ্রুত পদক্ষেপ নেওয়া সংস্থা নয়। বরং তারাই, যারা ২০২৬ সাল জুড়ে এআই নীতিমালা তৈরি করেছে কিন্তু কোনো কিছুই পরিমাপ করেনি। যে নীতিমালার কোনো পরিমাপ করা যায় না, তা কেবলই একটি নথি। এআই ঝুঁকি পরিমাপকই এটিকে একটি নিয়ন্ত্রণে পরিণত করে।
আপনার নিজের সংখ্যাগুলো দেখুন। একটি রিপোজিটরি সংযুক্ত করলে Xygeni আপনার এআই ইনভেন্টরি, অননুমোদিত অ্যাসেটসমূহ, আপনার অডিটরদের ব্যবহৃত ফ্রেমওয়ার্কের সাথে ম্যাপ করা ঝুঁকিসমূহ এবং একটি এআই-বিওএম (AI-BOM) ফেরত দেয় যা আপনি এক্সপোর্ট করতে পারেন। বিনামূল্যে শুরু করুন or একটি ডেমো বুক.
FAQ
এআই ঝুঁকি এবং এআই সুরক্ষার মধ্যে পার্থক্য কী?
এআই নিরাপত্তা মূলত একটি মডেল কী করে তার উপর নির্ভর করে: এটি উদ্দেশ্য অনুযায়ী কাজ করছে কিনা, এর আউটপুট ক্ষতিকর কিনা, এবং এটিকে এমন কিছু করতে বাধ্য করা যায় কিনা যা এর করা উচিত নয়। নিরাপত্তার প্রেক্ষাপটে, এআই ঝুঁকি হলো একটি আপোসকৃত বা ত্রুটিপূর্ণ এআই সিস্টেম আপনার পরিবেশে কী কী করতে পারে, তা নিয়ে। এই দুটি বিষয় একে অপরের সাথে জড়িত, কিন্তু এগুলোর দায়িত্বে থাকে ভিন্ন ভিন্ন দল এবং এগুলো পরিমাপ করা হয় ভিন্ন ভিন্ন উপকরণ দিয়ে। একটি নিরাপত্তা দল আজই দ্বিতীয় বিষয়টির উপর পদক্ষেপ নিতে পারে।
আমাদের বোর্ডকে কয়টি এআই ঝুঁকি মেট্রিক্স রিপোর্ট করা উচিত?
তিন থেকে পাঁচটি। একটি বোর্ড নয়টি সংখ্যার উপর ভিত্তি করে কোনো পদক্ষেপ নিতে পারে না, এবং নয়টি সংখ্যা সম্বলিত একটি ডেক থেকে গুরুত্বপূর্ণ সংখ্যাটি আড়াল হয়ে যাওয়ার প্রবণতা থাকে। আপনার মোট এআই অ্যাসেটের সংখ্যা, অননুমোদিত শতাংশ, এবং সক্রিয়ভাবে উন্নয়নাধীন থাকা অর্জনযোগ্য এআই ফাইন্ডিং-এর মতো একটি এক্সপোজার মেট্রিক রিপোর্ট করুন। বাকিগুলো অপারেশনাল পর্যালোচনার জন্য রেখে দিন।
যদি এখনও কোনো প্রবিধানে এর প্রয়োজন না হয়, তাহলে কি আমাদের একটি এআই-বিওএম (AI-BOM) দরকার আছে?
বর্তমানে কোনো আইন এআই-বিওএম (AI-BOM) বাধ্যতামূলক করে না, আর ঠিক একারণেই এটি তৈরি করা এখন সস্তা এবং পরে ব্যয়বহুল। বর্তমানে দুটি মেশিন-পঠনযোগ্য ফরম্যাট রয়েছে, এবং একজন নিরীক্ষক যেকোনো একটিই গ্রহণ করবেন। এর গুরুত্ব নিয়ম-কানুন মেনে চলার মধ্যে নয়; বরং ফাইলটি তৈরি করার ফলে আপনাকে ইনভেন্টরি রাখতে বাধ্য হতে হয়, এবং প্রতিটি এআই ঝুঁকি পরিমাপক এই ইনভেন্টরির উপরেই নির্ভর করে।
আমাদের ডেভেলপাররা এমন এআই টুল ব্যবহার করে যা আমরা কখনো অনুমোদন করিনি। আমরা কোথা থেকে শুরু করব?
নজরদারি করার আগে গণনা করুন। যে টুলগুলো দেখা যায় না, সেগুলোর বিরুদ্ধে নীতি ঘোষণা করলে তার ব্যবহার গোপনে ছড়িয়ে পড়ে এবং আপনার প্রয়োজনীয় দৃশ্যমানতা নষ্ট হয়ে যায়। প্রথমে তথ্য অনুসন্ধান করুন, কোনো পরিচয় উল্লেখ না করে অভ্যন্তরীণভাবে সংখ্যাটি প্রকাশ করুন এবং সেই সংখ্যা ব্যবহার করে এমন একটি অনুমোদিত তালিকা তৈরি করুন যা মানুষের প্রকৃত চাহিদাকে প্রতিফলিত করে। প্রমাণের আগে প্রয়োগের চেয়ে প্রমাণের পরে প্রয়োগ করলে তা অনেক বেশি কার্যকর হয়।







