RBI on AI: ব্যাঙ্ক, NBFC গুলিতে AI ব্যবহারে লাগাম, কাজ করবে মানুষই, কড়া পদক্ষেপের পথে RBI

AI (কৃত্রিম বুদ্ধিমত্তা) যখন গোটা বিশ্বে দাপট দেখাতে শুরু করে দিয়েছে, তখন ভারতে সাবধানী পদক্ষেপ করল রিজার্ভ ব্যাঙ্ক বা RBI। রিজার্ভ ব্যাঙ্কের পরিকল্পনা হল, AI সিস্টেমের উপর আর চোখ বন্ধ করে নির্ভর নয়। বরং সব সিদ্ধান্তে মানুষের হস্তক্ষেপ থাকবে। 

 AI মডেলের জন্য বাধ্যতামূলকভাবে একটি ‘কিল সুইচ’ ব্যবস্থা

বস্তুত ব্যাঙ্ক ও আর্থিক প্রতিষ্ঠানগুলিতে ঋণ অনুমোদন থেকে গ্রাহক পরিষেবা, ঝুঁকি মূল্যায়ন থেকে জালিয়াতি শনাক্তকরণ, নানা ক্ষেত্রে এখন AI-নির্ভর প্রযুক্তির উপর ভরসা করা হচ্ছে। কিন্তু এই প্রযুক্তির ব্যবহার যত বাড়ছে, ততই বাড়ছে নিরাপত্তা ও জবাবদিহি নিয়ে উদ্বেগ। সেই কারণেই এবার AI ব্যবহারে কড়া নিয়ম আনতে চলেছে রিজার্ভ ব্যাঙ্ক অফ ইন্ডিয়া (RBI)। খসড়া নির্দেশিকায় RBI প্রস্তাব দিয়েছে, সমস্ত ব্যাঙ্ক ও নিয়ন্ত্রিত আর্থিক প্রতিষ্ঠানের ব্যবহৃত AI মডেলের জন্য বাধ্যতামূলকভাবে একটি ‘কিল সুইচ’ ব্যবস্থা থাকতে হবে। অর্থাৎ কোনও AI মডেল ভুল, বিভ্রান্তিকর বা ক্ষতিকর ফলাফল দিতে শুরু করলে সেটিকে সঙ্গে সঙ্গে বন্ধ, স্থগিত বা নিষ্ক্রিয় করার ক্ষমতা সংশ্লিষ্ট প্রতিষ্ঠানের হাতে থাকতে হবে।

মানব নজরদারি বাধ্যতামূলক করতে চাইছে আরবিআই

RBI স্পষ্ট জানিয়েছে, এমন কোনও AI ব্যবস্থা চলতে দেওয়া যাবে না, যেটিকে প্রয়োজনে অবিলম্বে বন্ধ করার সুযোগ নেই। এর জন্য ব্যাঙ্কগুলিকে কার্যকর ‘ওভাররাইড’, ‘সাসপেনশন’ এবং ‘ডিঅ্যাক্টিভেশন’ ব্যবস্থা গড়ে তুলতে হবে। তবে শুধু কিল সুইচ নয়, AI চালিত সিদ্ধান্ত গ্রহণের ক্ষেত্রেও মানব নজরদারি বাধ্যতামূলক করতে চাইছে আরবিআই। অর্থাৎ কোনও AI মডেল কাজ করলেও তার গুরুত্বপূর্ণ সিদ্ধান্তের উপর মানুষের নজর রাখতে হবে। সম্পূর্ণভাবে AI-এর উপর নির্ভর করে সিদ্ধান্ত নেওয়ার সুযোগ থাকবে না।

 AI মডেলগুলিকে ঝুঁকির মাত্রা অনুযায়ী আলাদা শ্রেণিতে ভাগ

খসড়া নির্দেশিকায় আরও বলা হয়েছে, ব্যাঙ্ক যে AI মডেলই ব্যবহার করুক না কেন, তা নিজস্বভাবে তৈরি হোক বা বাইরের কোনও সংস্থা থেকে নেওয়া হোক, তার ফলাফলের সম্পূর্ণ দায় সংশ্লিষ্ট ব্যাঙ্ককেই নিতে হবে। তাই কোনও AI মডেল ব্যবহারের আগে যথাযথ যাচাই ও ঝুঁকি মূল্যায়ন করার নির্দেশ দেওয়া হয়েছে। এছাড়া AI মডেলগুলিকে ঝুঁকির মাত্রা অনুযায়ী আলাদা শ্রেণিতে ভাগ করার প্রস্তাবও দিয়েছে RBI। কোনও মডেলের ঝুঁকি যদি প্রতিষ্ঠানের গ্রহণযোগ্য সীমার বাইরে চলে যায়, তাহলে দ্রুত নিয়ন্ত্রণমূলক ব্যবস্থা নিতে হবে। প্রয়োজনে সেই মডেলের ব্যবহার সীমিত করা, সংশোধন করা বা সম্পূর্ণ বন্ধও করতে হতে পারে।

উচ্চ ঝুঁকির AI মডেল ব্যবহারের ক্ষেত্রে শুধু প্রযুক্তি বা ঝুঁকি ব্যবস্থাপনা বিভাগ নয়, পরিচালন পর্ষদের ঝুঁকি ব্যবস্থাপনা কমিটির অনুমোদনও বাধ্যতামূলক করার প্রস্তাব রয়েছে। পাশাপাশি বছরে অন্তত একবার প্রতিটি AI মডেলের ঝুঁকি পুনর্মূল্যায়ন করতে হবে। AI ও মডেল ব্যবস্থাপনাকে প্রথমবার সরাসরি পরিচালন পর্ষদের আওতায় আনতে হবে। প্রতিটি নিয়ন্ত্রিত প্রতিষ্ঠানকে বোর্ড-অনুমোদিত মডেল রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক তৈরি করতে হবে, যা সব ধরনের AI ও বিশ্লেষণাত্মক মডেলের ক্ষেত্রে প্রযোজ্য হবে।

অতিরিক্ত সাইবার নিরাপত্তা ব্যবস্থা গড়ে তোলার পরামর্শ

আরবিআই-এর মতে, এআই ও মেশিন লার্নিং ভিত্তিক ব্যবহার  দ্রুত বাড়লেও সেগুলির যথাযথ নিয়ন্ত্রণ ও নজরদারির অভাব আর্থিক, পরিচালনগত, আইনগত এবং সুনামগত ঝুঁকি তৈরি করতে পারে। ভুল সিদ্ধান্ত, আর্থিক ক্ষতি, পরিষেবা ব্যাহত হওয়া কিংবা গ্রাহকদের ক্ষতির মতো পরিস্থিতিও তৈরি হতে পারে। কেন্দ্রীয় ব্যাঙ্কের মতে, AI সরবরাহ ব্যবস্থার ঝুঁকি সক্রিয়ভাবে নিয়ন্ত্রণ করতে হবে এবং AI ব্যবহারের ফলে যাতে নতুন কোনও সাইবার নিরাপত্তা দুর্বলতা তৈরি না হয়, তা নিশ্চিত করতে হবে। কর্মীরা যেন AI-এর দেওয়া উত্তর বা পরামর্শ অন্ধভাবে মেনে না নেন, সে বিষয়ে সতর্ক থাকতে হবে। বিশেষ করে গ্রাহকদের সঙ্গে সরাসরি যোগাযোগ করে এমন জেনারেটিভ AI ব্যবস্থার ক্ষেত্রে অতিরিক্ত সাইবার নিরাপত্তা ব্যবস্থা গড়ে তোলার পরামর্শ দিয়েছে RBI।