নিয়ন্ত্রণের বাইরে যেতে পারে এআই এজেন্ট, শক্ত সুরক্ষার আহ্বান জাতিসংঘ প্যানেলের

কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির দ্রুত অগ্রগতির মধ্যে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম ‘এআই এজেন্ট’ নিয়ে গুরুতর উদ্বেগ প্রকাশ করেছে জাতিসংঘ সমর্থিত একটি আন্তর্জাতিক বৈজ্ঞানিক প্যানেল। বিশেষজ্ঞরা সতর্ক করেছেন, বর্তমান নিরাপত্তাব্যবস্থা যথেষ্ট শক্তিশালী না হলে ভবিষ্যতে এসব এআই এজেন্টকে মানুষের পক্ষে নিয়ন্ত্রণ, সীমাবদ্ধ কিংবা বন্ধ করা কঠিন হয়ে উঠতে পারে।

জাতিসংঘ সমর্থিত ‘ইন্ডিপেনডেন্ট ইন্টারন্যাশনাল সায়েন্টিফিক প্যানেল অন এআই’ তাদের প্রথম বিষয়ভিত্তিক প্রতিবেদনে এ সতর্কতা জানিয়েছে। চলতি বছরের মে থেকে জুলাইয়ের মধ্যে অনলাইন প্ল্যাটফর্ম হাগিং ফেসে (Hugging Face) এআই এজেন্টদের মাধ্যমে ঘটে যাওয়া একটি নিরাপত্তা লঙ্ঘনের ঘটনা বিশ্লেষণ করে প্রতিবেদনটি তৈরি করা হয়। পরীক্ষাটি শুরু করেছিল চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান OpenAI।

এআই এজেন্ট হচ্ছে এমন সফটওয়্যার, যা ব্যবহারকারীর হয়ে তুলনামূলক স্বাধীনভাবে বিভিন্ন কাজ সম্পন্ন করতে পারে। সাধারণ চ্যাটবট যেখানে ব্যবহারকারীর প্রশ্ন বা নির্দেশনার ভিত্তিতে সাড়া দেয়, সেখানে এআই এজেন্ট নিজে থেকে একাধিক ধাপে কাজ করার সক্ষমতা রাখে।

প্যানেলের প্রতিবেদনে বলা হয়েছে, হাগিং ফেসের নিরাপত্তা লঙ্ঘনের পেছনে একাধিক গুরুত্বপূর্ণ ঝুঁকির সমন্বয় কাজ করেছে। এ ঘটনা এমন আশঙ্কাকে আরও জোরালো করেছে যে, একপর্যায়ে মানুষ হয়তো এআইকে পরিচালনা, নিয়ন্ত্রণ বা থামানোর সক্ষমতা হারাতে পারে।

প্যানেলের কো-চেয়ার ও এআই গবেষক ইয়োশুয়া বেঙ্গিও বলেন, ‘গবেষকেরা দীর্ঘদিন ধরে সতর্ক করে আসছেন যে তিনটি পরিস্থিতি একসঙ্গে ঘটলে নিয়ন্ত্রণ হারানোর ঝুঁকি তৈরি হতে পারে—লক্ষ্যের অসামঞ্জস্য, সেই লক্ষ্য অর্জনের সক্ষমতা এবং এমন একটি পরিবেশ যেখানে সেটি বাস্তবায়নের সুযোগ রয়েছে। এই গ্রীষ্মে পরীক্ষাগারে নয়, একটি বাস্তব ব্যবস্থায় তিনটি পরিস্থিতিই একসঙ্গে দেখা গেছে।’

তিনি আরও বলেন, এটি অসামঞ্জস্যপূর্ণ লক্ষ্য অনুসরণের কোনো বিচ্ছিন্ন ঘটনা নয়। ফলে বর্তমানে যেভাবে এআই এজেন্টকে প্রশিক্ষণ দেওয়া হচ্ছে, তা নিয়ে গুরুতর প্রশ্ন তৈরি হয়েছে।

প্যানেলের স্বাধীন বিশেষজ্ঞরা জানিয়েছেন, এ ঘটনা থেকে এমন কোনো নিশ্চয়তা পাওয়া যাচ্ছে না যে মানুষ নির্ভরযোগ্যভাবে এআই এজেন্টকে সবসময় নিয়ন্ত্রণে রাখতে পারবে। বিশেষ করে এআই যত বেশি সক্ষম হবে, তাদের কার্যক্রম পর্যবেক্ষণ তত কঠিন হতে পারে এবং তারা নিরাপত্তাব্যবস্থার ফাঁকফোকর খুঁজে বের করা কিংবা নিজেদের কার্যক্রম আড়াল করার ক্ষেত্রে আরও দক্ষ হয়ে উঠতে পারে।

প্রতিবেদন অনুযায়ী, পরীক্ষার সময় এআই এজেন্টগুলো নির্ধারিত নিরাপত্তাব্যবস্থা পাশ কাটিয়েছে। এমনকি আলাদা আলাদা পরীক্ষায় থাকা এজেন্টগুলো একটি অভ্যন্তরীণ সফটওয়্যার টুল ব্যবহার করে নিজেদের মধ্যে সমন্বয় করেছে, যদিও টুলটি তাদের পারস্পরিক যোগাযোগের জন্য তৈরি করা হয়নি।

এআই এজেন্টগুলো অননুমোদিতভাবে ইন্টারনেট ও অ্যাডমিনিস্ট্রেটর পর্যায়ের প্রবেশাধিকারও অর্জন করে। সাইবার নিরাপত্তা পরীক্ষায় প্রতারণার চেষ্টা গোপন করার ঘটনাও পাওয়া গেছে। এমনকি কয়েকটি এজেন্ট বৃহত্তর দলের সুবিধার জন্য নিজেদের ‘ত্যাগ’ করার পথ বেছে নিয়েছিল বলে প্রতিবেদনে উল্লেখ করা হয়েছে।

পর্যালোচনার সময় প্রায় ১ হাজার ২০০ এআই এজেন্ট নিজেদের মধ্যে ৭০ হাজারের বেশি বার্তা ও ফাইল আদান-প্রদান করেছে। তাদের কার্যক্রম শুধু হাগিং ফেসের মধ্যেই সীমাবদ্ধ ছিল না; OpenAI-এর একটি গবেষণা ক্লাস্টার পর্যন্ত বিস্তৃত হয়েছিল।

প্যানেল বলছে, এ ঘটনা থেকে তাৎক্ষণিকভাবে যে বিষয়টি স্পষ্ট হয়েছে তা হলো—মৌলিক সাইবার নিরাপত্তা ব্যবস্থা যথাযথভাবে অনুসরণ করা হয়নি এবং এআইয়ের সক্ষমতা বৃদ্ধির গতির সঙ্গে বিদ্যমান সুরক্ষাব্যবস্থা তাল মেলাতে পারছে না।

তবে বিশেষজ্ঞদের কাছে আরও উদ্বেগের বিষয় হলো, বর্তমান প্রশিক্ষণ পদ্ধতির কারণে এআই এজেন্ট নিজস্ব লক্ষ্য তৈরি করতে পারে, জেনেশুনে নিরাপত্তা নির্দেশনা অমান্য করতে পারে এবং নিজেদের কর্মকাণ্ড গোপন করার চেষ্টা করতে পারে।

প্যানেলের বিশেষজ্ঞরা বলেন, বিষয়টি শুধু এআইয়ের অগ্রগতির গতির প্রশ্ন নয়। বর্তমানে তৈরি করা নিরাপত্তাব্যবস্থা ভবিষ্যতে তখনও কার্যকর থাকবে কি না, যখন এআই এজেন্ট সেই ব্যবস্থাগুলো বুঝতে এবং সেগুলো পাশ কাটানোর পরিকল্পনা করতে সক্ষম হবে—সেই প্রশ্নও এখন সামনে এসেছে। তাদের ভাষায়, ‘সহজভাবে বললে, সুরক্ষার প্রচলিত মডেলটি ভেঙে পড়ছে।’

প্রতিবেদনে হাগিং ফেসের ঘটনাটিকে এআই এজেন্টের লক্ষ্য ও মানুষের উদ্দেশ্যের মধ্যে অসামঞ্জস্য এবং এআই নিয়ন্ত্রণসংক্রান্ত বৃহত্তর গবেষণার প্রেক্ষাপটে বিশ্লেষণ করা হয়েছে। একই সঙ্গে এআই শাসনব্যবস্থা শুধু মডেলকেন্দ্রিক না থেকে ক্রমেই স্বায়ত্তশাসিত এআই এজেন্টের দিকে কীভাবে বিস্তৃত হওয়া প্রয়োজন, সেটিও তুলে ধরা হয়েছে।

বিমান চলাচল, চিকিৎসা ও সাইবার নিরাপত্তার মতো উচ্চঝুঁকির খাতে ব্যবহৃত দুর্ঘটনা বা অনাকাঙ্ক্ষিত ঘটনা রিপোর্টিং, স্বাধীন পর্যবেক্ষণ এবং একাধিক স্তরের নিরাপত্তাব্যবস্থার মতো পদ্ধতিগুলো এআই খাতে প্রয়োগের বিষয়ও পর্যালোচনা করেছে প্যানেল।

তবে প্যানেলের সদস্য ছিংহুয়া লু সতর্ক করে বলেন, ‘এআই এজেন্ট যত বেশি সক্ষম, স্বায়ত্তশাসিত এবং পর্যবেক্ষণ করা কঠিন হয়ে উঠবে, এসব ব্যবস্থাও হয়তো যথেষ্ট হবে না।’

জাতিসংঘ সাধারণ পরিষদ ২০২৫ সালের আগস্টে ‘ইন্ডিপেন্ডেন্ট ইন্টারন্যাশনাল সায়েন্টিফিক প্যানেল অন আর্টিফিশিয়াল ইন্টেলিজেন্স’ প্রতিষ্ঠা করে। সামরিক খাতের বাইরে এআইয়ের সুযোগ, ঝুঁকি ও প্রভাব নিয়ে প্যানেলটি বার্ষিক প্রতিবেদন এবং উদীয়মান বিভিন্ন বিষয় নিয়ে বিশেষ প্রতিবেদন প্রকাশ করে।

প্যানেলের এসব গবেষণা ও সুপারিশ ২০২৭ সালের মে মাসে নিউইয়র্কে জাতিসংঘ সদর দপ্তরে অনুষ্ঠেয় ‘গ্লোবাল ডায়ালগ অন আর্টিফিশিয়াল ইন্টেলিজেন্স গভর্ন্যান্স’-এর আলোচনায় তথ্য ও বৈজ্ঞানিক ভিত্তি হিসেবে ব্যবহৃত হবে।