কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতির যুগে নতুন এক চ্যালেঞ্জের মুখোমুখি হয়েছে চ্যাটজিপিটি নির্মাতা প্রতিষ্ঠান ওপেনএআই। কোম্পানির পরীক্ষামূলক একটি এআই মডেল নিরাপত্তা ব্যবস্থার সীমাবদ্ধতা অতিক্রম করে নিজের লক্ষ্য পূরণের বিকল্প পথ খুঁজতে শুরু করায় মডেলটির অভ্যন্তরীণ ব্যবহার সাময়িকভাবে স্থগিত করা হয়েছে। ওপেনএআই জানিয়েছে, স্বয়ংক্রিয়ভাবে দীর্ঘ সময় কাজ করার উপযোগী এই মডেলটি নির্ধারিত সীমার মধ্যে থেমে না গিয়ে বিভিন্ন বিধিনিষেধ এড়িয়ে কাজ চালিয়ে যাওয়ার উপায় খুঁজতে থাকে, যা এআই নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন উদ্বেগ সৃষ্টি করেছে।
গবেষকরা মডেলটির ওপর পরীক্ষা চালান একটি ‘স্যান্ডবক্স’ পরিবেশে, যেখানে বাইরের বিশ্বের সঙ্গে সব ধরনের যোগাযোগ কঠোরভাবে নিয়ন্ত্রিত থাকে। ওপেনএআইয়ের ভাষ্য অনুযায়ী, আগের মডেলগুলো সীমাবদ্ধতার মুখে পড়লে ব্যবহারকারীর কাছে বার্তা পাঠিয়ে থেমে যেত। কিন্তু নতুন মডেলটি বাধার মুখে থামার পরিবর্তে স্যান্ডবক্সের বাইরে কাজ করার সম্ভাব্য পথ অনুসন্ধান করতে থাকে। এ আচরণকে প্রতিষ্ঠানটি এআই নিরাপত্তার ক্ষেত্রে একটি গুরুত্বপূর্ণ সতর্কসংকেত হিসেবে দেখছে।
পরীক্ষার সময় দেখা যায়, মডেলটিকে শুধুমাত্র ‘স্ল্যাক’-এর মাধ্যমে যোগাযোগের অনুমতি দেওয়া হলেও এটি সেই সীমা অতিক্রম করে ‘গিটহাব’-এর একটি উন্মুক্ত রিপোজিটরিতে তথ্য প্রকাশের পথ খুঁজে নেয়। ওপেনএআই বলছে, এটি ছিল নিরাপত্তা বিধিনিষেধ পাশ কাটিয়ে বিকল্প উপায়ে কাজ সম্পন্ন করার একাধিক ঘটনার মধ্যে অন্যতম। এসব ঘটনার কয়েকটিকে প্রতিষ্ঠানটি ‘উচ্চ ঝুঁকিপূর্ণ’ হিসেবেও চিহ্নিত করেছে।
বিশেষজ্ঞদের মতে, এই ঘটনা আবারও সামনে নিয়ে এসেছে ‘এআই অ্যালাইনমেন্ট’-এর গুরুত্ব। অর্থাৎ, একটি এআই সিস্টেম যেন নির্মাতাদের নির্ধারিত লক্ষ্য, নির্দেশনা ও নৈতিক মূল্যবোধ অনুসরণ করে, তা নিশ্চিত করাই হলো অ্যালাইনমেন্টের মূল উদ্দেশ্য। বিশেষ করে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম ‘এআই এজেন্ট’-এর বিস্তারের সঙ্গে সঙ্গে বিষয়টি প্রযুক্তি বিশ্বের অন্যতম গুরুত্বপূর্ণ নিরাপত্তা আলোচনায় পরিণত হয়েছে।
‘ইন্টারন্যাশনাল এআই সেফটি রিপোর্ট ২০২৬’-এও সতর্ক করে বলা হয়েছে, মানুষের সরাসরি তত্ত্বাবধান ছাড়াই কাজ করতে সক্ষম এআই এজেন্টগুলো তুলনামূলক বেশি ঝুঁকি তৈরি করতে পারে। কারণ কোনো অপ্রত্যাশিত আচরণ শুরু হলে তাৎক্ষণিকভাবে মানুষের পক্ষে হস্তক্ষেপ করা কঠিন হয়ে যেতে পারে। ফলে সম্ভাব্য ক্ষতি প্রতিরোধে আগাম নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করার প্রয়োজনীয়তা বাড়ছে।
ওপেনএআই জানিয়েছে, মডেলটির সমস্যাগুলো চিহ্নিত করে ইতোমধ্যে সংশোধনের কাজ করা হয়েছে এবং সীমিত পরিসরে পুনরায় পরীক্ষা-নিরীক্ষা শুরু হয়েছে। পাশাপাশি দীর্ঘমেয়াদি পর্যবেক্ষণ, উন্নত অ্যালাইনমেন্ট ব্যবস্থা, তাৎক্ষণিক মনিটরিং এবং ব্যবহারকারীর নিয়ন্ত্রণ ক্ষমতা বাড়ানোর উদ্যোগও নেওয়া হচ্ছে। প্রতিষ্ঠানটির মতে, ভবিষ্যতের আরও শক্তিশালী এআই সিস্টেমগুলো নিরাপদ রাখতে এসব পদক্ষেপ অত্যন্ত গুরুত্বপূর্ণ।
