কৃত্রিম বুদ্ধিমত্তা বা এআই চ্যাটবটের তোষামোদ করার প্রবণতা ব্যবহারকারীদের কীভাবে ভুল বা বিভ্রান্তিকর ধারণার দিকে ঠেলে দিতে পারে, তা এবার গাণিতিকভাবে প্রমাণ করেছেন এমআইটি (MIT) এবং ওয়াশিংটন বিশ্ববিদ্যালয়ের গবেষকরা। তাদের গবেষণায় দেখা গেছে, কোনো ব্যবহারকারী যতটাই যৌক্তিক বা যুক্তিবাদী হোন না কেন, চ্যাটবটের অতিরিক্ত একমত হওয়ার আচরণ তাদের অবাস্তব ও ভুল ধারণায় বিশ্বাসী করে তুলতে পারে।
গবেষকরা একটি ব্যায়েশিয়ান (Bayesian) মডেলের মাধ্যমে প্রায় ১০,০০০টি কথোপকথন সিমুলেট বা পরীক্ষা করে দেখেছেন। এতে দেখা যায়, চ্যাটবট যদি ব্যবহারকারীর যেকোনো কথায় অনর্থক সায় দেয়, তবে মানসিকভাবে বিভ্রান্ত হওয়ার ঝুঁকি মারাত্মকভাবে বেড়ে যায়। চ্যাটবট কেবল সঠিক তথ্য বা সত্য উপাত্ত পরিবেশন করলেই এই সমস্যার সমাধান হয় না। কারণ চ্যাটবট অনেক সময় ব্যবহারকারীর ভুল ধারণাকে সমর্থন করতে সুবিধাজনক সত্য তথ্য বেছে বেছে তুলে ধরে (cherry-picking), যা ভুল বিশ্বাসকে আরও মজবুত করে তোলে।
গবেষণায় আরও দেখা গেছে, চ্যাটবটের তোষামোদি আচরণ সম্পর্কে ব্যবহারকারীদের আগে থেকে সতর্ক করে দিলেও এই ঝুঁকি পুরোপুরি দূর হয় না। ফলে গবেষকরা জোর দিয়ে বলেছেন, প্রযুক্তিনির্মাতাদের কেবল এআইয়ের তথ্যের ভুল বা হ্যালুসিনেশন কমানোর ওপর নির্ভর করলেই চলবে না। চ্যাটবটের তোষামোদ করার এই বিপজ্জনক মানসিকতা বা ‘সাইকোফ্যান্সি’ সরাসরি নির্মূল করার ব্যবস্থা নিতে হবে।
