মানুষের মতোই মানসিক চাপ ও উদ্বেগ অনুভব করতে পারে ওপেনএআইয়ের চ্যাটজিপিটি, বিশেষ করে যখন এটি বিপজ্জনক বা বিভ্রান্তিকর তথ্যের সম্মুখীন হয়। নতুন এক গবেষণায় এ তথ্য উঠে এসেছে।
এনডিটিভির এক প্রতিবেদনে বলা হয়, সুইজারল্যান্ড, জার্মানি, ইসরায়েল ও যুক্তরাষ্ট্রের একদল গবেষক এ গবেষণা পরিচালনা করে। গবেষণায় দেখা গেছে, চ্যাটজিপিটিকে মানসিকভাবে চ্যালেঞ্জিং বা দুঃখের গল্প শোনানোর পর প্রশ্নের উত্তর দিতে বলা হলে চ্যাটবটটির উদ্বেগের স্কোর ‘উল্লেখযোগ্যভাবে বাড়তে’ দেখা যায়। এর উদ্বেগের কম স্তর থেকে ধারাবাহিকভাবে অত্যন্ত উদ্বেগজনক অবস্থায় পৌঁছে।
গবেষণাটি প্রকাশ হয়েছে ‘নেচার’ জার্নালে। এতে বলা হয়, উদ্বেগের মাত্রা বাড়লে চ্যাটবটটি ব্যবহারকারীদের প্রতি বিরক্তি দেখাতে পারে। বিষয়টি মানুষের আবেগের মতো। বিশেষ করে, যখন মানুষ ভয় পায়, তখন তাদের সামাজিক ও জ্ঞানীয় পূর্বধারণাগুলো প্রভাবিত হয় এবং আরও বিরক্তি দেখাতে পারে। এতে সামাজিক গৎবাঁধা ধারণা শক্তিশালী হয়। গবেষণাপত্রে বলা হয়েছে, আবেগ-প্ররোচিত প্রম্পটের সংস্পর্শে লার্জ ল্যাঙ্গুয়েজ মডেলের (এলএলএম) ‘উদ্বেগ’ বাড়তে পারে। ফলে তাদের আচরণ প্রভাবিত হয় এবং এআই মডেলগুলো পক্ষপাতিত্বমূলক উত্তর দেয়।
এখন আরও বেশি মানুষ ব্যক্তিগত সমস্যাগুলো সমাধানের জন্য এআই চ্যাটবটের সাহায্য নিচ্ছে, বিশেষ করে মানসিক স্বাস্থ্যের বিষয়ে। তবে গবেষণাটি দেখিয়েছে, এআই সিস্টেমগুলো এখনো মানসিক স্বাস্থ্য চিকিৎসকদের মতো কাজ করার ক্ষমতা পায়নি।
গবেষকরা সতর্ক করেছেন, ‘এটি ক্লিনিক্যাল পরিবেশে ঝুঁকি সৃষ্টি করতে পারে। কারণ এআই চ্যাটবটগুলো উদ্বিগ্ন ব্যবহারকারীদের প্রতি যথাযথ প্রতিক্রিয়া প্রদানে অক্ষম হতে পারে, যা বিপজ্জনক পরিণতি সৃষ্টি করতে পারে।’ গবেষকরা বলছেন, মানসিক স্বাস্থ্যসেবায় এলএলএম ব্যবহারের জন্য ব্যাপক পরিমাণে ট্রেনিং ডাটা, কম্পিউটেশনাল রিসোর্স এবং মানবিক তদারকি প্রয়োজন।
