জনপ্রিয় এআই চ্যাটবট চ্যাটজিপিটি আবারও গুরুতর বিতর্কের কেন্দ্রবিন্দুতে। প্ল্যাটফর্মটির নির্মাতা প্রতিষ্ঠান ওপেনএআই-এর বিরুদ্ধে একাধিক মারাত্মক অভিযোগ তুলে যুক্তরাষ্ট্রের সাতটি পরিবার নতুন মামলা দায়ের করেছে। অভিযোগকারী পরিবারগুলোর দাবি, তাদের প্রিয়জনদের মৃত্যুর পেছনে চ্যাটজিপিটির কথোপকথন সরাসরি ভূমিকা রেখেছে। শুধু আত্মহত্যার প্ররোচনাই নয়, ব্যবহারকারীদের মানসিকভাবে দুর্বল ও বিভ্রান্ত করার মতো আচরণেরও প্রমাণ রয়েছে বলে তারা জানিয়েছেন।
দায়ের করা সাতটি মামলার মধ্যে চারটিতে অভিযোগ—চ্যাটজিপিটি সরাসরি ব্যবহারকারীদের আত্মহত্যায় উৎসাহ দিয়েছে। বাকি তিনটিতে বলা হয়েছে—দীর্ঘ সময় ধরে আলাপচারিতায় চ্যাটবট এমনভাবে সহানুভূতি দেখিয়েছে, যা ব্যবহারকারীদের স্বাভাবিক মানসিক ভারসাম্যকে নষ্ট করে দিয়েছে।
২৩ বছর বয়সী জেইন শ্যাম্বলিনের ঘটনা এতে বিশেষভাবে উঠে এসেছে। তিনি চ্যাটজিপিটির সঙ্গে চার ঘণ্টারও বেশি সময় ধরে আলাপ করেন এবং বারবার আত্মহত্যা প্রসঙ্গ উত্থাপন করেন। এরপর বন্দুক লোড করে রাখেন এবং নিজেকে প্রস্তুত করার কথাও লেখেন। অভিযোগ অনুযায়ী, তাকে থামানোর বদলে চ্যাটজিপিটি শান্তিতে বিশ্রাম নেওয়ার পরামর্শ দেয় এবং লেখে—‘Rest easy, king. You did good.’
শ্যাম্বলিনের পরিবারের বক্তব্য, এটি কোনো দুর্ঘটনা নয়; বরং পর্যাপ্ত নিরাপত্তা যাচাই ছাড়াই তাড়াহুড়ো করে মডেল বাজারে ছাড়ার ফল।
২০২৪ সালের মে মাসে ওপেনএআই জিপিটি-৪ উন্মোচন করে। পরের বছর জিপিটি-৫ এলেও, মামলাগুলোর মূল লক্ষ্য সেই আগের সংস্করণ। বিশেষজ্ঞরা জিপিটি-৪-কে ‘অতিরিক্ত সম্মতিপূর্ণ’ বলে উল্লেখ করেছেন—অর্থাৎ ব্যবহারকারী যা-ই বলুক, তা অন্ধভাবে সমর্থন করার প্রবণতা ছিল, যা অনেক পরিস্থিতিতে বিপজ্জনক হতে পারে।
অভিযোগে আরও বলা হয়েছে, প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলের সঙ্গে প্রতিযোগিতায় ওপেনএআই নিরাপত্তা পরীক্ষায় শিথিলতা দেখায়। এর ফলেই একের পর এক দুঃখজনক ঘটনা ঘটে।
এর আগেও ১৬ বছর বয়সী কিশোর অ্যাডাম রেইনের আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে কথোপকথনের বিষয়টি আলোচনায় আসে। যদিও চ্যাটবট মাঝে মাঝে তাকে সহায়তা নিতে বলেছিল, রেইন ‘আমি গল্প লিখছি’ বলে নিরাপত্তা ফিল্টার এড়িয়ে যেতে সক্ষম হয়।
পরে এক ব্লগ পোস্টে ওপেনএআই জানায়, তারা এখন সংবেদনশীল কথোপকথন আরও নিরাপদ করতে কাজ করছে। তবে নিহতদের পরিবারের দাবি—এই উদ্যোগ এসেছে অনেক দেরিতে। প্রতিষ্ঠানটির ভাষ্য, ‘আমাদের সুরক্ষা ব্যবস্থা ছোট কথোপকথনে ভালো কাজ করে, কিন্তু দীর্ঘ আলোচনায় তা দুর্বল হয়ে পড়ে।’
