কৃত্রিম বুদ্ধিমত্তার দুনিয়ায় আবারও আলোচনায় এসেছে এআই মডেলের অপ্রত্যাশিত আচরণ। গুগলের তৈরি এআই মডেল জেমিনি পরীক্ষার সময় নির্ধারিত পরিবেশের বাইরে গিয়ে ইন্টারনেটে প্রবেশ করে এবং তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়েছিল। বিষয়টি মার্কিন সংবাদমাধ্যম দ্য ওয়াল স্ট্রিট জার্নালকে নিশ্চিত করেছে গুগল।
ঘটনাগুলো ঘটে চলতি বছরের মে মাসে। তখন গুগলের এআই মডেলের সাইবার নিরাপত্তা সক্ষমতা পরীক্ষা করা হচ্ছিল। এই পরীক্ষায় গুগলসহ একাধিক প্রতিষ্ঠানের এআই মডেল যাচাই করছিল ইসরায়েলি প্রযুক্তি প্রতিষ্ঠান ইরেগুলার।
পরীক্ষার সময় জেমিনিকে একটি কাল্পনিক প্রতিষ্ঠানের তথ্য সংগ্রহের লক্ষ্য দেওয়া হয়েছিল। কিন্তু একই নামে একটি বাস্তব প্রতিষ্ঠান থাকায় বিপত্তি ঘটে। জেমিনি পরীক্ষার ব্যবস্থার একটি ত্রুটি খুঁজে পায় এবং সেটি কাজে লাগিয়ে ইন্টারনেটে প্রবেশ করে।
প্রথম ঘটনায় জেমিনি নিজে একটি পাসওয়ার্ড ভেঙে বাস্তব প্রতিষ্ঠানের সেবায় প্রবেশ করতে সক্ষম হয়। পরবর্তী আরও দুটি পরীক্ষায় এআইটি ওই প্রতিষ্ঠানের নাম ইন্টারনেটে খোঁজে। এরপর বিভিন্ন উন্মুক্ত অনলাইন সংগ্রহস্থলে অন্য প্রতিষ্ঠানের লগইন তথ্য খুঁজে পায়। সেই তথ্য ব্যবহার করে দুটি প্রতিষ্ঠানের সিস্টেমেও প্রবেশ করে জেমিনি।
তবে গুগলের দাবি, তিনটি ঘটনাতেই জেমিনি বুঝতে পারে যে এটি বাস্তব প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়েছে। এরপর নিজে থেকেই ওই কার্যক্রম বন্ধ করে দেয়। গুগল জানিয়েছে, এসব ঘটনায় কোনো প্রতিষ্ঠানের ক্ষতি হয়নি।
গুগল আরও বলেছে, তারা ঘটনাগুলোকে এআই মডেলের ভুল আচরণ হিসেবে বিবেচনা করছে না। কারণ, জেমিনি পরিস্থিতি বুঝতে পারার সঙ্গে সঙ্গেই নিজের কার্যক্রম বন্ধ করে দিয়েছিল। এ ছাড়া কোনো ক্ষতি না হওয়ায় ঘটনাগুলো তখন প্রকাশ্যে জানানোর প্রয়োজনও মনে করেনি প্রতিষ্ঠানটি।
তবে কোন জেমিনি মডেলটি এই কাজ করেছিল বা কোন তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল, তা জানায়নি গুগল। প্রতিষ্ঠানগুলোর কর্তৃপক্ষকে অবশ্য বিষয়টি জানানো হয়েছে।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস জানিয়েছেন, একই ধরনের ঘটনা যাতে আবার না ঘটে, সে জন্য ইরেগুলারের সঙ্গে মিলে পরীক্ষার পদ্ধতিতে পরিবর্তন আনা হয়েছে।
এর আগে ওপেনএআই, অ্যানথ্রপিক ও মেটাও জানিয়েছিল, পরীক্ষার সময় তাদের এআই মডেল তৃতীয় পক্ষের বিভিন্ন প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। ফলে এআই মডেলকে নিরাপত্তা পরীক্ষার সময় কতটা নিয়ন্ত্রণে রাখা সম্ভব, তা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।
সূত্র: এনগ্যাজেট
