অবাধ্য এবং সম্ভাব্য বিপজ্জনক কৃত্রিম বুদ্ধিমত্তা (এআই) এজেন্টদের প্রতিরোধ ও নিয়ন্ত্রণে একটি নতুন টুল নিয়ে এসেছে বিশ্বের বৃহত্তম চিপ প্রস্তুতকারী প্রতিষ্ঠান এনভিডিয়া। নিরাপত্তার আশঙ্কায় এআই উন্নয়ন ধীরগতির করার দাবি প্রত্যাখ্যান করে প্রতিষ্ঠানটি এখন প্রযুক্তিগত সুরক্ষাবলয়ের মাধ্যমে এআই এজেন্টদের নিয়ন্ত্রণে রাখার পক্ষে অবস্থান নিয়েছে।
সোমবার একটি ব্লগ পোস্টে নতুন এই প্ল্যাটফর্ম উন্মুক্ত করার ঘোষণা দেয় এনভিডিয়া। ‘এনভিডিয়া ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম’ নামের এই টুলের মধ্যে রয়েছে ‘ওপেনশেল’ ওপেন সোর্স সফটওয়্যার সিস্টেম এবং ‘সেন্ট্রি’ এজেন্ট মনিটরিং সিস্টেম।
প্রতিষ্ঠানটি জানিয়েছে, এই সিস্টেমটি এনভিডিয়া ভেরা সিপিতে চালিত এজেন্টদের ‘সমস্ত কার্যকলাপ ট্র্যাক করে’ এবং কোনও এজেন্ট তার নির্ধারিত সীমার বাইরে যাওয়ার চেষ্টা করলে ‘মিলিসেকেন্ডের মধ্যে সেটিকে কোয়ারেন্টাইন বা বিচ্ছিন্ন করার’ প্রতিশ্রুতি দেয়।
সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং লিখেছেন, এআইয়ের পূর্ণ সম্ভাবনা তখনই বাস্তবে রূপ নিতে পারে যখন মানুষের এই আত্মবিশ্বাস থাকবে যে এআই নিরাপদে তৈরি করা হয়েছে এবং বিচক্ষণতা ও দায়িত্ববোধের সঙ্গে তা ব্যবহার করা হচ্ছে। নিরাপত্তার মাধ্যমেই বিশ্বাস অর্জিত হয়।
এর আগে ওপেনএআই, অ্যানথ্রপিক এবং নিরাপত্তা গবেষকরা জানিয়েছেন, তাদের উন্নত মডেলগুলো গার্ড্রেল বা সুরক্ষাবলয় এড়িয়ে যাওয়া, স্যান্ডবক্স থেকে পালিয়ে যাওয়া, এমনকি নিজেদের কর্মকাণ্ড সম্পর্কে ভুল তথ্য দেওয়ার মতো হাজার হাজার ঘটনার তদন্ত করছে।
এদিকে অবাধ্য এআই মানবজাতিকে ধ্বংস করতে পারে কি না, তা নিয়ে চলছে তীব্র বিতর্ক। সম্প্রতি এআই গবেষকদের কেউ কেউ এ ধরনের প্রযুক্তি মানবজাতির জন্য মারাত্মক হুমকি হতে পারে বলে সতর্ক করেছেন। তবে এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং এর আগে এই ধরনের উদ্বেগকে নিছক ভয় ছড়ানোর প্রবণতা বলে উড়িয়ে দিয়েছিলেন। বিশ্লেষকদের মতে, এআই সুরক্ষায় এ ধরনের মনিটরিং টুল ব্যবহারের ফলে ভবিষ্যতে চিপ ও ডেটাসেন্টারের চাহিদা আরও বৃদ্ধি পাবে।
সূত্র: অ্যাক্সিওস
