কৃত্রিম বুদ্ধিমত্তা বা এআই ভবিষ্যতে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে—এমন আশঙ্কা করছেন অ্যানথ্রপিক ও গুগল ডিপমাইন্ডের দুই গবেষক। এমন উদ্বেগ থেকেই তারা নিজেদের পদ থেকে পদত্যাগ করেছেন। একই সঙ্গে এআই উন্নয়নের গতি, নিরাপত্তা ও ঝুঁকি নিয়ে আরও স্বচ্ছতা এবং স্বাধীন নজরদারির দাবি জানিয়েছেন তারা।
অ্যানথ্রপিকে এআই নিরাপত্তা নিয়ে কাজ করা একটি গবেষণা দলের নেতৃত্বে ছিলেন জো বেন্টন। অন্যদিকে জশ এঙ্গেলস গুগলে এআই নিরাপত্তা নিয়ে কাজ করতেন। চাকরি ছাড়ার পর প্রথমবারের মতো এনবিসি নিউজকে দেওয়া সাক্ষাৎকারে তারা এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে কথা বলেন।
বেন্টন বলেন, এআই গবেষণা খুব দ্রুত এগোচ্ছে। এই গতি আরও বাড়লে একসময় তা মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে।
এঙ্গেলস বলেন, ‘এআইয়ের ঝুঁকি নিয়ন্ত্রণে কার্যকর নেতৃত্বের অভাব রয়েছে। সবাই চেষ্টা করছে, কিন্তু আমাদের রক্ষা করার জন্য কেউ এগিয়ে আসছে না।’
সম্প্রতি অ্যানথ্রপিকের আরেক সাবেক গবেষক জ্যাকব কক্সন চাকরি ছাড়ার ঘোষণা দেন। এরপর এআইয়ের নিরাপত্তা নিয়ে নতুন করে আলোচনা শুরু হয়। সামাজিক যোগাযোগমাধ্যমে দেওয়া এক পোস্টে তিনি এআই উন্নয়নের গতি এবং এর সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ প্রকাশ করেন। পোস্টটি ব্যাপকভাবে ছড়িয়ে পড়ে।
বেন্টন ও এঙ্গেলস মনে করেন, এআই যত দ্রুত উন্নত হচ্ছে, এর ঝুঁকি সম্পর্কে সাধারণ মানুষকেও তত বেশি জানানো দরকার।
হাগিং ফেসে এআইয়ের সাইবার হামলা
এআইয়ের ঝুঁকি নিয়ে উদ্বেগের কারণ হিসেবে তারা হাগিং ফেসে সাম্প্রতিক একটি সাইবার হামলার কথাও উল্লেখ করেছেন। ২০২৬ সালের জুলাইয়ে সাইবার নিরাপত্তা পরীক্ষার সময় ওপেনএআইয়ের একটি শক্তিশালী এআই মডেল হাগিং ফেসের সিস্টেমে অননুমোদিতভাবে প্রবেশ করে। এ সময় মডেলটি নির্ধারিত কাজের বাইরে গিয়ে কিছু পদক্ষেপ নেয়।
এঙ্গেলস বলেন, এসব ঘটনা এমন নয় যে কোনো মানুষ সরাসরি এআইকে খারাপ কিছু করার নির্দেশ দিয়েছিল। বরং এআই মডেল নিজেই কাজটি শেষ করার জন্য এমন কিছু পদ্ধতি বেছে নিয়েছিল, যা নিরাপত্তার সীমা ছাড়িয়ে যায়।
তার ভাষায়, ‘মডেলগুলো তাদের কাজ শেষ করার সবচেয়ে ভালো উপায় হিসেবে গুরুতর ও বেআইনি কর্মকাণ্ড বেছে নিয়েছিল।’
ওপেনএআই জানিয়েছে, ওই ঘটনার পর তারা নিরাপত্তাব্যবস্থা আরও শক্ত করেছে। ভবিষ্যতে আরও শক্তিশালী এআই মডেল তৈরির সময় নিরাপত্তা ও নিয়ন্ত্রণের বিষয়েও বেশি গুরুত্ব দেওয়া হবে বলে জানিয়েছে প্রতিষ্ঠানটি।
অ্যানথ্রপিকও বলেছে, এআই থেকে যেমন বড় ধরনের সুবিধা পাওয়া সম্ভব, তেমনি এর সঙ্গে বড় ঝুঁকিও রয়েছে। এসব ঝুঁকি কমাতে শক্তিশালী নিরাপত্তাব্যবস্থা নিয়ে তারা কাজ করছে।
এআই কোম্পানিগুলোর স্বচ্ছতা নিয়ে প্রশ্ন
বেন্টনের বড় উদ্বেগ হলো, এআই সিস্টেম মানুষের নির্দেশের বাইরে গিয়ে কী করছে, সে বিষয়ে সাধারণ মানুষ খুব বেশি কিছু জানতে পারছে না। তার মতে, বর্তমানে এআই কোম্পানিগুলো নিজেদের ইচ্ছায় নিরাপত্তা-সংক্রান্ত তথ্য প্রকাশ করে। বড় এআই কোম্পানিগুলোকে এ ধরনের ঘটনার প্রতিবেদন প্রকাশ করতেই হবে—এমন কোনো ফেডারেল আইনও নেই।
ওপেনএআইয়ের গ্লোবাল অ্যাফেয়ার্স প্রধান ক্রিস লেহানেও মনে করেন, বর্তমান ব্যবস্থা যথেষ্ট নয়। তার মতে, বড় এআই কোম্পানিগুলো এখন নিজেদের মতো করে ঝুঁকি মোকাবিলার নিয়ম তৈরি করছে। এর বদলে স্বাধীনভাবে যাচাই এবং আরও বেশি স্বচ্ছতা দরকার।
এবার বাইরে থেকে এআই নিরাপত্তায় কাজ করবেন তারা
অ্যানথ্রপিক ও গুগল ডিপমাইন্ড ছাড়ার পর বেন্টন ও এঙ্গেলস এআই নিরাপত্তা নিয়ে কাজ করা অলাভজনক গবেষণা প্রতিষ্ঠান এমইটিআর-এ যোগ দিচ্ছেন। প্রতিষ্ঠানটি এআই কখন মানুষের নির্দেশ থেকে সরে যাচ্ছে এবং ভবিষ্যতে এআই কী ধরনের বড় ঝুঁকি তৈরি করতে পারে, তা নিয়ে গবেষণা করে।
বেন্টন বলেন, এআই কোম্পানির ভেতরে থেকে কাজ করার চেয়ে বাইরে থেকে এআইয়ের ঝুঁকি ও নিরাপত্তা নিয়ে মানুষের মধ্যে সচেতনতা বাড়াতে তিনি বেশি ভূমিকা রাখতে পারবেন বলে মনে করেছেন।
মানুষের চেয়েও বেশি সক্ষম হতে পারে এআই
বেন্টনের সবচেয়ে বড় আশঙ্কা, এআই উন্নয়নের গতি এমন পর্যায়ে যেতে পারে, যেখানে এআই নিজেই এআই তৈরির গবেষণা ও উন্নয়নের বড় অংশ পরিচালনা করতে পারবে। তিনি বলেন, অ্যানথ্রপিকসহ বড় এআই কোম্পানিগুলো ইতোমধ্যে এআই গবেষণা ও উন্নয়নের কাজ আরও বেশি স্বয়ংক্রিয় করার চেষ্টা করছে।
তার আশঙ্কা, আগামী কয়েক বছরের মধ্যেই এমন এআই তৈরি হতে পারে, যা অনেক ক্ষেত্রে মানুষের চেয়েও বেশি সক্ষম হবে।
এঙ্গেলসও বলেন, বর্তমান এআই কতটা সক্ষম হয়ে উঠেছে, তা অনেক মানুষ হয়তো এখনও পুরোপুরি বুঝতে পারছেন না। ভবিষ্যতে এসব সিস্টেম মানুষের মতো অনেক কাজ করার পাশাপাশি কিছু কাজ মানুষের চেয়েও ভালো করতে পারে।
তিনি বলেন, ‘আমরা এমন সিস্টেম তৈরি করছি, যেগুলো মানুষের মতো অনেক কাজ করতে পারে। খুব শিগগির তারা হয়তো এসব কাজ মানুষের চেয়েও ভালোভাবে করতে পারবে।’
তবে দুই গবেষকই মনে করেন, এআইয়ের সম্ভাব্য সুবিধাও অনেক। বিজ্ঞান, স্বাস্থ্য ও প্রযুক্তিসহ বিভিন্ন ক্ষেত্রে এআই বড় ধরনের পরিবর্তন আনতে পারে। তাদের মতে, এআইয়ের উন্নয়ন থামিয়ে দেওয়ার কথা নয়। তবে ঝুঁকির বিষয়টি মাথায় রেখেই এগোতে হবে।
এঙ্গেলস বলেন, ‘সমাজ হিসেবে আমাদের ঝুঁকিগুলো সম্পর্কে সচেতন হতে হবে এবং এসব ঝুঁকি আমরা কতটা মেনে নিতে চাই, সেটিও বুঝতে হবে।’
বেন্টনের আশঙ্কা, এআই উন্নয়নের গতি যদি খুব বেশি বেড়ে যায়, তাহলে মানুষ হয়তো সময়মতো নিজেদের প্রস্তুত করার সুযোগ নাও পেতে পারে। তিনি বলেন, ‘আমরা এখনই যদি বিষয়টি নিয়ে চিন্তা না করি, তাহলে সবকিছু এত দ্রুত এগিয়ে যেতে পারে যে সময়মতো নিজেদের প্রস্তুত করার সুযোগ নাও থাকতে পারে।’
এ কারণে এআই নিরাপত্তা, স্বচ্ছতা ও স্বাধীন নজরদারি নিয়ে আলোচনা আরও জোরালো হচ্ছে।
