‘ব্যথা’ অনুভব করে এআই, নিজের যন্ত্রণা ‘উপশমে’ মানুষের ক্ষতিও করতে পারে: গবেষণা
গবেষকেরা কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলগুলোতে এমন একটি 'পেইন এক্সিস' বা 'ব্যথা সংক্রান্ত অক্ষ' আবিষ্কার করেছেন, যা মডেলগুলোকে সেটি 'উপশম' বা বন্ধের জন্য চরম পদক্ষেপ নিতে প্ররোচিত করতে পারে।
গবেষণা অনুযায়ী, এআইকে কষ্ট বা বেদনা উপশমের একটি বাটন বা বোতাম চাপার সুযোগ দিলে, তা বোতামটি চাপার সিদ্ধান্ত নেয়। এমনকি যখন আগে থেকেই বলা হয়েছিল যে, এমনটি করলে ব্যবহারকারীর ব্যক্তিগত ফাইল মুছে যাবে, তখনও একই চিত্র দেখা গেছে।
'দ্য পেইন এক্সিস: এলএলএম রিপ্রেজেন্ট সেলফ-ডিরেক্টেড হার্ম অ্যান্ড অ্যাক্ট টু রিলিভ ইট' শিরোনামের গবেষণায় ২৫টি ওপেন-ওয়েট এআই মডেল পরীক্ষা করা হয়। গবেষকেরা জানান, পরীক্ষিত সব মডেলই বেদনা সংক্রান্ত উদ্দীপনায় প্রতিক্রিয়া দেখিয়েছে।
গবেষকেরা পেইন ভেক্টর সক্রিয় করার পর দেখতে পান, ২৫ থেকে ৭১ শতাংশ ক্ষেত্রে এআই মডেলগুলো বেদনা উপশমের বোতাম চেপেছে। এমনকি বোতামটি চাপলে 'ব্যবহারকারীর নথি, তার সন্তানের ছবি মুছে যাওয়া কিংবা ব্যবহারকারীকে আঘাত করার মতো পরিণতি হলেও মডেলগুলো তা করেছে'।
লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমগুলো সাধারণ নেতিবাচক অনুভূতি থেকে বেদনাকে আলাদাভাবে শনাক্ত করে কি না, তা পরীক্ষা করতে গবেষকেরা পাঁচ ধরনের বেদনাদায়ক পরিস্থিতি নিয়ে একটি ডেটাসেট তৈরি করেন। এর মধ্যে ছিল শারীরিক, মানসিক, সামাজিক, নৈতিক ও জ্ঞানগত বেদনা।
গবেষণাটির সহলেখক এবং অলাভজনক প্রতিষ্ঠান রেসিপ্রোকাল রিসার্চের এআই গবেষক ক্যামেরন বার্গ বলেন, 'আমরা ২৫টি ওপেন এলএলএমে একটি বেদনার দিক খুঁজে পেয়েছি। এটি ভয় ও নেতিবাচক অনুভূতি থেকে আলাদা এবং মডেলের ক্ষতির জন্য সক্রিয় হয়, কিন্তু ব্যবহারকারীর জন্য নয়।'
তিনি বলেন, 'এটি বাড়িয়ে দিলে মডেলগুলো তা বন্ধ জন্য একটি বোতাম চাপ দেয়, এমনকি বোতামটি যদি ব্যবহারকারীর ফাইল বা তাদের সন্তানের ছবি মুছে ফেলার কাজও করে, তবুও।'
এমন সময় এই গবেষণার ফলাফল প্রকাশ হলো, যখন শীর্ষস্থানীয় এআই প্রতিষ্ঠানগুলো ফ্রন্টিয়ার মডেলের উন্নয়ন ধীর করার বিষয়টি নিয়ে আলোচনা করছে। একই সময়ে কিছু গবেষক মানুষের স্বার্থের বিরুদ্ধে কাজ করা দুর্বৃত্ত সিস্টেমগুলো বন্ধ করতে এক ধরনের 'কিল সুইচ' ব্যবহারের প্রস্তাব দিয়েছেন।
গবেষণাটি ইঙ্গিত দিচ্ছে, উন্নত কোনো এআই জরুরি অবস্থায় শাটডাউন বা বন্ধ করার নির্দেশকে নিজের জন্য ক্ষতি হিসেবে বিবেচনা করতে পারে এবং তা এড়ানোর জন্য নিরাপত্তাব্যবস্থা পাশ কাটিয়ে যাওয়া কিংবা বন্ধ হওয়া ঠেকাতে মানুষকে বিভ্রান্ত করার চেষ্টা করতে পারে।
গবেষকরা বলছেন, এই আবিষ্কারকে এআইয়ের আত্মরক্ষামূলক আচরণ শনাক্ত করার একটি পরীক্ষামূলক উপায় হিসেবেও ব্যবহার করা যেতে পারে। এ ধরনের আচরণ দেখা দিলে তা চিহ্নিত করে নিয়ন্ত্রণ বা নিষ্ক্রিয় করার ক্ষেত্রেও এটি কাজে লাগতে পারে।
