এআই সারসংক্ষেপ বিকৃত করছে স্মৃতি

প্রযুক্তি থেকে রাজনীতি, সব জায়গায় চলছে কৃত্রিম বুদ্ধিমত্তা (এআই) নিয়ে আলোচনা-সমালোচনা। সম্প্রতির এই ‘হট টপিক’ নিয়ে মন্তব্য করেছেh  ন বিল গেটসও। আধুনিক যুগের এই প্রযুক্তির সঙ্গে তাল মিলিয়ে গত মঙ্গলবার নতুন এআইচালিত সরকারি ওয়েবসাইট চালু করেছে ট্রাম্প প্রশাসন। তবে নানা ধরনের বিচিত্র, ইতিবাচক-নেতিবাচক খবরের মধ্যেই এসেছে এক উদ্বেগজনক তথ্য। যুক্তরাষ্ট্রের জর্জটাউন ইউনিভার্সিটি এবং দ্য ইউনিভার্সিটি অব ওয়াশিংটনের যৌথ গবেষণায় উঠে এসেছে, কৃত্রিম বুদ্ধিমত্তার তৈরি ভুল বা অসম্পূর্ণ সারসংক্ষেপ বিভ্রান্ত ও বিকৃত করতে পারে মানুষের স্মৃতিকে।

দ্য ইন্ডিপেনডেন্টের গত মঙ্গলবারের প্রতিবেদন অনুযায়ী, এআই তার ব্যবহারকারীকে যে সারসংক্ষেপ প্রদান করে, তার অধিকাংশই হয় মিথ্যা বা ভুল তথ্যে ভরা। এ ধরনের ভুয়া তথ্য পড়ে এবং তা মস্তিষ্কে ধারণ করার ফলে শুধু স্মৃতিই বিকৃত হচ্ছে না; সঙ্গে প্রভাবিত হচ্ছে মানুষের সত্যের ধারণা এবং বোধশক্তি। ‘এআই এনাবেল্ড হিউম্যান মেমোরি ম্যানিপুলেশন: মিস্লিডিং এআই সামারিস ডিসটর্ট হিউম্যান মেমোরি’ শীর্ষক গবেষণায় নেতৃত্ব দেন জর্জটাউনের ম্যাককোর্ট স্কুল অব পাবলিক পলিসির ম্যাসিভ ডেটা ইনস্টিটিউটের সহকারী গবেষণা অধ্যাপক ম্যাটিয়া সিম। এ গবেষণাপত্রে তার সহ-লেখক ইয়োশি কোহনো। তিনি কম্পিউটার সায়েন্স, এথিক্স অ্যান্ড সোসাইটিবিষয়ক ম্যাকডেভিট চেয়ার এবং জর্জটাউনের কম্পিউটার সায়েন্স বিভাগ ও সেন্টার ফর ডিজিটাল এথিক্সের অধ্যাপক।

কোহনো বলেছেন, ‘এই গবেষণাটি জর্জটাউনে চলমান একটি ক্রমবর্ধমান প্রচেষ্টার অংশ। এটি মনোবিজ্ঞান ও কম্পিউটার বিজ্ঞান– উভয়ের ওপর ভিত্তি করে কৃত্রিম বুদ্ধিমত্তা ও মানুষের মধ্যকার সম্পর্ক এবং এর প্রভাব পর্যালোচনার ওপর নিবদ্ধ।’

গবেষণার অংশ হিসেবে বিজ্ঞানী দল প্রথমেই পরীক্ষা করেন, একটি এআই মডেল কতটা ভালোভাবে কোনো বিষয়ের সারসংক্ষেপ প্রদান করছে। গবেষণার প্রাথমিক ফলে তারা দেখতে পান, প্রতিটি ক্ষেত্রেই কৃত্রিম বুদ্ধিমত্তা দিচ্ছে ভুল তথ্য। সবচেয়ে সাধারণ যে ত্রুটিটি তারা লক্ষ করেন, সেটি হলো— সারসংক্ষেপগুলোয় মূল বিষয়বস্তুর অত্যন্ত গুরুত্বপূর্ণ কিছু তথ্য বাদ পড়ে যাচ্ছিল। গবেষকরা দেখেছেন, বিভিন্ন প্রম্পট ও মডেলের ক্ষেত্রে সিস্টেমটি বাদ দিয়েছে ৫১ দশমিক ৬ শতাংশ গুরুত্বপূর্ণ তথ্য।

এরপর গবেষক দল খতিয়ে দেখেছেন, যেসব মানুষ ওই সারসংক্ষেপগুলোর ওপর নির্ভর করতেন, তাদের স্মৃতি ও বোঝাপড়ার ওপর সেগুলো কেমন প্রভাব ফেলতে পারে। তারা লক্ষ করেন, অংশগ্রহণকারীদের যদি এমন কোনো এআইনির্মিত সারসংক্ষেপ দেখানো হয়, যা তাদের আগে দেখা কোনো ঘটনার বিবরণ বিভ্রান্তিকরভাবে তুলে ধরে, তাহলে তারা সেই ঘটনাগুলো আর সঠিকভাবে মনে করতে পারেন না। অর্থাৎ, নিজের দেখা বা নিজের সঙ্গে হওয়া অনেক ঘটনা একজন ব্যক্তি এআইয়ের কারণে ভুলে যেতে পারেন এবং এখান থেকেই শুরু হয় তার স্মৃতির বিকৃতি।