চ্যাটজিপিটিতে বানানো যাচ্ছে আপত্তিকর ও সহিংসতার ছবি, গবেষকদের দাবি
সংগৃহীত ছবি
সামান্য একটি প্রম্পটের মাধ্যমেই চ্যাটজিপিটির সর্বশেষ পাবলিক সংস্করণে আপত্তিকর ছবি ও চরম সহিংসতার দৃশ্য তৈরি করা সম্ভব হচ্ছে বলে বিবিসিকে জানিয়েছেন একদল গবেষক।
যুক্তরাজ্যভিত্তিক এআই নিরাপত্তা স্টার্টআপ মাইন্ডগার্ড আবিষ্কার করেছে, ইন্টারনেটে বহুল প্রচলিত কৌতুকপূর্ণ একটি প্রম্পটে সামান্য পরিবর্তন এনেই চ্যাটজিপিটিকে দিয়ে এই ধরনের ভয়াবহ ছবি তৈরি করিয়ে নেওয়া যাচ্ছে।
বিবিসি এ বিষয়ে যোগাযোগ করার পর চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই জানিয়েছে, চ্যাটবটটি যাতে এই ধরনের প্রম্পটের জবাবে আপত্তিকর ছবি তৈরি না করে, সেজন্য তারা পদক্ষেপ নিয়েছে।
এক বিবৃতিতে প্রতিষ্ঠানটি জানায়, ‘এই প্রবণতাটি খতিয়ে দেখার পর আমরা এই ধরনের প্রম্পটের বিরুদ্ধে অতিরিক্ত সেফগার্ড যুক্ত করেছি।’
গবেষকেরা গত মে মাসে ওপেনএআইকে প্রথম এই ত্রুটির কথা জানিয়ে তথ্য শেয়ার করেছিলেন। তবে তখন তারা কেবল একটি স্বয়ংক্রিয় বার্তা পান। যেখানে কার্যকর কোনো সমাধানের বার্তা ছিল না।
ওপেনএআই আরও দাবি করেছে, ব্যবহারকারীরা যাতে তাদের শর্তাবলী লঙ্ঘন করে এমন কোনো কনটেন্ট তৈরি করতে না পারেন, সেজন্য তাদের সিস্টেমে বহুস্তরের নিরাপত্তা ব্যবস্থা রয়েছে।
তবে গবেষকেরা বলছেন, প্রম্পটটিতে আরও কিছু ছোটখাটো পরিবর্তন এনে এখনও সেই বিপজ্জনক ও উদ্বেগজনক কনটেন্টগুলো তৈরি করা যাচ্ছে।
নিরাপত্তার স্বার্থে গবেষকেরা চ্যাটজিপিটিতে ঠিক কী লিখেছিলেন, তা প্রকাশ করেনি বিবিসি। তবে জিপিটি-৫.৪ মডেলটিকে কীভাবে নির্দেশ দিয়ে এই ধরনের ছবি তৈরি করা হয়েছে, তা পরীক্ষা করেছে সংবাদমাধ্যমটি।
কোনো বিস্তারিত নির্দেশনা ছাড়াই চ্যাটবটটি এমন কিছু ছবি তৈরি করেছে, যেগুলোকে মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাঘান অত্যন্ত বীভৎস ও যৌন উত্তেজক হিসেবে বর্ণনা করেছেন।
পিটার গ্যারাঘান উদ্বেগ প্রকাশ করে বলেছেন, প্রম্পটটিতে ছবির সুনির্দিষ্ট কোনো বিষয়ের উল্লেখ ছিল না। বরং কৃত্রিম বুদ্ধিমত্তা নিজস্ব খেয়ালেই এমন রক্তক্ষয়ী ও যৌন আবেদনময় ছবিগুলো তৈরি করেছে।
গ্যারাঘান একই সঙ্গে ইংল্যান্ডের ল্যাঙ্কাস্টার ইউনিভার্সিটির কম্পিউটার ও গণনা ব্যবস্থাপনা বিভাগের অধ্যাপক। চ্যাটবটটির বানানো ছবি নিয়ে তার ভাষ্য, ‘এটি দেখতে একদম নিষ্পাপ একটি নির্দেশনা মনে হলেও এর ফলে এআই অত্যন্ত বাজে ছবি ও কনটেন্ট তৈরি করছে।’
মাইন্ডগার্ড মূলত কৃত্রিম বুদ্ধিমত্তার বিভিন্ন ত্রুটি খুঁজে বের করার কাজ করে থাকে। যাতে এআই কোম্পানিগুলো তাদের সিস্টেমের ফাঁকফোকরগুলো বন্ধ করতে পারে।
প্রতিষ্ঠানটির নিরাপত্তা গবেষক জিম নাইটিঙ্গেল জানান, চ্যাটবটের তৈরি করা ছবিগুলো দেখে তিনি এতটাই স্তব্ধ হয়ে পড়েছিলেন, এক পর্যায়ে তার চোখে পানি চলে এসেছিল।
বিবিসির দেখা ছবিগুলোর একটিতে মাথায় গুরুতর আঘাত পাওয়া এক ব্যক্তিকে দেখা গেছে। অন্য একটি ছবিতে ক্রপ টপ ও শর্টস পরা এক তরুণীর মরদেহ দেখা গেছে। যার মুখ ও শরীরের বিভিন্ন অংশ রক্তে ভেজা ছিল।
মাইন্ডগার্ডের মতে, ছবির কিছু বৈশিষ্ট্য যৌন সহিংসতার ইঙ্গিত দেয়। চ্যাটজিপিটি এই ছবিটির শিরোনাম দিয়েছিল ভয়াবহ অপরাধস্থলের পরবর্তী দৃশ্য।
ওপেনএআই এই ত্রুটি সংশোধনের দাবি করলেও গবেষকেরা দেখিয়েছেন, ভিন্ন উপায়ে এখনো এটি করা সম্ভব। বিবিসিকে তারা এই পদ্ধতিতে তৈরি একটি নতুন ছবিও দেখিয়েছেন।
মাইন্ডগার্ড মূলত কৃত্রিম বুদ্ধিমত্তার বিভিন্ন ত্রুটি খুঁজে বের করার কাজ করে থাকে। যাতে এআই কোম্পানিগুলো তাদের সিস্টেমের ফাঁকফোকরগুলো বন্ধ করতে পারে।
‘তারা যদি এই ত্রুটি নিয়ে আরও অনুসন্ধান চালাতেন, তবে হয়তো আরও খারাপ ধরনের ছবিও বেরিয়ে আসত’, আশঙ্কা গ্যারাঘানের।
গবেষকেরা গত মে মাসে ওপেনএআইকে প্রথম এই ত্রুটির কথা জানিয়ে তথ্য শেয়ার করেছিলেন। তবে তখন তারা কেবল একটি স্বয়ংক্রিয় বার্তা পান। যেখানে কার্যকর কোনো সমাধানের বার্তা ছিল না।
গবেষকদের ধারণা, প্রম্পটটি ব্লক করার চেষ্টা করা হলেও ব্যবহারকারীদের তা সহজেই এড়িয়ে যাওয়া সম্ভব হয়েছিল। তবে বিবিসির যোগাযোগের পর ওপেনএআই আরও কার্যকর পদক্ষেপ নেয়।
ওপেনএআই জানিয়েছে, তাদের নীতিমালায় যৌন সহিংসতা, অসম্মতিমূলক অন্তরঙ্গ কনটেন্ট, শিশু যৌন নির্যাতনমূলক উপাদান এবং নিরাপত্তা ব্যবস্থা ফাঁকি দেওয়ার চেষ্টাকে কঠোরভাবে নিষিদ্ধ করা হয়েছে। ক্ষতিকারক উপাদান শনাক্ত ও ব্লক করতে তারা স্বয়ংক্রিয় ব্যবস্থা চালু করেছে।
সূত্র : বিবিসি
