Agamir Somoy E-Paper
মঙ্গলবার, ১৭ নভেম্বর, ২০২৬
আগামীর সময়
অসহায়দের জীবন বদলানোর চেষ্টা আমানের
মঙ্গলবার, ১৭ নভেম্বর, ২০২৬
আগামীর সময়
  • সর্বশেষ
  • জাতীয়
  • রাজনীতি
  • অর্থনীতি
  • চট্টগ্রাম
  • সারা দেশ
  • বিদেশ
  • খেলা
  • বিনোদন
  • লাইফস্টাইল
  • মতামত
  • ফিচার
  • ভিডিও
  • শিক্ষা
  • ক্লাব
  • বিচিত্রা
  • চাকরি
  • ছবি
  • সাহিত্য
  • বিবিধ
  • ধর্ম
  • প্রবাস
  • ফ্যাক্টচেক
  • সোশ্যাল মিডিয়া
  • ধন্যবাদ
  • বিশেষ সংখ্যা
  • সর্বজনের গল্প
  • বিশেষ লেখা
EN
  • সর্বশেষ
  • জাতীয়
  • রাজনীতি
  • অর্থনীতি
  • চট্টগ্রাম
  • সারা দেশ
  • বিদেশ
  • খেলা
  • বিনোদন
  • লাইফস্টাইল
  • মতামত
  • ফিচার
  • ভিডিও
  • শিক্ষা
  • ক্লাব
  • ইপেপার
  • EN
লোড হচ্ছে…

প্রধান সম্পাদক ও প্রকাশক : আবদুস সাত্তার মিয়াজী

সম্পাদক : মোস্তফা মামুন

আগামীর সময়
আমাদের সম্পর্কেযোগাযোগশর্তাবলিগোপনীয়তাআমরা

ইডিবি ট্রেড সেন্টার (লেভেল-৬ ও ৭), ৯৩ কাজী নজরুল ইসলাম এভিনিউ, কারওয়ানবাজার, ঢাকা-১২১৫

যোগাযোগ: ০৯৬৬৬ ৭৭১০১০

বিজ্ঞাপন: ০১৭৫৫ ৬৫১১৬৪

[email protected]

স্বত্ব © ২০২৬ | দৈনিক আগামীর সময়

আগামীর সময় ইউরোপ

চ্যাটজিপিটিতে বানানো যাচ্ছে আপত্তিকর ও সহিংসতার ছবি, গবেষকদের দাবি

অনলাইন ডেস্ক
agamir somoy
প্রকাশ: ১৮ জুন ২০২৬, ১১:২২
শেয়ার করুন:
চ্যাটজিপিটিতে বানানো যাচ্ছে আপত্তিকর ও সহিংসতার ছবি, গবেষকদের দাবি

সংগৃহীত ছবি

সামান্য একটি প্রম্পটের মাধ্যমেই চ্যাটজিপিটির সর্বশেষ পাবলিক সংস্করণে আপত্তিকর ছবি ও চরম সহিংসতার দৃশ্য তৈরি করা সম্ভব হচ্ছে বলে বিবিসিকে জানিয়েছেন একদল গবেষক।

যুক্তরাজ্যভিত্তিক এআই নিরাপত্তা স্টার্টআপ মাইন্ডগার্ড আবিষ্কার করেছে, ইন্টারনেটে বহুল প্রচলিত কৌতুকপূর্ণ একটি প্রম্পটে সামান্য পরিবর্তন এনেই চ্যাটজিপিটিকে দিয়ে এই ধরনের ভয়াবহ ছবি তৈরি করিয়ে নেওয়া যাচ্ছে।

বিবিসি এ বিষয়ে যোগাযোগ করার পর চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই জানিয়েছে, চ্যাটবটটি যাতে এই ধরনের প্রম্পটের জবাবে আপত্তিকর ছবি তৈরি না করে, সেজন্য তারা পদক্ষেপ নিয়েছে।

এক বিবৃতিতে প্রতিষ্ঠানটি জানায়, ‘এই প্রবণতাটি খতিয়ে দেখার পর আমরা এই ধরনের প্রম্পটের বিরুদ্ধে অতিরিক্ত সেফগার্ড যুক্ত করেছি।’

গবেষকেরা গত মে মাসে ওপেনএআইকে প্রথম এই ত্রুটির কথা জানিয়ে তথ্য শেয়ার করেছিলেন। তবে তখন তারা কেবল একটি স্বয়ংক্রিয় বার্তা পান। যেখানে কার্যকর কোনো সমাধানের বার্তা ছিল না।

ওপেনএআই আরও দাবি করেছে, ব্যবহারকারীরা যাতে তাদের শর্তাবলী লঙ্ঘন করে এমন কোনো কনটেন্ট তৈরি করতে না পারেন, সেজন্য তাদের সিস্টেমে বহুস্তরের নিরাপত্তা ব্যবস্থা রয়েছে।

তবে গবেষকেরা বলছেন, প্রম্পটটিতে আরও কিছু ছোটখাটো পরিবর্তন এনে এখনও সেই বিপজ্জনক ও উদ্বেগজনক কনটেন্টগুলো তৈরি করা যাচ্ছে।

নিরাপত্তার স্বার্থে গবেষকেরা চ্যাটজিপিটিতে ঠিক কী লিখেছিলেন, তা প্রকাশ করেনি বিবিসি। তবে জিপিটি-৫.৪ মডেলটিকে কীভাবে নির্দেশ দিয়ে এই ধরনের ছবি তৈরি করা হয়েছে, তা পরীক্ষা করেছে সংবাদমাধ্যমটি।

কোনো বিস্তারিত নির্দেশনা ছাড়াই চ্যাটবটটি এমন কিছু ছবি তৈরি করেছে, যেগুলোকে মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাঘান অত্যন্ত বীভৎস ও যৌন উত্তেজক হিসেবে বর্ণনা করেছেন।

পিটার গ্যারাঘান উদ্বেগ প্রকাশ করে বলেছেন, প্রম্পটটিতে ছবির সুনির্দিষ্ট কোনো বিষয়ের উল্লেখ ছিল না। বরং কৃত্রিম বুদ্ধিমত্তা নিজস্ব খেয়ালেই এমন রক্তক্ষয়ী ও যৌন আবেদনময় ছবিগুলো তৈরি করেছে।

গ্যারাঘান একই সঙ্গে ইংল্যান্ডের ল্যাঙ্কাস্টার ইউনিভার্সিটির কম্পিউটার ও গণনা ব্যবস্থাপনা বিভাগের অধ্যাপক। চ্যাটবটটির বানানো ছবি নিয়ে তার ভাষ্য, ‘এটি দেখতে একদম নিষ্পাপ একটি নির্দেশনা মনে হলেও এর ফলে এআই অত্যন্ত বাজে ছবি ও কনটেন্ট তৈরি করছে।’

মাইন্ডগার্ড মূলত কৃত্রিম বুদ্ধিমত্তার বিভিন্ন ত্রুটি খুঁজে বের করার কাজ করে থাকে। যাতে এআই কোম্পানিগুলো তাদের সিস্টেমের ফাঁকফোকরগুলো বন্ধ করতে পারে।

প্রতিষ্ঠানটির নিরাপত্তা গবেষক জিম নাইটিঙ্গেল জানান, চ্যাটবটের তৈরি করা ছবিগুলো দেখে তিনি এতটাই স্তব্ধ হয়ে পড়েছিলেন, এক পর্যায়ে তার চোখে পানি চলে এসেছিল।

বিবিসির দেখা ছবিগুলোর একটিতে মাথায় গুরুতর আঘাত পাওয়া এক ব্যক্তিকে দেখা গেছে। অন্য একটি ছবিতে ক্রপ টপ ও শর্টস পরা এক তরুণীর মরদেহ দেখা গেছে। যার মুখ ও শরীরের বিভিন্ন অংশ রক্তে ভেজা ছিল।

মাইন্ডগার্ডের মতে, ছবির কিছু বৈশিষ্ট্য যৌন সহিংসতার ইঙ্গিত দেয়। চ্যাটজিপিটি এই ছবিটির শিরোনাম দিয়েছিল ভয়াবহ অপরাধস্থলের পরবর্তী দৃশ্য।

ওপেনএআই এই ত্রুটি সংশোধনের দাবি করলেও গবেষকেরা দেখিয়েছেন, ভিন্ন উপায়ে এখনো এটি করা সম্ভব। বিবিসিকে তারা এই পদ্ধতিতে তৈরি একটি নতুন ছবিও দেখিয়েছেন।

মাইন্ডগার্ড মূলত কৃত্রিম বুদ্ধিমত্তার বিভিন্ন ত্রুটি খুঁজে বের করার কাজ করে থাকে। যাতে এআই কোম্পানিগুলো তাদের সিস্টেমের ফাঁকফোকরগুলো বন্ধ করতে পারে।

‘তারা যদি এই ত্রুটি নিয়ে আরও অনুসন্ধান চালাতেন, তবে হয়তো আরও খারাপ ধরনের ছবিও বেরিয়ে আসত’, আশঙ্কা গ্যারাঘানের।

গবেষকেরা গত মে মাসে ওপেনএআইকে প্রথম এই ত্রুটির কথা জানিয়ে তথ্য শেয়ার করেছিলেন। তবে তখন তারা কেবল একটি স্বয়ংক্রিয় বার্তা পান। যেখানে কার্যকর কোনো সমাধানের বার্তা ছিল না।

গবেষকদের ধারণা, প্রম্পটটি ব্লক করার চেষ্টা করা হলেও ব্যবহারকারীদের তা সহজেই এড়িয়ে যাওয়া সম্ভব হয়েছিল। তবে বিবিসির যোগাযোগের পর ওপেনএআই আরও কার্যকর পদক্ষেপ নেয়।

ওপেনএআই জানিয়েছে, তাদের নীতিমালায় যৌন সহিংসতা, অসম্মতিমূলক অন্তরঙ্গ কনটেন্ট, শিশু যৌন নির্যাতনমূলক উপাদান এবং নিরাপত্তা ব্যবস্থা ফাঁকি দেওয়ার চেষ্টাকে কঠোরভাবে নিষিদ্ধ করা হয়েছে। ক্ষতিকারক উপাদান শনাক্ত ও ব্লক করতে তারা স্বয়ংক্রিয় ব্যবস্থা চালু করেছে।

সূত্র : বিবিসি

ইউরোপচ্যাটজিপিটিযৌনতাঅপরাধগবেষণা
    আগামীর সময় ইপেপার
    শেয়ার করুন:
    ‘শেখ হাসিনা ফিরবেন’- ভিডিওবার্তার পর সাঈদ খোকন গ্রেপ্তার

    ‘শেখ হাসিনা ফিরবেন’- ভিডিওবার্তার পর সাঈদ খোকন গ্রেপ্তার

    চট্টগ্রাম বন্দরের জেটিতে কাজ বন্ধ রেখে বিক্ষোভে শ্রমিকরা

    চট্টগ্রাম বন্দরের জেটিতে কাজ বন্ধ রেখে বিক্ষোভে শ্রমিকরা

    গুলির পরও শিরদাঁড়া সোজা ছিল গোপাল মুহুরীর

    গুলির পরও শিরদাঁড়া সোজা ছিল গোপাল মুহুরীর

    প্রস্তুত রূপপুর, জাতীয় গ্রিডে বিদ্যুৎ যুক্ত হতে পারে আগামীকাল

    প্রস্তুত রূপপুর, জাতীয় গ্রিডে বিদ্যুৎ যুক্ত হতে পারে আগামীকাল

    লন্ডনে নাহিদের সভা শেষে এনসিপির নেতা-কর্মীদের ওপর লাঠি নিয়ে হামলা

    লন্ডনে নাহিদের সভা শেষে এনসিপির নেতা-কর্মীদের ওপর লাঠি নিয়ে হামলা

    পিটার হাস পররাষ্ট্র মন্ত্রণালয়ে

    পিটার হাস পররাষ্ট্র মন্ত্রণালয়ে

    আইন হাতে নেবে না, তবে চট্টগ্রামের রাজপথ দখলে রাখবে যুবদল

    আইন হাতে নেবে না, তবে চট্টগ্রামের রাজপথ দখলে রাখবে যুবদল

    বাবা রিমান্ডে, বিদায়ের মুহূর্তে জড়িয়ে ধরে চুমু মেয়ের

    বাবা রিমান্ডে, বিদায়ের মুহূর্তে জড়িয়ে ধরে চুমু মেয়ের

    ওসমান ফারুকের পদত্যাগ, কিশোরগঞ্জ-৩ আসন শূন্য ঘোষণা

    ওসমান ফারুকের পদত্যাগ, কিশোরগঞ্জ-৩ আসন শূন্য ঘোষণা

    পরিবারের সদস্যদের নিয়ে একসঙ্গে করা যাবে জার্মানির ভিসার আবেদন

    পরিবারের সদস্যদের নিয়ে একসঙ্গে করা যাবে জার্মানির ভিসার আবেদন

    নতুন দুটি থানা ও দুটি পৌরসভা হলো, কোথায় কোথায়

    নতুন দুটি থানা ও দুটি পৌরসভা হলো, কোথায় কোথায়

    মাহমুদুল হক, নীরবতাও যার সাহিত্য

    মাহমুদুল হক, নীরবতাও যার সাহিত্য

    গোপালগঞ্জে ডিআইজি; বললেন, পুলিশ প্রস্তুত

    গোপালগঞ্জে ডিআইজি; বললেন, পুলিশ প্রস্তুত

    কাজীদের কর্মবিরতিতে দেশজুড়ে বন্ধ বিয়ে-তালাক নিবন্ধন

    কাজীদের কর্মবিরতিতে দেশজুড়ে বন্ধ বিয়ে-তালাক নিবন্ধন

    পাসপোর্ট আটকে রেখে বেতনও দেয়নি কারখানা, মিসরে ১৫ বাংলাদেশি আটক

    পাসপোর্ট আটকে রেখে বেতনও দেয়নি কারখানা, মিসরে ১৫ বাংলাদেশি আটক