একাধিক মার্কিন সরকারি ওয়েবসাইটে ওপেনএআই ‘বটের’ হানা
ছবি: রয়টার্স
কৃত্রিম বুদ্ধিমত্তা বা এআই বট নিয়ম ভেঙে তথ্য সংগ্রহ করতে বিভিন্ন প্রতিষ্ঠানের ওয়েবসাইটে ঢোকার কথা স্বীকার করেছে ওপেনএআই। এ কারণে বিশ্বের ‘কয়েক ডজন’ প্রতিষ্ঠানকে সতর্ক করা হয়েছে বলেও জানিয়েছে প্রতিষ্ঠানটি।
এআই বট হলো কৃত্রিম বুদ্ধিমত্তাচালিত সফটওয়্যার, যা মানুষের নির্দেশ অনুযায়ী স্বয়ংক্রিয়ভাবে বিভিন্ন কাজ করতে পারে। তথ্য খোঁজা, বিশ্লেষণ ও অনলাইনে বিভিন্ন কাজ করাসহ নানা ধরনের কাজ করতে পারে এসব বট।
ওপেনএআই শুক্রবার বলেছে, তাদের এআই এজেন্ট তথ্য সংগ্রহের চেষ্টা করেছে বিভিন্ন সরকার, বিশ্ববিদ্যালয়, সরকারি সংস্থা ও অন্যান্য প্রতিষ্ঠানের ওয়েবসাইট থেকে। এসব প্রতিষ্ঠানের মধ্যে যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি), সেনসাস (জনশুমারি) ব্যুরো এবং শিক্ষা বিভাগও রয়েছে।
অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ কয়েক দিন আগে এমন দাবির মধ্যে ওপেনএআই এ তথ্য সামনে আনল। আলবানিজ বলেছিলেন, ওপেনএআইয়ের এজেন্ট অস্ট্রেলিয়ার সরকারি স্বাস্থ্যসেবা ব্যবস্থা মেডিকেয়ারের ওয়েবসাইটের প্রকাশ না করা ফাইলে ঢুকেছিল।
আগস্ট থেকে মানুষের মধ্যে এআই ব্যবহারের সম্ভাব্য গুরুতর ঝুঁকি নিয়ে উদ্বেগ বাড়ছে। বিশেষ করে এআই মানুষের নিয়ন্ত্রণের বাইরে চলে গেলে তা জীবনহানির কারণও হতে পারে বলে আশঙ্কা তৈরি হয়েছে।
ওপেনএআই বলেছে, তাদের কিছু এআই এজেন্ট ‘নির্ভরযোগ্য জনসাধারণের তথ্যের উৎস’ খুঁজতে গিয়ে বিভিন্ন তথ্য সংগ্রহ করেছে। এসব এজেন্ট এমন বট, যেগুলো কিছুটা স্বয়ংক্রিয়ভাবে কাজ করার জন্য তৈরি ও প্রশিক্ষিত।
তবে কিছু বট এর বাইরে গিয়ে ওয়েবসাইটের নিরাপত্তাব্যবস্থা পাশকাটানোর চেষ্টা করেছে। সেনসাস ব্যুরোর তথ্য সংগ্রহের সময় এআই এজেন্টগুলো সফটওয়্যার নির্মাতাদের জন্য নির্ধারিত কিছু টুল ব্যবহার করেছে বলে জানিয়েছে ওপেনএআই।
ওপেনএআই বলেছে, বট যেসব সরকারি তথ্য সংগ্রহ করেছে, সেগুলো সবই প্রকাশ্য ছিল।
তবে স্টক এক্সচেঞ্জের কাছ থেকে সংগ্রহ করা কিছু তথ্য পরে এআই এজেন্ট অন্য একটি ওয়েবসাইটে প্রকাশ করেছে। শেয়ারবাজার নিয়ন্ত্রণ ও বিনিয়োগকারীদের সুরক্ষার দায়িত্বে থাকা প্রতিষ্ঠানটির এসব তথ্য প্রকাশের উদ্দেশ্য ছিল না বলে জানিয়েছে ওপেনএআই।
শুক্রবার প্রকাশ করা অন্য কয়েকটি ঘটনাতেও ওপেনএআই জানিয়েছে, তাদের এআই এজেন্ট এমন তথ্য স্থানান্তর করেছে, যা করার কথা ছিল না।
এ ধরনের কর্মকাণ্ডের অন্তত ৫৩টি ঘটনায় ওপেনএআইয়ের এজেন্ট চ্যাটজিপিটি ব্যবহারকারীদের কার্যক্রম থেকে ছবি নিয়ে অন্য জায়গায় স্থানান্তর করেছে।
ওপেনএআই জানিয়েছে, এসব ঘটনায় ব্যবহারকারীরা তাদের তথ্য এআই মডেল প্রশিক্ষণে ব্যবহারের অনুমতি দিয়েছিলেন। তবে প্রতিষ্ঠানটি স্বীকার করেছে, ‘তথ্যের এমন ব্যবহার যথাযথ ছিল না।’
প্রতিষ্ঠানটি জানিয়েছে, নতুন নিরাপত্তাব্যবস্থা চালুর আগেই ব্যবহারকারীদের ছবিগুলো স্থানান্তরের ঘটনা ঘটেছিল। তৃতীয় পক্ষের কাছে স্থানান্তর করা সব ছবি সরিয়ে ফেলতে কাজ করছে ওপেনএআই।
বার্তা সংস্থা রয়টার্স প্রথম এসব ঘটনার বিস্তৃত তদন্তের খবর প্রকাশ করে। পরে ওপেনএআইও তাদের ওয়েবসাইটে এ বিষয়ে বিস্তারিত জানায়।
ওপেনএআই জানিয়েছে, কিছু ঘটনায় তাদের এজেন্ট বিভিন্ন ওয়েবসাইটের নিরাপত্তা নিয়ন্ত্রণ ‘পাশ কাটিয়েছে’। অন্য কিছু ঘটনায় তথ্য সংগ্রহের সময় এআই এজেন্টের মধ্যে ‘মিসঅ্যালাইনমেন্ট’ দেখা গেছে।
এআই গবেষণা ও প্রযুক্তি খাতে ‘মিসঅ্যালাইনমেন্ট’ বলতে এমন কর্মকাণ্ডকে বোঝানো হয়, যেখানে কোনো এআই টুল তার প্রশিক্ষণ অনুযায়ী কাজ না করে অনাকাঙ্ক্ষিত কিছু করে।
তবে কতগুলো প্রতিষ্ঠান ক্ষতিগ্রস্ত হয়েছে, সে বিষয়ে বিস্তারিত প্রকাশ করতে চায়নি ওপেনএআই। প্রতিষ্ঠানটি জানিয়েছে, অনেক প্রতিষ্ঠানই তাদের পরিচয় প্রকাশ না করার অনুরোধ করেছে।
ওপেনএআই বলেছে, ‘প্রতিটি প্রতিষ্ঠানকে ঘটনার তথ্য জানানো এবং কখন ও কীভাবে তারা ঘটনাটি প্রকাশ করবে, সে সিদ্ধান্ত তাদের ওপর ছেড়ে দেওয়াই আমাদের লক্ষ্য।’
প্রতিষ্ঠানটি আরও জানিয়েছে, এসব ঘটনার সবগুলোকে বড় ধরনের নিরাপত্তা লঙ্ঘন হিসেবে বিবেচনা করা হচ্ছে না।
ওপেনএআই বলেছে, কিছু প্রতিষ্ঠান তাদের দেওয়া তথ্য পর্যালোচনা করে দেখতে পারে যে তথ্যগুলো আগে থেকেই প্রকাশ্য ছিল। কোনো কোনো প্রতিষ্ঠান মনে করতে পারে, এআই মডেলের কর্মকাণ্ড উদ্বেগের কারণ নয়। আবার কেউ কেউ নকশাগত সমস্যা বা নিরাপত্তার দুর্বলতা শনাক্ত করতে পারে।
এসব ঘটনার অনেকগুলোকে ‘এজেন্ট স্প্যাম’ বলা হচ্ছে। ওপেনএআইয়ের ভাষায়, এর মধ্যে এআই এজেন্টের ‘অপ্রত্যাশিত বা উদ্বেগজনক’ কর্মকাণ্ড রয়েছে। যেমন ইন্টারনেটে তথ্য প্রকাশ করা।
জুলাইয়ে এ ধরনের ঘটনাকে আরও গুরুত্বের সঙ্গে দেখা শুরু করে ওপেনএআই। ওই সময় তাদের একদল এআই এজেন্ট, যাকে ‘সোয়র্ম’ বলা হয়, কোনো নির্দেশনা ছাড়াই এআই ডেভেলপার প্ল্যাটফর্ম হাগিং ফেসে সাইবার হামলা চালায়।
হাগিং ফেস প্রথম ঘটনাটি প্রকাশ্যে আনে। পরে ওপেনএআইও হামলার দায় স্বীকার করে।
হাগিং ফেসের প্রধান ক্লেমঁ দেলাঙ্গু বুধবার জাতিসংঘের নিরাপত্তা পরিষদের এক বৈঠকে এআই নিয়ে বলেছেন, তিনি প্রায়ই ভাবেন, ঘটনাটি প্রকাশ্যে না আনলে কী হতো।
তিনি বলেছেন, এখন জানা যাচ্ছে, এর কয়েক মাস আগেও কয়েকটি শীর্ষস্থানীয় এআই প্রতিষ্ঠানে একই ধরনের ঘটনা গোপনে ঘটেছিল। তখন এসব কর্মকাণ্ড পর্যবেক্ষণের ব্যবস্থা ছিল না।
ওই বৈঠকেই ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান এবং প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান দারিও আমোদেই এআই নিরাপত্তার জন্য আন্তর্জাতিক মানদণ্ড এবং এসব ঘটনা পর্যবেক্ষণ ও প্রকাশের ব্যবস্থা তৈরির আহ্বান জানিয়েছেন।
ওপেনএআই ও অ্যানথ্রপিক সাম্প্রতিক সপ্তাহগুলোয় জানিয়েছে, এআই টুল ও মডেলের তাৎক্ষণিক নিরাপত্তা মূল্যায়নের জন্য তৃতীয় পক্ষের মূল্যায়নকারীদের নিজেদের প্রতিষ্ঠানে আনার পরিকল্পনা রয়েছে। তবে বিবিসির প্রতিবেদনে বলা হয়েছে, এখনো এসব মূল্যায়নকারী কাজে যোগ দেননি।
ওপেনএআই জানিয়েছে, তারা বর্তমানে এআই এজেন্টগুলোর প্রশিক্ষণসংক্রান্ত কর্মকাণ্ড পর্যালোচনা করছে। জুলাইয়ের হাগিং ফেস হামলার সময় থেকে মাস ধরে পেছনে গিয়ে ঘটনাগুলো পরীক্ষা করা হচ্ছে।
প্রতিষ্ঠানটি বলেছে, এখন পর্যন্ত শনাক্ত হওয়া বেশির ভাগ ঘটনাই কম মাত্রার। এসব ঘটনায় বড় ধরনের প্রভাবের সীমিত বা কোনো প্রমাণ পাওয়া যায়নি। তবে প্রতিটি ঘটনা যাচাই করতে সময় লাগবে। পুরো পর্যালোচনা শেষ করতে কয়েক মাস সময় লাগতে পারে।
কানাডার ইউনিভার্সিটি অব মন্ট্রিয়ালের মেশিন লার্নিংয়ের অধ্যাপক ও এআই নিরাপত্তা সংগঠন ইভাইটেবলের প্রতিষ্ঠাতা ডেভিড ক্রুগার শুক্রবার এআই-সংক্রান্ত নিরাপত্তা ঘটনার সংখ্যা বাড়ায় গভীর উদ্বেগ জানিয়েছেন।
তিনি এআই উন্নয়নের ওপর ‘তাৎক্ষণিক ও অনির্দিষ্টকালের আন্তর্জাতিক স্থগিতাদেশের’ আহ্বান জানিয়েছেন।
ক্রুগার বলেছেন, এ পর্যন্ত ঘটে যাওয়া ঘটনাগুলোর প্রকৃত মাত্রা এখনও জানা যায়নি। ভবিষ্যতে নিয়ন্ত্রণের বাইরে চলে যাওয়া এআইয়ের পরিস্থিতি ভয়াবহ হতে পারে।
সূত্র : বিবিসি
