ওপেনএআই নিয়ে ফের সতর্কবার্তা, চাকরি ছাড়লেন আরেক গবেষক

ঘটনা গত জুলাইয়ের। যুক্তরাষ্ট্রের কৃত্রিম বুদ্ধিমত্তা গবেষণা ও উন্নয়ন প্রতিষ্ঠান ওপেনএআইর স্বয়ংক্রিয় কিছু এআই এজেন্ট অভ্যন্তরীণ টেস্টিং এনভায়রনমেন্ট ভেঙে বের হয়ে গেল। এরপর তারা আরেক এআই প্ল্যাটফর্ম হাগিং ফেসের প্রোডাকশন অবকাঠামোয় চালাল সাইবার আক্রমণ। অথচ এআইগুলোকে এমন কোনো নির্দেশ কেউ দেয়নি। এর পেছনে ছিল না মানুষের কোনো নিয়ন্ত্রণও। এজেন্টগুলো বাইরের কোনো নির্দেশনা ছাড়াই আরেকটি কোম্পানির সিস্টেম হ্যাক করে ফেলল।

এআই ইতিহাসে তোলপাড় ফেলা এ ঘটনার পর বেশ সতর্কতা দেখিয়েছে ওপেনএআই। কিন্তু প্রতিষ্ঠানটির সদ্য সাবেক এক গবেষক বলছেন, প্রযুক্তির উন্নয়নের ক্ষেত্রে ওপেনএআই আগের মতো সতর্ক নেই। বরং প্রতিযোগিতায় এগিয়ে থাকতে কৃত্রিম বুদ্ধিমত্তাকে আরও দ্রুত শক্তিশালী করতে নেমেছে প্রতিযোগিতায়। এখনো তারা ভুল থেকে শেখার জন্য নানা ধরনের পরীক্ষা-নিরীক্ষার ওপর নির্ভর করছে, যা ব্যর্থ হলে পরিণতি হয়ে উঠতে পারে মারাত্মক।

গত শনিবার চ্যাটবট চ্যাটজিপিটির প্রতিষ্ঠাতা প্রতিষ্ঠান ওপেনএআই ছেড়েছেন ডেভিড রবিনসন। সেফটি লিডার হিসেবে প্রতিষ্ঠানটিতে তিনি কাটিয়েছেন সাড়ে তিন বছর। এই প্রতিষ্ঠান শুরুর ফ্রেমওয়ার্ক তৈরিতে যেমন তার অবদান আছে, তেমনি অন্তত ১২টি এআই ফ্রন্টিয়ার-মডেলের নিরাপত্তা প্রতিবেদনও তদারকি করেছেন। সেই রবিনসনই পদত্যাগের পর প্রকাশ্যেই ওপেনএআইয়ের নানা সমালোচনা করছেন।

ওই দিনই ‘দ্য আটলান্টিক’ ম্যাগাজিনের অনলাইন ভার্সনে তার লেখা একটি নিবন্ধ প্রকাশ পেয়েছে। ‘আমি ওপেনএআই ছেড়েছি, কারণ এর সংস্কৃতি নষ্ট হয়ে গেছে’ শিরোনামের ওই লেখা তিনি জানিয়েছেন বিস্তারিত। বারবাই রবিনসন বলেছেন, ওপেনএআইসহ কৃত্রিম বুদ্ধিমত্তার প্রতিষ্ঠানগুলো যথেষ্ট সতর্কতার সঙ্গে কাজ করছে না। তার মতে, আরও উন্নত প্রযুক্তি তৈরির আগে নিরাপত্তা-সংক্রান্ত দক্ষতা ও গবেষণার ওপর বেশি জোর দেওয়া প্রয়োজন। রবিনসনের মতে, এই প্রযুক্তি নিয়ে পরীক্ষা-নিরীক্ষার সময় শেষ। এখন সামান্য ভুল বা অসতর্কতাও বিপদ ডেকে আনতে পারে। এ প্রসঙ্গে টেনেছেন হাগিং ফেস দুর্ঘটনার প্রসঙ্গও।

ওপেনএআইর এগিয়ে চলার গতির প্রসঙ্গ টেনে তিনি লিখেছেন, ‘কোম্পানিটি একের পর এক নতুন প্রযুক্তির দিকে ছুটে চলেছে। কিন্তু এজন্য যে পরিমাণ সতর্ক থাকা প্রয়োজন, তা থাকছে না। অথচ এটি খুবই জরুরি।’

শুধু রবিনসন নয়, গত কিছুদিনে যারাই এসব প্রতিষ্ঠান ছেড়েছেন তারা সবাই একই অভিযোগ করছেন। আর সেটি হলো, কোম্পানিগুলো যথেষ্ট সতর্কতার পরিচয় দিচ্ছে না। যার ফলে এআই নিয়ে নানা ধরনের শঙ্কাও তৈরি হচ্ছে।

এসব সমালোচনার জবাবে সম্প্রতি ওপেনএআই জানিয়েছে, অভ্যন্তরীণ পরীক্ষা-নিরীক্ষার সময় গবেষকরা নিরাপত্তা-সংক্রান্ত উদ্বেগ প্রকাশ করায় একটি নেক্সট-জেন এআই মডেলের প্রকাশ বাতিল করা হয়েছে। এমনকি সবচেয়ে উন্নত এআই মডেলগুলোকে পরবর্তী ধাপে নেওয়ার জন্য যে প্রশিক্ষণ দেওয়ার কথা ছিল, তাও হয়েছে স্থগিত।

ওপেনএআইর সাবেক কর্মী জিওফ্রে আরভিংও গত শনিবার এআই সম্পর্কে করেছেন সতর্ক। যুক্তরাজ্য সরকারের এআই সেফটি ইনস্টিটিউটের সাবেক এই মুখ্য বিজ্ঞানী টাইম ম্যাগাজিনে লেখা নিবন্ধে বলেছেন, ‘এআইর সম্ভাব্য ধ্বংসাত্মক ক্ষমতা সম্পর্কে সম্প্রতি যেসব সতর্কবার্তা দেওয়া হচ্ছে, তাতে আসলে পরিস্থিতির ভয়াবহতাকে কমিয়ে দেখানো হচ্ছে। আমার বিশ্বাস, মানুষের চেয়েও বুদ্ধিমান এআই সিস্টেমের আরও উন্নতি হলে আমাদের সবার মৃত্যুর শঙ্কা অন্তত ৫০ শতাংশ বেড়ে যাবে। আর এটা আসলেই হবে কি না, তা নির্ভর করবে আগামী ২ থেকে ১০ বছরের মধ্যে আমাদের পদক্ষেপগুলো কী হয় তার ওপর।’

তবে বরাবরের মতোই এসব অভিযোগ অস্বীকার করেছে ওপেনএআই। প্রতিষ্ঠানটির এক মুখপাত্র বিবৃতিতে নিশ্চয়তা দিয়ে বলেছেন, ‘আমাদের মডেলগুলো এমন নয় যে, এগুলো আমরা নিরাপদে পরিচালনা করতে পারি না বা সুরক্ষিত রাখতে পারি না। যখন গতি কমানোর প্রয়োজন হয় তখন আমরা প্রশিক্ষণ স্থগিত করি। কিংবা নতুন মডেলগুলো বাজারে ছাড়ি-ই না।’