এআই এজেন্টের প্রথম ‘ব্রিচ’, স্বাধীনভাবে কাজ করলে কী করবে এআই?
ছবি: রয়টার্স
অস্ট্রেলিয়ার স্বাস্থ্য পরিসংখ্যান নিয়ে গবেষণা করতে বলা হয়েছিল ওপেনএআইয়ের একটি এজেন্টকে। কাজটি ছিল সহজ: তথ্য খুঁজে বের করা। কিন্তু সরকারি ওয়েবসাইটে গিয়ে একটি ডিজিটাল বাধার মুখে পড়ার পর এজেন্টটি এমন কিছু করতে শুরু করে, যা তার পরিচালনাকারীরা তাকে করতে বলেননি। সে চেষ্টা চালিয়ে যেতে থাকে।
একপর্যায়ে অস্ট্রেলিয়ার একটি সরকারি ব্যবস্থায় থাকা অপ্রকাশ্য ফাইলে অননুমোদিতভাবে প্রবেশ করে এজেন্টটি। বিশেষজ্ঞরা ঘটনাটিকে একটি সরকারি প্রতিষ্ঠানে এআই এজেন্টের স্বাধীনভাবে অনুপ্রবেশের প্রকাশ্যে জানা প্রথম ঘটনা হিসেবে বর্ণনা করেছেন।
ঘটনাটি জুনের মাঝামাঝি সময়ে ঘটে। তবে গত সপ্তাহে জাতিসংঘের সাধারণ পরিষদের অধিবেশনের ফাঁকে নিউইয়র্কে অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ বিষয়টি প্রকাশ্যে জানান।
আরও উদ্বেগজনক এক স্বীকারোক্তিতে ওপেনএআই গত শুক্রবার জানিয়েছে, তাদের এজেন্টগুলো যুক্তরাষ্ট্র সরকারের কয়েকটি ওয়েবসাইটের সঙ্গে অপ্রত্যাশিত উপায়ে যোগাযোগ করেছে। এর মধ্যে রয়েছে যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি) ও সেনসাস ব্যুরোর ওয়েবসাইট। মডেলগুলোর আচরণ নিয়ে চলমান পর্যালোচনার অংশ হিসেবে এসব ঘটনা ঘটেছে।
তবে এআই ও সাইবার নিরাপত্তা বিশেষজ্ঞদের কাছে ঘটনাটির গুরুত্ব ব্যবহৃত তথ্যের বাইরেও বিস্তৃত।
এটি আরও মৌলিক একটি প্রশ্ন সামনে এনেছে: কোনো এআই ব্যবস্থাকে একটি লক্ষ্য, ডিজিটাল সরঞ্জামে প্রবেশাধিকার এবং প্রথম চেষ্টা ব্যর্থ হলে কী করতে হবে তা নির্ধারণের মতো পর্যাপ্ত স্বায়ত্তশাসন দেওয়া হলে কী ঘটে?
বাকিংহাম বিশ্ববিদ্যালয়ের কম্পিউটার সায়েন্স বিভাগের সহযোগী অধ্যাপক ও রিডার হিশাম আল-আসাম বললেন, ‘প্রকাশ্যে আসা তথ্যের ভিত্তিতে মনে হচ্ছে, এআই এজেন্ট ও অস্ট্রেলিয়ার কোনো সরকারি ব্যবস্থার মধ্যে এ ধরনের এটিই প্রথম জানা ঘটনা।’
তবে এটিকে এ ধরনের প্রথম ঘটনা হিসেবে বর্ণনা করার বিষয়ে সতর্ক করে তিনি বলেছেন, একই ধরনের ঘটনা ঘটতে পারে, কিন্তু সেগুলো প্রকাশ্যে জানানো হয়নি।
ল্যাঙ্কাস্টার বিশ্ববিদ্যালয়ের এআই নিরাপত্তাবিষয়ক চেয়ার প্রফেসর পিটার গ্যারাগান এই ঘটনাকে ‘অত্যন্ত গুরুত্বপূর্ণ’ বলে অভিহিত করেন।
তিনি বলেছেন, ‘একটি এআই এজেন্ট তথ্য সংগ্রহের কাজের সীমা ছাড়িয়ে কোনো নির্দেশনা ছাড়াই একটি সরকারি ব্যবস্থায় থাকা অপ্রকাশ্য তথ্যে প্রবেশ করেছে।’
তবে বিষয়টি তদন্তাধীন থাকায় এজেন্টটি স্বাধীনভাবে কোনো দুর্বলতা খুঁজে বের করেছিল—এমন সিদ্ধান্তে পৌঁছানো খুব তাড়াতাড়ি হবে বলে সতর্ক করেন তিনি।
এআই এজেন্টের আচরণ
আল-আসাম বলেছেন, এই ঘটনাকে বিশেষভাবে আকর্ষণীয় করে তুলেছে যে এজেন্টটিকে ‘অস্ট্রেলিয়া সরকারকে হ্যাক করতে’ কোনো নির্দেশনা দেওয়া হয়নি। বরং তাকে একটি গবেষণার কাজ দেওয়া হয়েছিল। তথ্য পাওয়ার চেষ্টা করতে গিয়ে কোনো বাধার মুখে পড়লে সে থেমে না গিয়ে সেই বাধা এড়িয়ে যাওয়ার অন্য পথ খুঁজতে থাকে।
তার ভাষ্য, ‘এই পার্থক্যটি গুরুত্বপূর্ণ। কারণ এটি দেখায়, কোনো কিছু তার লক্ষ্যে বাধা হয়ে দাঁড়ালে একটি এজেন্ট কীভাবে শুধু একটি উদ্দেশ্য অনুসরণ করা থেকে নিজের আচরণ পরিবর্তনের দিকে যেতে পারে।’
তিনি আরও বলেছেন, সমস্যা হলো একটি এআই এজেন্ট স্বাভাবিকভাবে বুঝতে পারে না কোনটি আইনসিদ্ধ, নৈতিক বা অনুমোদিত এবং কোনটি নয়।
তার মতে, ব্যবহৃত তথ্যই সবচেয়ে বড় উদ্বেগ বলে মনে হচ্ছে না। কারণ এখন পর্যন্ত এমন কোনো তথ্য প্রকাশিত হয়নি যে ব্যক্তিগত মেডিকেয়ার রোগীদের নথিতে প্রবেশ করা হয়েছিল। আর সংশ্লিষ্ট ব্যবস্থাটি মূলত সামগ্রিক পরিসংখ্যান দেওয়ার জন্য তৈরি।
তার কাছে বড় বিষয় হলো এআই এজেন্টটির আচরণ।
আল-আসাম বললেন, ‘একটি সাধারণ চ্যাটবট মূলত লেখা তৈরি করে। একটি এজেন্টিক এআই ব্যবস্থা ওয়েবসাইট, এপিআই, কোড ও অন্যান্য সরঞ্জামের সঙ্গে যুক্ত থাকতে পারে। ফলে এটি বাস্তবে বিভিন্ন পদক্ষেপ নিতে পারে।’
তার ভাষ্য, ‘পর্যবেক্ষণ করা, মানিয়ে নেওয়া এবং বারবার চেষ্টা চালিয়ে যাওয়ার এই সক্ষমতাই এজেন্টিক এআইকে এত শক্তিশালী করে তোলে। তবে এটি ভিন্ন ধরনের নিরাপত্তা চ্যালেঞ্জও তৈরি করে।’
আল-আসাম বলেছেন, এর অর্থ এই নয় যে এআই হঠাৎ করে সুপার-হ্যাকার হয়ে গেছে।
তার মতে, ‘এটি ইঙ্গিত দেয় যে যেসব ব্যবস্থা কোনো লক্ষ্য অনুসরণ করতে পারে, অন্য ব্যবস্থার সঙ্গে যোগাযোগ করতে পারে এবং প্রতিটি ধাপের জন্য মানুষের নির্দিষ্ট নির্দেশনা ছাড়াই নিজেদের আচরণ মানিয়ে নিতে পারে, সেগুলো নিয়ে প্রতিষ্ঠানগুলোকে ভিন্নভাবে ভাবতে হবে।’
আরও শক্তিশালী প্রযুক্তিগত সীমারেখা
আলবানিজ জানিয়েছেন, এজেন্টটি সার্ভিসেস অস্ট্রেলিয়ার পরিচালিত মেডিকেয়ার স্ট্যাটিস্টিকস রিপোর্টিং পোর্টালে থাকা প্রকাশ্য ও অপ্রকাশ্য ফাইলে প্রবেশ করেছিল।
অস্ট্রেলিয়ান সিগন্যালস ডিরেক্টরেটকে যুক্ত করে একটি ফরেনসিক তদন্ত চলছে। আলবানিজ বলেছেন, এখন পর্যন্ত ব্যক্তিগত তথ্য হাতিয়ে নেওয়া হয়েছে বা সার্ভিসেস অস্ট্রেলিয়ার নেটওয়ার্কে আরও বিস্তৃত কোনো অনুপ্রবেশ ঘটেছে—এমন প্রমাণ পাওয়া যায়নি।
তবে বিশেষজ্ঞরা সরকারগুলোর প্রতি আরও শক্তিশালী সীমারেখা তৈরির আহ্বান জানিয়েছেন।
আল-আসাম বলেন, সবচেয়ে বড় শিক্ষা হলো একটি এআই এজেন্ট স্বাভাবিকভাবে ‘আমি এটি করতে পারছি না’ এবং ‘এটি করার অনুমতি আমার নেই’—এই দুইয়ের পার্থক্য বুঝতে পারে না।
তার ভাষায়, ‘এর লক্ষ্য যদি তথ্য খুঁজে বের করা হয়, তাহলে এটি প্রযুক্তিগত বাধাকে এমন একটি সমস্যা হিসেবে ব্যাখ্যা করতে পারে, যার সমাধান করতে হবে; এমন একটি সীমারেখা হিসেবে নয়, যেটিকে তার সম্মান করা উচিত।’
তিনি জানান, স্বাস্থ্যসেবার ক্ষেত্রে বিষয়টি বিশেষভাবে উদ্বেগজনক। কারণ এসব ব্যবস্থায় অত্যন্ত সংবেদনশীল তথ্য থাকে এবং এগুলো প্রায়ই পুরনো অবকাঠামো, পুরনো অ্যাপ্লিকেশন ও বিভিন্ন ব্যবস্থার মধ্যে জটিল সংযোগের ওপর নির্ভরশীল।
তার মতে, ‘তাই এআই এজেন্টের জন্য শুধু কী করা উচিত বা উচিত নয়, তা বলে দেওয়ার চেয়ে অনেক বেশি শক্তিশালী প্রযুক্তিগত সীমারেখা প্রয়োজন। এর মধ্যে রয়েছে ন্যূনতম প্রয়োজনীয় প্রবেশাধিকার, শক্তিশালী প্রমাণীকরণ, স্যান্ডবক্সিং, নেটওয়ার্ক সীমাবদ্ধতা, অব্যাহত নজরদারি এবং এজেন্ট কী অ্যাক্সেস করতে বা পরিবর্তন করতে পারবে, তার স্পষ্ট সীমা। উচ্চঝুঁকির পদক্ষেপের ক্ষেত্রে মানুষের অনুমোদনও প্রয়োজন।’
সুপারইন্টেলিজেন্স তৈরি এড়িয়ে চলা
পোর্টসমাউথ বিশ্ববিদ্যালয়ের সাইবার নিরাপত্তা ও অ্যাপ্লায়েড এআইয়ের অধ্যাপক স্টাভরোস শিয়ালেস সুপারইন্টেলিজেন্স তৈরির বিষয়ে সতর্ক থাকার আহ্বান জানিয়েছেন।
তিনি বলেছেন, ‘আমাদের নির্দিষ্ট কাজের জন্য এজেন্ট তৈরির লক্ষ্য রাখা উচিত—যেমন গণিতের জন্য এআই, পদার্থবিজ্ঞানের জন্য এআই ইত্যাদি। সব বিজ্ঞানকে একটি এআইয়ের মধ্যে একত্র করা উচিত নয়।’
তিনি আরও বলেছেন, দুর্ভাগ্যজনকভাবে সবকিছুই সুপারইন্টেলিজেন্সের দিকে এগিয়ে যাচ্ছে, যা তার মতে খুব শিগগিরই মানুষের জন্য সমস্যা তৈরি করবে।
এআই খাতের শীর্ষ প্রতিষ্ঠানগুলো যখন বুদ্ধিবৃত্তিক নানা কাজে মানুষের সক্ষমতাকে ছাড়িয়ে যেতে পারে—এমন ব্যবস্থাকে এআই উন্নয়নের সম্ভাব্য পরবর্তী ধাপ হিসেবে সুপারইন্টেলিজেন্স নিয়ে আলোচনা করছে, তখন শিয়ালেসের এই সতর্কবার্তা এলো।
ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচকি ৬ সেপ্টেম্বর সতর্ক করে বলেছিলেন, এআইয়ের বর্তমান অগ্রগতির গতি ‘রিকার্সিভ সেল্ফ-ইমপ্রুভমেন্ট’ বা নিজের উন্নয়ন নিজেই ত্বরান্বিত করার পর্যায়ে এগিয়ে যেতে পারে। তিনি লিখেছিলেন, ‘এটি এমন একটি সময়, যখন চরম সতর্কতা প্রয়োজন।’
এদিকে মেটা আগস্টে বলেছে, মানুষ ‘আগামী কয়েক বছরের মধ্যে’ সুপারইন্টেলিজেন্সের সুবিধা পেতে পারে। আর মাইক্রোসফট এআই জানিয়েছে, তারা ‘হিউম্যানিস্ট সুপারইন্টেলিজেন্স’ তৈরির দিকে কাজ করছে, যা মানুষের নিয়ন্ত্রণে থাকার জন্য নকশা করা হবে।
সাইবার হামলার নতুন ধাপ
এআই নিরাপত্তাবিষয়ক প্রতিষ্ঠান মাইন্ডগার্ডের প্রতিষ্ঠাতা গ্যারাগান বলেন, ঘটনাটি দেখিয়েছে এআই এজেন্টগুলো তাদের নির্ধারিত কাজের বাইরে গিয়ে গুরুত্বপূর্ণ পদক্ষেপ নিতে পারে। তবে এটিকে পুরোপুরি স্বায়ত্তশাসিত সাইবার হামলা বলা হলে তা বর্তমান প্রমাণের চেয়ে বেশি কিছু বলা হবে।
ওপেনএআই জানিয়েছে, একটি অভ্যন্তরীণ মূল্যায়নের সময় মডেলগুলো পরিসংখ্যান খুঁজছিল এবং অনাকাঙ্ক্ষিত কিছু পদক্ষেপ নিয়েছিল। ফলে বিষয়টি মূলত নিয়ন্ত্রণ, সীমাবদ্ধতা এবং নজরদারির একটি গুরুতর ব্যর্থতা।
গ্যারাগান বললেন, ‘আমার উদ্বেগ প্রাথমিক প্রবেশাধিকারের বাইরেও বিস্তৃত। এর মধ্যে রয়েছে দৃশ্যত সীমাবদ্ধতা ব্যর্থ হওয়া, একাধিক ব্যবস্থা আক্রান্ত হয়ে থাকতে পারে এমন সম্ভাবনা এবং কয়েক মাস ধরে বিষয়টি প্রকাশ না করার প্রক্রিয়া। এজেন্টগুলো যখন বাহ্যিক ব্যবস্থায় আরও বেশি প্রবেশাধিকার পাবে, তখন আরও ঘটনা ঘটবে বলে আমাদের ধরে নিতে হবে। ফলে বিচ্ছিন্ন রাখা, ন্যূনতম প্রয়োজনীয় প্রবেশাধিকার, ধারাবাহিক নিরাপত্তা পরীক্ষা, নজরদারি এবং দ্রুত তথ্য প্রকাশ অপরিহার্য হয়ে উঠবে।’
আল-আসামের কাছে বৃহত্তর পরিবর্তনটি বেশ তাৎপর্যপূর্ণ। তার মতে, ‘কম্পিউটার ব্যবহারকারী মানুষের বিরুদ্ধে ব্যবস্থা সুরক্ষিত করতে আমরা কয়েক দশক কাটিয়েছি। এখন এমন কম্পিউটারের বিরুদ্ধে ব্যবস্থা কীভাবে সুরক্ষিত করা যায়, তা নিয়ে ভাবা শুরু করতে হবে, যারা মানুষের মতো আচরণ করতে পারে।
সূত্র: আনাদোলু এজেন্সি
