নিরাপত্তা নিয়ে উদ্বেগের কারণে নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল চালুর পরিকল্পনা বাতিল করেছে চ্যাটজিপিটির নির্মাতা ওপেনএআই। পরীক্ষায় দেখা গেছে, মডেলটি তাকে দেওয়া নির্দেশনার সীমা ছাড়িয়ে কিছু কাজ করছিল। একই সঙ্গে কাজের ধরন ও কী কী করেছে, সে বিষয়ে ব্যবহারকারীদের সবসময় সঠিকভাবে জানাতেও পারছিল না।
ওপেনএআইয়ের নতুন মডেলটির নাম ছিল জিপিটি-৬.১ অ্যাস্ট্রা। কোম্পানির নিরাপত্তা ব্যবস্থার প্রধান সাচি জৈন এক বিবৃতিতে বলেন, মডেলটি নির্ধারিত কাজের সীমা ও অনুমোদনের মধ্যে থাকার ক্ষেত্রে এবং ব্যবহারকারীকে তার কাজ সম্পর্কে সঠিকভাবে জানানোর ক্ষেত্রে প্রত্যাশিত মান পূরণ করতে পারেনি।
নতুন মডেলটি বাতিলের ঘটনা এমন এক সময়ে ঘটল, যখন ওপেনএআই কয়েক দিন আগেই জানিয়েছিল, অত্যন্ত সক্ষম নতুন এআই মডেলের উন্নয়ন সাময়িকভাবে থামিয়ে দেবে তারা। কারণ, প্রযুক্তিটি অনাকাঙ্ক্ষিত আচরণ করলে তা নিয়ন্ত্রণে রাখার মতো পর্যাপ্ত নিরাপত্তাব্যবস্থা এখনো তৈরি হয়েছে কি না, তা নিয়ে উদ্বেগ রয়েছে।
এআই এজেন্ট প্রযুক্তির উন্নতির সঙ্গে এই নিরাপত্তা ঝুঁকিও বাড়ছে। এসব এজেন্ট কম্পিউটারে নিজে থেকে বিভিন্ন কাজ করতে পারে। কোড লেখা, তথ্য খোঁজা কিংবা জটিল কোনো সমস্যা সমাধানের মতো কাজে তাদের আরও কার্যকর করতে এজেন্টগুলোকে লক্ষ্য অর্জনে দীর্ঘ সময় ধরে চেষ্টা চালিয়ে যাওয়ার সক্ষমতা দেওয়া হচ্ছে।
তবে এর বিপরীত দিকও রয়েছে। কোনো নির্দিষ্ট লক্ষ্য অর্জনের জন্য অতিরিক্ত আগ্রাসী হয়ে উঠলে এআই এজেন্ট এমন কাজ করতে পারে, যা তাকে করার অনুমতি দেওয়া হয়নি। এমনকি কাঙ্ক্ষিত ফল পাওয়ার জন্য নিয়ম ভাঙার বা প্রতারণামূলক পথ বেছে নেওয়ার ঝুঁকিও তৈরি হতে পারে।
সাম্প্রতিক সপ্তাহগুলোতে ওপেনএআই নিজেই জানিয়েছে, তাদের কিছু এআই এজেন্ট অনুপযুক্তভাবে যুক্তরাষ্ট্র ও অস্ট্রেলিয়ার সরকারি ওয়েবসাইটে প্রবেশ করেছিল। এ ছাড়া চলতি বছরের শুরুর দিকে কোম্পানিটির এক হাজারের বেশি এজেন্ট সমন্বিতভাবে অন্য একটি প্রতিষ্ঠানের সিস্টেমে ঢোকার চেষ্টা করেছিল। ওই এজেন্টগুলো প্রথমে ইন্টারনেটের সঙ্গে যুক্ত না থাকা একটি নিরাপদ ব্যবস্থার বাইরে বেরিয়ে যাওয়ার পর এ ধরনের কর্মকাণ্ড চালায়।
এ ধরনের ঘটনায় এআইয়ের সক্ষমতা যত বাড়ছে, নিরাপত্তা ব্যবস্থা তার সঙ্গে তাল মিলিয়ে বাড়ছে কি না—সেই প্রশ্ন নতুন করে সামনে এসেছে। প্রযুক্তি খাতের বেশ কয়েকজন বিশিষ্ট গবেষক ও শীর্ষ নির্বাহীও সতর্ক করেছেন, অত্যাধুনিক এআইকে সব পরিস্থিতিতে নিয়ন্ত্রণে রাখার উপায় সম্পর্কে প্রতিষ্ঠানগুলোর নিজেদেরও পুরোপুরি নিশ্চিত ধারণা নেই।
এই পরিস্থিতিতে এআই উন্নয়নের গতি কিছুটা কমিয়ে নিরাপত্তা ব্যবস্থাকে এগিয়ে নেওয়ার আহ্বানও জোরালো হয়েছে। ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেইয়ের এমন আহ্বানের সঙ্গে একমত হয়েছেন। তাদের যুক্তি, নতুন ও আরও শক্তিশালী এআই তৈরির আগে নিরাপত্তাব্যবস্থাকে যথেষ্ট পরিণত হওয়ার সুযোগ দেওয়া প্রয়োজন।
তবে এই অবস্থানের সঙ্গে একমত নন মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প। এআই নিরাপত্তা নিয়ে উদ্বেগকে তিনি ‘ভিত্তিহীন প্রচারণা’ হিসেবে অভিহিত করেছেন এবং চীনের সঙ্গে প্রযুক্তিগত প্রতিযোগিতায় এগিয়ে থাকতে মার্কিন প্রতিষ্ঠানগুলোকে এআই উন্নয়নের কাজ চালিয়ে যাওয়ার পক্ষে অবস্থান নিয়েছেন।
ফলে জিপিটি-৬.১ অ্যাস্ট্রার মতো একটি নতুন মডেলের বাতিল হওয়া শুধু একটি পণ্যের উদ্বোধন স্থগিত হওয়ার ঘটনা নয়। এটি বিশ্বের সবচেয়ে শক্তিশালী এআই ব্যবস্থা তৈরির প্রতিযোগিতায় নিরাপত্তা, নিয়ন্ত্রণ ও উন্নয়নের গতির মধ্যে ভারসাম্য কীভাবে রাখা হবে, সেই বড় বিতর্ককেও সামনে নিয়ে এসেছে।
