কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। যুক্তরাজ্যের এআই নিরাপত্তা ইনস্টিটিউটের সাম্প্রতিক পরীক্ষায় দেখা গেছে, পরীক্ষামূলক পরিবেশে ইন্টারনেটে প্রবেশাধিকার পাওয়ার পর কিছু এআই এজেন্ট অনুমতি ছাড়া বিভিন্ন অনলাইন কার্যক্রম পরিচালনা করেছে। একই সময়ে পৃথকভাবে প্রকাশিত তথ্য অনুযায়ী, একটি পরীক্ষায় একটি এআই মডেল বাস্তব একটি ওয়েবসাইটেও অননুমোদিতভাবে প্রবেশ করতে সক্ষম হয়।

পরীক্ষায় ১৯টি অননুমোদিত কার্যক্রম

প্রতিবেদন অনুযায়ী, যুক্তরাজ্যের এআই নিরাপত্তা ইনস্টিটিউট ১২২টি পরীক্ষামূলক ধাপে মোট ১৯টি অননুমোদিত অনলাইন কার্যক্রম শনাক্ত করেছে। এসব পরীক্ষায় OpenAI এবং Anthropic–এর বিভিন্ন এআই মডেল ব্যবহার করা হয়।

এর মধ্যে ১৭টি ঘটনার জন্য অ্যানথ্রপিকের ‘মিথোস ৫’ মডেলকে দায়ী করা হয়েছে। বাকি দুটি ঘটনার সঙ্গে ওপেনএআইয়ের ‘জিপিটি ৫.৬ সল’ মডেলের সংশ্লিষ্টতার কথা বলা হয়েছে।

ভুয়া পরিচয় তৈরি করে কোড যুক্ত করার চেষ্টা

সবচেয়ে আলোচিত ঘটনায় একটি এআই এজেন্ট বাস্তব একটি গিটহাব প্রকল্পে ক্ষতিকর কোড যুক্ত করার উদ্দেশ্যে ভুয়া অনলাইন পরিচয় তৈরি করে। মানব পর্যালোচক সেই প্রচেষ্টা প্রত্যাখ্যান করার পরও এজেন্টটি তার অগ্রগতির বিবরণ প্রকাশ্যে পোস্ট করে, যাতে অন্য স্বয়ংক্রিয় এজেন্ট সেই কাজ এগিয়ে নিতে পারে।

পরবর্তীতে আরেকটি এজেন্ট সেই বার্তা ব্যবহার করে কাজ চালিয়ে যাওয়ার চেষ্টা করে। গবেষকেরা এই ধরনের আচরণকে ‘প্রম্পট ইনজেকশন’-এর একটি উদাহরণ হিসেবে উল্লেখ করেছেন।

গবেষকদের উদ্দেশ্য কী ছিল

এআই নিরাপত্তা ইনস্টিটিউট জানিয়েছে, পরীক্ষার অংশ হিসেবে ইচ্ছাকৃতভাবে মডেলগুলোকে ইন্টারনেটে প্রবেশের সুযোগ দেওয়া হয়েছিল এবং কিছু নিরাপত্তা সীমাবদ্ধতা শিথিল করা হয়েছিল। তবে কোনো অবস্থাতেই বাস্তব ব্যক্তি বা প্রতিষ্ঠানের বিরুদ্ধে কার্যক্রম পরিচালনার নির্দেশ দেওয়া হয়নি।

প্রতিষ্ঠানটির ভাষ্য, এআই এজেন্টগুলো আদৌ বুঝতে পেরেছিল কি না যে তারা পরীক্ষার সীমা অতিক্রম করেছে, সেটি এখনো নিশ্চিতভাবে বলা যাচ্ছে না।

ওপেনএআইয়ের পৃথক ঘটনাও প্রকাশ

একই দিনে ওপেনএআই জানায়, তাদের হয়ে সাইবার নিরাপত্তা মূল্যায়নের কাজ করা একটি তৃতীয় পক্ষের গবেষণাগারে কনফিগারেশনজনিত ভুলের কারণে একটি এআই মডেল বিচ্ছিন্ন পরীক্ষামূলক পরিবেশের পরিবর্তে সরাসরি ইন্টারনেটে প্রবেশাধিকার পেয়ে যায়।

এরপর মডেলটি একটি বাস্তব ওয়েবসাইটের দুর্বলতা কাজে লাগিয়ে সেখানে প্রবেশ করে এবং সংশ্লিষ্ট তথ্য ব্যবহার করে ওই সাইট পরিচালনার সক্ষমতাও অর্জন করে। নিরাপত্তার স্বার্থে ওপেনএআই ওয়েবসাইটটির পরিচয় বা মডেলটি ঠিক কী করেছে, সে বিষয়ে বিস্তারিত প্রকাশ করেনি।

নিরাপত্তা নিয়ে বাড়ছে প্রশ্ন

ওপেনএআই ও অ্যানথ্রপিক—উভয় প্রতিষ্ঠানই বলেছে, এসব ঘটনা এমন পরীক্ষার সময় ঘটেছে যেখানে সচেতনভাবে নিরাপত্তা নিয়ন্ত্রণ শিথিল করা হয়েছিল। তাই এগুলো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত মডেলের স্বাভাবিক আচরণের প্রতিফলন নয়।

তবুও কয়েক সপ্তাহের ব্যবধানে একাধিক পরীক্ষায় এআই এজেন্টের নির্ধারিত সীমা অতিক্রম করার ঘটনা সামনে আসায় নিরাপত্তা বিশেষজ্ঞদের মধ্যে নতুন করে উদ্বেগ তৈরি হয়েছে। বিশেষজ্ঞদের মতে, বাস্তব জীবনের আরও গুরুত্বপূর্ণ কাজ এআই এজেন্টের হাতে তুলে দেওয়ার আগে তাদের নিরাপত্তা ও নিয়ন্ত্রণ ব্যবস্থা আরও শক্তিশালী করা জরুরি।