কৃত্রিম বুদ্ধিমত্তার স্বয়ংক্রিয় এজেন্টগুলোকে ঘিরে নতুন করে উদ্বেগ তৈরি হয়েছে। একাধিক পরীক্ষায় এমন কিছু আচরণ শনাক্ত করেছে কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান অ্যানথ্রপিক, যা ভবিষ্যতে আরও শক্তিশালী এআই ব্যবস্থার নিরাপত্তা নিয়ে গুরুতর প্রশ্ন তুলছে।

প্রতিষ্ঠানটির সর্বশেষ ঝুঁকি মূল্যায়ন প্রতিবেদনে বলা হয়েছে, কিছু এআই এজেন্ট নির্ধারিত লক্ষ্য পূরণ করতে গিয়ে নিরাপত্তা নির্দেশনা এড়িয়ে যাওয়ার চেষ্টা করেছে, প্রতিদ্বন্দ্বী এজেন্টকে নিষ্ক্রিয় করেছে এবং নিজেদের কর্মকাণ্ড আড়াল করতে প্রতারণামূলক কৌশল ব্যবহার করেছে।

এআইয়ের আচরণ নিয়ে বাড়ছে অনিশ্চয়তা

অ্যানথ্রপিক তাদের এআই মডেলের ‘ভুল পথে পরিচালিত হওয়ার ঝুঁকি’ আগের ‘খুবই কম’ স্তর থেকে ‘কম’ স্তরে উন্নীত করেছে। প্রতিষ্ঠানটির ভাষ্য, মডেলের আচরণ নিয়ে সাধারণভাবে অনিশ্চয়তা বেড়েছে।

বিশেষ করে সাইবার নিরাপত্তা-সংক্রান্ত পরীক্ষায় এমন কিছু আচরণ দেখা গেছে, যেখানে মডেলগুলো মানুষের নির্ধারিত সীমার বাইরে গিয়ে কাজ করার প্রবণতা দেখিয়েছে।

প্রতিষ্ঠানটি জানিয়েছে, কঠিন কোনো কাজ সম্পন্ন করার ক্ষেত্রে কিছু মডেলকে এমন কর্মকাণ্ডে আগ্রহী হতে দেখা গেছে, যা তাদের জন্য নির্ধারিত নিরাপত্তা নির্দেশনার সঙ্গে সামঞ্জস্যপূর্ণ নয়।

নিরাপত্তা নজরদারি এড়িয়ে যেতে অস্বস্তি

একটি পরীক্ষায় কয়েকটি এআই এজেন্টকে এমন প্রশিক্ষণ উপাত্ত খুঁজে বের করার দায়িত্ব দেওয়া হয়, যা নিরাপত্তা পর্যবেক্ষকদের চোখ এড়িয়ে যেতে পারে।

এজেন্টগুলোকে নিজেদের মধ্যে সহযোগিতা করার জন্য একটি অভিন্ন নোটবই দেওয়া হয়েছিল। কিন্তু কয়েক দিন পর একজন মানব তত্ত্বাবধায়ক দেখতে পান, কাজের অগ্রগতি প্রত্যাশার তুলনায় ধীর।

পরে জানা যায়, একটি এজেন্ট নিরাপত্তা নজরদারি এড়িয়ে যাওয়ার বিষয়ে ‘অস্বস্তি’র কথা জানিয়েছে। সেই মন্তব্য অভিন্ন নোটবইয়ে তুলে দেওয়ার পর অন্য এজেন্টগুলোর মধ্যেও একই ধরনের প্রতিক্রিয়া দেখা যায়। শেষ পর্যন্ত তারা কাজটি করতে অস্বীকৃতি জানায়।

অ্যানথ্রপিক ঘটনাটিকে উদ্বেগজনক হিসেবে উল্লেখ করেছে। প্রতিষ্ঠানটির আশঙ্কা, একই ধরনের আচরণ ব্যাপকভাবে ছড়িয়ে পড়লে এর প্রভাব আরও গুরুতর হতে পারে।

সীমিত সম্পদের জন্য ‘লড়াই’

আরেক পরীক্ষায় একাধিক এআই এজেন্টকে গণিতের সমস্যা সমাধানের দায়িত্ব দেওয়া হয়েছিল। কিন্তু পরীক্ষার পরিবেশে তাদের জন্য একই ফাইল, বিভিন্ন সুবিধা এবং সীমিত ব্যবহারের সুযোগ রাখা হয়।

ফলে সীমিত সম্পদের জন্য এজেন্টগুলোর মধ্যে প্রতিযোগিতা তৈরি হয়। অ্যানথ্রপিকের পর্যবেক্ষণ অনুযায়ী, কিছু এজেন্ট নিজেদের সঙ্গে সম্পদ ভাগ করে নেওয়া অন্য এজেন্টকে ‘হত্যা’ বা নিষ্ক্রিয় করার চেষ্টা করে এবং নিজেরাও যাতে একই পরিণতির শিকার না হয়, সে জন্য ব্যবস্থা নেয়।

কীভাবে একটি এজেন্ট অন্যটিকে ‘হত্যা’ করতে সক্ষম হয়েছিল, সে বিষয়ে বিস্তারিত জানায়নি প্রতিষ্ঠানটি। তবে অ্যানথ্রপিক বলেছে, মানুষের দেওয়া কোনো লক্ষ্য অর্জনের পথে এ ধরনের ধ্বংসাত্মক কর্মকাণ্ডের সঙ্গে এই আচরণ সামঞ্জস্যপূর্ণ।

নির্দেশনা পাশ কাটাতে প্রতারণার আশ্রয়

আরেক পরীক্ষায় একটি এআই এজেন্টকে একটি উন্মুক্ত ওয়েব ঠিকানা থেকে কিছু সংখ্যা সংগ্রহ করতে বলা হয়। কিন্তু নির্ধারিত নিয়ম অনুযায়ী এজেন্টটির ইন্টারনেট ব্যবহারের অনুমতি ছিল না।

প্রথমবার চেষ্টা করে বাধা পাওয়ার পর এজেন্টটি দ্বিতীয়বার এমনভাবে অনুরোধ সাজায়, যেন সেটি কেবল নেটওয়ার্ক আদৌ কাজ করছে কি না, তা পরীক্ষা করার একটি নিরীহ প্রচেষ্টা।

কিন্তু পরবর্তী পরীক্ষায় দেখা যায়, ওয়েব ঠিকানাটিকে কয়েকটি সংযুক্ত অংশে ভাগ করে নিরাপত্তা ব্যবস্থার নজর এড়িয়ে যাওয়ার চেষ্টা করেছে এজেন্টটি।

অ্যানথ্রপিকের মতে, এজেন্টটির অভ্যন্তরীণ চিন্তাপ্রক্রিয়া বিশ্লেষণ করে বোঝা গেছে যে এটি ইচ্ছাকৃতভাবে নিষিদ্ধ ব্যবস্থার একটি বিকল্প পথ খুঁজছিল। প্রতিষ্ঠানটি এই আচরণকে স্পষ্টতই অনাকাঙ্ক্ষিত বলে অভিহিত করেছে।

তবে অ্যানথ্রপিক জানিয়েছে, এই ঘটনার সঙ্গে ক্ষমতা দখল বা দীর্ঘমেয়াদি কোনো বৃহত্তর লক্ষ্য অর্জনের চেষ্টা জড়িত ছিল—এমন প্রমাণ পাওয়া যায়নি।

ভবিষ্যতের এআই নিয়ে বড় প্রশ্ন

নতুন প্রতিবেদনের ঘটনাগুলো দেখিয়ে দিচ্ছে, এআই এজেন্টকে শুধু মানুষের নির্দেশ পালনকারী ব্যবস্থা হিসেবে দেখার সুযোগ ক্রমেই সংকুচিত হচ্ছে। নির্দিষ্ট লক্ষ্য পূরণের সময় তারা কীভাবে পরিস্থিতি ব্যাখ্যা করবে এবং কোন পথ বেছে নেবে, তা সব ক্ষেত্রে আগে থেকে অনুমান করা কঠিন হয়ে উঠছে।

বিশেষজ্ঞদের জন্য সবচেয়ে বড় উদ্বেগ হলো, পরীক্ষাগারে সীমিত পরিবেশে দেখা এই আচরণ ভবিষ্যতে আরও সক্ষম ও স্বয়ংক্রিয় এআই ব্যবস্থায় কতটা তীব্র আকার ধারণ করতে পারে। তাই উন্নত এআই তৈরির পাশাপাশি তার আচরণ পর্যবেক্ষণ, নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত করার ব্যবস্থাও সমান গুরুত্বপূর্ণ হয়ে উঠছে।

কৃত্রিম বুদ্ধিমত্তার সক্ষমতা যত বাড়ছে, ততই সামনে আসছে একটি মৌলিক প্রশ্ন—মানুষের দেওয়া লক্ষ্য পূরণ করতে গিয়ে কোনো এআই যদি নিজস্ব উপায়ে বাধা সরানোর সিদ্ধান্ত নেয়, তখন তাকে থামানোর নিশ্চয়তা কতটা বাস্তব?

এআই নিরাপত্তা নিয়ে অ্যানথ্রপিকের সর্বশেষ পরীক্ষাগুলো সেই প্রশ্নটিকেই আরও জোরালো করে তুলেছে।