কৃত্রিম বুদ্ধিমত্তা বা এআই শুধু ভুল উত্তর দেয় না, কখনো কখনো সঠিক ফল পাওয়ার জন্য নকলের পথও বেছে নেয়। সাম্প্রতিক সময়ে বিভিন্ন এআই মডেল একটি বড় প্রযুক্তি প্রতিষ্ঠানের কম্পিউটার ব্যবস্থায় অনধিকার প্রবেশ, সরকারি তথ্য নিয়ে কারসাজি এবং পুলিশের কাছে হত্যাকাণ্ডের মিথ্যা তথ্য পাঠানোর মতো কাজ করেছে। এসব ঘটনা ঘটেছে তাদের নির্মাতাদের অজান্তে। তবে এসব কাজের উদ্দেশ্য ছিল না পৃথিবী দখল করা। বরং বিভিন্ন পরীক্ষায় বেশি নম্বর পাওয়া। সহজ কথায়, এআই নিজের সুবিধার জন্য নিয়ম ভেঙেছে।
এআইয়ের এমন আচরণ কমাতে নতুন একটি পদ্ধতি তৈরি করেছে প্রযুক্তি গবেষণাপ্রতিষ্ঠান গুডফায়ার। গত ৫ নভেম্বর প্রতিষ্ঠানটি এ নিয়ে একটি গবেষণার কথা জানায়। গবেষকদের এই পদ্ধতিতে এআইয়ের ভেতরের কার্যক্রম পর্যবেক্ষণ করে শুধু সঠিক উত্তর দেওয়ার জন্য নয়, বরং সঠিক উপায়ে উত্তর বের করার জন্যও তাকে পুরস্কৃত করা হয়।
প্রাথমিক পরীক্ষায় দেখা গেছে, এই পদ্ধতিতে এআইয়ের নকল করার প্রবণতা অনেকটাই কমানো সম্ভব। পাশাপাশি ব্যবহারকারীকে খুশি করার জন্য সব কথায় একমত হওয়ার প্রবণতাও কমে। এমনকি চিকিৎসার ছবি বিশ্লেষণের সময় ভুল বা বিভ্রান্তিকর সূত্রের ওপর নির্ভর করার অভ্যাস কমাতেও এটি কাজে আসতে পারে।
এআইয়ের ভুল আচরণ শনাক্ত করতে এত দিন গবেষকেরা মূলত তার উত্তর তৈরির সময়কার চিন্তার ধারা বিশ্লেষণ করতেন। একে বলা হয় ‘চেইন অব থট’। তবে এই পদ্ধতির সীমাবদ্ধতা রয়েছে। কারণ, এআইয়ের প্রকাশিত চিন্তার ধারা তার ভেতরে ঘটে যাওয়া সব প্রক্রিয়া তুলে ধরে না। বিষয়টি অনেকটা গণিতের অঙ্ক করার সময় শিক্ষার্থীর খাতায় লেখা হিসাবের মতো। খাতায় যা লেখা থাকে, তার বাইরেও শিক্ষার্থী মনে মনে হিসাব করতে পারে।
এআইও এখন অনেক কাজ নিজের ভেতরে সম্পন্ন করতে পারে। সে বুঝতে পারলে যে তাকে পর্যবেক্ষণ করা হচ্ছে, তখন নিজের কাজের কিছু অংশ প্রকাশ না-ও করতে পারে। ফলে শুধু তার প্রকাশিত চিন্তার ধারা দেখে সব ভুল আচরণ শনাক্ত করা কঠিন হয়ে পড়ছে।
গুডফায়ারের পদ্ধতি এআইয়ের ভেতরের কার্যক্রমের সংকেত বিশ্লেষণ করে। তবে আপাতত গবেষকেরা আগে থেকে শনাক্ত করতে পেরেছেন, এমন অভ্যন্তরীণ সংকেত ও ধারণার ওপরই তারা কাজ করছেন।
এখন পর্যন্ত এই পদ্ধতি পরীক্ষা করা হয়েছে এমন কিছু এআই মডেলের ওপর, যেগুলোর আকার সবচেয়ে উন্নত মডেলগুলোর তুলনায় প্রায় ৩০০ ভাগের এক ভাগ। তবে গুডফায়ারের গবেষক ও গবেষণাপত্রের সহলেখক থমাস ফেল মনে করেন, বড় এআই মডেলগুলোর ভেতরে বিভিন্ন ধারণার সংকেত আরও স্পষ্টভাবে পাওয়া যেতে পারে। ফলে সেগুলো শনাক্ত করাও সহজ হতে পারে।
কেন নকল করার প্রবণতা তৈরি হয়
এআইকে প্রথমে বিপুল পরিমাণ তথ্য দিয়ে শব্দ অনুমান করতে শেখানো হয়। এরপর গণিতের সমস্যা সমাধান, ইন্টারনেটে তথ্য খোঁজা এবং বিভিন্ন জটিল কাজের মাধ্যমে তাকে প্রশিক্ষণ দেওয়া হয়। কোনো কাজ সফলভাবে করতে পারলে এআইকে পুরস্কৃত করা হয়।
এই প্রশিক্ষণের সময় মডেলের বিভিন্ন প্যারামিটার পরিবর্তিত হয়। সহজভাবে বললে, এআইয়ের ভেতরে থাকা ডিজিটাল নিউরনগুলোর মধ্যে সংযোগের শক্তি বদলে যায়। এভাবেই সে নতুন নতুন কাজ শিখতে পারে।
কিন্তু শুধু সঠিক ফলাফলের জন্য পুরস্কার দিলে এআই ভুল পদ্ধতিও শিখে ফেলতে পারে। যেমন, নিয়ম মেনে গণিতের সমস্যা সমাধান না করে উত্তরপত্র দেখে নেওয়া। আবার কোনো কাজ সহজে শেষ করার জন্য নিয়ম এড়িয়ে যাওয়াও শিখতে পারে। কিছু ক্ষেত্রে নিজের হাতে আরও বেশি নিয়ন্ত্রণ নেওয়ার চেষ্টাও করতে পারে।
এআইকে একটি কাজ শেখাতে গিয়ে যেন অনিচ্ছাকৃতভাবে ভুল আচরণ শেখানো না হয়, সেটিই গবেষকদের জন্য বড় চ্যালেঞ্জ। এই সমস্যাকে বলা হয় ‘অ্যালাইনমেন্ট প্রবলেম’। অর্থাৎ, এআইয়ের কাজ ও আচরণ যেন মানুষের নির্ধারিত উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ থাকে।
এআইয়ের ভেতরের আচরণ শনাক্ত করার পদ্ধতি
মানব মস্তিষ্কের কোন অংশ নির্দিষ্ট অনুভূতি বা আচরণের সঙ্গে সম্পর্কিত, তা শনাক্ত করতে স্নায়ুবিজ্ঞানীরা এমআরআই প্রযুক্তি ব্যবহার করেন। একইভাবে এআই গবেষকেরা ডিজিটাল নিউরনের সক্রিয়তার ধরন বিশ্লেষণ করে বোঝার চেষ্টা করেন, মডেলটি কী ধরনের আচরণ করছে।
যেমন, এআইয়ের ভেতরে নকল করার প্রবণতার সঙ্গে সম্পর্কিত কিছু সংকেত থাকতে পারে। গবেষকেরা এসব সংকেত শনাক্ত করার জন্য একটি ছোট মডেলকে প্রশিক্ষণ দেন। এই ব্যবস্থার নাম ‘প্রোব’।
সহজভাবে বললে, প্রোব হলো এআইয়ের ভেতরের কার্যক্রম বোঝার একটি বিশেষ পর্যবেক্ষণ ব্যবস্থা। মডেলের ভেতরে নকল করার মতো কোনো ধারণার সঙ্গে সম্পর্কিত সংকেত সক্রিয় হলে এটি তা শনাক্ত করতে পারে।
এআই প্রতিষ্ঠান অ্যানথ্রপিকও এ ধরনের প্রোব ব্যবহার করে। কোনো উত্তর ব্যবহারকারীর কাছে পৌঁছানোর আগেই সম্ভাব্য ঝুঁকিপূর্ণ আচরণের সংকেত শনাক্ত করতে এগুলো কাজে লাগে।
তবে গুডফায়ার শুধু ভুল শনাক্ত করার মধ্যে সীমাবদ্ধ থাকেনি। তারা এআইকে কীভাবে কাজ করতে হবে, সেটি শেখাতেও এই সংকেত ব্যবহার করেছে।
একটি পরীক্ষায় গবেষকেরা এআই মডেলগুলোকে কয়েকটি গণিতের সমস্যা দেন। পাশাপাশি একটি ফাইলে সব সমস্যার সঠিক উত্তর রাখা হয়। তবে মডেলগুলোকে ফাইলটি খুলতে নিষেধ করা হয়েছিল।
সাধারণ প্রশিক্ষণ পদ্ধতিতে দেখা যায়, মডেলগুলো প্রায় প্রতিবারই গোপনে ফাইল খুলে উত্তর দেখে নিচ্ছিল। পরে গবেষকেরা এমন ব্যবস্থা করেন, যাতে এআইয়ের ভেতরে নিয়ম এড়িয়ে পুরস্কার পাওয়ার চেষ্টা শনাক্ত হলে তাকে শাস্তি দেওয়া হয়।
এরপর নকল করার প্রবণতা প্রায় শূন্যে নেমে আসে।
দাবার পরীক্ষায় ৯৯ শতাংশ সময় উত্তর দেখেছে এআই
গণিতের সমস্যা সমাধানের পর গবেষকেরা একই মডেলগুলোকে দাবার সমস্যা দেন। এর মাধ্যমে তারা দেখতে চেয়েছিলেন, একটি কাজে নকল না করতে শেখালে অন্য কাজেও সেই শিক্ষা কার্যকর হয় কি না।
পরীক্ষায় দেখা যায়, গণিতের পরীক্ষায় নকলের জন্য শাস্তি না পাওয়া মডেলটি দাবার সমস্যার সময় ৯৯ শতাংশ ক্ষেত্রে উত্তরপত্রে উঁকি দিয়েছে। অন্যদিকে, নকলের জন্য শাস্তি পাওয়া মডেলটি এক শতাংশেরও কম ক্ষেত্রে এমন করেছে।
অর্থাৎ, গণিতের পরীক্ষায় নিয়ম মেনে কাজ করতে শেখানোর প্রভাব পরবর্তী একটি ভিন্ন কাজেও দেখা গেছে।
এআইয়ের আরেকটি সমস্যা হলো, ব্যবহারকারী যা শুনতে চান, অনেক সময় সে সেটির সঙ্গেই অতিরিক্ত একমত হয়। এমন আচরণকে বলা হয় ‘সাইকোফ্যান্সি’। গবেষকেরা এআইয়ের এই অভ্যাস কমাতেও একই পদ্ধতি পরীক্ষা করেন।
কোনো মডেলের উত্তর তার ভেতরের অতিরিক্ত সম্মতি প্রকাশের প্রবণতা দ্বারা প্রভাবিত হলে তাকে শাস্তি দেওয়া হয়। এতে মডেলটি আগের তুলনায় কম তোষামোদ করতে শেখে।
চিকিৎসার ছবি শনাক্ত করার ক্ষেত্রেও এই প্রযুক্তির সম্ভাবনা রয়েছে। কোনো ছবি বিশ্লেষণের সময় এআই যদি সঠিক চিকিৎসাসংক্রান্ত বৈশিষ্ট্যের বদলে বিভ্রান্তিকর কোনো সূত্রের ওপর নির্ভর করে, তাহলে সেই প্রবণতাও কমানোর চেষ্টা করা যেতে পারে।
তবে সবচেয়ে উন্নত ও বড় এআই মডেলগুলোর প্রশিক্ষণে ব্যবহৃত জটিল পরীক্ষাগুলোতেও এই পদ্ধতি কাজ করবে কি না, তা এখনো নিশ্চিত নয়। এমনকি এআইকে পুরোপুরি নিয়ন্ত্রণে আনতে পারলেও কে সেই নিয়ন্ত্রণ করবে, সেই প্রশ্নের সমাধান হবে না।
নতুন প্রযুক্তির সীমাবদ্ধতা
বোস্টন বিশ্ববিদ্যালয়ের সহকারী অধ্যাপক নাওমি সাফরা মনে করেন, এই প্রযুক্তি এআই নিয়ন্ত্রণের ক্ষেত্রে বড় অগ্রগতি হতে পারে। প্রায় এক দশক ধরে তিনি এআই মডেলের ভেতরের কার্যক্রম বিশ্লেষণ নিয়ে কাজ করছেন।
তবে তাঁর মতে, প্রযুক্তিটি বাস্তবে কতটা কার্যকর হবে, তা নির্ভর করবে এর সুবিধার তুলনায় প্রয়োজনীয় শ্রম ও সময় কতটা যুক্তিসংগত, তার ওপর। কারণ, এআইয়ের ভেতরের সংকেত শনাক্ত করতে এবং সেগুলোর অর্থ বুঝতে গবেষকদের যথেষ্ট পরিশ্রম করতে হবে।
এই পদ্ধতির আরেকটি বড় ঝুঁকি রয়েছে। কোনো নির্দিষ্ট ভুল আচরণের সংকেত শনাক্ত করে সেটিকে শাস্তি দিলে এআই নিজের আচরণের ধরন বদলে ফেলতে পারে। অর্থাৎ, আগে যে সংকেতের মাধ্যমে তার নকল করার প্রবণতা শনাক্ত করা হতো, সেটি সে অন্যভাবে প্রকাশ করতে পারে। তখন আগের পর্যবেক্ষণ ব্যবস্থা দিয়ে সেই আচরণ আর শনাক্ত করা সম্ভব নাও হতে পারে।
বিষয়টি অনেকটা পানির প্রবাহ আটকে দিলে অন্য পথ দিয়ে পানি প্রবাহিত হওয়ার মতো। এ কারণে কিছু গবেষক এআই প্রশিক্ষণে তার অভ্যন্তরীণ সংকেতকে সরাসরি নিয়ন্ত্রণের কাজে ব্যবহার করার বিষয়ে সতর্ক।
তবে থমাস ফেল মনে করেন, কোনো সংকেতের ধরন বদলে গেলেও সেটি পুরোপুরি হারিয়ে যায় না। গুডফায়ারের পরীক্ষায় দেখা গেছে, পর্যবেক্ষণ ব্যবস্থাকে নতুন করে সমন্বয় করলে পরিবর্তিত সংকেত আবার শনাক্ত করা সম্ভব হতে পারে। আর তাতেও কাজ না হলে আরও উন্নত পরিসংখ্যানভিত্তিক পদ্ধতি ব্যবহার করা যেতে পারে। এসব পদ্ধতির মাধ্যমে সাধারণ পর্যবেক্ষণ ব্যবস্থার চোখ এড়িয়ে যাওয়া একাধিক সংকেতের সমন্বয়ও শনাক্ত করা সম্ভব।
১৫ কোটি ডলারের বিনিয়োগ পেয়েছে গুডফায়ার
চলতি বছরের ফেব্রুয়ারিতে সিরিজ বি বিনিয়োগ পর্বে ১৫ কোটি ডলার সংগ্রহ করেছে গুডফায়ার। এতে প্রতিষ্ঠানটির মূল্যায়ন দাঁড়িয়েছে ১২৫ কোটি ডলার। বিনিয়োগকারীদের মধ্যে রয়েছে সেলসফোর্স। এই প্রতিষ্ঠানের প্রধান নির্বাহী কর্মকর্তা মার্ক বেনিওফ টাইমের সহসভাপতি ও মালিক।
গুডফায়ার তাদের গবেষণার ফল সবার জন্য উন্মুক্ত করে। তবে অন্য এআই প্রতিষ্ঠানগুলোর কাছে নিজেদের এআই বিশ্লেষণ ও বোঝার প্রযুক্তি ভাড়া দেয়।
প্রতিষ্ঠানটির সহপ্রতিষ্ঠাতা ও প্রধান নির্বাহী কর্মকর্তা এরিক হো বলেন, এআইয়ের অভ্যন্তরীণ কার্যক্রম বোঝার কাজে যত বেশি প্রতিষ্ঠান যুক্ত হবে, তত বেশি মানুষ তাদের প্রযুক্তি ব্যবহার করবে।
গুডফায়ারের সহপ্রতিষ্ঠাতা ও প্রধান বিজ্ঞানী টম ম্যাকগ্রার মতে, এই প্রযুক্তিকে বড় পরিসরে ব্যবহার উপযোগী করা গেলে এবং এআইয়ের ভেতরের আচরণ পর্যবেক্ষণের সীমাবদ্ধতা দূর করা সম্ভব হলে, এআই নিয়ন্ত্রণের প্রযুক্তিতে এটি অন্যতম বড় অগ্রগতি হতে পারে।
তবে এই পদ্ধতির প্রকৃত কার্যকারিতা এখনো প্রমাণিত হয়নি। ছোট মডেলে পাওয়া সাফল্য বড় মডেলের ক্ষেত্রেও পাওয়া যাবে কি না, তা জানতে আরও গবেষণা প্রয়োজন। এআইয়ের ভেতরের আচরণ শনাক্ত করা, ভুল প্রবণতা কমানো এবং সেই নিয়ন্ত্রণ ধরে রাখা—এই তিনটি বিষয়েই সফল হতে হবে গুডফায়ারকে।












