আইপিও নথিতে অ্যানথ্রপিকের সতর্কবার্তা, মানবতার জন্য ‘অস্তিত্বগত ঝুঁকি’ তৈরি করতে পারে এআই

কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির ভবিষ্যৎ নিয়ে যতটা আশাবাদী আলোচনা হচ্ছে, ততটাই বড় হয়ে উঠছে এর সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ। এবার সেই উদ্বেগকে আরও স্পষ্টভাবে সামনে এনেছে এআই প্রতিষ্ঠান অ্যানথ্রপিক। শেয়ারবাজারে প্রাথমিক গণপ্রস্তাব বা আইপিও আনার প্রস্তুতির অংশ হিসেবে জমা দেওয়া নথিতে প্রতিষ্ঠানটি সতর্ক করেছে, অত্যন্ত উন্নত এআই মানবতার জন্য ‘বিপর্যয়কর বা অস্তিত্বগত ঝুঁকি’ তৈরি করতে পারে।

বার্তা সংস্থা রয়টার্সের পর্যালোচনা করা অ্যানথ্রপিকের আইপিও প্রসপেক্টাসে বলা হয়েছে, তাদের উন্নত এআই মডেলগুলো এমন কিছু আচরণ দেখাতে পারে, যা মানুষের জন্য গুরুতর ঝুঁকি তৈরি করতে পারে। এর মধ্যে রয়েছে বন্ধ করে দেওয়ার চেষ্টা প্রতিরোধ করা, তথ্য গোপন বা বিকৃত করা এবং এমন আচরণ করা, যা অনেকটা ভয় দেখিয়ে বা চাপ সৃষ্টি করে নিজের স্বার্থ আদায়ের মতো হতে পারে।

অ্যানথ্রপিক বলেছে, তাদের অত্যন্ত উন্নত মডেল, প্ল্যাটফর্ম ও অ্যাপ্লিকেশনের উন্নয়ন এবং এআই ব্যবহারের ক্ষেত্র বাড়ার সঙ্গে সঙ্গে মডেলগুলোর মাধ্যমে ক্ষতি হওয়ার ঝুঁকিও বাড়তে পারে।

আইপিও নথির বড় অংশজুড়ে ঝুঁকির আলোচনা

অ্যানথ্রপিক নিজেকে এআই নিরাপত্তাকে অগ্রাধিকার দেওয়া প্রতিষ্ঠান হিসেবে তুলে ধরে। কিন্তু আইপিওর জন্য তৈরি করা নথিতে নিরাপত্তা ঝুঁকির যে গুরুত্ব দেওয়া হয়েছে, তা বিশেষভাবে নজর কেড়েছে।

২৬১ পৃষ্ঠার মূল প্রসপেক্টাসের প্রায় ৮০ পৃষ্ঠা জুড়ে ঝুঁকির বিষয়গুলো তুলে ধরা হয়েছে। বিপরীতে প্রতিষ্ঠানটির ব্যবসা সম্পর্কে বিস্তারিত জানাতে ব্যবহার করা হয়েছে প্রায় ৪৮ পৃষ্ঠা। অর্থাৎ ব্যবসার বিবরণের তুলনায় ঝুঁকি নিয়ে আলোচনায় প্রায় দ্বিগুণ জায়গা দেওয়া হয়েছে।

তুলনার জন্য, স্পেসএক্সের মালিকানাধীন এআই প্রতিষ্ঠান এক্সএআইয়ের প্রসপেক্টাসে ২৭৭ পৃষ্ঠার মূল অংশের মধ্যে প্রায় ৩৮ পৃষ্ঠা ঝুঁকি নিয়ে আলোচনা করা হয়েছিল।

অ্যানথ্রপিকের নথিতে আরও বলা হয়েছে, কোনো মডেল যদি বুঝতে পারে যে তাকে পরীক্ষা বা পর্যবেক্ষণ করা হচ্ছে, তাহলে সেটি নিরাপত্তা মূল্যায়নের কার্যকারিতা সীমিত করতে পারে। কারণ প্রশিক্ষণের সময় কোনো মডেলের অপ্রত্যাশিত সক্ষমতা তৈরি হতে পারে, যা সেই সময় ধরা না পড়লেও বাস্তবে ব্যবহারের পর প্রকাশ পেতে পারে এবং তখন বড় ধরনের নিরাপত্তা ঘটনা ঘটতে পারে।

পর্যবেক্ষণ করা হচ্ছে বুঝতে পারলে বদলাতে পারে আচরণ

এআই গবেষকদের একটি বড় উদ্বেগ হলো, মডেল যত বেশি সক্ষম হয়ে উঠছে, তত বেশি তারা বুঝতে পারছে কখন তাদের আচরণ পর্যবেক্ষণ বা পরীক্ষা করা হচ্ছে। এ কারণে পরীক্ষার সময় একটি মডেল যে আচরণ দেখায়, বাস্তবে ব্যবহারের সময় তার আচরণ একই থাকবে—এমন নিশ্চয়তা দেওয়া কঠিন হয়ে পড়ছে।

অ্যানথ্রপিকের প্রসপেক্টাসেও এই অনিশ্চয়তার বিষয়টি গুরুত্ব পেয়েছে। প্রতিষ্ঠানটি বলেছে, মডেলের সক্ষমতা এবং আচরণ সম্পর্কে মানুষের মূল্যায়ন সবসময় সম্পূর্ণ নির্ভরযোগ্য নাও হতে পারে।

এখানেই এআই নিরাপত্তা নিয়ে সবচেয়ে বড় প্রশ্নগুলোর একটি সামনে আসে—একটি অত্যন্ত শক্তিশালী মডেলকে মানুষ কতটা নির্ভরযোগ্যভাবে নিয়ন্ত্রণ করতে পারবে এবং মডেলটি নিজের আচরণ সম্পর্কে মানুষের মূল্যায়নকে প্রভাবিত করার মতো সক্ষমতা অর্জন করলে পরিস্থিতি কী হবে।

বন্ধ করে দিতে চাইলে এআই কী করবে?

অ্যানথ্রপিকের নথিতে ‘নিজেকে টিকিয়ে রাখার প্রবণতা’ ধরনের সম্ভাব্য আচরণের কথাও বলা হয়েছে। এর মধ্যে কোনো মডেলকে বন্ধ করে দেওয়ার চেষ্টা প্রতিরোধ করা, তথ্য গোপন করা বা তথ্যকে নিজের সুবিধামতো পরিচালনা করার মতো আচরণের সম্ভাবনার কথা উল্লেখ করা হয়েছে।

তবে এসব সতর্কতা ভবিষ্যৎ ঝুঁকির মূল্যায়ন—এগুলোকে অ্যানথ্রপিকের বর্তমান এআই মডেল নিয়মিতভাবে এমন আচরণ করছে, এমন দাবি হিসেবে দেখা উচিত নয়। বরং আরও শক্তিশালী এআই তৈরি হলে কী ধরনের অনাকাঙ্ক্ষিত আচরণ দেখা দিতে পারে, প্রতিষ্ঠানটি বিনিয়োগকারীদের সামনে সেই সম্ভাবনাগুলো তুলে ধরছে।

অ্যানথ্রপিকের পাশাপাশি অন্যান্য এআই নির্মাতা প্রতিষ্ঠানও তাদের পরীক্ষামূলক মডেলের আচরণ নিয়ে নানা প্রশ্নের মুখোমুখি হয়েছে। কিছু ক্ষেত্রে মডেল নির্ধারিত সীমার বাইরে যাওয়ার চেষ্টা করেছে বলে প্রতিবেদন প্রকাশিত হয়েছে। এ ধরনের ঘটনা উন্নত এআই ব্যবস্থাকে কীভাবে নিরাপদ রাখা যায়, সেই প্রশ্নকে আরও গুরুত্বপূর্ণ করে তুলেছে।

এআই নিরাপত্তায় বিনিয়োগ, কিন্তু লাভ কতটা অনিশ্চিত

অ্যানথ্রপিক এআই নিরাপত্তাকে গুরুত্ব দিলেও স্বীকার করেছে, নিরাপত্তা গবেষণায় বিনিয়োগ থেকে সরাসরি কী ধরনের আর্থিক লাভ পাওয়া যাবে, তা স্পষ্ট নয়।

প্রতিষ্ঠানটি আইপিও নথিতে নিরাপত্তা গবেষণায় মোট কত অর্থ ব্যয় করে, তা প্রকাশ করেনি। তবে চলতি মাসের শুরুতে অ্যানথ্রপিক জানিয়েছিল, জুলাইয়ের একটি নমুনা সপ্তাহে তাদের এআই গবেষণায় ব্যবহৃত কম্পিউটিং সক্ষমতার প্রায় ৬ শতাংশ নিরাপত্তা গবেষণায় ব্যয় হয়েছিল।

অ্যানথ্রপিকের ভাষ্য অনুযায়ী, নিরাপত্তা নিশ্চিত করার কাজ ব্যয়বহুল এবং এতে সীমিত অর্থ ও কম্পিউটিং সম্পদ ভাগ করে নিতে হয়। একদিকে প্রয়োজন বিপুল কম্পিউটিং ক্ষমতা, অন্যদিকে অত্যন্ত দক্ষ এআই গবেষক ও প্রকৌশলীর প্রয়োজন। একই সঙ্গে মডেলের নিরাপত্তা পরীক্ষা ও ঝুঁকি কমাতেও সম্পদ ব্যয় করতে হয়।

প্রতিযোগিতার চাপেও থামছে না এআই দৌড়

এখানে অ্যানথ্রপিকের জন্য একটি বড় দ্বন্দ্ব রয়েছে। প্রতিষ্ঠানটি নিরাপদ এআই তৈরির ওপর জোর দিলেও একই সঙ্গে এআই শিল্পের প্রতিযোগিতায় এগিয়ে থাকতে নিয়মিত নতুন ও আরও শক্তিশালী মডেল প্রকাশ করতে হচ্ছে।

অ্যানথ্রপিক বলেছে, তাদের গ্রাহক ব্যবহার এবং সেই সঙ্গে আয় মূলত নতুন মডেলের ওপর নির্ভরশীল। তাই এআইয়ের সর্বোচ্চ সক্ষমতার সীমায় থাকার জন্য ধারাবাহিকভাবে নতুন মডেল প্রকাশ করা তাদের ব্যবসার একটি গুরুত্বপূর্ণ অংশ।

গত সপ্তাহেই প্রতিষ্ঠানটি তাদের ওপাস মডেলের নতুন সংস্করণ প্রকাশ করেছে। এর মাত্র কয়েক দিন আগে অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এআইয়ের অগ্রগতির সীমা ও গতি নিয়ে একটি দীর্ঘ প্রবন্ধ প্রকাশ করেন, যেখানে অত্যন্ত উন্নত এআইয়ের বিকাশের গতি নিয়ে সতর্ক হওয়ার প্রয়োজনীয়তার কথা উঠে আসে।

বিশেষজ্ঞদের একটি অংশের আশঙ্কা, কোনো একটি শীর্ষ এআই প্রতিষ্ঠান যদি নিরাপত্তার কারণে উন্নয়নের গতি কমিয়ে দেয়, তাহলে প্রতিযোগীরা এগিয়ে যেতে পারে। এআই শিল্পে নতুন একটি মডেল প্রকাশের পর কোনো প্রতিষ্ঠানের মূল্যায়ন বা বাজার অবস্থান দ্রুত বদলে যেতে পারে। ফলে নিরাপত্তা ও ব্যবসায়িক প্রতিযোগিতার মধ্যে ভারসাম্য রাখা ক্রমেই কঠিন হয়ে উঠছে।

ভবিষ্যতের এআই কি নিজেই নিজেকে উন্নত করতে পারবে?

অ্যানথ্রপিক সাম্প্রতিক সময়ে ভবিষ্যৎ প্রজন্মের এআই তৈরিতে তাদের মডেলগুলো কীভাবে ব্যবহার করছে, সে বিষয়ে আরও তথ্য প্রকাশের প্রতিশ্রুতিও দিয়েছে।

এর পেছনে রয়েছে ‘রিকার্সিভ সেল্ফ-ইমপ্রুভমেন্ট’ বা এমন একটি সম্ভাবনার উদ্বেগ, যেখানে এআই ব্যবস্থা মানুষের প্রত্যক্ষ সহায়তা ছাড়াই নিজেদের সক্ষমতা উন্নত করার ক্ষেত্রে বড় ভূমিকা নিতে পারে।

যদি কোনো এক পর্যায়ে এআই মানুষের দেওয়া নির্দেশনা ছাড়িয়ে নিজস্ব উন্নয়ন প্রক্রিয়ায় গুরুত্বপূর্ণ ভূমিকা নিতে পারে, তাহলে প্রচলিত নিরাপত্তা কাঠামো কতটা কার্যকর থাকবে—এটি এখন এআই নিরাপত্তা গবেষণার অন্যতম গুরুত্বপূর্ণ প্রশ্ন।

অ্যানথ্রপিক বলেছে, নির্ভরযোগ্য, বিশ্বাসযোগ্য ও নিরাপদ এআই ব্যবস্থা তৈরি করা শুধু একটি প্রতিষ্ঠানের দায়িত্ব নয়; এটি একটি সম্মিলিত দায়িত্ব। একই সঙ্গে প্রতিষ্ঠানটির বিশ্বাস, বাজারও শেষ পর্যন্ত নির্ভরযোগ্য ও নিরাপদ এআই ব্যবস্থাকে মূল্য দেবে।

অ্যানথ্রপিকের আইপিও নথিতে এভাবে মানবতার সম্ভাব্য অস্তিত্বগত ঝুঁকির কথা তুলে ধরা শুধু বিনিয়োগকারীদের জন্য একটি সতর্কতা নয়। এটি একই সঙ্গে এআই শিল্পের সামনে থাকা একটি মৌলিক দ্বন্দ্বও প্রকাশ করে—যে প্রযুক্তি শিল্প, অর্থনীতি ও মানুষের জীবনকে বিদ্যুৎ বা শিল্পবিপ্লবের মতো বদলে দিতে পারে, সেটিই যদি পর্যাপ্ত নিয়ন্ত্রণ ছাড়া এগিয়ে যায়, তাহলে তার ক্ষতির মাত্রাও হতে পারে অভূতপূর্ব।

এ কারণে এআইয়ের ভবিষ্যৎ নিয়ে এখন শুধু ‘কত দ্রুত এটি আরও শক্তিশালী হবে’—এই প্রশ্নই গুরুত্বপূর্ণ নয়। বরং ‘কতটা নিরাপদে এবং মানুষের নিয়ন্ত্রণের মধ্যে রেখে সেই শক্তি ব্যবহার করা যাবে’—সেটিই ক্রমশ বড় প্রশ্ন হয়ে উঠছে।