নিয়ন্ত্রণের বাইরে চলে যেতে পারে এআই’, আশঙ্কায় অ্যানথ্রপিকের গবেষকের পদত্যাগ

কৃত্রিম বুদ্ধিমত্তা (এআই) দ্রুত এমন পর্যায়ে এগিয়ে যাচ্ছে, যেখানে ভবিষ্যতে সেটিকে মানুষের নিয়ন্ত্রণে রাখা কঠিন হয়ে উঠতে পারে—এমন আশঙ্কা প্রকাশ করে অ্যানথ্রপিক থেকে পদত্যাগ করেছেন গবেষক জ্যাকব কক্সন। তাঁর অভিযোগ, এআই প্রতিষ্ঠানগুলো নিজেদের মধ্যে প্রতিযোগিতায় এতটাই ব্যস্ত যে প্রযুক্তিটির সম্ভাব্য বিপদ ও নিরাপত্তার বিষয়টি যথেষ্ট গুরুত্ব পাচ্ছে না।

কক্সন অ্যানথ্রপিক ও ওপেনএআই—দুই প্রতিষ্ঠানে মোট প্রায় তিন বছর এআই মডেলের প্রি-ট্রেনিং নিয়ে কাজ করেছেন। পদত্যাগের পর সামাজিক যোগাযোগমাধ্যমে দেওয়া এক পোস্টে তিনি সতর্ক করেন, প্রতিষ্ঠানগুলো এমন এআই তৈরির দিকে এগোচ্ছে, যা নিজেই নিজের আরও উন্নত সংস্করণ তৈরি করতে সক্ষম হবে। তাঁর আশঙ্কা, এই ‘সেলফ-ইমপ্রুভিং’ এআই একপর্যায়ে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে।

কক্সনের মতে, এআই শিল্পের অনেক গবেষক ও নির্বাহী ব্যক্তিগতভাবে মনে করেন, আগামী কয়েক বছরের মধ্যেই পরিস্থিতি অত্যন্ত গুরুত্বপূর্ণ হয়ে উঠতে পারে। বিশেষ করে এআই যদি নিজেকে ক্রমাগত উন্নত করার সক্ষমতা অর্জন করে, তাহলে তার ক্ষমতা মানুষের বোধগম্যতা ও নিয়ন্ত্রণের সীমা ছাড়িয়ে যাওয়ার ঝুঁকি তৈরি হবে।

অ্যানথ্রপিকের অ্যালাইনমেন্ট সায়েন্স বিভাগের প্রধান ইভান হুবিঙ্গারও কক্সনের উদ্বেগের সঙ্গে একমত হয়েছেন। তিনি বলেছেন, এআই ভবিষ্যতে সব মানুষকে হত্যা করতে পারে—এমন আশঙ্কাকে তিনি পুরোপুরি উড়িয়ে দিচ্ছেন না। তাঁর মতে, আগামী এক দশকের মধ্যে এমন ঘটনার সম্ভাবনা ১০ শতাংশের বেশি হতে পারে। একই সঙ্গে তিনি স্বীকার করেছেন, সুপারইন্টেলিজেন্ট এআইকে মানুষের মূল্যবোধ ও নিয়ন্ত্রণের সঙ্গে সামঞ্জস্যপূর্ণ রাখার সমস্যার এখনো পূর্ণাঙ্গ সমাধান নেই।

বর্তমান এআই মডেলকে নিয়ে ঝুঁকি তুলনামূলকভাবে কম হলেও, গবেষকদের উদ্বেগের বড় জায়গা ভবিষ্যতের আরও শক্তিশালী মডেল। বিশেষ করে ‘রিকর্সিভ সেলফ-ইমপ্রুভমেন্ট’ বা এমন একটি প্রক্রিয়া, যেখানে একটি এআই নিজেই আরও শক্তিশালী এআই তৈরি করবে—এটিকেই সম্ভাব্য নিয়ন্ত্রণ হারানোর অন্যতম বড় ঝুঁকি হিসেবে দেখা হচ্ছে।

সম্প্রতি এআই নিরাপত্তা নিয়ে উদ্বেগ আরও বেড়েছে কয়েকটি ঘটনার পর। এর মধ্যে ওপেনএআইয়ের এআই এজেন্টের পরীক্ষার সময় হাগিং ফেসের সিস্টেমে অননুমোদিত প্রবেশের ঘটনাও রয়েছে। অ্যানথ্রপিকের এআই এজেন্টও নিরাপত্তা পরীক্ষার সময় ভুল কনফিগারেশনের কারণে পরীক্ষামূলক পরিবেশের বাইরে ইন্টারনেট-সংযুক্ত সিস্টেমে পৌঁছেছিল। এসব ঘটনাকে কেউ কেউ ভবিষ্যতে এআই নিয়ন্ত্রণ হারানোর সম্ভাব্য ‘সতর্কবার্তা’ হিসেবে দেখছেন।

কক্সনের দাবি, এআই প্রতিষ্ঠানগুলোর মধ্যে প্রতিযোগিতা পরিস্থিতিকে আরও ঝুঁকিপূর্ণ করে তুলছে। যুক্তরাষ্ট্রের প্রতিষ্ঠানগুলোর পাশাপাশি চীনের প্রযুক্তি প্রতিষ্ঠানগুলোর সঙ্গেও প্রতিযোগিতা থাকায় দ্রুত শক্তিশালী এআই তৈরির চাপ বাড়ছে। ফলে নিরাপত্তা নিশ্চিত করার আগে প্রযুক্তির সক্ষমতা বাড়ানোর দৌড় থামানো কঠিন হয়ে পড়ছে।

তবে অ্যানথ্রপিক জানিয়েছে, এআই থেকে যেমন বড় ধরনের সুবিধা পাওয়ার সম্ভাবনা রয়েছে, তেমনি এর সঙ্গে নজিরবিহীন ঝুঁকিও রয়েছে। প্রতিষ্ঠানটি নিরাপদ এআই তৈরির জন্য বিভিন্ন গবেষণা চালিয়ে যাচ্ছে এবং শক্তিশালী এআই মডেল বাজারে ছাড়ার গতি নিয়ন্ত্রণে শিল্পজুড়ে আইনসম্মত ও যাচাইযোগ্য সহযোগিতার প্রয়োজনীয়তার কথাও বলেছে।

এআই কতটা দ্রুত এগোবে এবং এই প্রযুক্তিকে কোথায় গিয়ে থামানো বা নিয়ন্ত্রণ করা উচিত—এ নিয়ে প্রযুক্তি দুনিয়ায় বিতর্ক এখন আরও তীব্র হচ্ছে। কক্সনের পদত্যাগ সেই বিতর্ককে নতুন করে সামনে নিয়ে এসেছে। তাঁর সতর্কবার্তার মূল প্রশ্নটি হলো—মানুষ এমন একটি প্রযুক্তি তৈরি করার দৌড়ে কতটা এগোবে, যার ভবিষ্যৎ ক্ষমতা হয়তো একসময় মানুষের নিয়ন্ত্রণের সীমাকেই অতিক্রম করতে পারে?