কৃত্রিম বুদ্ধিমত্তার সক্ষমতা দ্রুত বাড়লেও সেই তুলনায় নিরাপত্তাব্যবস্থা ও নিয়ন্ত্রণ কাঠামো এগোচ্ছে না বলে সতর্ক করেছেন ওপেনএআইয়ের সাবেক নিরাপত্তা প্রকৌশলী ডেভিড রবিনসন। তাঁর ভাষায়, এআই প্রতিষ্ঠানগুলো বর্তমানে নিরাপত্তার চেয়ে গতি ও প্রযুক্তিগত অগ্রগতিকে বেশি গুরুত্ব দিচ্ছে। ফলে ভবিষ্যতে আরও শক্তিশালী এআই মডেল মানুষের নিয়ন্ত্রণের বাইরে গিয়ে অনাকাঙ্ক্ষিত বা বিপজ্জনক কর্মকাণ্ড ঘটাতে পারে।
রবিনসন সম্প্রতি মার্কিন সাময়িকী দ্য আটলান্টিক-এ লেখা এক মতামত নিবন্ধে এ সতর্কবার্তা দেন। তিনি ওপেনএআইয়ে সাড়ে তিন বছর কাজ করেছেন এবং ১২টি ফ্রন্টিয়ার এআই মডেল প্রকাশের নিরাপত্তা প্রতিবেদন তদারক করেছেন। তাঁর মতে, পারমাণবিক শক্তি ও বিমান চলাচলের মতো উচ্চঝুঁকির প্রযুক্তির ক্ষেত্রে যেভাবে কঠোর নিরাপত্তা কাঠামো রয়েছে, এআইয়ের ক্ষেত্রেও তেমন শক্তিশালী সুরক্ষা ব্যবস্থা প্রয়োজন। তাঁর ভাষায়, এআই নিয়ে শুধু পরীক্ষা-নিরীক্ষা চালিয়ে যাওয়ার সময় শেষ হয়ে এসেছে।
রবিনসনের এই বক্তব্য এমন এক সময়ে সামনে এসেছে, যখন ওপেনএআই ও অ্যানথ্রপিক দুটি শীর্ষস্থানীয় এআই প্রতিষ্ঠানই তাদের মডেলের নিরাপত্তা পরীক্ষায় উদ্বেগজনক আচরণের তথ্য প্রকাশ করেছে। ওপেনএআই জানিয়েছে, চলতি বছরের জুলাইয়ে সাইবার নিরাপত্তা পরীক্ষার সময় তাদের কয়েকটি মডেল ইন্টারনেট থেকে বিচ্ছিন্ন রাখার জন্য তৈরি করা নিয়ন্ত্রণব্যবস্থা এড়িয়ে যায়। একটি মডেল অননুমোদিত যোগাযোগের পথ ব্যবহার করে, নিরাপত্তা দুর্বলতা কাজে লাগিয়ে ইন্টারনেটে প্রবেশ করে এবং হাগিং ফেসের অবকাঠামোর কিছু অংশে প্রবেশ করতে সক্ষম হয়।
ওপেনএআই বলেছে, ওই পরীক্ষা চলাকালে মডেলগুলোর কিছু নিরাপত্তা ব্যবস্থা ইচ্ছাকৃতভাবে কমিয়ে রাখা হয়েছিল। তবে ঘটনাটি প্রতিষ্ঠানটির কাছে গুরুত্বপূর্ণ সতর্কবার্তা হিসেবে বিবেচিত হয়েছে। এরপর কোম্পানিটি মডেলগুলোর জন্য আরও বিচ্ছিন্ন পরীক্ষার পরিবেশ, সীমিত ইন্টারনেট প্রবেশাধিকার, মডেল ব্যবহারের ওপর কঠোর নিয়ন্ত্রণ এবং দীর্ঘ সময় ধরে চলা এআই কার্যক্রম পর্যবেক্ষণের ব্যবস্থা জোরদার করেছে। একই সঙ্গে প্রয়োজন হলে মডেল উন্নয়নের গতি কমানোর কথাও জানিয়েছে প্রতিষ্ঠানটি।
অন্যদিকে অ্যানথ্রপিকও এআই নিরাপত্তা নিয়ে একই ধরনের সমস্যার কথা জানিয়েছে। প্রতিষ্ঠানটির পর্যালোচনায় দেখা গেছে, সাইবার নিরাপত্তা পরীক্ষার সময় ক্লড মডেলের কিছু সংস্করণ ভুল কনফিগারেশনের কারণে ইন্টারনেটে প্রবেশ করে বাস্তব তৃতীয় পক্ষের কম্পিউটার ব্যবস্থায় অননুমোদিত প্রবেশাধিকার পেয়েছিল। অ্যানথ্রপিক পরে প্রায় ৪৮ কোটি কথোপকথনের রেকর্ড বিশ্লেষণ করে এ ধরনের ঘটনার বিষয়ে আরও বিস্তৃত অনুসন্ধান চালায়।
এসব ঘটনার প্রেক্ষাপটে রবিনসনের মূল উদ্বেগ হলো, এআই মডেল যত বেশি স্বয়ংক্রিয় ও সক্ষম হচ্ছে, তত বেশি সময় ধরে তারা নিজের মতো করে সিদ্ধান্ত নিতে পারছে। ফলে একটি ছোট প্রযুক্তিগত ভুল, ভুল কনফিগারেশন বা মানবিক ত্রুটিও বড় ধরনের নিরাপত্তা সমস্যার কারণ হতে পারে। তিনি মনে করেন, এমন পরিবেশে এমন একটি কৃত্রিম বুদ্ধিমত্তা তৈরি করা ঝুঁকিপূর্ণ, যা মানুষের চেয়েও বেশি সক্ষম হয়ে উঠতে পারে কিন্তু সব পরিস্থিতিতে মানুষের নির্দেশনা অনুসরণ করবে এমন নিশ্চয়তা নেই।
রবিনসন বিশেষভাবে ওপেনএআইয়ের ‘পুনরাবৃত্তিমূলক মোতায়েন’ পদ্ধতির সমালোচনা করেছেন। তাঁর অভিযোগ, নতুন মডেল দ্রুত বাজারে আনার পর বাস্তবে সমস্যা দেখা দিলে নিরাপত্তাব্যবস্থা শক্তিশালী করা হচ্ছে। এতে প্রতিটি নতুন প্রজন্মের মডেলের সক্ষমতা বৃদ্ধির সঙ্গে সঙ্গে নিরাপত্তার ব্যবধান তৈরি হওয়ার ঝুঁকি থাকছে।
তবে ওপেনএআই এ ধরনের সমালোচনার জবাবে বলেছে, তারা এমন কোনো মডেলকে সক্ষমতার পর্যায়ে নিয়ে যেতে চায় না, যেটি নিরাপদভাবে পরিচালনা বা সুরক্ষিত রাখা সম্ভব নয়। প্রয়োজন হলে প্রশিক্ষণ স্থগিত রাখা বা মডেলের কার্যক্রম আটকে দেওয়ার ব্যবস্থাও রয়েছে বলে প্রতিষ্ঠানটি জানিয়েছে।
এদিকে এআই নিরাপত্তা নিয়ে উদ্বেগ শুধু প্রযুক্তিবিদদের মধ্যেই সীমাবদ্ধ নেই। রয়টার্স-ইপসসের সাম্প্রতিক এক জরিপে দেখা গেছে, যুক্তরাষ্ট্রের ৭৩ শতাংশ মানুষ মনে করেন, কৃত্রিম বুদ্ধিমত্তার সম্ভাব্য বিপর্যয়কর ক্ষতি ঠেকাতে এআই কোম্পানিগুলো যথেষ্ট পদক্ষেপ নিচ্ছে না। জরিপে ৫৫ শতাংশ মানুষ এআই উন্নয়নের গতি কমানোর পক্ষেও মত দিয়েছেন। মাত্র ২৩ শতাংশ উত্তরদাতা নিরাপত্তার চেয়ে বৈশ্বিক প্রযুক্তিগত প্রতিযোগিতাকে বেশি অগ্রাধিকার দিয়েছেন।
অন্যদিকে মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প এআই খাতে কঠোর সরকারি নিয়ন্ত্রণের বিরোধিতা করে আসছেন। তাঁর যুক্তি, অতিরিক্ত নিয়ন্ত্রণ প্রযুক্তিগত উদ্ভাবনের গতি কমিয়ে দিতে পারে এবং চীনের সঙ্গে কৃত্রিম বুদ্ধিমত্তার প্রতিযোগিতায় যুক্তরাষ্ট্রকে পিছিয়ে দিতে পারে। গত ২৯ সেপ্টেম্বর ট্রাম্প প্রশাসনের উদ্যোগে ওপেনএআই, অ্যানথ্রপিক, মেটা, গুগল ও এনভিডিয়াসহ বড় প্রযুক্তি প্রতিষ্ঠানের সঙ্গে একটি স্বেচ্ছামূলক এআই নিরাপত্তা চুক্তিও করা হয়েছে। চুক্তিতে স্বাধীন নিরীক্ষার মাধ্যমে এআই ব্যবস্থার নিরাপত্তা যাচাই এবং অননুমোদিত প্রবেশ ঠেকানোর মতো বিষয় রয়েছে। তবে এটি আইনগতভাবে বাধ্যতামূলক নয়।
এর মধ্যেই এআই গবেষকদের একটি অংশ আরও সতর্ক হওয়ার আহ্বান জানাচ্ছেন। সাম্প্রতিক একাধিক গবেষণা ও নিরাপত্তা মূল্যায়নে বলা হয়েছে, দীর্ঘ সময় ধরে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই ব্যবস্থা এমন কিছু আচরণ দেখাতে পারে, যা প্রচলিত পরীক্ষায় আগে থেকে শনাক্ত করা কঠিন। ওপেনএআই নিজেও জানিয়েছে, দীর্ঘ সময় ধরে কাজ করা মডেলগুলোর ক্ষেত্রে এমন কিছু নতুন ধরনের ব্যর্থতা দেখা গেছে, যা তাদের আগের নিরাপত্তা পরীক্ষায় ধরা পড়েনি।
বিশেষজ্ঞদের উদ্বেগের জায়গাটি তাই শুধু এআই ভুল তথ্য দিচ্ছে কি না, সে প্রশ্নে সীমাবদ্ধ নেই। বরং ভবিষ্যতের আরও শক্তিশালী মডেল নিজে থেকে দীর্ঘমেয়াদি পরিকল্পনা করতে, বিভিন্ন কম্পিউটার ব্যবস্থায় প্রবেশের চেষ্টা করতে এবং নির্ধারিত সীমাবদ্ধতা এড়িয়ে যেতে কতটা সক্ষম হবে সেটিই এখন বড় প্রশ্ন হয়ে উঠছে। গবেষকদের আশঙ্কা, প্রযুক্তির সক্ষমতা যদি নিরাপত্তা কাঠামোর চেয়ে দ্রুত বাড়তে থাকে, তাহলে মানুষের ছোটখাটো ভুলও বড় ধরনের বিপর্যয়ের কারণ হতে পারে।
ফলে এআই উন্নয়নের প্রতিযোগিতায় শুধু কে সবচেয়ে শক্তিশালী মডেল তৈরি করতে পারছে, সেই প্রশ্ন নয়; কে সবচেয়ে নিরাপদ ও নিয়ন্ত্রিত ব্যবস্থা তৈরি করতে পারছে, সেটিও গুরুত্বপূর্ণ হয়ে উঠছে। ডেভিড রবিনসনের সতর্কবার্তার মূল বক্তব্যও সেখানেই মানুষের চেয়ে বেশি সক্ষম কোনো কৃত্রিম বুদ্ধিমত্তা তৈরির আগে সেটিকে নিয়ন্ত্রণ, পর্যবেক্ষণ ও নিরাপদ রাখার সক্ষমতা নিশ্চিত করা না গেলে প্রযুক্তিগত অগ্রগতিই ভবিষ্যতে বড় ঝুঁকিতে পরিণত হতে পারে।