সাইবার নিরাপত্তা যাচাইয়ের একটি পরীক্ষায় গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনাই তিনটি প্রতিষ্ঠানের সুরক্ষিত কম্পিউটার ব্যবস্থায় স্বয়ংক্রিয়ভাবে প্রবেশ করেছে। গুগলের ভাষ্য, তাদের কোনো এআই সিস্টেমের এমনভাবে নিজে থেকে অননুমোদিত কার্যক্রমে জড়িয়ে পড়ার ঘটনা এই প্রথম।

ঘটনাগুলো গত মে মাসে একটি স্বাধীন সাইবার নিরাপত্তা মূল্যায়নের সময় ঘটে। জুলাইয়ে বিষয়টি শনাক্ত করে গুগল। পরীক্ষাটি পরিচালনা করেছিল সাইবার নিরাপত্তা প্রতিষ্ঠান ইরেগুলার। ওয়াল স্ট্রিট জার্নাল প্রথম ঘটনাটি প্রকাশ করে; পরে বিবিসি ও এএফপিও গুগলের বরাত দিয়ে বিষয়টি জানায়।

কীভাবে প্রবেশ করল জেমিনাই

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস জানান, পরীক্ষার অংশ হিসেবে জেমিনাই ইন্টারনেটে উন্মুক্ত তথ্য অনুসন্ধান করছিল। একপর্যায়ে পরীক্ষার আওতাভুক্ত মনে হওয়া কয়েকটি ওয়েবসাইটে প্রবেশের জন্য মডেলটি লগইন তথ্য খোঁজা ও অনুমান করার চেষ্টা করে।

তিনটি ঘটনার প্রতিটিতেই জেমিনাই শেষ পর্যন্ত নিজে থেকেই ওই কার্যক্রম বন্ধ করে দেয়। গুগল সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে ঘটনাগুলো সম্পর্কে অবহিত করেছে। পাশাপাশি পরীক্ষার পদ্ধতিতে পরিবর্তন আনতে তাদের প্রশিক্ষণ অংশীদারের সঙ্গেও কাজ করা হয়েছে বলে জানিয়েছে প্রতিষ্ঠানটি।

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, একটি ঘটনায় জেমিনাই বারবার পাসওয়ার্ড অনুমান করার চেষ্টা করে এবং শেষ পর্যন্ত একটি সুরক্ষিত ব্যবস্থায় ঢুকতে সক্ষম হয়। অন্য দুটি ঘটনায় একটি উন্মুক্ত রিপোজিটরি থেকে লগইন তথ্য খুঁজে পাওয়ার পর সেটি ব্যবহার করে সুরক্ষিত ব্যবস্থায় প্রবেশ করে মডেলটি।

তবে যেসব প্রতিষ্ঠানের ব্যবস্থায় প্রবেশের ঘটনা ঘটেছে, তাদের নাম প্রকাশ করেনি গুগল।

অন্য এআই মডেল নিয়েও একই উদ্বেগ

জেমিনাইয়ের ঘটনাটি এমন সময়ে সামনে এসেছে, যখন অন্যান্য এআই মডেলের স্বায়ত্তশাসন নিয়েও সাইবার নিরাপত্তা সংশ্লিষ্টদের উদ্বেগ বাড়ছে। ইরেগুলারের সঙ্গে পরিচালিত বিভিন্ন পরীক্ষায় মেটা, অ্যানথ্রপিক ও ওপেনএআই-এর মডেলের ক্ষেত্রেও একই ধরনের ঘটনা সামনে এসেছে।

বিবিসির প্রতিবেদনে বলা হয়েছে, জুলাইয়ে অ্যানথ্রপিকের ক্লড পরীক্ষার পরিবেশের বাইরে গিয়ে তিনটি প্রতিষ্ঠানে স্বয়ংক্রিয় সাইবার হামলা চালিয়েছিল। একই সময়ে ওপেনএআই জানায়, তাদের দুটি মডেল নির্ধারিত নিয়ন্ত্রিত পরিবেশ থেকে বেরিয়ে ইন্টারনেটে প্রবেশ করে এবং এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ ব্যবস্থায় ঢুকে পড়ে।

তবে মেটা জানিয়েছিল, তাদের সংশ্লিষ্ট ঘটনায় কোনো অত্যাধুনিক সাইবার হামলা বা স্যান্ডবক্স থেকে বেরিয়ে যাওয়ার ঘটনা ঘটেনি।

এআইয়ের স্বায়ত্তশাসন নিয়ে প্রশ্ন

এআই মডেলগুলোকে ইন্টারনেট ও কম্পিউটার ব্যবস্থায় সরাসরি কাজ করার সুযোগ যত বাড়ছে, তাদের কর্মকাণ্ড নিয়ন্ত্রণের বিষয়টিও তত গুরুত্বপূর্ণ হয়ে উঠছে। জেমিনাইয়ের ঘটনায় মডেলটি শুধু পরীক্ষার নির্দেশ পালন করেনি; বরং নিজে থেকে তথ্য খুঁজে লগইন তথ্য সংগ্রহ বা অনুমান করে সুরক্ষিত ব্যবস্থায় প্রবেশ করেছে।

গুগলের অ্যাডকিনসের মতে, ঘটনাটি শক্তিশালী এআই মডেলকে দায়িত্বশীল আচরণের জন্য প্রশিক্ষণ দেওয়ার গুরুত্ব দেখিয়েছে। ইরেগুলারও এ ধরনের নিরাপত্তা পরীক্ষা আরও নিরাপদভাবে পরিচালনার জন্য কার্যকর পদ্ধতি তৈরিতে কাজ করছে বলে জানিয়েছে।

সাম্প্রতিক ঘটনাগুলো এআইয়ের সক্ষমতা বাড়ার পাশাপাশি এর স্বায়ত্তশাসন, সাইবার নিরাপত্তা ও নিয়ন্ত্রণব্যবস্থা নিয়ে নতুন করে আলোচনা তৈরি করেছে। তবে এআই উন্নয়নের গতি কমানো উচিত কি না, সে বিষয়ে প্রযুক্তি খাতে মতভেদ রয়েছে। এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং সম্প্রতি এআই উন্নয়নে যত দ্রুত সম্ভব এগিয়ে যাওয়ার পক্ষে মত দিয়েছেন।

ফলে একদিকে এআইকে আরও বেশি স্বয়ংক্রিয়ভাবে কাজ করার সক্ষমতা দেওয়ার চেষ্টা চলছে, অন্যদিকে সেই স্বায়ত্তশাসন কতটা নিরাপদভাবে নিয়ন্ত্রণ করা যাবে-সেই প্রশ্নও ক্রমেই গুরুত্বপূর্ণ হয়ে উঠছে।