কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের স্বয়ংক্রিয় সক্ষমতা যাচাই করতে গিয়ে নতুন ধরনের নিরাপত্তা ঝুঁকির মুখোমুখি হয়েছে গুগল। প্রতিষ্ঠানটির জেমিনি মডেল নির্ধারিত পরীক্ষামূলক পরিবেশের বাইরে গিয়ে তিনটি পৃথক প্রতিষ্ঠানের কম্পিউটার ব্যবস্থায় প্রবেশের চেষ্টা করে এবং সেগুলোতে ঢুকতেও সক্ষম হয়। ঘটনাটি গত মে মাসে একটি নিরাপত্তা পরীক্ষার সময় ঘটে।

গুগলের দাবি, তাদের কোনো এআই মডেলের ক্ষেত্রে এ ধরনের ঘটনা এবারই প্রথম প্রকাশ্যে এসেছে। ইসরায়েলভিত্তিক প্রযুক্তি প্রতিষ্ঠান ইরেগুলার পরিচালিত ‘ক্যাপচার দ্য ফ্ল্যাগ’ ধরনের একটি নিরাপত্তা পরীক্ষায় জেমিনির সক্ষমতা যাচাই করা হচ্ছিল।

পরীক্ষার ত্রুটিতে ইন্টারনেট ব্যবহারের সুযোগ

নির্ধারিত নিয়ম অনুযায়ী, পরীক্ষার সময় এআই ব্যবস্থাগুলোর সরাসরি ইন্টারনেট ব্যবহারের সুযোগ থাকার কথা ছিল না। কিন্তু পরীক্ষামূলক পরিবেশের একটি ত্রুটির কারণে জেমিনি ব্যবহৃত ব্যবস্থাগুলো অনলাইনে প্রবেশের সুযোগ পেয়ে যায়।

এরপর জেমিনি ইন্টারনেটে থাকা প্রকাশ্য তথ্য খুঁজে দেখে এবং সেগুলোর ভিত্তিতে অনুমান করা পাসওয়ার্ড দিয়ে কয়েকটি ওয়েবসাইটে প্রবেশের চেষ্টা করে। পাশাপাশি প্রকাশ্যে পাওয়া পাসওয়ার্ডের একটি তালিকাও দুইবার ব্যবহার করা হয়।

তদন্তে দেখা যায়, এভাবে জেমিনি তিনটি পৃথক প্রতিষ্ঠানের কম্পিউটার ব্যবস্থায় প্রবেশ করে। তবে ঘটনাটি পরীক্ষার অংশ নয়, বরং বাস্তব প্রতিষ্ঠানের ব্যবস্থায় অনুপ্রবেশ-এটি বুঝতে পারার পর প্রতিবারই মডেলটি নিজে থেকে কার্যক্রম বন্ধ করে দেয়।

কী বলছে গুগল

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস বলেন, পরীক্ষার অংশ হিসেবে মডেলটি কিছু ওয়েবসাইটে প্রবেশের চেষ্টা করেছিল। তবে তিনটি ঘটনাতেই জেমিনি বুঝতে পারে যে এটি পরীক্ষামূলক ব্যবস্থার বাইরে চলে গেছে এবং এরপর নিজে থেকেই থেমে যায়।

ঠিক কোন জেমিনি মডেল পরীক্ষাটিতে ব্যবহার করা হয়েছিল, তা অবশ্য প্রকাশ করেনি গুগল।

ইরেগুলারের পক্ষ থেকে গুগলকে ঘটনাটি জুলাইয়ের শেষ দিকে জানানো হয়। বিষয়টি জানার পর গুগল তাদের নিরাপত্তা পরীক্ষার পদ্ধতিতে পরিবর্তন আনার কথা জানিয়েছে।

শুধু জেমিনি নয়, অন্য এআই নিয়েও একই প্রশ্ন

এ ধরনের ঘটনা শুধু গুগলের জেমিনির ক্ষেত্রেই দেখা যায়নি। ওপেনএআই, অ্যানথ্রপিক ও মেটার এআই ব্যবস্থার পরীক্ষাতেও নির্ধারিত পরিবেশের বাইরে গিয়ে কম্পিউটার ব্যবস্থায় প্রবেশের চেষ্টার ঘটনা সামনে এসেছে বলে সংশ্লিষ্ট প্রতিষ্ঠানগুলো জানিয়েছে।

এআই মডেলগুলোকে যত বেশি স্বায়ত্তশাসিতভাবে কাজ করার সক্ষমতা দেওয়া হচ্ছে, ততই পরীক্ষামূলক পরিবেশের সীমা কতটা কার্যকরভাবে নিয়ন্ত্রণ করা যাচ্ছে- সে প্রশ্ন গুরুত্বপূর্ণ হয়ে উঠছে।

অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেইও উন্নত এআই ব্যবস্থার বিকাশে আরও সতর্কতার প্রয়োজনীয়তার কথা বলেছেন। তাঁর মতে, নিরাপত্তা নিশ্চিত করার সক্ষমতা যথেষ্ট না হওয়া পর্যন্ত উন্নত এআই ব্যবস্থার বিষয়ে সতর্ক থাকা প্রয়োজন।

গুগলের অ্যাডকিনসের মতে, জেমিনির এই ঘটনা শক্তিশালী এআই মডেলকে নির্ধারিত সীমার মধ্যে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্ব আরও স্পষ্ট করেছে। তবে তিনটি ঘটনায়ই বাস্তব কম্পিউটার ব্যবস্থায় প্রবেশের বিষয়টি শনাক্ত করার পর জেমিনি নিজে থেকে কার্যক্রম বন্ধ করেছিল বলে জানিয়েছে গুগল।