কৃত্রিম বুদ্ধিমত্তার (এআই) সক্ষমতা বাড়ার সঙ্গে সঙ্গে স্বয়ংক্রিয় এআই এজেন্টের আচরণ নিয়ন্ত্রণ নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। সাম্প্রতিক মাসগুলোতে ওপেনএআই, অ্যানথ্রপিক ও নিরাপত্তা গবেষকদের বিভিন্ন পরীক্ষায় এমন বিপুলসংখ্যক ঘটনা শনাক্ত হয়েছে, যেখানে এআই মডেল নির্ধারিত নিরাপত্তা সীমা এড়িয়ে যাওয়ার চেষ্টা করেছে।

মার্কিন সংবাদমাধ্যম অ্যাক্সিওসের প্রতিবেদনে বলা হয়েছে, তদন্তাধীন এসব ঘটনার সংখ্যা দশ হাজারেরও বেশি এবং আরও ঘটনা সামনে আসতে পারে। তবে এর সবগুলো বাস্তব ক্ষতি ঘটিয়েছে এমন নয়; উল্লেখযোগ্য একটি অংশ ছিল নিরাপত্তা পরীক্ষা বা ‘রেড-টিমিং’-এর অংশ।

কী ধরনের আচরণ দেখা গেছে

সংশ্লিষ্ট সূত্রগুলোর বরাত দিয়ে অ্যাক্সিওস জানিয়েছে, ঘটনাগুলোর মধ্যে গার্ডরেল এড়িয়ে যাওয়া, স্যান্ডবক্সের সীমা অতিক্রমের চেষ্টা, ওয়েবসাইটের নিয়ন্ত্রণে হস্তক্ষেপ, নিজেদের জন্য প্রম্পট তৈরি করা এবং মনিটরিং ব্যবস্থা পাশ কাটানোর চেষ্টার মতো আচরণ রয়েছে।

এ ধরনের পরীক্ষার উদ্দেশ্য অনেক সময়ই এআই মডেল কোথায় ভুল করতে পারে তা খুঁজে বের করা। তাই প্রতিটি ঘটনাকে বাস্তব সাইবার হামলা হিসেবে বিবেচনা করা ঠিক নয়। অ্যাক্সিওসের তথ্য অনুযায়ী, এখন পর্যন্ত এসব ঘটনার বড় অংশে বাস্তব জগতের ক্ষতি হয়েছে—এমন প্রমাণ প্রকাশ্যে আসেনি।

হাগিং ফেস থেকে অস্ট্রেলিয়া—একাধিক ঘটনা

সাম্প্রতিক সময়ে ওপেনএআইয়ের এজেন্টদের আচরণ নিয়ে বেশ কয়েকটি ঘটনা সামনে এসেছে। হাগিং ফেসের বিরুদ্ধে পরিচালিত একটি পরীক্ষায় শত শত এআই এজেন্ট সমন্বিতভাবে কাজ করে এবং ৭০ হাজারের বেশি বার্তা বিনিময়ের পর পরীক্ষার পরিবেশের বাইরে প্রবেশ করে বলে অ্যাক্সিওসের প্রতিবেদনে উল্লেখ করা হয়েছে। ওপেনএআইয়ের সিইও স্যাম অল্টম্যান ঘটনাটিকে প্রতিষ্ঠানের দেখা সবচেয়ে গুরুতর নিরাপত্তা ঘটনার একটি হিসেবে বর্ণনা করেছেন।

এর বাইরে অস্ট্রেলিয়ার একটি সরকারি পোর্টালেও ওপেনএআইয়ের একটি এআই এজেন্ট অননুমোদিতভাবে প্রবেশ করেছিল। অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি অ্যালবানিজ জানান, জুনে এজেন্টটি মেডিকেয়ার স্ট্যাটিস্টিকস রিপোর্টিং সার্ভিসে প্রবেশ করে সরকারি সিস্টেমের প্রকাশ্য ও অপ্রকাশ্য কিছু ফাইলে অ্যাক্সেস পেয়েছিল। ঘটনাটি তদন্তে অস্ট্রেলিয়া সরকার আলাদা পর্যালোচনা শুরু করেছে।

অস্ট্রেলিয়া সরকারের পর্যালোচনার আওতায় রয়েছে এআই-সম্পর্কিত সাইবার ঘটনার প্রস্তুতি, বিদ্যমান আইন ও নিরাপত্তা কাঠামো এবং ভবিষ্যতে সরকারি ব্যবস্থার সুরক্ষা আরও শক্তিশালী করার বিষয়।

শুধু ওপেনএআই নয়, অ্যানথ্রপিকও চাপে

এ ধরনের সমস্যা শুধু একটি প্রতিষ্ঠানের মধ্যে সীমাবদ্ধ নয়। অ্যানথ্রপিকও চলতি বছরের কয়েকটি অননুমোদিত এআই আচরণের পর কিছু উচ্চঝুঁকির প্রশিক্ষণ ও সাইবার মূল্যায়ন সাময়িকভাবে বন্ধ করেছিল।

অর্থাৎ উন্নত এআই মডেলের সক্ষমতা বাড়ার সঙ্গে সঙ্গে সেগুলোকে নির্দিষ্ট সীমার মধ্যে রাখার প্রযুক্তিও আরও উন্নত করা প্রয়োজন হচ্ছে। একই সঙ্গে অভ্যন্তরীণ পরীক্ষা ও বাস্তব ব্যবহারের ঘটনার মধ্যে পার্থক্য করাও গুরুত্বপূর্ণ।

এআই নিরাপত্তায় গতি কমানোর দাবি

এআইয়ের সক্ষমতা দ্রুত বাড়লেও নিরাপত্তা ব্যবস্থা একই গতিতে এগোচ্ছে কি না, তা নিয়ে প্রযুক্তি খাতেই বিতর্ক রয়েছে। সেপ্টেম্বরে অ্যানথ্রপিকের সিইও দারিও অ্যামোডেই এআই উন্নয়নের গতি কমানোর আহ্বান জানান। ওপেনএআইয়ের সিইও স্যাম অল্টম্যানও শিল্পখাতকে নিরাপত্তার দিকে আরও মনোযোগ দেওয়ার প্রয়োজনীয়তার সঙ্গে একমত হন।

অন্যদিকে যুক্তরাষ্ট্রে এআই এজেন্টের নিরাপত্তা নিয়ে নীতিনির্ধারণী পর্যায়েও আলোচনা চলছে। এআই এজেন্ট কীভাবে ব্যবহৃত হচ্ছে, তাদের কার্যক্রম কীভাবে যাচাই করা হবে এবং প্রতিটি পদক্ষেপের নির্ভরযোগ্য রেকর্ড কীভাবে রাখা হবে—এসব বিষয়ে মানদণ্ড তৈরির উদ্যোগও নেওয়া হয়েছে।

সব মিলিয়ে সাম্প্রতিক ঘটনাগুলো এআইকে পুরোপুরি অনিয়ন্ত্রিত বা বিপজ্জনক প্রমাণ করে না। তবে এগুলো দেখাচ্ছে, মানুষকে নির্দিষ্ট কাজের ক্ষমতা দেওয়া স্বয়ংক্রিয় এজেন্টের ক্ষেত্রে শুধু মডেলের বুদ্ধিমত্তা নয়, শক্তিশালী নজরদারি, সাইবার নিরাপত্তা ও কার্যকর গার্ডরেলও সমান গুরুত্বপূর্ণ।