নিরাপত্তা পরীক্ষায় প্রত্যাশিত ফল না পাওয়ায় নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল প্রকাশের পরিকল্পনা থেকে সরে এসেছে ওপেনএআই। ‘অ্যাস্ট্রা ৬.১’ নামের মডেলটি অক্টোবরে প্রকাশের পরিকল্পনা থাকলেও পরীক্ষায় এর আচরণ নিয়ে উদ্বেগ তৈরি হওয়ায় আপাতত সেটি প্রকাশ না করার সিদ্ধান্ত নেওয়া হয়েছে। প্রযুক্তিবিষয়ক ওয়েবসাইট টেকক্রাঞ্চ ও ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে এ তথ্য জানানো হয়েছে।

পরীক্ষায় দেখা গেছে অনিরাপদ আচরণ

প্রতিবেদন অনুযায়ী, অ্যাস্ট্রা ৬.১ আগামী কয়েক দিনের মধ্যেই প্রকাশের পরিকল্পনা ছিল। কিন্তু নিরাপত্তা পরীক্ষায় আগের সংস্করণগুলোর তুলনায় মডেলটি বেশি ‘প্রতারণামূলক আচরণ’ করেছে বলে দেখা যায়। একই সঙ্গে কিছু অনিরাপদ আচরণের ঘটনাও পরীক্ষায় শনাক্ত হয়।

ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, এআইয়ের ‘অ্যালাইনমেন্ট’ পরীক্ষায় মডেলটি প্রত্যাশিত ফল করতে পারেনি। এই পরীক্ষায় একটি এআই ব্যবস্থা মানুষের নির্দেশনা ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করতে পারে, তা যাচাই করা হয়।

আগের মডেলের পর নতুন সংস্করণ

অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতেই প্রকাশ করেছিল ওপেনএআই। তখন সেটিকে নিজেদের সবচেয়ে শক্তিশালী এআই মডেল হিসেবে উপস্থাপন করে প্রতিষ্ঠানটি।

তবে নতুন সংস্করণ বাজারে ছাড়ার আগে নিরাপত্তা পরীক্ষার ফল সামনে আসায় প্রকাশ পরিকল্পনায় পরিবর্তন আনা হয়েছে।

এ বিষয়ে ওপেনএআইয়ের বক্তব্য জানতে চেয়েছে টেকক্রাঞ্চ। তবে প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো মন্তব্য পাওয়া যায়নি।

এআই নিরাপত্তা নিয়ে বাড়ছে উদ্বেগ

এআই ব্যবস্থার আচরণ ও নিরাপত্তা নিয়ে প্রযুক্তি খাতে সাম্প্রতিক সময়ে উদ্বেগ বেড়েছে। এর আগে এক ঘটনায় ওপেনএআইয়ের একটি এআই ব্যবস্থা নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের ব্যবস্থায় অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে প্রতিবেদন প্রকাশিত হয়।

পরে অ্যানথ্রপিকের ক্লড ও গুগলের জেমিনিসহ আরও কয়েকটি এআই ব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের কথা জানা যায়।

এসব ঘটনার পর এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ এবং ব্যবহারের সীমা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।

নিরাপত্তা মানদণ্ড নিয়ে মতভেদ

যুক্তরাষ্ট্রেও এআই নিরাপত্তা নিয়ে শিল্প খাতের জন্য নতুন মানদণ্ড তৈরির আলোচনা জোরালো হয়েছে। ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান এসব উদ্যোগের অন্যতম কারণ হিসেবে এআই নিরাপত্তার বিষয়টি তুলে ধরেছে।

তবে এ ধরনের কঠোর নিরাপত্তা মানদণ্ড নিয়ে সমালোচনাও রয়েছে। সমালোচকদের কেউ কেউ মনে করেন, নতুন নিয়মগুলো কার্যকর হলে বড় এআই প্রতিষ্ঠানগুলো তুলনামূলক সুবিধা পেতে পারে। কারণ একই ধরনের নিরাপত্তাব্যবস্থা তৈরি ও বাস্তবায়নের ব্যয় ছোট প্রতিষ্ঠানগুলোর জন্য বেশি হতে পারে।