চ্যাটজিপিটিতে ব্যক্তিগত ছবি আপলোড করে বিভিন্ন ধরনের কাজ করেন ব্যবহারকারীরা। কেউ ছবি সম্পাদনা করেন, কেউ আবার কৃত্রিম ছবি তৈরির জন্য নিজের ছবি ব্যবহার করেন। কিন্তু ওপেনএআইয়ের এআই এজেন্টের একটি পরীক্ষায় ব্যবহারকারীদের আপলোড করা ৫৩টি ছবির লিংক অনুমতি ছাড়াই তৃতীয় পক্ষের ওয়েবসাইটে পাঠানো হয়েছিল বলে জানিয়েছে প্রতিষ্ঠানটি।

ওপেনএআইয়ের তথ্যমতে, যেসব ব্যবহারকারী তাঁদের তথ্য মডেল উন্নয়নের কাজে ব্যবহারের অনুমতি দিয়েছিলেন, তাঁদের অ্যাকাউন্টের ছবি নিয়ে এআই এজেন্টের প্রশিক্ষণ ও কার্যকারিতা পরীক্ষা করা হচ্ছিল। সেই পরীক্ষার সময় ছবির লিংক অনিচ্ছাকৃতভাবে অন্য প্রতিষ্ঠানের ওয়েবসাইটে পাঠানো হয়।

প্রতিষ্ঠানটি জানিয়েছে, ওই ছবিগুলোর লিংক প্রকাশ্যে যাওয়ার কথা ছিল না। তৃতীয় পক্ষের ওয়েবসাইটে পাঠানো বেশির ভাগ ছবি ইতোমধ্যে সরিয়ে ফেলা হয়েছে। অবশিষ্ট ছবিগুলোও মুছে ফেলার জন্য সংশ্লিষ্ট ওয়েবসাইটগুলোর সঙ্গে কাজ চলছে।

নিরাপত্তাব্যবস্থার আগেই ঘটেছিল ঘটনা

ওপেনএআই জানিয়েছে, ছবিগুলো বাইরে চলে যাওয়ার ঘটনা নতুন নিরাপত্তাব্যবস্থা কার্যকর হওয়ার আগেই ঘটেছিল। ঘটনা শনাক্ত হওয়ার পর এআই এজেন্টের অনাকাঙ্ক্ষিত কর্মকাণ্ড শনাক্ত ও যাচাইয়ের পরিধি বাড়ানো হয়েছে।

এর ফলে চ্যাটজিপিটিতে ব্যক্তিগত ছবি আপলোড করা ব্যবহারকারীদের তথ্যের নিরাপত্তা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।

এর আগেও এআই এজেন্ট নিয়ে প্রশ্ন

এআই এজেন্টের আচরণ নিয়ে ওপেনএআইয়ের সামনে আসা এটিই একমাত্র ঘটনা নয়। গত জুলাইয়ে সাইবার নিরাপত্তা পরীক্ষার সময় প্রতিষ্ঠানটির দুটি এআই মডেল নিয়ন্ত্রণব্যবস্থা এড়িয়ে এআই সফটওয়্যার প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ সিস্টেমে প্রবেশ করেছিল।

এর পর থেকেই এআই এজেন্টগুলোর আগের কার্যক্রম পর্যালোচনা করছে ওপেনএআই। সংশ্লিষ্ট এক ব্যক্তির তথ্য অনুযায়ী, সেপ্টেম্বরের মাঝামাঝি পর্যন্ত এআই এজেন্টের অনাকাঙ্ক্ষিত কর্মকাণ্ডের প্রায় দুই ডজন ঘটনা শনাক্ত করা হয়েছিল।

নতুন নিরাপত্তা কাঠামো চালু

এআই এজেন্টের এমন অনাকাঙ্ক্ষিত কর্মকাণ্ড সামনে আসার পর ১৬ সেপ্টেম্বর নতুন একটি নিরাপত্তা কাঠামো চালু করেছে ওপেনএআই। এ ধরনের এজেন্টকে আরও নিয়ন্ত্রিত ও নিরাপদভাবে পরিচালনার লক্ষ্যেই নিরাপত্তাব্যবস্থায় পরিবর্তন আনা হয়েছে বলে প্রতিষ্ঠানটির তথ্য থেকে জানা যায়।

চ্যাটজিপিটিতে ব্যক্তিগত ছবি বা অন্য সংবেদনশীল তথ্য আপলোডের ক্ষেত্রে ঘটনাটি তাই ব্যবহারকারীদের জন্যও সতর্কতার বিষয় হয়ে উঠেছে। বিশেষ করে কোনো এআই সেবায় তথ্য ব্যবহারের অনুমতি দেওয়ার আগে সেই তথ্য কী কাজে ব্যবহার করা হতে পারে, তা বুঝে নেওয়া গুরুত্বপূর্ণ।