কৃত্রিম বুদ্ধিমত্তার (এআই) ওপর নির্ভর করে গুরুত্বপূর্ণ কাজ করানোর আগে এর ক্ষমতা ও সীমাবদ্ধতা বিবেচনায় নেওয়া প্রয়োজন। বিশেষ করে, মানুষের সরাসরি তদারকি ছাড়া এআই এজেন্টকে সংবেদনশীল তথ্য ব্যবহারের সুযোগ দিলে ঝুঁকি তৈরি হতে পারে। এআইয়ের সক্ষমতা বাড়ার সঙ্গে এসব আশঙ্কাও গুরুত্ব পাচ্ছে। তাই প্রযুক্তিটির ওপর নিঃশর্ত আস্থা না রেখে কার্যকর নজরদারি ও নিরাপত্তাব্যবস্থা নিশ্চিত করার পরামর্শ দিয়েছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা সত্য নাদেলা।

সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এআইয়ের উন্নত সক্ষমতা নিয়ে নিজের অবস্থান তুলে ধরেন নাদেলা। সেখানে তিনি প্রযুক্তিটির অগ্রগতিকে ‘সুপার ইন্টেলিজেন্স’ প্রসঙ্গের সঙ্গে যুক্ত করে নিরাপদ ব্যবহারের প্রয়োজনীয়তার ওপর গুরুত্ব দেন।

অনুমতির সীমা নির্ধারণের ওপর গুরুত্ব

এআই মডেলকে নিরাপদ মনে হলেও সব ধরনের পরিস্থিতিতে সেটি সঠিক সিদ্ধান্ত নেবে, এমন নিশ্চয়তা নেই। কোনো পরিস্থিতিতে প্রত্যাশার বাইরে আচরণ করা কিংবা ঝুঁকিপূর্ণ পদক্ষেপ নেওয়ার আশঙ্কা থেকেই যায়। এ কারণে এআই এজেন্টকে শুধু প্রয়োজনীয় তথ্য ও কাজের মধ্যেই সীমাবদ্ধ রাখা জরুরি।

প্রতিষ্ঠানের গোপন বা গুরুত্বপূর্ণ তথ্য ব্যবহারের অনুমতি দেওয়ার ক্ষেত্রে বাড়তি সতর্কতা প্রয়োজন। একইভাবে, মানুষের তাৎক্ষণিক হস্তক্ষেপ ছাড়াই কোনো কাজ সম্পন্ন করার দায়িত্ব দিলে এজেন্টটি কী করতে পারবে, তার স্পষ্ট সীমা থাকা দরকার। এতে অনাকাঙ্ক্ষিত সিদ্ধান্তের প্রভাব নিয়ন্ত্রণে রাখা সহজ হবে।

এআই দিয়ে এআই পরীক্ষা করলেই মিলবে না সব ত্রুটি

একটি এআই মডেলের নির্ভরযোগ্যতা যাচাই করতে আরেকটি মডেল ব্যবহার করা হলেও তাতে সব দুর্বলতা ধরা পড়বে, এমন নিশ্চয়তা নেই। পরীক্ষক মডেলটি নিজেই কোনো ত্রুটি শনাক্ত করতে ব্যর্থ হতে পারে। তাই একাধিক এআইয়ের ব্যবহারকে একমাত্র নিরাপত্তাব্যবস্থা হিসেবে বিবেচনা করার সুযোগ নেই।

এ ক্ষেত্রে স্বাধীনভাবে পরীক্ষা ও মূল্যায়নের ব্যবস্থা গুরুত্বপূর্ণ। কোনো মডেলের ভুল সিদ্ধান্তের কারণ এবং তার সম্ভাব্য প্রভাব বোঝার জন্য কার্যকর যাচাইপ্রক্রিয়া থাকা প্রয়োজন।

সমস্যা দেখা দিলে তথ্য প্রকাশের প্রয়োজন

এআইয়ের কার্যক্রম নিয়মিত পর্যবেক্ষণ করা এবং নির্ধারিত সীমার বাইরে কোনো পদক্ষেপ নেওয়া ঠেকানোর ব্যবস্থা গড়ে তোলার ওপর গুরুত্ব দিয়েছেন নাদেলা। তাঁর বক্তব্যে নিরাপত্তা বিঘ্নিত হওয়া বা এআই ব্যবস্থা ব্যর্থ হওয়ার ঘটনাগুলো দ্রুত প্রকাশের বিষয়টিও উঠে এসেছে।

এ ধরনের ঘটনা প্রকাশ করা হলে অন্য প্রতিষ্ঠানগুলো সংশ্লিষ্ট সমস্যা সম্পর্কে জানতে পারবে। একই অভিজ্ঞতা থেকে শিক্ষা নিয়ে তারাও নিজেদের এআই ব্যবস্থার নিরাপত্তা জোরদার করতে পারবে।

এআইয়ের সিদ্ধান্তের কারণ খুঁজে পাওয়া কঠিন

প্রচলিত সফটওয়্যারে সমস্যা হলে কোড পরীক্ষা করে ত্রুটির উৎস শনাক্ত করার সুযোগ থাকে। কিন্তু এআই কেন একটি নির্দিষ্ট উত্তর দিয়েছে বা কোনো বিশেষ পদক্ষেপ নিয়েছে, তা সব সময় সহজে ব্যাখ্যা করা যায় না। ফলে ভুলের কারণ নির্ণয় এবং ভবিষ্যতে একই ধরনের সমস্যা প্রতিরোধের কাজ জটিল হয়ে উঠতে পারে।

এদিকে, বিভিন্ন প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার বাড়ছে। তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা ও দৈনন্দিন কাজ স্বয়ংক্রিয় করার মাধ্যমে এসব প্রযুক্তি সময় ও শ্রম সাশ্রয় করছে। তবে ভুল সিদ্ধান্ত বা অনাকাঙ্ক্ষিত পদক্ষেপের সম্ভাবনাও উপেক্ষা করা যায় না।

তাই এআইয়ের সুবিধা কাজে লাগানোর পাশাপাশি এর কার্যক্রমের ওপর নজরদারি, স্বাধীন যাচাই এবং প্রয়োজনীয় সুরক্ষাব্যবস্থা নিশ্চিত করা জরুরি। বিশেষ করে, গুরুত্বপূর্ণ তথ্য ও কাজের দায়িত্ব এআইয়ের হাতে দেওয়ার আগে এর ব্যবহারের সীমা স্পষ্ট করা প্রয়োজন।