এআইকে অন্ধবিশ্বাস করতে কেন সতর্ক করলেন মাইক্রোসফট সিইও?

কৃত্রিম বুদ্ধিমত্তা (এআই) এখন সাধারণ প্রশ্নের উত্তর দেওয়া কিংবা ই-মেইল ও ছবি তৈরির মতো কাজের গণ্ডি পেরিয়ে জটিল কার্যক্রম পরিচালনা করছে। স্বয়ংক্রিয় এআই এজেন্টের মাধ্যমে বিভিন্ন প্রতিষ্ঠান সংবেদনশীল তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা ও গুরুত্বপূর্ণ সিদ্ধান্ত গ্রহণের মতো কাজ করাচ্ছে। তবে এআইয়ের সক্ষমতা বাড়ার সঙ্গে সঙ্গে এর ওপর অতিরিক্ত নির্ভরতা থেকে তৈরি হওয়া নিরাপত্তাঝুঁকিও বাড়ছে।

এমন পরিস্থিতিতে এআইকে অন্ধভাবে বিশ্বাস না করার পরামর্শ দিয়েছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা। তার মতে, কোনো এআই মডেলকে নিরাপদ মনে হলেও সেটির ওপর পুরোপুরি নির্ভর করা উচিত নয়। বিশেষ করে, এআই এজেন্টকে প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ দেওয়া হলে এবং মানুষের সরাসরি হস্তক্ষেপ ছাড়াই কাজ করার দায়িত্ব দেওয়া হলে কার্যকর নিয়ন্ত্রণ ও সুরক্ষাব্যবস্থা নিশ্চিত করা জরুরি।

সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এ বিষয়ে সতর্ক করেন নাদেলা। সেখানে তিনি কৃত্রিম বুদ্ধিমত্তার ক্রমবর্ধমান সক্ষমতা নিয়ে আলোচনা করেন এবং একে ‘সুপার ইন্টেলিজেন্স’ হিসেবে উল্লেখ করেন।

নাদেলার বক্তব্য অনুযায়ী, কোনো এআই মডেলকে শতভাগ নিরাপদ হিসেবে বিবেচনা করা হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই। পরিস্থিতিভেদে মডেলটি অপ্রত্যাশিত কিংবা ঝুঁকিপূর্ণ সিদ্ধান্ত নিতে পারে। তাই এআইকে তথ্য বিশ্লেষণ ও পরামর্শ দেওয়ার কাজে ব্যবহার করলেও কোন তথ্য ব্যবহারের অনুমতি থাকবে এবং কী ধরনের কাজ করতে পারবে, তা নির্দিষ্ট করে দেওয়া প্রয়োজন।

এআইয়ের নিরাপত্তা যাচাইয়ের ক্ষেত্রেও সতর্ক থাকার পরামর্শ দিয়েছেন মাইক্রোসফটের সিইও। একটি এআই মডেল দিয়ে অন্য মডেলের কাজ পরীক্ষা করলেই যে সব ভুল শনাক্ত করা সম্ভব হবে, এমন নয়। স্বাধীন ও কার্যকর যাচাইব্যবস্থা না থাকলে একটি মডেল অন্যটির ত্রুটি ধরতে ব্যর্থ হতে পারে। ফলে একাধিক এআই মডেল ব্যবহার করেও ভুল সিদ্ধান্ত ও নিরাপত্তাঝুঁকি পুরোপুরি এড়ানো কঠিন হতে পারে।

এ ধরনের ঝুঁকি মোকাবিলায় এআইয়ের কার্যক্রম নিয়মিত পর্যবেক্ষণ, কাজের অনুমতি সীমিত রাখা এবং নির্ধারিত সীমার বাইরে কোনো পদক্ষেপ নিতে না পারার ব্যবস্থা গড়ে তোলার ওপর গুরুত্ব দিয়েছেন নাদেলা। পাশাপাশি, কোনো এআই ব্যবস্থা ব্যর্থ হলে কিংবা এর নিরাপত্তা বিঘ্নিত হলে সংশ্লিষ্ট ঘটনা দ্রুত প্রকাশ করার প্রয়োজনীয়তার কথাও তুলে ধরেছেন তিনি। এতে অন্য প্রতিষ্ঠানগুলোও এসব অভিজ্ঞতা থেকে শিক্ষা নিয়ে নিজেদের নিরাপত্তাব্যবস্থা আরও শক্তিশালী করতে পারবে।    

বর্তমানে বিভিন্ন প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার দ্রুত বাড়ছে। তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং দৈনন্দিন কাজ স্বয়ংক্রিয়ভাবে সম্পন্ন করার মাধ্যমে এসব প্রযুক্তি সময় ও শ্রম সাশ্রয় করছে। একই সঙ্গে কাজের গতিও বাড়াচ্ছে। তবে এআই ভুল সিদ্ধান্ত নিলে কিংবা অনাকাঙ্ক্ষিত কোনো পদক্ষেপ নিলে তার প্রভাব কতটা গুরুতর হতে পারে, তা নিয়ে উদ্বেগ বাড়ছে।

প্রচলিত সফটওয়্যারে ত্রুটি দেখা দিলে সাধারণত কোড পরীক্ষা করে সমস্যার উৎস শনাক্ত করা যায়। কিন্তু এআই মডেল কেন নির্দিষ্ট কোনো উত্তর দিল বা বিশেষ কোনো পদক্ষেপ নিল, তা সব সময় সহজে ব্যাখ্যা করা সম্ভব হয় না। ফলে ভুলের কারণ অনুসন্ধান, ঝুঁকি নিরূপণ এবং ভবিষ্যতে একই ধরনের সমস্যা ঠেকানো জটিল হয়ে উঠতে পারে।

এ কারণে এআইয়ের সুবিধা গ্রহণের পাশাপাশি এর সম্ভাব্য ক্ষতিকর দিকগুলো বিবেচনায় রাখা জরুরি। বিশেষ করে, গুরুত্বপূর্ণ তথ্য ও কার্যক্রমের নিয়ন্ত্রণ এআইয়ের হাতে দেওয়ার আগে যথাযথ নিরাপত্তাব্যবস্থা নিশ্চিত করতে হবে। প্রযুক্তির উন্নয়নের সঙ্গে তাল মিলিয়ে কার্যকর তদারকি, স্বাধীন যাচাই এবং ঝুঁকি মোকাবিলার সমন্বিত ব্যবস্থা গড়ে তোলাই এআইয়ের নিরাপদ ব্যবহারের অন্যতম গুরুত্বপূর্ণ শর্ত।

সূত্র: ইন্ডিয়া টুডে