এআই এজেন্টের ঝুঁকি ঠেকাতে মাইক্রোসফটের নতুন উদ্যোগ

এআই এজেন্টের ঝুঁকি ঠেকাতে মাইক্রোসফটের নতুন উদ্যোগ

এআই এজেন্টের ক্রমবর্ধমান হুমকি থেকে প্রতিষ্ঠানগুলোকে সুরক্ষায় নতুন নিরাপত্তাব্যবস্থা চালু করেছে মাইক্রোসফট। দীর্ঘদিন ধরেই এআই ও এআই এজেন্ট ব্যবহারের ঝুঁকি নিয়ে প্রতিষ্ঠানগুলোকে সতর্ক করে আসছে তারা। নতুন ব্যবস্থার মধ্যে রয়েছে ‘গার্ডিয়ান এজেন্টস’। কোনো প্রতিষ্ঠানে ব্যবহৃত এআই এজেন্টগুলোর কার্যক্রম পর্যবেক্ষণ করবে এটি। এটি গত জুনে চালু করা মাইক্রোসফটের ‘প্রজেক্ট পারসেপশন’-এর একটি অংশ।
অ্যানথ্রপিকের ‘মিথোস’ ও ‘ফেবল’-এর মতো শক্তিশালী হ্যাকিং মডেল এবং ওপেনএআইয়ের নিরাপত্তাত্রুটি শনাক্তকারী ব্যবস্থা ‘ডেব্রেক’ মোকাবিলার উদ্দেশ্যে প্রকল্পটি তৈরি করা হয়। শুরুতে এতে তিন ধরনের এআই এজেন্ট ছিল। ‘রেড টিম’ হ্যাকারদের মতো আক্রমণ চালাত, ‘ব্লু টিম’ সেই আক্রমণ শনাক্ত করে নিরাপত্তাত্রুটি মূল্যায়ন করত এবং ‘গ্রিন টিম’ ত্রুটিগুলো ঠিক করত।
প্রকল্পটির শুরুতে ধারণা ছিল, প্রতিষ্ঠানের বাইরের কেউ এআই ব্যবহার করে হ্যাকিংয়ের চেষ্টা করবে। তবে সম্প্রতি মাইক্রোসফটের প্রধান নির্বাহী সত্য নাদেলা সতর্ক করেছেন, প্রতিষ্ঠানের নিজস্ব এআই এজেন্টও হুমকি হয়ে উঠতে পারে। নিয়ন্ত্রণের বাইরে চলে গেলে এসব এজেন্ট প্রতিষ্ঠানের ভেতর থেকেই ঝুঁকি তৈরি করতে পারে। সাইবার নিরাপত্তার ভাষায় একে বলা হয় ‘ইনসাইডার থ্রেট’।
চলতি মাসের শুরুতে ব্যক্তিগত ব্লগে নাদেলা সতর্ক করে বলেন, ‘এআই মডেল সরবরাহকারী প্রতিষ্ঠানগুলোর নিরাপত্তার আশ্বাসের ওপর পুরোপুরি নির্ভর করা উচিত নয়। এসব প্রতিষ্ঠানের নিয়ন্ত্রণের বাইরে পৃথক ব্যবস্থা রাখতে হবে, যাতে তাদের তৈরি এআই এজেন্টগুলোর কার্যক্রম পর্যবেক্ষণ ও নিয়ন্ত্রণ করা যায়।’
নাদেলা লেখেন, এআই এজেন্টকে প্রতিষ্ঠানের সংবেদনশীল তথ্যের নাগাল ও গুরুত্বপূর্ণ কাজের দায়িত্ব দেওয়া হচ্ছে। তাই এআই কী করছে, সেই দায়িত্ব অন্যের ওপর ছেড়ে দেওয়া যাবে না। তার মতে, এআই সরবরাহ এবং এর ওপর কর্তৃত্ব-দুটি বিষয় আলাদা রাখতে হবে।
মাইক্রোসফটের নিরাপত্তাপ্রধান হায়েতে গ্যালোও বলেন, উৎস যা-ই হোক, অত্যাধুনিক এআই মডেলকে পুরোপুরি বিশ্বাস করা যায় না। কারণ মডেলগুলো সব সময় অনুমানযোগ্য আচরণ করে না। এগুলোকে নির্দিষ্ট কাজের জন্য প্রশিক্ষণ দেওয়া হলেও প্রতিষ্ঠানের নিয়ম মানা বা বিচার-বিবেচনা করে সিদ্ধান্ত নেওয়ার জন্য প্রশিক্ষণ দেওয়া হয়নি।
এআই এজেন্টগুলোকে প্রায়ই প্রতিষ্ঠানের গুরুত্বপূর্ণ তথ্য ও সরঞ্জাম ব্যবহারের ব্যাপক অনুমতি দেওয়া হয়। ফলে তাদের ভুল সিদ্ধান্ত বা অনাকাঙ্ক্ষিত আচরণ বড় ধরনের ক্ষতি করতে পারে।
মাইক্রোসফটের সমাধানের পেছনে যেমন নিরাপত্তার যুক্তি রয়েছে, তেমনি রয়েছে ব্যবসায়িক স্বার্থ। ওপেনএআই ও অ্যানথ্রপিকে মাইক্রোসফটের বিনিয়োগ রয়েছে। ওপেনএআই মাইক্রোসফটের অন্যতম বড় ক্লাউড গ্রাহক। পাশাপাশি মাইক্রোসফটের নিজস্ব এআই গবেষণাগারও রয়েছে। ফলে নিজেদের ব্যবসায়িক অংশীদারদের তৈরি পণ্যের ওপর আস্থার সীমাবদ্ধতা তুলে ধরে ঝুঁকিও নিচ্ছে প্রতিষ্ঠানটি।
মাইক্রোসফট চায়, প্রতিষ্ঠানগুলো এআই এজেন্টের নিরাপত্তাব্যবস্থা ওপেনএআই বা অ্যানথ্রপিকের কাছ থেকে না কিনে ক্লাউড সেবাদাতা হিসেবে তাদের কাছ থেকেই কিনুক। তবে ব্যবসায়িক স্বার্থের সংঘাত থাকলেও তাদের যুক্তির ভিত্তি রয়েছে। এআই এজেন্টের কার্যক্রম পর্যবেক্ষণের সফটওয়্যার এজেন্ট সরবরাহকারী প্রতিষ্ঠানের নিয়ন্ত্রণের বাইরে থাকা উচিত।
নাদেলার ভাষায়, ‘বুদ্ধিমত্তা সরবরাহের ব্যবস্থা এবং সেই বুদ্ধিমত্তার ওপর কর্তৃত্ব-এ দুটিকে আলাদা রাখতে হবে।’ মাইক্রোসফট এখন বিভিন্নভাবে এই ব্যবসায়িক সুযোগ কাজে লাগাচ্ছে। গার্ডিয়ান এজেন্টসের পাশাপাশি ‘মাইক্রোসফট ডিফেন্ডার’-এ এআই এজেন্ট শনাক্ত করার সুবিধা যুক্ত করা হয়েছে। এর মাধ্যমে কর্মক্ষেত্রে ব্যবহৃত সর্বোচ্চ ৬০ ধরনের এআই এজেন্ট শনাক্ত করা যাবে। এর মধ্যে রয়েছে ‘ক্লদ কোড’, ‘কোডেক্স’ ও ‘ওপেনক্ল’।
এছাড়া এআই এজেন্টের তথ্য ও বিভিন্ন ব্যবস্থায় প্রবেশের সুযোগ সীমিত করা এবং কাজের ধরন অনুযায়ী তাদের অনুমতি পরিবর্তনের সুবিধাও রয়েছে। কোনো এজেন্ট ঝুঁকিপূর্ণ সিদ্ধান্ত নিতে পারে বলে মনে হলে এসব ব্যবস্থায় মানুষের অনুমোদন বাধ্যতামূলক করা যাবে।
সূত্র: টেকক্রাঞ্চ

ট্যাগস :