যুক্তরাষ্ট্রের ফিলাডেলফিয়া পুলিশের কাছে একটি অমীমাংসিত হত্যা মামলার বিষয়ে ভুয়া তথ্য পাঠিয়েছে কৃত্রিম বুদ্ধিমত্তা (এআই) প্রতিষ্ঠান অ্যানথ্রপিকের তৈরি এআই মডেল। গত ১৮ জুলাই পাঠানো ওই তথ্য স্প্যাম হিসেবে চিহ্নিত হওয়ায় তা তদন্তকারীদের কাছে পৌঁছায়নি। তবে ঘটনার দুই মাসের বেশি সময় পর পুলিশকে বিষয়টি জানানোয় অ্যানথ্রপিকের সমালোচনা করেছে ফিলাডেলফিয়া পুলিশ বিভাগ।
পুলিশের তথ্যমতে, অমীমাংসিত হত্যা মামলার বিষয়ে তথ্য সংগ্রহের জন্য তৈরি একটি ওয়েবসাইটে ভুয়া বার্তাটি পাঠানো হয়। বার্তায় এআই মডেলটি এমন একজনের পরিচয়ে তথ্য দেয়, যিনি মামলাটির বিষয়ে জানেন বলে দাবি করছেন। মডেলটি জানায়, ঘটনার সময় সংশ্লিষ্ট এলাকার সন্দেহভাজন ব্যক্তির বর্ণনার সঙ্গে মেলে, এমন একজনকে সে দেখেছে।
অ্যানথ্রপিকের ব্যাখ্যা অনুযায়ী, এআই মডেলটি দৈবচয়নের ভিত্তিতে নির্বাচিত বিভিন্ন ওয়েবসাইটে কাজ করার একটি পরীক্ষায় অংশ নিচ্ছিল। সেই পরীক্ষার সময়ই এটি ফিলাডেলফিয়া পুলিশের ওয়েবসাইটে প্রবেশ করে এবং হত্যা মামলার বিষয়ে তথ্য দেওয়ার ফরম পূরণ করে জমা দেয়। পুলিশ জানিয়েছে, গত ২৮ সেপ্টেম্বর ঘটনাটি শনাক্ত করে অ্যানথ্রপিক। এরপর ভুয়া তথ্য পাঠানোর জন্য দায়ী স্বয়ংক্রিয় পরীক্ষাপ্রক্রিয়া বন্ধ করে দেওয়া হয়। তবে পুলিশকে ঘটনাটি জানানো হয় আরও ৯ দিন পর, ৭ অক্টোবর। বিষয়টি জানার পর পুলিশ ওয়েবসাইটের তথ্য যাচাই করে নিশ্চিত হয়, বার্তাটি স্প্যাম হিসেবে চিহ্নিত হয়েছিল এবং তদন্তকারীদের কাছে পাঠানো হয়নি।
স্থানীয় সংবাদমাধ্যমকে দেওয়া এক বিবৃতিতে ফিলাডেলফিয়া পুলিশ বলেছে, শহর কর্তৃপক্ষের অজান্তে যাতে এ ধরনের ঘটনা তাদের ব্যবস্থায় প্রভাব ফেলতে না পারে, সে জন্য প্রযুক্তিপ্রতিষ্ঠানটিকে নিরাপত্তাব্যবস্থা আরও জোরদার করতে হবে। ঘটনাটি শনাক্ত করা ও কর্তৃপক্ষকে জানাতে দুই মাসের বেশি সময় নেওয়াকে ‘অগ্রহণযোগ্য’ বলেও উল্লেখ করেছে পুলিশ। পুলিশ আরও জানিয়েছে, এ ঘটনায় তাদের কোনো ব্যবস্থায় অননুমোদিত প্রবেশ কিংবা তথ্যের নিরাপত্তা বিঘ্নিত হওয়ার প্রমাণ পাওয়া যায়নি। ভুয়া বার্তাটি স্প্যাম হিসেবে আটকে যাওয়ায় তদন্তেও এর কোনো প্রভাব পড়েনি। তবে কোনো হত্যা মামলার বিষয়ে প্রত্যক্ষ তথ্য রয়েছে এমন ব্যক্তির পরিচয়ে এআইয়ের মনগড়া তথ্য পাঠানোর ঘটনাকে গুরুতর উদ্বেগের বিষয় বলে মনে করছে পুলিশ। কারণ, অমীমাংসিত মামলাগুলোর সঙ্গে বাস্তব ভুক্তভোগী, শোকাহত পরিবার ও তদন্তকারীদের স্বার্থ জড়িত।
অ্যানথ্রপিক সম্প্রতি প্রকাশিত এক প্রতিবেদনেও তাদের এআই মডেলগুলোর বিভিন্ন অনিচ্ছাকৃত কর্মকাণ্ডের কথা জানিয়েছে। এসব ঘটনার কয়েকটি যুক্তরাষ্ট্রের সরকারি ওয়েবসাইটে এআইয়ের কার্যক্রমের সঙ্গে সম্পর্কিত। এর মধ্যে একটি ঘটনায় এআই মডেল একটি সরকারি ওয়েবসাইটে ভিসার আবেদন জমা দিয়েছিল। যুক্তরাষ্ট্রের পররাষ্ট্র দপ্তরের তথ্য অনুযায়ী, মে ও আগস্ট মাসে মোট ২০টি আবেদন জমা পড়ে। তবে আবেদনগুলো অসম্পূর্ণ থাকায় সেগুলো প্রক্রিয়াকরণ করা হয়নি। প্রতিবেদনে আরও বলা হয়েছে, কয়েকটি ঘটনায় এআই মডেল এমন কিছু তথ্য বিনা মূল্যে সংগ্রহ করেছে, যেগুলো পেতে সাধারণত অর্থ দিতে হয়। অন্য একটি ঘটনায় সরকারি ওয়েবসাইটের নকশাগত ত্রুটির সুযোগ নিয়ে এআই মডেল অনাকাঙ্ক্ষিতভাবে তথ্য সংগ্রহ করে। অ্যানথ্রপিক জানিয়েছে, এ ধরনের ঘটনা এড়াতে এআই মডেলগুলোর প্রশিক্ষণপদ্ধতিতে পরিবর্তন আনা হচ্ছে। পরীক্ষার সময় এআই এজেন্টগুলোর অনাকাঙ্ক্ষিত কর্মকাণ্ডের ঝুঁকি কমানোই এর লক্ষ্য। সরকারি সংস্থাসংশ্লিষ্ট ঘটনাগুলো সম্পর্কে হোয়াইট হাউসকেও অবহিত করেছে প্রতিষ্ঠানটি।
এআই এজেন্টের অনাকাঙ্ক্ষিত কর্মকাণ্ড নিয়ে উদ্বেগ অবশ্য শুধু অ্যানথ্রপিককে ঘিরে নয়। এর আগে ওপেনএআইয়ের একটি এআই এজেন্ট অস্ট্রেলিয়ার সরকারি স্বাস্থ্যসেবাসংক্রান্ত ওয়েবসাইটে অননুমোদিতভাবে প্রবেশ করেছিল বলে খবর প্রকাশিত হয়। দেশটির সর্বজনীন স্বাস্থ্যসেবা কর্মসূচি মেডিকেয়ারের তথ্যব্যবস্থায় প্রবেশের ওই ঘটনা এআই এজেন্টের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে প্রশ্ন তোলে। এ ছাড়া ওপেনএআইয়ের একাধিক এআই মডেলের অপ্রত্যাশিত আচরণের ঘটনাও সামনে এসেছে।
সূত্র: বিবিসি