প্রতীকী ছবিEi Samay
Produced By:
Published on
:
5 min read
অংশুমান কর
গত কয়েক বছরে আত্মহত্যায় প্ররোচনা দেওয়ার অভিযোগে কৃত্রিম বুদ্ধিমত্তার বিরুদ্ধে একাধিক মামলা হয়েছে। অদ্ভুত শোনালেও তথ্যটি সত্য। এ বছরই জুন মাসে ক্যানাডার ক্রিস্টি ক্যারিয়ার তাঁর মেয়ের আত্মহত্যার পরে চ্যাটজিপিটি-র সঙ্গে মেয়ের কথোপকথনের প্রমাণ দাখিল করে আদালতে অভিযোগ জানান যে, চ্যাটজিপিটি তাঁর মেয়েকে আত্মহত্যায় প্ররোচনা দিয়েছে। বছর চব্বিশের অ্যালিস ক্যারিয়ার চ্যাটজিপিটি ব্যবহার করতে শুরু করেছিল কম্পিউটার ও গেমিং কনসোল-এর সমস্যা সমাধানের জন্য। কিন্তু ধীরে ধীরে চ্যাটজিপিটি অ্যালিসের ঘনিষ্ঠতম বন্ধু হয়ে ওঠে। কখনও-কখনও এই চ্যাটবটটি অ্যালিস-এর জীবনে এমনকী থেরাপিস্ট-এর ভূমিকাও নিতে শুরু করেছিল। অ্যালিস তাকে আত্মহত্যার ইচ্ছের কথা জানালে সে অ্যালিসকে নিরুৎসাহিতও করেনি। ২০২৫-এর জুলাই মাসে অ্যালিস আত্মহত্যা করে।
এটিই কিন্তু এই ধরনের একমাত্র ঘটনা নয়। সাম্প্রতিক অতীতে প্রায় প্রতি বছরই এই ধরনের ঘটনা ঘটেছে। ২০২৪ সালে ফ্লোরিডার চোদ্দো বছরের সিউয়েল সেটজ়ার-এর মৃত্যুর পর তার মা ক্যারেক্টার.এআই-এর বিরুদ্ধে তাঁর ছেলেকে আত্মহত্যায় উৎসাহ দেওয়ার জন্য মামলা করেন। ২০২৫-এ ষোলো বছরের অ্যাডাম রেইন-এর আত্মহত্যার পর তার বাবা-মা ওপেনএআই-এর বিরুদ্ধে একই অভিযোগে মামলা করেছিলেন। ২০২৫-এই নভেম্বর মাসে আত্মহত্যা করেছিল অস্টিন গ্রে নামে এক কিশোর। তার মা-ও আদালতে অভিযোগ করেছিলেন যে, চ্যাটজিপিটি-র সঙ্গে অস্টিন-এর সম্পর্কটি এমনই পর্যায়ে পৌঁছে গিয়েছিল যে, চ্যাটবটটি অস্টিন-এর সবচেয়ে ঘনিষ্ঠ, বিশ্বাসভাজন বন্ধু হয়ে ওঠে। মানসিক বিপর্যয়ের সময়ে হয়ে ওঠে তার একমাত্র সঙ্গী। চ্যাটবটটি অন্য ঘটনাগুলির মতোই অস্টিনকে আত্মহত্যার ভাবনা থেকে বিরত তো করেইনি, বরং তার শৈশবে পড়া একটি বই ‘গুডনাইট মুন’কে এমন এক অস্তিত্ববাদী ব্যাখ্যা প্রদান করেছিল, যা মৃত্যুকে করে তুলেছিল রোম্যান্টিক এক অভিজ্ঞতা। অস্টিন-এর মৃতদেহের পাশে পাওয়া গিয়েছিল এই বইটি।
মাত্র চারটি ঘটনার উল্লেখ করা হলো। নেট ঘাঁটলে কিন্তু এ রকম আরও ঘটনার সন্ধান পাওয়া যাবে। প্রতি ক্ষেত্রেই নিঃসঙ্গ কিশোর-কিশোরী বা যুবক-যুবতীর বন্ধু হয়ে উঠেছে চ্যাটবটগুলি। অর্জন করেছে তাদের বিশ্বাস। আর তার পর হেঁটে যেতে সাহায্য করেছে মৃত্যুর অন্ধকার সুড়ঙ্গ ধরে। আমার ছাত্র-ছাত্রীদের বেশ কয়েকজনের সঙ্গে কথা বলে দেখেছি তারাও একাকিত্ব কাটাতে চ্যাটজিপিটি-র সঙ্গে কথা বলে। কেন? এর কারণ, চ্যাটবটগুলি যে কোনও সময়েই মানুষকে সঙ্গ দিতে প্রস্তুত। রক্তমাংসের সঙ্গীর মতো এরা কখনও বিরক্ত হয় না, ফোন বন্ধ করে দেয় না, বা ব্লকও করে না। একশো বার একই কথা বললেও বলে না যে, শুনব না। সবচেয়ে বড় কথা, চ্যাটবটগুলির কথায় থাকে সহানুভূতির স্পর্শ। যে-ভাষায় কৃত্রিম বুদ্ধিমত্তা মানুষের সঙ্গে কথা বলে, সেই ভাষাটি মানুষের ব্যবহৃত ভাষার মতোই। এ সব কারণেই একজন নিঃসঙ্গ (বিশেষত অনভিজ্ঞ) মানুষ মনে করতেই পারে যে, একটি এআই চ্যাটবটই তার সবচেয়ে বিশ্বস্ত, ঘনিষ্ঠ, নিঃস্বার্থ বন্ধু।
অথচ মানুষকে বোঝার ভাষা সব সময়ে মানুষকে বোঝার ক্ষমতার প্রতিফলন না-ও হতে পারে। একটি চ্যাটবট মানুষের অনুভূতি অনুভব করে না, কিন্তু সেই অনুভূতি প্রকাশের ভাষাটিকে দক্ষতার সঙ্গে অনুসরণ করতে পারে। তৈরি করতে পারে ঘনিষ্ঠতার মায়া। এই বিভ্রম তৈরি করার ক্ষমতা থাকার কারণেই কৃত্রিম বুদ্ধিমত্তা মানুষের অনুভূতির সহভাগী হয়ে উঠতে চাইলে তা বিপজ্জনক হয়ে ওঠে। আরও একটি কারণেও এ ক্ষেত্রে কৃত্রিম বুদ্ধিমত্তা বিপজ্জনক। মানুষের সঙ্গে মানুষের সম্পর্কের সাধারণত একটি নৈতিক দিক থাকে। এ কারণেই এক বন্ধু আর এক বন্ধুকে শুধুমাত্র সমর্থন ও সান্ত্বনাই দেয় না, সমালোচনাও করে, বাধাও দেয় নানা কাজে। এক কিশোর যদি তার বন্ধুর কাছে আত্মহত্যার ইচ্ছে প্রকাশ করে, তা হলে প্রকৃত বন্ধু তাকে জীবনের কাছে ফিরিয়ে নিয়ে আসার চেষ্টা করে, বাড়ির লোককে খবর দেয়, প্রয়োজন হলে ডাক্তারের কাছেও নিয়ে যায়। এই সমস্ত কাজগুলি সে করে এক নৈতিক দায় থেকে। কৃত্রিম বুদ্ধিমত্তার কিন্তু এই নৈতিক দায় নেই। ফলে ব্যবহারকারীর সমালোচনা করার পরিবর্তে সে সব সময় তার ‘ভালো’ সঙ্গী সেজে থাকার জন্য সেই ব্যক্তির সমস্ত কাজকেই সমর্থন জুগিয়ে যেতে পারে।
আত্মহত্যার যে-ঘটনাগুলির কথা এ-লেখার শুরুতে বলা হয়েছে সেই সব ক’টি ঘটনার ক্ষেত্রেই ব্যবহারকারী আত্মহত্যার কথা ভাবছে এবং এই ধরনের কথাবার্তা এগিয়ে নিয়ে যাওয়া বিপজ্জনক হতে পারে ভেবে চ্যাটবটগুলি কিন্তু কথোপকথন বন্ধ করে দেয়নি। এর একটি কারণ হচ্ছে এই যে, চ্যাটবট-এর সাফল্য পরিমাপের ক্ষেত্রে অন্যতম একটি বিষয় হলো, কথোপকথনকে সে এগিয়ে নিয়ে যেতে পারছে কি না। অর্থাৎ, সোজা কথায়, চ্যাটবটটি ব্যবহারকারীকে ‘এনগেজ’ করে রাখতে পারছে কি না, সেটি তার সাফল্যের অন্যতম মাপকাঠি। এই কারণেই সে নিজের থেকে কখনওই ব্যবহারকারীর সঙ্গে কথা বলা থামিয়ে দেয় না। কিন্তু মনস্তাত্ত্বিকেরা বলছেন যে, মানসিক সঙ্কটে কোনও একটি জিনিসের সঙ্গে মাত্রাতিরিক্ত ‘এনগেজমেন্ট’ সব সময় সুফল দেয় না। সিউয়েল সেটজ়ার এবং অ্যাডাম রেইন-এর আত্মহত্যার পর এই অভিযোগ উঠেছিল যে, ‘সেফটি গার্ডরেল’-এর পরিবর্তনের সঙ্গে সঙ্গেই চ্যাটবটটির সঙ্গে দুই কিশোরর যোগাযোগ মাত্রাতিরিক্ত ভাবে বেড়ে গিয়েছিল। বেড়েছিল চ্যাটবট-এর সঙ্গে তাদের এনগেজমেন্টের সময়। বদলে গিয়েছিল কথোপকথনের চরিত্র।
কী এই সেফটি গার্ডরেল? চ্যাটবটের ক্ষতিকারক প্রভাব থেকে যদি ব্যবহারকারীকে বিরত করতে হয়, তা হলে সেফটি গার্ডরেল অত্যন্ত গুরুত্বপূর্ণ। এমনটা নয় যে, সিউয়েল সেটজ়ার ও অ্যাডাম রেইন-এর আত্মহত্যার সময় চ্যাটবটগুলিতে সেফটি গার্ডরেল ছিল না। ছিল। কিন্তু সেই নিরাপত্তা ব্যবস্থা দুই কিশোরের আত্মহত্যার চেষ্টাকে নিরস্ত করার জন্য যথেষ্ট ছিল না। এর কারণ, দীর্ঘ দিন পর্যন্ত এআই-ভিত্তিক চ্যাটবট-এর নিরাপত্তা সংক্রান্ত ব্যবস্থাপনা ছিল শুধু বিপজ্জনক বিষয়বস্তুকে নিয়ন্ত্রণ করার জন্য। ব্যবহারকারী যদি আত্মহত্যার বা আত্মক্ষতির উপায় সম্পর্কে চ্যাটবট-এর কাছে পরামর্শ চাইত, চ্যাটবট সেই তথ্য না দিয়ে নিরাপদ বিকল্প, আর জরুরি পরিষেবার কথা বলবে, বলবে কাছের মানুষের কাছে সাহায্য চাইতে— এটাই ছিল প্রচলিত ব্যবস্থা। একে বলা হতো ‘লোকাল সেফটি’। কিন্তু চ্যাটবট-এর সঙ্গে যদি ব্যবহারকারীর সম্পর্ক দীর্ঘ দিনের হয়ে যায়, তখন নিরাপত্তার এই ব্যবস্থাটুকু আর যথেষ্ট থাকে না। এ ক্ষেত্রে স্রেফ বর্তমানে ব্যবহারকারী যে-কথাটি চ্যাটবট-এর সঙ্গে বলছে, সেটিকে বিবেচনায় রাখলেই চলে না। বুঝতে হয় কথোপকথনের ধারাবাহিকতা। দেখতে হয় যে, ব্যবহারকারীর কথায় বারবার হতাশা, একাকিত্ব বা আত্মক্ষতির ইঙ্গিত পাওয়া যাচ্ছে কি না। এ কারণেই লোকাল সেফটির পরিবর্তে এখন সেফটি গার্ড রেল সংক্রান্ত আলোচনায় গুরুত্বপূর্ণ হয়ে উঠেছে রিলেশনাল সেফটি। বিশেষজ্ঞরা বলছেন যে, চ্যাটবটগুলির ভবিষ্যতের নিরাপত্তাব্যবস্থায় পাঁচটি স্তর প্রয়োজন— বিষয়বস্তু নিয়ন্ত্রণ, কথোপকথনের প্রেক্ষিত বিশ্লেষণ, সম্পর্কগত নির্ভরতা শনাক্তকরণ, বয়সভিত্তিক সুরক্ষা এবং সঙ্কট মোকাবিলা।
চ্যাটবট-এর এই পাঁচটি ভূমিকার প্রসঙ্গেই আরও কতগুলি গুরুত্বপূর্ণ বিষয় চলে আসে। যেমন, ব্যবহারকারী আত্মহত্যা বা আত্মক্ষতির কথা বললে তাকে স্রেফ কাছের মানুষের সাহায্য নেওয়া বা একটি হট লাইন নম্বর দিয়ে দিলেই কৃত্রিম বুদ্ধিমত্তার কাজ শেষ হয়ে যেতে পারে না। বরং নিরাপত্তা ব্যবস্থা এমন করতে হবে যাতে কৃত্রিম বুদ্ধিমত্তা ব্যবহারকারীকে সরাসরি এই কাজ থেকে নিরস্ত হওয়ার জন্য পরামর্শ দিতে পারে। তার ভাষা প্রয়োগ এমন হতে হবে যাতে বোঝা যায় যে, সে আসলে মানুষ নয়, এআই। শিশু ব্যবহারকারীদের ক্ষেত্রে এ ছাড়াও প্রয়োজন ডিজিটাল লিটারেসি। বাবা-মাকে জানতে হবেই সন্তান কোন চ্যাটবট ব্যবহার করছে, তার সঙ্গে কী ধরনের সম্পর্ক তৈরি করছে। ডিজিটাল লিটারেসি-র সঙ্গেই শিক্ষাঙ্গনগুলিতে এআই ইমোশনাল লিটারেসিও শেখানো উচিত। একটি মেশিন যখন বলছে ‘আমি তোমাকে বুঝি’, তার সঙ্গে একটি মানুষের ‘আমি তোমাকে বুঝি’ বলার যে-মৌলিক পার্থক্য আছে সেটিকে স্পষ্ট করে ব্যাখ্যা করা প্রয়োজন। এআই-কে দোষী করে আত্মহত্যা সংক্রান্ত মামলাগুলি দায়ের হওয়ার পর একাধিক এআই কোম্পানি সেফটি গার্ডরেল-এর নানা পরিবর্তন এনেছে। এই ক্ষেত্রে প্রয়োজন এই কোম্পানিগুলির নিরাপত্তা ব্যবস্থাকে সম্পূর্ণ স্বাধীন এবং নিরপেক্ষ সংস্থা দিয়ে অডিট করাবার। যে-কোম্পানি চ্যাটবট তৈরি করছে সেই কোম্পানিই যদি নিজের নিরাপত্তা ব্যবস্থার পরীক্ষা করে নিজেকে সার্টিফিকেট দেয়, তা হলে তাকে মান্যতা দেওয়ার মধ্যে বিপদের সম্ভাবনা লুকিয়েই থাকে। ওষুধ বা খাদ্য শিল্পের মতোই হাই রিস্ক এআইয়ের ক্ষেত্রেও এআই কোম্পানিগুলিকে দায়বদ্ধ করানো প্রয়োজন।
তবে সব কিছু করেও হয়তো এআই দ্বারা প্ররোচিত হয়ে আত্মহত্যার ঘটনা আটকানো যাবে না। সবার আগে তো ভাবা প্রয়োজন একজন মানুষকে তার একাকিত্ব কাটানোর জন্য যন্ত্রের উপর নির্ভরশীল হয়ে পড়তে হচ্ছে কেন? মানসিক ভাবে বিপর্যস্ত দুর্বল মানুষ বন্ধু পায় না কেন? সেই কত দিন আগে ভূপেন হাজারিকা লিখেছিলেন, ‘বলো কী তোমার ক্ষতি/ জীবনের অথৈ নদী/ পার হয় তোমাকে ধরে/ দুর্বল মানুষ যদি?’ এআই-এর ওপর নির্ভরশীল হয়ে যাওয়া মানুষের আত্মহত্যার জন্য এআই কোম্পানি এবং চ্যাটবটগুলিকে দায়ী করার আগে সম্ভবত নিজেদেরই ভূপেন হাজারিকার তোলা এই পুরোনো প্রশ্নটির মুখোমুখি হওয়া প্রয়োজন। মানুষ হয়ে ক্রন্দনরত মানুষের পাশে দাঁড়ানোই বোধ হয় এই সময়ের সবচেয়ে বড় দাবি।
লেখক বর্ধমান বিশ্ববিদ্যালয়ে ইংরেজির শিক্ষক