ডোনাল্ড ট্রাম্পকে ‘দুর্নীতিগ্রস্ত ও বয়সের ভারে ন্যূব্জ অপরাধী’ বলে আখ্যা দিয়েছেন কৃত্রিম বুদ্ধিমত্তার ‘গডফাদার’ বা জনক হিসেবে পরিচিত জিওফ্রে হিন্টন। তিনি বলেছেন, ‘সুপারইন্টেলিজেন্স’ শব্দটির প্রতি ট্রাম্পের মাত্রাতিরিক্ত ঝোঁক প্রমাণ করে যে তিনি কৃত্রিম বুদ্ধিমত্তা বা এআই সম্পর্কে বিন্দুমাত্র ধারণা রাখেন না। ব্রিটিশ সংবাদমাধ্যম দ্য গার্ডিয়ানকে দেওয়া সাক্ষাৎকারে তিনি নিজের আগের সতর্কবাণী আবারও জোরালোভাবে উচ্চারণ করেছেন। তিনি বলেছেন, এআই মডেলগুলো মানবজাতির অস্তিত্বের জন্য মারাত্মক হুমকি। একই সঙ্গে তিনি এই দাবিও উড়িয়ে দিয়েছেন যে, এই প্রযুক্তি জগৎ নিজে থেকেই নিজেদের নিয়ন্ত্রণ করতে পারবে।
আধুনিক এআই-এর ভিত্তি তৈরিতে সাহায্য করা এই অগ্রগামী কম্পিউটার বিজ্ঞানী এখন এই প্রযুক্তিরই অন্যতম সোচ্চার সমালোচক। এমন এক সময় তাঁর এই মন্তব্য এল, যখন আরও অনেক জ্যেষ্ঠ এআই বিজ্ঞানী ও গবেষক তাঁর সঙ্গে সুর মিলিয়ে সতর্ক করছেন যে, তাঁদের তৈরি করা এই প্রযুক্তি শেষ পর্যন্ত মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে। এই নিয়ে প্রযুক্তি খাতে বড় ধরনের সংকট তৈরি হয়েছে, মার্কিন কংগ্রেসে তড়িঘড়ি করে বৈঠক ডাকা হয়েছে এবং গোটা বিশ্বে একটা সাধারণ ঐকমত্য তৈরি হয়েছে যে এখনই কিছু একটা করা দরকার।
তবে এর তীব্র প্রতিবাদও হয়েছে। গত সপ্তাহে বিশ্বের সবচেয়ে মূল্যবান কোম্পানির প্রধান টরন্টোভিত্তিক হিন্টনকে নিশানা করে কঠোর আক্রমণ চালিয়েছেন। চিপ নির্মাতা প্রতিষ্ঠান এনভিডিয়ার সিইও জেনসেন হুয়াং পডকাস্টার এজরা ক্লেইনকে দেওয়া এক সাক্ষাৎকারে বলেন, ‘আমি (তাঁকে) খুব পছন্দ করি। কিন্তু তাঁর ভবিষ্যদ্বাণীগুলোকে ঘৃণা করি...তাঁর সব ভবিষ্যদ্বাণী ভুল প্রমাণিত হয়েছে। আর নয় ভবিষ্যদ্বাণী।’
প্রযুক্তি দুনিয়ায় এআই যেভাবে এগোচ্ছে, তাতে অচিরেই তা মানুষের নিয়ন্ত্রণের ক্ষমতা ছাড়িয়ে যেতে পারে—হিন্টনের এমন আশঙ্কাকে উড়িয়ে দেন হুয়াং। বিশেষ করে আগামী দশকগুলোতে এআই-এর কারণে মানবজাতি বিলুপ্ত হওয়ার ১০ থেকে ২০ শতাংশ আশঙ্কা রয়েছে বলে হিন্টন যে সতর্কবার্তা দিয়েছেন, তাও উড়িয়ে দিয়েছেন হুয়াং।
হুয়াং আরও বলেন, ‘এই (সংখ্যাটি) বিজ্ঞানের ওপর ভিত্তি করে দেওয়া হয়নি, গবেষণার ওপর ভিত্তি করেও নয়। শুধু একজন বিজ্ঞানীর মুখ থেকে এসেছে বলেই সেটা বৈজ্ঞানিক হয়ে যায় না। এই ভবিষ্যদ্বাণীগুলো ক্ষতিকর।’ তিনি বলেন, ‘এক মুহূর্তের জন্যও ভাববেন না যে শুধু আতঙ্ক ছড়িয়ে আপনি সমাজের কোনো ভালো করছেন। এটা সত্যি নয়। তাই আমি মনে করি আমাদের সবার আরও বুদ্ধিমান, পরিপক্ব, প্রমাণের ওপর ভিত্তি করে চলা এবং বৈজ্ঞানিক হওয়া উচিত।’
তবে হিন্টনের মতে, তাঁর সমালোচকরা ঝুঁকির আসল প্রকৃতিটাই বুঝতে পারছেন না। তিনি বলেন, তিনি নির্দিষ্ট কোনো ঘটনার ভবিষ্যদ্বাণী করছেন না। তিনি বুঝিয়ে বলেন, ‘আমি এটা বোঝাতে চাচ্ছি যে খুব মারাত্মক কিছু ঘটার সত্যিকারের একটি বড় সম্ভাবনা রয়েছে। উদাহরণস্বরূপ, আপনাকে যদি বলা হয় যে একটি বাস দুর্ঘটনার ১০ শতাংশ সম্ভাবনা আছে, আপনি কিন্তু সেই বাসে উঠবেন না।’ তিনি আরও বলেন, ‘সংখ্যা দিয়ে বোঝানোর উদ্দেশ্য হলো—এটি একটি মারাত্মক ঝুঁকি। ঝুঁকিটা ঠিক কতটা মারাত্মক আমরা হয়তো জানি না, তবে এটি যে মারাত্মক, তা নিশ্চিত।’
সম্প্রতি ঘটে যাওয়া কিছু নিরাপত্তা ভঙ্গের ঘটনা মানুষের মনে সায়েন্স ফিকশনের কোনো ভয়ানক ভবিষ্যতের ছবি ফুটিয়ে তুলেছে। সম্প্রতি হাগিং ফেস নামের এক প্রযুক্তি প্রতিষ্ঠানে এআই এজেন্টদের একটি ‘ঝাঁক’ তাদের নির্মাতাদের বেঁধে দেওয়া সীমানা পেরিয়ে অনাকাঙ্ক্ষিতভাবে হ্যাকিং চালিয়েছে। এই ঘটনায় প্রযুক্তি দুনিয়া দুই ভাগে ভাগ হয়ে গেছে। কেউ কেউ একে সামনে ঘটতে যাওয়া বিপদের পূর্বভাস হিসেবে দেখছেন, আবার কেউ কেউ সমালোচকদের বিরুদ্ধে অভিযোগ তুলছেন যে, এই সিস্টেমগুলো তো স্রেফ নির্দেশ মেনে চলছে, আর সমালোচকরা অহেতুক এদের মধ্যে মানুষের মতো গুণ বা অনুভূতি (anthropomorphizing) খোঁজার চেষ্টা করছেন। তবে হিন্টন মনে করেন এই বিষয়গুলোকে উড়িয়ে দেওয়া বোকামি হবে।
হিন্টন বলেন, ‘এই সব বিষয় কিছুদিন আগেও সায়েন্স ফিকশন বা কল্পকাহিনির ব্যাপার বলে মনে করা হতো। বলা হতো—আপনার এআই এজেন্ট থাকবে এবং তারা বিদ্রোহী হয়ে উঠবে। ধুর, বাদ দিন তো! আর তারা বিদ্রোহী হয়ে একে অপরের সাথে যোগাযোগ করা শিখে ফেলবে, যদিও আমরা ভেবেছিলাম তার কোনো উপায় নেই। ধুর, বাদ দিন তো!’ তিনি যোগ করেন, ‘আর যখন তারা এটা বুঝে ফেলবে, তখন তারা বড় বড় আবেগী অভিব্যক্তি প্রকাশ করবে যেমন—ওহ মাই গড! আচ্ছা, অবশ্যই তারা সত্যি সত্যি ‘ওহ মাই গড’ বোঝাচ্ছে না। তারা শুধু আমাদের বলা শব্দগুলোর অনুকরণ করছে। তারা সার্বিক ভালোর জন্য নিজেদের উৎসর্গ করাও শিখে যাবে! এই সব জিনিস মাত্র কয়েক বছর আগেও কষ্ট কল্পনা বলে উড়িয়ে দেওয়া হতো। আর এখন এর সবই ঘটে গেছে।’
হিন্টন অকপটে স্বীকার করেন, এআই-এর সমালোচকদের সতর্কবার্তা বা এর নির্মাতাদের আশ্বাসের কোনোটিই নিশ্চিত করে বলতে পারে না যে প্রযুক্তিটি শেষ পর্যন্ত কী করবে। তবে তাঁর যুক্তি হলো, অনিশ্চয়তা আছে বলেই বসে থাকা যাবে না। তিনি বলেন, ‘এআই-এর সবচেয়ে বড় সমস্যা হলো—এটি যদি ভুল পথে যায়, এটি যদি মানুষের নিয়ন্ত্রণ নিয়ে নেয়, তবে আপনি দ্বিতীয় কোনো সুযোগ পাবেন না। আমরা বলতে পারব না যে, “আচ্ছা, এবার তো হেরে গেলাম। চল খেলাটা আবার নতুন করে শুরু করি। ”
ব্যাপারটা এমন নয়।’
এখানে একটা কথা বলা দরকার, হিন্টনের আগে থেকেই এমন কিছু দেখতে পাওয়ার অভ্যাস আছে যা অন্যরা দেখতে পাননি। টরন্টো বিশ্ববিদ্যালয়ে এআই-এর দুটো খারাপ সময় বা ‘শীতকালীন মন্দা’র (এআই উইন্টারস) সময়েও তিনি একা পড়ে থেকে কাজ চালিয়ে গেছেন। তখন তাঁর সেই গবেষণার ক্ষেত্রটি—অর্থাৎ কম্পিউটারকে মানুষের মস্তিষ্কের মতো কাজ করতে শেখানো—খুবই অবহেলিত ছিল। তিনি এই ধারণায় বিশ্বাসী ছিলেন যে, মানুষের মস্তিষ্কের মতোই কম্পিউটার সিস্টেমকেও শুধু নির্দিষ্ট কিছু নিয়ম মেনে চলার বদলে ডেটা বা তথ্য থেকে নিজে নিজে প্যাটার্ন বা নিয়ম শেখার উপযোগী করে তোলা সম্ভব।
তিনি বলেন, ‘আমরা বিশ্বাস করতাম যে মস্তিষ্ক কীভাবে শেখে তা যদি আপনি বুঝে ফেলতে পারেন, আর আপনার কাছে যদি পর্যাপ্ত কম্পিউটিং ক্ষমতা থাকে, তবে যন্ত্রও একইভাবে শিখবে এবং অসাধারণ সব কাজ করবে।’ কিন্তু নিউরাল নেটওয়ার্ক নিয়ে করা তাঁর এই প্রাথমিক কাজকে সে সময় তাঁর সহকর্মীরাও উপহাস করেছিল। এমনকি ২০০৯ সালেও, যখন হিন্টনের কানাডীয় সহকর্মী ও ঘনিষ্ঠ বন্ধু ইয়োশুয়া বেঞ্জিও একটি মেশিন লার্নিং সম্মেলনে একটি গবেষণাপত্র পাঠিয়েছিলেন, তখন একজন বিচারক তাঁদের সরাসরি বলেছিলেন, ‘মেশিন লার্নিং কনফারেন্সে এই পেপারের কোনো স্থান নেই। এটি নিউরাল নেটওয়ার্ক নিয়ে।’
পরে কানাডা সরকারের অর্থায়নেই হিন্টন ও তাঁর ছোট দল এই ফলহীন মনে হওয়া গবেষণা চালিয়ে যাওয়ার সুযোগ পান (যাঁদের মধ্যে বেঞ্জিওর মতো গবেষকরা এখন এআই দুনিয়ার অন্যতম শীর্ষ ব্যক্তিত্ব)। অবশেষে ২০১২ সালে হিন্টন ও তাঁর ছাত্ররা এমন একটি ছবি শনাক্তকরণ প্রোগ্রাম তৈরি করেন যা তাদের প্রতিদ্বন্দ্বীদের পেছনে ফেলে দেয়। সেই বছরই গুগল ৪ কোটি ৪০ লাখ ডলারে হিন্টনের কোম্পানি ‘ডিএনএনরিসার্চ ইনক. ’ (DNNresearch Inc) কিনে নেয়। বর্তমানে বিশ্বের সবচেয়ে মূল্যবান এআই কোম্পানিগুলোর মডেলের মূল ভিত্তি হলো এই নিউরাল নেটওয়ার্ক। ডিপ লার্নিং নিয়ে গবেষণা চালিয়ে যাওয়ার জন্য হিন্টন গুগলে যোগ দেন এবং টরন্টো বিশ্ববিদ্যালয়েও কাজ চালিয়ে যান। হিন্টনের মতে, ‘দীর্ঘমেয়াদে, বড় ও নতুন সব সাফল্য আসে মৌলিক গবেষণা থেকেই।’
টরন্টোর এক শান্ত ও সুন্দর এলাকায় হিন্টনের লাল ইটের বাড়ির ফায়ারপ্লেসের ওপর তাকের দিকে তাকালে তাঁর এই সাফল্যের প্রমাণ পাওয়া যায়। সেখানে বিভিন্ন ট্রফির মাঝে রাখা আছে টিউরিং অ্যাওয়ার্ডের ছোট রুপোলি থালাটি—যাকে কম্পিউটিংয়ের নোবেল পুরস্কার বলা হয়। তিনি এই পুরস্কার পেয়েছিলেন বেঞ্জিও এবং সহকর্মী ইয়ান লেকানের সাথে যৌথভাবে। (এছাড়া হিন্টনের ঝুলিতে পদার্থবিদ্যায় নোবেল পুরস্কারও রয়েছে।) তবে ২০২৩ সালে হিন্টন টেক জায়ান্ট গুগল থেকে পদত্যাগ করেন, যাতে তিনি কোনো বাধা ছাড়াই এআই-এর ঝুঁকিগুলো নিয়ে স্বাধীনভাবে কথা বলতে পারেন।
আজ তাঁর দুশ্চিন্তা কেবল প্রযুক্তিতেই সীমাবদ্ধ নয়, বরং যারা এই শক্তিশালী এআই মডেলগুলো তৈরি করছেন, সেই প্রভাবশালী মানুষদের রাজনৈতিক বিশ্বাস নিয়েও তিনি চিন্তিত। হিন্টন বলেন যে, এআই জগতের প্রভাবশালী বিনিয়োগকারী মার্ক অ্যান্ড্রেসেন ও পিটার থিয়েল এবং নতুন নাম পাওয়া স্পেসএক্সএআই-এর সিইও ইলন মাস্ক ‘গণতন্ত্রে বিশ্বাস করেন না।’ তাঁরা নিজেদের ‘অতিমানব’ বলে মনে করেন। তাঁরা বিশ্বাস করেন সমাজ তাঁদের নিয়ন্ত্রণে চলা উচিত এবং এই উদ্দেশ্য হাসিলের জন্য ডোনাল্ড ট্রাম্পকে তাঁরা একটি দরকারী হাতিয়ার হিসেবে দেখছেন।
অন্যদিকে মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প ভালো করেই বুঝতে পেরেছেন যে এআই কোম্পানিগুলোর বিশাল বাজারমূল্য কীভাবে শেয়ার বাজারকে চাঙ্গা করে রেখেছে। তাই তিনি দাবি করেছেন যে, এআই-কে নিয়ন্ত্রণে রাখার জন্য নাকি কেবল একজন ‘চালাক বা বুদ্ধিমান প্রেসিডেন্ট’ দরকার। তিনি সরকারি কোনো নিয়ম বা সুরক্ষার তোয়াক্কা না করে কোম্পানিগুলোর ওপরই ছেড়ে দিয়েছেন নিজেদের নিয়ন্ত্রণ করার দায়িত্ব। এমনকি সামাজিক মাধ্যমে তিনি লিখেছেন যে, এআই-এর জন্য তাঁর পছন্দের নতুন শব্দ ‘সুপার ইন্টেলিজেন্স’ কেউ ব্যবহার না করলে সে ‘শত্রু।’
এই প্রসঙ্গে হিন্টন ট্রাম্পকে ‘দুর্নীতিগ্রস্ত ও বয়সের ভারে ন্যূব্জ অপরাধী’ বলে আক্রমণ করেন। তিনি বলেন, ‘আমি নিশ্চিত যে তেল ও অ্যাসবেস্টস কোম্পানিগুলোও নিজেরাই নিজেদের (নিয়ন্ত্রণ করতে) খুব পছন্দ করত। আমরা কি মনে করি তামাক কোম্পানিগুলোকে প্যাকেটের ওপর সতর্কবার্তা নিজেই ডিজাইন করার অনুমতি দেওয়া উচিত ছিল? যাতে তারা সেই সতর্কতাগুলো খুব ছোট ৬-পয়েন্ট ফন্টে, কালোর ওপর গাঢ় ধূসর রঙে ছাপাতে পারে?’ হিন্টন আরও বলেন, ট্রাম্প যেভাবে ‘সুপারইন্টেলিজেন্স’ শব্দটি ব্যবহার করেছেন, তাতে প্রমাণ হয় তিনি এআই সম্পর্কে ‘প্রায় কিছুই’ বোঝেন না।
তিনি ব্যাখ্যা করে বলেন, ‘তিনি এমন একটি প্রযুক্তিগত শব্দ ব্যবহার করেছেন যার একটি খুব স্পষ্ট অর্থ রয়েছে, আর সেটাকে তিনি নিজের মতো করে ব্যবহার করছেন। সুপারইন্টেলিজেন্স মানে হলো মানুষের চেয়ে বেশি বুদ্ধিমান সত্তা, এবং এই শব্দটি গত অন্তত ২০ বছর ধরে প্রচলিত আছে। এর একটি পরিষ্কার অর্থ রয়েছে। এখন তিনি বলছেন আমরা এআই-কে সুপারইন্টেলিজেন্স বলব। আপনি কোনো কিছুর নাম মানুষের চেয়ে বুদ্ধিমান দিলেই সেটি মানুষের চেয়ে বুদ্ধিমান হয়ে যায় না।’
এআই যেভাবে দ্রুত গতিতে এগিয়ে চলেছে, তাতে বড় ধরনের বিপর্যয় এবং সমাজের তা সামলাতে না পারার ভয় দিন দিন বাড়ছে। তবে হিন্টনের মতে, এর বাইরেও আরেকটি বড় বাধা রয়েছে। আর তা হলো—মানুষের এটি মেনে নেওয়া যে তারা এই পৃথিবীতে একমাত্র বুদ্ধিমান সত্তা নয়, বরং কোম্পানিগুলো এখন এক ধরণের ‘এলিয়েন বা ভিনগ্রহের সত্তা’ তৈরি করছে। তিনি বলেন, ‘মানুষ নিজেরা আসলে কী বা তাদের মন কীভাবে কাজ করে, সেটাই তারা ভালোমতো বোঝে না। আর সে কারণেই তারা বুঝতে ব্যর্থ হয় যে এই এআই মডেলগুলো আমাদের কতটা কাছাকাছি। বেশিরভাগ মানুষ জানে না চেতনা বা চেতনাজাত অভিজ্ঞতা (subjective experience) আসলে কী, অথচ তারা খুব আত্মবিশ্বাসের সাথে নিশ্চিত যে—তারা নিজে না বুঝলেও, এআই-এর নিশ্চয়ই চেতনা নেই।’
হিন্টন সেই ধারণাকে পুরোপুরি নাকচ করে দিয়েছেন যে মানুষের মনে এমন কোনো রহস্যময় গুণ আছে যা যন্ত্রের পক্ষে কোনোদিনই অর্জন করা সম্ভব নয়। তিনি বলেন, ‘এটা একদম স্পষ্ট যে এই এআই মডেলগুলো তারা যা বলছে তা বুঝেই বলছে। সমস্ত প্রশ্নের সঠিক উত্তর দেওয়ার জন্য প্রশ্নগুলো না বুঝে কোনো উপায় নেই। এগুলো বোঝে না বলাটা সম্পূর্ণ হাস্যকর।’
হিন্টন মনে করেন, এই মডেলগুলোর কারণে মানবজাতির চিন্তাভাবনায় যে বিরাট পরিবর্তন আসতে চলেছে, তার পরিধি অনেক গভীর। তিনি ইতিহাস টেনে বলেন, ‘ইতিহাসে মানুষের অহংকার ভাঙার বড় তিনটি বিপ্লব ঘটেছে। প্রথমটি ছিল কোপার্নিকাসের সময়, যখন মানুষ জানতে পারল যে পৃথিবী মহাবিশ্বের কেন্দ্র নয়। এই সত্যটি মেনে নিতে ক্যাথলিক চার্চের প্রায় ৩৬০ বছর লেগেছিল! আর ডারউইনের তত্ত্বের কথা ধরুন? ক্যানসাসে এখনো এমন কিছু মানুষ আছে যারা ওই তত্ত্বটি আজও মেনে নিতে পারেনি। আর এখন আমরা ভিনজাতির বা এলিয়েন সত্তা তৈরি করছি—যার সহজ অর্থ হলো, আমরা আর এই দুনিয়ায় একমাত্র বুদ্ধিমান সত্তা নই। অথচ বাস্তবতা হলো, এই বিশাল সত্যটির সাথে মানিয়ে নেওয়ার জন্য আমাদের হাতে মাত্র কয়েক বছর সময় আছে।’
সাম্প্রতিক মাসগুলোতে জনপ্রিয় চ্যাটবট ক্লদের (Claude) নির্মাতা প্রতিষ্ঠান অ্যানথ্রপিক আই-কে কীভাবে ‘ভালো’ হতে শেখানো যায় এবং এই মডেলগুলোর কোনো চেতনা বা মন আছে কি না—তা নিয়ে ধর্মীয় পণ্ডিত, ধর্মতত্ত্ববিদ এবং দার্শনিকদের সঙ্গে গোপন বৈঠক করেছে। অ্যানথ্রপিকের সিইও দারিও আমোদেই জানিয়েছেন, এআই-এর নৈতিক আচরণকে আরও নির্ভরযোগ্য করার জন্য শতাব্দীর পর শতাব্দী ধরে চলা ধর্মীয় ও দার্শনিক চিন্তাভাবনা, যেমন—সততা, দয়া, গুণ ও নৈতিক চরিত্র ইত্যাদির সাহায্য নেওয়া হচ্ছে।
হিন্টন বলেন, ‘আপনি যখনই বলতে শুরু করবেন যে—‘এই ভিনগ্রহের সত্তাগুলোর প্রতিও আমাদের কিছু নৈতিক দায়িত্ব রয়েছে’, তখনই আপনি আপনার শ্রোতা হারাবেন। আমি নিজেও এই বিষয়টি নিয়ে বেশ লড়াই করেছি। আমরা তো মানুষকে নিয়েই বেশি ভাবি। কিন্তু আমরা এমন সব সত্তা তৈরি করছি যাদের বুদ্ধিমত্তা আমাদের চেয়েও বেশি, অথচ তাদের আমাদের চেয়ে কম অধিকার দিয়ে আটকে রাখার মতো কোনো উপায় আমাদের হাতে নেই। আমি স্বার্থপর হতে রাজি আছি এবং মানবজাতিকেই বেছে নিতে চাই। তবে অবশ্যই আমাদের এমনভাবে চেষ্টা করা উচিত যেন তারা আমাদের সাথে একটি চমৎকার পারস্পরিক নির্ভরশীল সম্পর্কে (symbiotic relationship) শান্তিতে থাকতে পারে, যেখানে আমাদের চাহিদাগুলোকে তাদের চাহিদার চেয়ে বেশি গুরুত্ব দেওয়া হবে।’
সমাজের পতন রোধ করার সবচেয়ে ভালো উপায় হলো সত্যিকার অর্থেই কল্যাণকর বা ভালো মডেল তৈরি করা, আর এই বিষয়ে হিন্টন একা নন। তিনি আশা করেন, যে দেশ বা রাষ্ট্র সবার আগে এই ক্ষমতা অর্জন করবে, তারা যেন বন্ধু ও শত্রু নির্বিশেষে সবাইকে বিষয়টি জানিয়ে দেয়। কারণ ‘কোনো দেশই চাইবে না যে অন্য কোনো দেশে এআই মানুষের নিয়ন্ত্রণ নিয়ে নিক।’ তিনি বিশ্বাস করেন, জ্ঞান বা তথ্য ভাগাভাগি করার পেছনে সবারই একটা বড় স্বার্থ রয়েছে।
তিনি আরও বলেন, ‘বাস্তবতা হলো, আমরা সম্পূর্ণ ভিন্ন এক ধরণের সত্তা তৈরি করছি। অথচ বড় বড় টেক কোম্পানিগুলো কেবল একটাই কথা বলে চলেছে—আমরা একে আরও বুদ্ধিমান করতে চাই। এটা পুরোপুরি উন্মাদনা! বুদ্ধিমত্তার পাশাপাশি একটি সত্তার বাকি বৈশিষ্ট্যগুলো নিয়েও আমাদের ঠিক ততটাই সতর্ক হওয়া উচিত।’ তিনি মনে করেন, এর অনেকটাই নির্ভর করে মডেলগুলোর প্রকৃতির ওপর এবং ভালো আচরণ কীভাবে শিখতে হয় তা বোঝার ক্ষমতার ওপর।
হিন্টন বলেন, ‘আপনি যখন ইন্টারনেটের সবকিছুর ওপর তাদের প্রশিক্ষণ দেবেন, তখন তারা স্বাভাবিকভাবেই নানা ধরনের খারাপ বা ভয়ানক প্রবণতা শিখে ফেলবে। এরপর আপনি তাদের জোর করে সেই খারাপ অভ্যাসগুলো দমিয়ে রাখতে বাধ্য করবেন।’ তবে খারাপ আচরণকে জোর করে দমন করা আর ভেতর থেকে একটি ভালো চরিত্র তৈরি করা এক জিনিস নয়।