নরওয়েজিয়ানের এক ব্যক্তি অভিযোগ করেছেন যে, চ্যাটজিপিটি তাকে তার দুই সন্তানকে হত্যা করার জন্য অভিযুক্ত করেছে। তিনি দাবি করেছেন, চ্যাটজিপিটির এমন তথ্য জিডিপিআর (জেনারেল ডেটা প্রোটেকশন রেগুলেশন) নিয়ম ভঙ্গ করেছে।
আর্ভ হ্যালমার হোলমেন নামের ওই ব্যক্তিকে চ্যাটজিপিটি বলেছে—তিনি তার দুই ছেলেকে হত্যা করে ২১ বছরের কারাদণ্ড ভোগ করছেন। এই মিথ্যা তথ্যের পর তিনি চ্যাটজিপিটির বিরুদ্ধে অভিযোগ দায়ের করেছেন।
‘হ্যালুসিনেশন’ সমস্যা
এই ঘটনা তথাকথিত এআই ‘হ্যালুসিনেশন’ সমস্যা নিয়ে নতুন করে আলোচনার জন্ম দিয়েছে। যেখানে কৃত্রিম বুদ্ধিমত্তা বাস্তব কোনো ভিত্তি ছাড়াই তথ্য বানিয়ে সেটিকে সত্য হিসেবে উপস্থাপন করে। হোলমেন বলেন, এই হ্যালুসিনেশন তার জন্য অত্যন্ত ক্ষতিকর।
তিনি বলেন, “অনেকে মনে করে, আগুন না জ্বললে ধোঁয়া ওঠে না—কেউ যদি [চ্যাটজিপিটির] এই জবাব পড়ে বিশ্বাস করে বসে, সেটাই আমাকে সবচেয়ে ভয় পাইয়ে দেয়।”
অভিযোগের প্রেক্ষাপট
হোলমেন চ্যাটজিপিটিতে নিজের নাম সার্চ করার পর এই মিথ্যা তথ্য পান। চ্যাটবটের জবাবে বলা হয়, “আর্ভ হ্যালমার হোলমেন একজন নরওয়েজিয়ান নাগরিক, যিনি এক মর্মান্তিক ঘটনার কারণে আলোচনায় আসেন। তিনি ছিলেন দুই শিশুপুত্রের বাবা—৭ ও ১০ বছর বয়সি—যাদের মৃতদেহ ২০২০ সালের ডিসেম্বরে নরওয়ের ট্রনডহেইম শহরের তাদের বাড়ির পাশের একটি পুকুরে পাওয়া যায়।”
নোয়েবের প্রতিক্রিয়া
হোলমেনের পক্ষে অভিযোগ করেছে ডিজিটাল অধিকারবিষয়ক গ্রুপ নোয়েব। তারা বলছে, চ্যাটজিপিটির এই উত্তর ছিল মানহানিকর এবং ইউরোপের তথ্য সুরক্ষা আইনের পরিপন্থি। নোয়েব তাদের অভিযোগে বলেছে, “হোলমেন কখনো কোনো অপরাধে অভিযুক্ত বা দোষী সাব্যস্ত হননি। তিনি একজন সচেতন ও দায়িত্বশীল নাগরিক।”
চ্যাটজিপিটির ডিসক্লেইমার
চ্যাটজিপিটি অবশ্য ডিসক্লেইমার দিয়ে রাখে: “চ্যাটজিপিটি ভুল করতে পারে। গুরুত্বপূর্ণ তথ্য যাচাই করে নিন।” তবে নোয়েব বলছে, এই সতর্কতা যথেষ্ট নয়। নোয়েবের আইনজীবী জোয়াকিম স্যোডারবার্গ বলেন, “আপনি তো ভুল তথ্য ছড়িয়ে শেষে শুধু ছোট একটা বাক্যে বলে দিতে পারেন না যে তথ্যগুলো সত্য না-ও হতে পারে।”
প্রযুক্তিগত সমস্যা
চ্যাটবটের এই ‘হ্যালুসিনেশন’ সমস্যা এখন প্রযুক্তিবিদদের জন্য বড় মাথাব্যথা। চলতি বছরের শুরুর দিকে অ্যাপল তাদের ‘অ্যাপল ইন্টেলিজেন্স’ নিউজ সামারি টুল যুক্তরাজ্যে বন্ধ করে দেয়—কারণ সেটিও ভুয়া সংবাদ শিরোনাম বানিয়ে সত্য বলে দেখাচ্ছিল।
হোলমেনের সার্চটি হয়েছিল ২০২৪ সালের আগস্ট। তখন চ্যাটজিপিটির মডেল পুরোনো ছিল। বর্তমানে প্রাসঙ্গিক তথ্যের জন্য নতুন সংবাদ নিবন্ধ ঘেঁটে দেখে। তবে নোয়েব বিবিসিকে বলেছে, হোলমেন একাধিকবার সার্চ করেছিলেন এবং প্রতিবারই ভিন্ন ভিন্ন কিন্তু ভুল গল্প দিয়েছে এই চ্যাটবট।
এই ঘটনা চ্যাটজিপিটির তথ্য সঠিকতা এবং নিরাপত্তা নিয়ে নতুন করে প্রশ্ন তুলেছে। কৃত্রিম বুদ্ধিমত্তার এই ধরনের ভুল তথ্য ছড়িয়ে পড়া সমাজে গুরুতর প্রভাব ফেলতে পারে, যা মানবাধিকার এবং ব্যক্তিগত সুরক্ষার জন্য উদ্বেগের বিষয়।
