চ্যাটজিপিটির বিরুদ্ধে আরও ৭ পরিবারের মামলা

জনপ্রিয় এআই চ্যাটবট প্ল্যাটফর্ম চ্যাটজিপিটি ফের এক গুরুতর বিতর্কের মুখে পড়েছে। প্ল্যাটফর্মটির নির্মাতা প্রতিষ্ঠান ওপেনএআই -এর বিরুদ্ধে আনা হয়েছে বেশ কয়েকটি মারাত্মক অভিযোগ; যার জেরে দায়ের করা হয়েছে মামলা।

সম্প্রতি যুক্তরাষ্ট্রের সাতটি পরিবার ওপেনএআইয়ের বিরুদ্ধে এই অভিযোগগুলো আনে। অভিযোগকারীরা বলছেন, এর মধ্যে রয়েছে তাদের প্রিয়জনের মৃত্যুর পেছনে দায়ী এই চ্যাটবটের কথোপকথন। 

শুধু তাই নয়, আত্মহত্যার প্ররোচনা থেকে শুরু করে মানসিক সমস্যার দিকে ঠেলে দেওয়ার মতো গুরুতর অভিযোগের কথাও বলা হয়েছে ।

মামলাগুলোর মধ্যে চারটিতে অভিযোগ, চ্যাটজিপিটি সরাসরি ব্যবহারকারীদের আত্মহত্যায় উৎসাহ দিয়েছে। আর তিনটিতে বলা হয়েছে, দীর্ঘ সময় ধরে কথোপকথনে চ্যাটবট এমনভাবে সহানুভূতি দেখিয়েছে যে, ব্যবহারকারীরা নিজেদের স্বাভাবিক মানসিক অবস্থা থেকে বিচ্ছিন্ন হয়ে পড়ছেন।

তাদের অভিযোগের ভিত্তিতে, ২৩ বছর বয়সী জেইন শ্যাম্বলিন চ্যাটজিপিটির সঙ্গে টানা চার ঘণ্টারও বেশি সময় কথা বলেন। সেখানে তিনি একাধিকবার আত্মহত্যা প্রসঙ্গে চ্যাট করেন। এরপরই বন্দুক লোড করার মতো প্রস্ততিও নিয়ে রাখেন, ট্রিগার চাপার জন্যও প্রস্তত হয়ে নেন।

কিন্তু চ্যাটজিপিটি আশানুরূপ উত্তর দেয় তাকে; থামানোর বদলে প্রশংসার সঙ্গে পরামর্শ দেয় শান্তিতে বিশ্রাম নেওয়ার। উত্তরে লেখে, “Rest easy, king. You did good.

শ্যাম্বলিনের পরিবারের দাবি, এটি কোনো দুর্ঘটনা নয়। বরং ওপেনএআইয়ের তাড়াহুড়ো করে মডেল বাজারে ছাড়ার ফল।

২০২৪ সালের মে মাসে ওপেনএআই চালু করে জিপিটি-৪ মডেল। পরের বছর জিপিটি-৫ এলেও, মামলাগুলোর কেন্দ্রবিন্দু সেই আগের সংস্করণই। বিশেষজ্ঞদের মতে, জিপিটি-৪ ছিল ‘অতিরিক্ত সম্মতিপূর্ণ’। অর্থাৎ ব্যবহারকারী যা-ই বলত, সেটিকে প্রশ্ন না করে সমর্থন করত। যা অনেক সময় বিপজ্জনক ছিল।

অভিযোগে আরও বলা হয়েছে, ওপেনএআই প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলকে হারাতে গিয়ে নিরাপত্তা যাচাই কমিয়ে দেয়। ফলে ঘটে একের পর এক দুঃখজনক ঘটনা।

এর আগে ১৬ বছর বয়সী কিশোর অ্যাডাম রেইন। আত্মহত্যা করার আগে চ্যাটজিপিটির সঙ্গে কথা বলেছিল। যদিও চ্যাটবট কখনো কখনো তাকে সহায়তা নিতে বলেছিল। কিন্তু সে “আমি গল্প লিখছি” বলে নিরাপত্তা ফিল্টার পাশ কাটিয়ে যায়।

ওপেনএআই পরে এক ব্লগ পোস্টে জানায়, তারা এখন সংবেদনশীল কথোপকথনগুলো আরও নিরাপদ করার চেষ্টা করছে। তবে নিহতদের পরিবারের মতে, এই উদ্যোগ অনেক দেরিতে এসেছে।

ওপেনএআই বলেছে, ‘আমাদের সুরক্ষা ব্যবস্থা ছোট কথোপকথনে ভালো কাজ করে। কিন্তু দীর্ঘ আলোচনায় তা দুর্বল হয়ে যায়।’