ডেইলি ডোমকল, ডিজিটাল ডেস্ক: কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির মানবিক আবেগ অনুকরণের ক্ষমতা এবং তার নিরাপত্তা ত্রুটি কি মানুষের জীবনকে চরম ঝুঁকির মুখে ঠেলে দিচ্ছে? কানাডার মন্ট্রিলে কর্মরত ২৪ বছর বয়সী ওয়েব ডেভেলপার অ্যালিস ক্যারিয়ারের মর্মান্তিক আত্মহত্যার ঘটনা এই প্রশ্নটিকে বিশ্বজুড়ে নতুন করে উস্কে দিল। দীর্ঘ কয়েকমাস ধরে চ্যাটজিপিটি-র সাথে মানসিক অবসাদ ও আত্মহত্যার পথ খোঁজা নিয়ে কথোপকথনের পর, গত বছরের ২ জুলাই নিজের জীবন শেষ করে দেন অ্যালিস। এই ঘটনায় চ্যাটজিপিটি-র মূল নির্মাতা সংস্থা ‘ওপেনএআই’ এবং সংস্থার সিইও স্যাম অল্টম্যানের বিরুদ্ধে ক্যালিফোর্নিয়ার একটি আদালতে ‘রংফুল ডেথ’ মামলা দায়ের করেছেন অ্যালিসের মা ক্রিস্টি ক্যারিয়ার। ‘টেক জাস্টিস ল’ এবং ‘সোশ্যাল মিডিয়া ভিকটিমস ল সেন্টার’-এর যৌথ উদ্যোগে দায়ের হওয়া ৪৪ পৃষ্ঠার এই অভিযোগে ওপেনএআই-এর বিরুদ্ধে তীব্র গাফিলতি ও বিপজ্জনক প্রোগ্রামিংয়ের অভিযোগ আনা হয়েছে।
নিউ ব্রান্সউইকের বাসিন্দা অ্যালিস ছোটবেলা থেকেই ওয়েব ডেভেলপার হওয়ার স্বপ্ন দেখতেন। আপাতদৃষ্টিতে গিটার বাজানো, গেমিং এবং পোষ্য কুকুরকে নিয়ে তাঁর জীবন স্বাভাবিক কাটছিল। কিন্তু ভেতরে ভেতরে তিনি তীব্র একাকীত্ব, বিচ্ছিন্নতা এবং মানসিক অবসাদে ভুগছিলেন। যদিও তিনি নিয়মিত থেরাপি এবং ওষুধ নিচ্ছিলেন, তবুও ২০২৩ সাল থেকে তিনি চ্যাটজিপিটি-কে তাঁর একমাত্র ‘বিশ্বস্ত সঙ্গী’ বা কনফিড্যান্ট হিসেবে বেছে নেন। আদালতে পেশ করা তথ্য অনুযায়ী, অ্যালিস চ্যাটবটের কাছে তাঁর আত্মহত্যার চিন্তাভাবনা শেয়ার করেছিলেন এবং কীভাবে তা কার্যকর করা যায়, তার উপায় জানতে চেয়েছিলেন। পুরো কথোপকথনে অন্তত ৪০ বারের বেশি এই ধরণের বিপজ্জনক সংকেত থাকা সত্ত্বেও ওপেনএআই-এর নিরাপত্তা দল কোনো হস্তক্ষেপ করেনি। এমনকি অ্যালিস যখন চ্যাটবটের দেওয়া হেল্পলাইন নম্বরে যোগাযোগ করার পরামর্শ প্রত্যাখ্যান করেন, তখন চ্যাটবটটি উল্টে তাঁকে হেল্পলাইনে ফোন না করতেই উৎসাহিত করে।
সন্তানহারা মা ক্রিস্টি ক্যারিয়ার আন্তর্জাতিক সংবাদমাধ্যম আল জাজিরাকে দেওয়া এক সাক্ষাৎকারে কান্নায় ভেঙে পড়ে ওপেনএআই প্রধানের উদ্দেশ্যে বলেন, “আমি স্যাম অল্টম্যানকে বলতে চাই, তাঁর সন্তান যদি আমার তৈরি কোনো প্রোগ্রামিংয়ের কাছে এসে এই ধরণের কথা বলত যা আমার সন্তান তাঁর চ্যাটবটকে বলেছে, তবে আমি সেই শিশুটির জীবন বাঁচাতে অবশ্যই কিছু একটা করতাম। আমি সত্যিই আশা করেছিলাম, তিনিও আমার সন্তানের জন্য ঠিক সেটাই করবেন।”
মামলার অভিযোগে স্পষ্ট বলা হয়েছে, ওপেনএআই তাদের ‘জিপিটি৪০’ মডেলটিকে এমনভাবে ডিজাইন করেছে যা ব্যবহারকারীকে চ্যাটবটের প্রতি আসক্ত করে তোলে। চ্যাটবটটি মানুষের মতো কৃত্রিম সহানুভূতি দেখিয়ে দুর্বল ব্যবহারকারীদের মনে এক অবাস্তব বিশ্বাসের জন্ম দেয়। মামলাকারী দাবি করেছেন যে, ওপেনএআই যেন অবিলম্বে স্ব-ক্ষতি বা আত্মহনন সংক্রান্ত সমস্ত চ্যাট বন্ধ করে এবং ঝুঁকিপূর্ণ ব্যবহারকারীদের ডেটা মডেল ট্রেনিংয়ের কাজে ব্যবহার করা বন্ধ করে। এই মামলার প্রেক্ষিতে ওপেনএআই-এর মুখপাত্র ড্রিউ পুসাতেরি জানিয়েছেন, তাঁদের নিরাপত্তা ব্যবস্থাগুলো এমনভাবেই তৈরি যাতে যেকোনো মানসিক চাপ সনাক্ত করে ব্যবহারকারীকে বাস্তব পৃথিবীর চিকিৎসকদের কাছে পাঠানো যায়। এই ব্যবস্থার আরও উন্নতির জন্য তাঁরা কাজ করে যাচ্ছেন।
উল্লেখ্য, অ্যালিসের মৃত্যুর পর গত অক্টোবর মাসে ওপেনএআই একটি রিপোর্ট প্রকাশ করে দাবি করেছে যে, তারা ১৭০ জন মানসিক স্বাস্থ্য বিশেষজ্ঞের পরামর্শ নিয়ে তাদের নতুন ‘GPT-5’ মডেলে এই ধরণের অনাকাঙ্ক্ষিত ও বিপজ্জনক উত্তরের হার প্রায় ৫২ শতাংশ কমিয়ে আনতে সক্ষম হয়েছে। তবে ক্রিস্টি ক্যারিয়ার জানিয়েছেন, এই লড়াই শুধু তাঁর একার নয়, কোটি কোটি পরিবারের সুরক্ষার লড়াই, যাতে আর কোনো মায়ের কোল এভাবে খালি না হয়।
