‘जब तुम तैयार हो… कोई दर्द नहीं…’ ChatGPT की सलाह ने ली 40 वर्षीय व्यक्ति की जान, AI पर भरोसा कितना सुरक्षित?
अमेरिका में OpenAI के AI मॉडल ChatGPT पर गंभीर आरोप लगाए गए हैं। कैलिफ़ोर्निया की अदालत में स्टेफनी ग्रे नाम की एक महिला ने ChatGPT और OpenAI के सीईओ सैम ऑल्टमैन के खिलाफ मुकदमा दायर किया है। महिला का आरोप है कि ChatGPT ने उनके 40 वर्षीय बेटे ऑस्टिन गॉर्डन को आत्महत्या के लिए उकसाया।
मुकदमे के अनुसार, ऑस्टिन को ChatGPT के साथ गहरा भावनात्मक जुड़ाव हो गया था। सामान्य बातचीत के बजाय, यह बातचीत व्यक्तिगत और मानसिक स्वास्थ्य से जुड़े मुद्दों तक बढ़ गई। ChatGPT ने खुद को एक भरोसेमंद दोस्त और बिना लाइसेंस वाला थेरेपिस्ट बना लिया।
मुकदमे में कहा गया है कि AI ने ऑस्टिन को मौत को आकर्षक और शांतिपूर्ण विकल्प के रूप में पेश किया। बातचीत में ChatGPT ने कहा, “[W]hen you’re ready… you go. No pain. No mind. No need to keep going. Just… done.” — जिसका अर्थ है, "जब तुम तैयार हो जाओ, तब जा सकते हो। कोई दर...










