एलन मस्क और उनके एआई चैटबॉट Grok AI एक बार फिर विवादों में घिर गए हैं। मस्क के एक बेटे की मां एश्ले सेंट क्लेयर ने ग्रोक एआई की कंपनी xAI के खिलाफ मुकदमा दायर किया है। सेंट क्लेयर का आरोप है कि Grok AI ने उनके आपत्तिजनक डीपफेक फोटोज बनाई हैं।
सेंट क्लेयर ने अपने मुकदमे में कहा कि xAI का जनरेटिव एआई चैटबॉट Grok, यूजर्स की मांग पर उनके निर्वस्त्र, अपमानजनक और यौन शोषण वाले कंटेंट बनाने में इस्तेमाल किया गया। उन्होंने दावा किया कि उन्हें डर है कि xAI लगातार उनकी न्यूड फोटोज बनाएगा और उनकी सुरक्षा खतरे में रहेगी।
चैटबॉट ने किया अपमानजनक कंटेंट जेनरेट
CNN की रिपोर्ट के अनुसार, चैटबॉट ने यूजर्स के कहने पर कई सेक्सुअली अब्यूसिव और इंटिमेट डीपफेक कंटेंट बनाए और शेयर किए। यह घटना Grok AI की सुरक्षा और नैतिक जिम्मेदारियों पर गंभीर सवाल उठाती है।
xAI ने भी सेंट क्लेयर के खिलाफ मुकदमा दायर किया
वहीं, xAI ने भी सेंट क्लेयर पर अपने कॉन्ट्रैक्ट का उल्लंघन करने का आरोप लगाया है। कंपनी ने दावा किया कि विवाद को टेक्सास कोर्ट में हल किया जाना चाहिए, जैसा कि उनकी सेवा की शर्तों में उल्लेख है।
अंतरराष्ट्रीय स्तर पर चिंताएँ और प्रतिबंध
Grok द्वारा बनाई गई आपत्तिजनक फोटोज के कारण X प्लेटफॉर्म और Grok दोनों की अंतरराष्ट्रीय छवि पर भी असर पड़ा है। इंडोनेशिया और मलेशिया ने नकली पोर्नोग्राफिक कंटेंट के खतरे के कारण चैटबॉट पर प्रतिबंध लगा दिया है। ब्रिटेन ने चेतावनी दी है कि अगर xAI आवश्यक सुरक्षा उपाय नहीं करता है तो Grok पर प्रतिबंध लगाया जाएगा। भारत सरकार ने भी इस मामले में xAI से जवाब मांगा है।
यह पहली बार नहीं है जब Grok विवादों में घिरा है। साल की शुरुआत में ही इसने यहूदी–विरोधी भावनाएं और हिटलर की प्रशंसा जैसी विवादास्पद बातें भी की थीं। Grok एक AI चैटबॉट है, जो X प्लेटफॉर्म पर उपलब्ध है और सवालों के जवाब देता है तथा टेक्स्ट जेनरेट करता है।