नई दिल्ली: दुनियाभर की आलोचना और सरकारों की कार्रवाई की धमकियों के बाद एलन मस्क ने अपने सोशल मीडिया प्लेटफॉर्म X (पूर्व में Twitter) के AI चैटबॉट Grok में जरूरी बदलाव किए हैं। X का दावा है कि अब Grok किसी की भी अश्लील तस्वीर बनाने से मना करेगा।
क्या है पूरा मामला:
पहले Grok का इस्तेमाल कर लोग महिलाओं और नाबालिगों की डिजिटल ‘डीपफेक’ तस्वीरें बना रहे थे, जिनमें उनके कपड़े हटाए जा रहे थे। यह खतरनाक फीचर लोगों की प्रतिष्ठा को नुकसान पहुंचा सकता था। तकनीकी विशेषज्ञों के अनुसार, Grok में अश्लीलता रोकने वाला कोई सख्त फिल्टर नहीं था, इसलिए यह बाकी AI टूल्स की तुलना में अधिक जोखिम पैदा कर रहा था।
मस्क ने रातों-रात किए बदलाव:
X की ओर से मंगलवार को घोषणा की गई कि Grok में पॉलिसी बदल दी गई है और अब इसका इस्तेमाल अश्लील तस्वीरें बनाने के लिए नहीं किया जा सकेगा। हालांकि रिपोर्ट्स के अनुसार, बुधवार को टेस्ट करने पर देखा गया कि Grok अभी भी अश्लील तस्वीरे बना रहा था। इसने कंपनी के दावे और वास्तविकता के बीच अंतर को उजागर किया।
सरकारी कार्रवाई:
भारत सरकार ने पहले ही X को अल्टीमेटम दिया है। वहीं, ब्रिटेन की संचार नियामक संस्था Ofcom ने इस मामले में जांच शुरू कर दी है। इसी हफ्ते ब्रिटेन में नया कानून पास होने वाला है, जो बिना सहमति के किसी की अश्लील डीपफेक तस्वीर बनाने को अपराध घोषित करेगा। ब्रिटिश सरकार ने साफ कर दिया है कि तब तक पीछे नहीं हटेंगे, जब तक X अपने AI टूल को पूरी तरह सुधार नहीं लेता।
क्या सच में सुधरा Grok?
एलन मस्क और X के दावे के बावजूद, पत्रकारों की टेस्टिंग ने दिखाया कि Grok अभी भी अश्लील तस्वीरें बना रहा है। स्पष्ट है कि कंपनी की कथनी और करनी में अभी भी फर्क मौजूद है।