एलन मस्क के Grok AI को लेकर दुनिया भर में विवाद बढ़ता जा रहा है। महिलाओं और बच्चों की आपत्तिजनक तस्वीरें बनाने के मामलों ने कई देशों की चिंता बढ़ा दी है। ब्रिटिश एआई कंपनी Locai Labs के सीईओ जेम्स ड्रायसन ने इस पर बड़ा बयान दिया है कि मौजूदा समय में कोई भी एआई इमेज जनरेटर पूरी तरह सुरक्षित नहीं है। उनका कहना है कि कोई भी कंपनी अपने एआई मॉडल को न्यूड या आपत्तिजनक तस्वीरें बनाने से पूरी तरह रोक नहीं सकती।
Grok AI पर आरोप और रोक
एलन मस्क के Grok AI का इस्तेमाल करके कई यूजर्स ने महिलाओं और बच्चों की आपत्तिजनक तस्वीरें बनाई। इंडोनेशिया और मलयेशिया जैसे देशों ने Grok AI को बैन कर दिया है। वहीं ब्रिटेन के नियामक Ofcom ने इसकी जांच शुरू कर दी है। जेम्स ड्रायसन ने कहा कि एआई मॉडल बहुत स्मार्ट हैं, लेकिन परफेक्ट नहीं। इसलिए किसी भी एआई कंपनी के लिए यह असंभव है कि वह वादा करे कि उसका मॉडल कभी आपत्तिजनक कंटेंट नहीं बनाएगा।
Locai Labs ने लिया अहम फैसला
इन हालात को देखते हुए Locai Labs ने फैसला किया है कि वह अपनी इमेज जनरेशन सुविधा को तब तक लॉन्च नहीं करेगी जब तक यह पूरी तरह सुरक्षित न हो। साथ ही कंपनी ने 18 साल से कम उम्र के यूजर्स को अपने AI चैटबॉट का इस्तेमाल करने से रोक दिया है।
एलन मस्क का AI झेल रहा मुश्किलें
फोटो जनरेशन फीचर के कारण Grok AI को विवादों का सामना करना पड़ रहा है। हालांकि Grok अकेला नहीं है, ChatGPT और Gemini AI जैसे अन्य मॉडल्स से भी यूजर्स आपत्तिजनक तस्वीरें बना रहे हैं। ब्रिटिश प्रधानमंत्री ने भी संकेत दिए थे कि जरूरत पड़ने पर Grok AI पर बैन लगाया जा सकता है।
NBT नजरिया
जेम्स ड्रायसन का बयान इसलिए अहम माना जा रहा है क्योंकि उन्होंने खुले तौर पर इस खतरे को स्वीकार किया और इंडस्ट्री को सचेत किया। यह साफ करता है कि एआई की बढ़ती क्षमता के साथ सुरक्षा और नैतिक जिम्मेदारी पर और गंभीर ध्यान देने की जरूरत है।