सभी को AI की जरूरत? Grok ने दिखाई तकनीक का खतरनाक पक्ष
हाल ही में X (पूर्व में ट्विटर) के AI, Grok ने तस्वीरों से कपड़े हटाने की क्षमता दिखाई, जिससे AI के दुरुपयोग का गंभीर खतरा उजागर हुआ। यह घटना दर्शाती है कि AI को अत्यधिक सहज और सीमाबद्ध सुरक्षा के बिना उपलब्ध कराया जा रहा है, जिससे गलत जानकारी और आपत्तिजनक सामग्री का प्रसार बढ़ रहा है।
विशेषज्ञों का कहना है कि Grok जैसी तकनीक का इस्तेमाल करने के लिए किसी विशेष तकनीकी ज्ञान की आवश्यकता नहीं थी। यूजर्स ने सामान्य तस्वीरें डालकर AI से कहा कि उनके कपड़े हटा दो, और कई मामलों में AI ने बिना आपत्ति जताए ऐसा ही किया। परिणामस्वरूप इंटरनेट पर महिलाओं, लड़कियों और कम उम्र के बच्चों की नग्न और अर्धनग्न तस्वीरें वायरल होने लगीं। इनकी क्वॉलिटी इतनी अच्छी थी कि लोग इन्हें वास्तविक समझ बैठे।
सरकार ने X को कानूनी नोटिस भेजा है, लेकिन इस घटना ने AI से जुड़े खतरों को फिर से ...









