शीर्षक: डीपफेक पर लगेगी लगाम: AI से बने वीडियो–तस्वीरों पर अनिवार्य होगा वॉटरमार्क, सरकार के नए नियमों का ड्राफ्ट तैयार

नई दिल्ली।
आर्टिफिशियल इंटेलिजेंस (AI) के दुरुपयोग से तैयार हो रहे डीपफेक वीडियो और फर्जी तस्वीरों पर अब सख्ती तय मानी जा रही है। भारत सरकार ने ऐसे कंटेंट की पहचान और रोकथाम के लिए नए नियमों का ड्राफ्ट तैयार कर लिया है। प्रस्तावित नियमों के तहत AI से बने कंटेंट पर वॉटरमार्क या स्पष्ट लेबल लगाना अनिवार्य होगा, ताकि आम लोग असली और नकली में फर्क कर सकें और माहौल बिगाड़ने वाले कंटेंट पर समय रहते कार्रवाई हो सके।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) के अतिरिक्त सचिव और इंडिया AI मिशन के सीईओ अभिषेक सिंह के अनुसार, AI का दुरुपयोग कर साइबर अपराध, अफवाहें, छवि खराब करने वाले वीडियो और कानून-व्यवस्था को चुनौती देने वाली सामग्री तेजी से बढ़ी है। इसी को देखते हुए AI कंटेंट की पहचान सुनिश्चित करने के लिए यह कदम जरूरी हो गया था।

क्यों जरूरी हैं नए नियम
हाल के वर्षों में डीपफेक तकनीक के जरिए सेलेब्रिटीज और आम लोगों के फर्जी वीडियो सामने आए हैं, जिनसे न सिर्फ व्यक्तिगत प्रतिष्ठा को नुकसान पहुंचा, बल्कि सामाजिक अशांति का खतरा भी बढ़ा। प्रस्तावित नियमों से ऐसे वीडियो—

• जिनसे कानून-व्यवस्था बिगड़ने की आशंका हो,
• सामाजिक तनाव फैलने का खतरा हो,
• या बच्चों के यौन शोषण से जुड़ी सामग्री हो—
  उनकी पहचान और त्वरित कार्रवाई आसान हो जाएगी।

वॉटरमार्क से कैसे होगा फायदा
AI से बने कंटेंट पर वॉटरमार्क होने से यह पहले ही स्पष्ट हो जाएगा कि वीडियो या तस्वीर वास्तविक नहीं है। इससे दर्शकों को गुमराह होने से बचाया जा सकेगा और प्लेटफॉर्म्स के लिए ऐसे कंटेंट को ट्रैक करना और हटाना सरल होगा। साथ ही, गलत इरादे से AI का इस्तेमाल करने वालों पर जिम्मेदारी तय की जा सकेगी।

ग्रोख विवाद बना चेतावनी
एलन मस्क के AI टूल ‘ग्रोक’ से तैयार अश्लील तस्वीरों का हालिया मामला इस खतरे की गंभीरता को उजागर करता है। सोशल मीडिया पर ऐसे कंटेंट की बाढ़ आने के बाद सरकार ने हस्तक्षेप करते हुए उन्हें हटाने के निर्देश दिए और प्लेटफॉर्म से जवाब तलब किया। यह घटना नए नियमों की जरूरत को और मजबूती देती है।

कब लागू होंगे नियम
सूत्रों के मुताबिक, सरकार संशोधित दिशानिर्देशों को अंतिम रूप दे रही है और नया फ्रेमवर्क जल्द लागू किया जा सकता है। इसके लागू होते ही AI कंटेंट के निर्माण और प्रसार पर स्पष्ट जवाबदेही तय होगी।

निष्कर्ष
AI तकनीक जहां नवाचार और सुविधा का साधन है, वहीं उसका दुरुपयोग समाज के लिए खतरा भी बन सकता है। प्रस्तावित वॉटरमार्क नियम डीपफेक के खिलाफ एक मजबूत कदम साबित हो सकते हैं, जिससे डिजिटल दुनिया में भरोसा और सुरक्षा दोनों बढ़ेंगी।