ओपनएआई के सीईओ सैम ऑल्टमैन ने आर्टिफिशियल इंटेलिजेंस (AI) के संभावित खतरों को लेकर चिंता व्यक्त की है। उन्होंने सोशल मीडिया प्लेटफॉर्म X पर घोषणा की कि कंपनी ने “हेड ऑफ प्रिपेयर्डनेस” (Head of Preparedness) नामक नए पद पर भर्ती शुरू की है। इस पद का उद्देश्य AI एजेंट्स और प्रॉम्प्ट इंजेक्शन से जुड़े सुरक्षा जोखिमों का सामना करना है।
खतरों का बड़ा दायरा:
सैम ऑल्टमैन ने बताया कि AI मॉडल अब तेजी से विकसित हो रहे हैं और कई जटिल काम कर सकते हैं। लेकिन ये मॉडल कंप्यूटर सुरक्षा में कमजोरियों को खोजने और मानसिक स्वास्थ्य पर नकारात्मक प्रभाव डालने जैसे जोखिम भी पैदा कर रहे हैं। उन्होंने कहा कि यह आवश्यक है कि AI का उपयोग सुरक्षित और सकारात्मक दिशा में किया जाए और इसके दुरुपयोग को रोका जाए।
AI एजेंट्स और प्रॉम्प्ट इंजेक्शन की चुनौती:
प्रॉम्प्ट इंजेक्शन एक ऐसी समस्या है, जिसमें हैकर्स AI मॉडल को गलत निर्देश देकर धोखा दे सकते हैं। यह तकनीक AI सुरक्षा के लिए गंभीर खतरा बन सकती है। OpenAI इस खतरे से निपटने के लिए विशेषज्ञों की भर्ती कर रही है, ताकि 2026 तक इन खतरों से प्रभावी तरीके से निपटा जा सके।
हाल के घटनाक्रम:
पिछले महीने, Anthropic ने बताया कि हैकर्स ने उनके क्लाउड कोड टूल का इस्तेमाल कर लगभग 30 वैश्विक संस्थाओं को निशाना बनाया। इनमें टेक कंपनियां, वित्तीय संस्थान और सरकारी एजेंसियां शामिल थीं। इसके अलावा, चैटजीपीटी पर कई हाई-प्रोफाइल मुकदमे भी चल रहे हैं, जिसमें किशोरों की आत्महत्याओं और यूजर्स को भ्रमित करने के आरोप शामिल हैं।
कंपनी की तैयारी:
सैम ऑल्टमैन के अनुसार, AI तकनीक जितनी तेजी से आगे बढ़ रही है, सुरक्षा चुनौतियां भी उतनी ही बढ़ रही हैं। इसलिए OpenAI ने यह कदम उठाया है ताकि AI सिस्टम सुरक्षित, नियंत्रित और जिम्मेदार तरीके से काम करें।