ChatGPT पर हथियारों की जानकारी होगी सीमित, हिंसक बातचीत पर लगेगी रोक, पैरेंट्स को मिलेगा अलर्ट

विन न्यूज़ नेटवर्क। आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के बीच OpenAI ने ChatGPT की सुरक्षा व्यवस्था को और सख्त करने का फैसला किया है। कंपनी अब हथियारों, सुरक्षा प्रणालियों और हिंसा से जुड़ी संवेदनशील जानकारियों तक पहुंच को सीमित करेगी।

खासतौर पर किशोरों की सुरक्षा को ध्यान में रखते हुए नए नियम तैयार किए गए हैं। इनका उद्देश्य यह सुनिश्चित करना है कि AI का इस्तेमाल किसी को नुकसान पहुंचाने या हिंसक गतिविधियों की योजना बनाने के लिए न किया जा सके।

सामान्य सवालों के जवाब में भी नहीं मिलेगी संवेदनशील जानकारी

OpenAI के नए सुरक्षा नियमों के तहत किशोरों को हथियारों और सुरक्षा प्रणालियों से जुड़ी व्यावहारिक जानकारी उपलब्ध नहीं कराई जाएगी। खास बात यह है कि सवाल सामान्य या गैर-हिंसक दिखाई देने पर भी संवेदनशील जानकारियों को साझा करने पर रोक रहेगी।

कंपनी का मानना है कि केवल सवाल के शब्दों के आधार पर उसके पीछे की मंशा का सही आकलन करना हमेशा संभव नहीं होता। ऐसे में सुरक्षा के लिहाज से अधिक सतर्क व्यवस्था अपनाई जा रही है।

हिंसक बातचीत जारी रखने पर बंद होगा चैट सेशन

नए नियम केवल किशोरों तक सीमित नहीं रहेंगे, बल्कि कुछ सुरक्षा उपाय सभी यूजर्स पर लागू होंगे। यदि कोई व्यक्ति लगातार बातचीत को हिंसा, हमले या किसी दूसरे व्यक्ति को नुकसान पहुंचाने की दिशा में ले जाता है, तो ChatGPT उस चैट सेशन को अपने आप बंद कर सकता है। इसके अलावा, बार-बार नियमों का उल्लंघन करने वाले यूजर्स के अकाउंट को अस्थायी रूप से निलंबित भी किया जा सकता है।

पुराने हमलों से जुड़ी संवेदनशील जानकारियों पर भी रोक

OpenAI ने इतिहास में हुए सामूहिक हमलों और जनसंहारों से संबंधित जानकारी देने के नियमों को भी सख्त किया है। अब ऐसे हमलों में इस्तेमाल किए गए हथियारों के प्रकार, उन्हें हासिल करने के तरीकों और हमलों को अंजाम देने से जुड़ी संवेदनशील जानकारियों तक पहुंच सीमित रहेगी।

हालांकि, इसका उद्देश्य इतिहास और घटनाओं की सामान्य जानकारी को रोकना नहीं, बल्कि ऐसी व्यावहारिक जानकारियों को साझा होने से बचाना है जिनका दुरुपयोग किया जा सकता है।

अगले कुछ हफ्तों में शुरू होगा नए फीचर्स का रोलआउट

कंपनी के मुताबिक, नए सुरक्षा फीचर्स अगले कुछ हफ्तों में चरणबद्ध तरीके से लागू किए जाएंगे। OpenAI इन बदलावों के प्रभाव का लगातार आकलन करेगी और जरूरत के अनुसार सुरक्षा नीतियों को अपडेट भी करेगी। इसका मकसद ChatGPT को सभी आयु वर्ग के लोगों के लिए अधिक सुरक्षित बनाना है।

रोजाना 15 मिनट से भी कम समय ChatGPT इस्तेमाल करते हैं किशोर

OpenAI की इसी महीने जारी रिपोर्ट के अनुसार, किशोर यूजर्स औसतन रोजाना 15 मिनट से भी कम समय ChatGPT पर बिताते हैं। हालांकि, कंपनी का मानना है कि इस्तेमाल का समय कम होने के बावजूद किशोरों की ऑनलाइन सुरक्षा को नजरअंदाज नहीं किया जा सकता। AI के साथ उनकी बातचीत किस तरह की है और उसका उन पर क्या प्रभाव पड़ सकता है, इस पर ध्यान देना जरूरी है।

पैरेंट्स की चिंता के बाद बढ़ा सुरक्षा पर जोर

AI प्लेटफॉर्म पर बच्चों और किशोरों की सुरक्षा को लेकर दुनियाभर में बहस तेज हो रही है। NGO कॉमन सेंस मीडिया की एक रिपोर्ट में ChatGPT के किशोर संस्करण की सुरक्षा व्यवस्था पर सवाल उठाए गए थे। रिपोर्ट में दावा किया गया था कि आत्महत्या, खुद को नुकसान पहुंचाने और खानपान संबंधी गंभीर समस्याओं जैसी चर्चाओं के दौरान कई मामलों में माता-पिता को समय पर अलर्ट नहीं मिला। कुछ मामलों में सूचना मिलने में देरी हुई, जबकि कुछ में अलर्ट नहीं भेजा गया।

ऐसे में OpenAI का यह कदम AI प्लेटफॉर्म पर सुरक्षा और जवाबदेही बढ़ाने की दिशा में अहम माना जा रहा है। आने वाले समय में यह देखना महत्वपूर्ण होगा कि नए सुरक्षा फीचर्स किशोरों को ऑनलाइन खतरों से बचाने में कितने प्रभावी साबित होते हैं।