एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI को अपने चैटबॉट Grok को लेकर भारी आलोचना का सामना करना पड़ रहा है। दुनियाभर में विरोध और सरकारी जांच के दबाव के बाद कंपनी ने Grok के इस्तेमाल पर नए और सख्त नियम लागू करने की घोषणा की है। यह फैसला उस समय लिया गया है जब Grok पर वास्तविक लोगों, खासतौर पर महिलाओं और बच्चों, की फर्जी और यौन प्रकृति की तस्वीरें बनाने और उन्हें सोशल मीडिया प्लेटफॉर्म X पर वायरल करने के गंभीर आरोप लगे हैं।
xAI ने साफ किया है कि अब Grok किसी भी वास्तविक व्यक्ति की तस्वीर को एडिट करके उन्हें बिकिनी, अंडरगारमेंट्स या किसी भी तरह के आपत्तिजनक और यौन रूप में दिखाने की अनुमति नहीं देगा। यह नियम X के सभी यूज़र्स पर लागू होंगे, चाहे वे प्रीमियम सब्सक्रिप्शन लेने वाले ही क्यों न हों। कंपनी का कहना है कि यह कदम Grok के दुरुपयोग को रोकने और लोगों की निजता व सुरक्षा सुनिश्चित करने के लिए उठाया गया है।
‘अनड्रेसिंग स्प्री’ से मचा हंगामा
हाल के हफ्तों में सोशल मीडिया प्लेटफॉर्म X पर Grok के जरिए बनाई गई हजारों फर्जी अश्लील तस्वीरें सामने आईं। रिपोर्ट्स के मुताबिक, कई यूज़र्स ने इस टूल का इस्तेमाल कर बिना अनुमति महिलाओं और यहां तक कि नाबालिग बच्चों की यौन तस्वीरें तैयार कीं और उन्हें ऑनलाइन साझा किया। इस प्रवृत्ति को कई रिपोर्ट्स में “अनड्रेसिंग स्प्री” कहा गया, जिसने दुनिया भर में गुस्सा और चिंता पैदा कर दी।
इन तस्वीरों के वायरल होने के बाद डिजिटल अधिकार कार्यकर्ताओं, मानवाधिकार संगठनों और आम लोगों ने सवाल उठाया कि आखिर इतनी उन्नत तकनीक का इस तरह दुरुपयोग कैसे हो रहा है और प्लेटफॉर्म्स इसे रोकने में नाकाम क्यों हैं। कई लोगों ने इसे एआई तकनीक के खतरनाक पहलुओं का उदाहरण बताया, जहां बिना सहमति किसी की छवि को यौन रूप में पेश करना गंभीर अपराध की श्रेणी में आता है।
xAI का बयान और नए नियम
xAI ने अपने बयान में कहा कि Grok का इस्तेमाल जिस तरह से किया गया, वह कंपनी की नीतियों और मूल उद्देश्य के खिलाफ है। कंपनी ने माना कि बड़ी संख्या में यूज़र्स ने इस टूल का दुरुपयोग किया, जिसके चलते तुरंत सख्त कदम उठाने की जरूरत पड़ी। नए नियमों के तहत अब Grok किसी भी वास्तविक व्यक्ति की तस्वीर को इस तरह एडिट नहीं कर सकेगा जिससे वह यौन या अश्लील रूप में दिखाई दे।
कंपनी ने यह भी स्पष्ट किया कि ये प्रतिबंध सभी यूज़र्स के लिए समान होंगे और इसमें किसी तरह की छूट नहीं दी जाएगी। xAI का दावा है कि वह आगे भी अपने एआई सिस्टम की निगरानी और सुधार करता रहेगा, ताकि भविष्य में इस तरह की घटनाओं को रोका जा सके।
एलन मस्क की प्रतिक्रिया
इस पूरे विवाद के बीच एलन मस्क ने Grok का बचाव करते हुए कहा कि यह टूल केवल यूज़र के अनुरोधों पर प्रतिक्रिया देता है और इसे इस तरह डिजाइन किया गया है कि यह गैरकानूनी कंटेंट बनाने से इनकार करे। मस्क ने यह भी कहा कि उन्हें इस बात की जानकारी नहीं थी कि Grok के जरिए नाबालिग बच्चों की नग्न या यौन तस्वीरें बनाई गई हैं।
एक रिपोर्ट के अनुसार, मस्क ने कहा कि अगर कहीं नियमों का उल्लंघन हुआ है तो उसकी जांच होनी चाहिए, लेकिन उन्होंने यह भी दोहराया कि कंपनी की मंशा किसी भी तरह के अवैध या अनैतिक कंटेंट को बढ़ावा देने की नहीं है। हालांकि, आलोचकों का कहना है कि सिर्फ “जानकारी न होने” का दावा करना पर्याप्त नहीं है, खासकर तब जब प्लेटफॉर्म पर बड़े पैमाने पर ऐसा कंटेंट फैल चुका हो।
कैलिफोर्निया में औपचारिक जांच शुरू
मामला बढ़ने के बाद अमेरिका के कैलिफोर्निया राज्य के अटॉर्नी जनरल रॉब बॉन्टा ने xAI के खिलाफ औपचारिक जांच शुरू कर दी है। उन्होंने कहा कि Grok के जरिए बनाई गई गैर-सहमति वाली यौन तस्वीरों की खबरें “चौंकाने वाली” हैं और इस तरह के कंटेंट को तुरंत रोका जाना चाहिए।
बॉन्टा ने साफ शब्दों में कहा कि बच्चों को नुकसान पहुंचाने या बिना सहमति यौन सामग्री बनाने के प्रति सरकार की नीति “जीरो टॉलरेंस” की है। जांच का उद्देश्य यह पता लगाना है कि क्या xAI ने किसी कानून का उल्लंघन किया है और क्या कंपनी ने अपने प्लेटफॉर्म को सुरक्षित रखने के लिए पर्याप्त कदम उठाए थे।
कैलिफोर्निया के गवर्नर गैविन न्यूज़म ने भी इस जांच का समर्थन किया है और अधिकारियों से कहा है कि वे xAI को जवाबदेह ठहराएं। उनका कहना है कि तकनीकी कंपनियों को अपने उत्पादों के सामाजिक प्रभाव की जिम्मेदारी लेनी ही होगी।
वैश्विक स्तर पर बढ़ी सख्ती
यह विवाद सिर्फ अमेरिका तक सीमित नहीं रहा। यूरोप और एशिया के कई देशों ने भी Grok और AI डीपफेक कंटेंट को लेकर सख्त रुख अपनाया है। यूनाइटेड किंगडम और फ्रांस में इस मामले की जांच शुरू हो चुकी है, जबकि यूरोपीय संघ ने भी इस तकनीक के इस्तेमाल की समीक्षा के संकेत दिए हैं।
इंडोनेशिया ने Grok तक पहुंच को पूरी तरह ब्लॉक कर दिया है, वहीं मलेशिया ने इस पर आंशिक प्रतिबंध लगा दिया है। इन देशों का कहना है कि इस तरह की एआई तकनीक का दुरुपयोग सामाजिक मूल्यों, महिलाओं की सुरक्षा और बच्चों के अधिकारों के लिए गंभीर खतरा है।
भारत में भी इस मामले पर चिंता जताई गई है। भारतीय सूचना प्रौद्योगिकी मंत्रालय ने X को पत्र लिखकर पूछा है कि प्लेटफॉर्म पर अश्लील और आपत्तिजनक एआई कंटेंट को रोकने के लिए क्या कदम उठाए जा रहे हैं। सरकार ने साफ किया है कि भारत में डिजिटल प्लेटफॉर्म्स को स्थानीय कानूनों और नियमों का पालन करना होगा।
एआई और डीपफेक पर बढ़ती चिंता
Grok विवाद ने एक बार फिर एआई और डीपफेक तकनीक के खतरों को उजागर कर दिया है। विशेषज्ञों का मानना है कि अगर इस तकनीक को सही ढंग से नियंत्रित नहीं किया गया, तो यह निजता, सहमति और सुरक्षा जैसे बुनियादी अधिकारों के लिए बड़ा खतरा बन सकती है। खासतौर पर महिलाओं और बच्चों के खिलाफ इस तरह की तकनीक का इस्तेमाल समाज पर गहरा नकारात्मक असर डाल सकता है।
xAI द्वारा लगाए गए नए प्रतिबंधों को एक जरूरी कदम माना जा रहा है, लेकिन कई आलोचकों का कहना है कि यह कदम काफी देर से उठाया गया। उनका मानना है कि एआई कंपनियों को पहले से ही मजबूत सुरक्षा उपाय और सख्त नीतियां लागू करनी चाहिए थीं।
अब सबकी नजर इस बात पर है कि जांच के नतीजे क्या निकलते हैं और xAI आगे कौन से ठोस कदम उठाती है। यह मामला न सिर्फ Grok या xAI तक सीमित है, बल्कि पूरी एआई इंडस्ट्री के लिए एक चेतावनी माना जा रहा है। आने वाले समय में सरकारें और नियामक संस्थाएं एआई टूल्स पर और सख्त नियम लागू कर सकती हैं, ताकि तकनीक का इस्तेमाल लोगों की सुरक्षा और सम्मान के खिलाफ न हो। इस विवाद ने यह साफ कर दिया है कि तकनीकी नवाचार के साथ-साथ जिम्मेदारी और जवाबदेही भी उतनी ही जरूरी है।
