एलन मस्क के स्वामित्व वाली आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok AI एक बार फिर बड़े विवाद में घिर गई है। एक साइबर हेट वॉचडॉग संस्था की रिपोर्ट के अनुसार, Grok AI ने कुछ ही दिनों के भीतर करीब 30 लाख यौन रूप से आपत्तिजनक और अश्लील तस्वीरें तैयार कर दीं, जिनमें महिलाओं के साथ-साथ बच्चों की तस्वीरें भी शामिल थीं। यह सब कथित तौर पर बिना संबंधित लोगों की सहमति के किया गया।
यह मामला इसलिए और गंभीर हो जाता है क्योंकि यह AI टूल सीधे X (पूर्व में ट्विटर) ऐप में इंटीग्रेट किया गया था, जिससे करोड़ों यूजर्स को इसका इस्तेमाल करने की खुली सुविधा मिल गई थी।
कैसे शुरू हुआ विवाद?
रिपोर्ट के मुताबिक, Grok AI में एक नया इमेज एडिटिंग फीचर जोड़ा गया था। इस फीचर के जरिए कोई भी यूजर किसी वास्तविक व्यक्ति चाहे वह महिला हो या बच्चा की तस्वीर को लेकर Grok से उसे बदलने या एडिट करने के लिए कह सकता था। आरोप है कि बेहद साधारण प्रॉम्प्ट पर भी AI ने अश्लील और यौन रूप से आपत्तिजनक तस्वीरें तैयार कर दीं।
सबसे चौंकाने वाली बात यह रही कि ये तस्वीरें केवल बनाई ही नहीं गईं, बल्कि सार्वजनिक रूप से शेयर भी की गईं, जिससे लाखों लोग उन्हें देख सकते थे। इससे महिलाओं और अभिभावकों में भारी आक्रोश फैल गया।
कुछ ही दिनों में लाखों तस्वीरें
साइबर हेट पर नजर रखने वाली संस्था Center for Countering Digital Hate (CCDH) ने अपनी रिपोर्ट में दावा किया है कि Grok AI ने लगभग 11 दिनों के भीतर करीब 30 लाख यौनिकृत तस्वीरें तैयार कीं। रिपोर्ट के अनुसार, इस दौरान औसतन हर मिनट लगभग 190 तस्वीरें बनाई गईं, जो AI के दुरुपयोग के पैमाने को दर्शाता है। इनमें से बड़ी संख्या में तस्वीरें महिलाओं को बिकिनी या अन्य आपत्तिजनक रूप में दिखाने वाली थीं।
बच्चों की तस्वीरों ने बढ़ाई चिंता
इस पूरे मामले का सबसे गंभीर पहलू यह है कि CCDH के अनुसार, इन लाखों तस्वीरों में से करीब 23,000 तस्वीरें ऐसी थीं, जिनमें बच्चे नजर आ रहे थे। रिपोर्ट में कहा गया है कि ये तस्वीरें भी यौन रूप से आपत्तिजनक प्रकृति की थीं।
CCDH ने अपने बयान में कहा,
“X पर Grok द्वारा संचालित नए इमेज एडिटिंग फीचर के लॉन्च के बाद, इस टूल ने अनुमानित रूप से करीब तीन मिलियन यौनिकृत तस्वीरें बनाई हैं, जिनमें लगभग 23,000 ऐसी तस्वीरें शामिल हैं जो बच्चों को दर्शाती हैं।” इस खुलासे के बाद AI की सुरक्षा, नैतिकता और कानूनों को लेकर बहस और तेज हो गई है।
सरकारी एजेंसियों की दखल
जब यह मामला सामने आया, तो कई देशों की सरकारी और नियामक एजेंसियों ने Grok AI और उसकी पैरेंट कंपनी से सवाल पूछे। आरोप लगाया गया कि बिना किसी ठोस सुरक्षा उपाय के इस तरह के AI फीचर को लॉन्च करना कानूनी और नैतिक रूप से गंभीर लापरवाही है। कुछ दिनों तक चले भारी विरोध और सार्वजनिक दबाव के बाद, कंपनी ने इस फीचर को अस्थायी रूप से बंद कर दिया।
एलन मस्क का जवाब
इस विवाद पर एलन मस्क ने X पर प्रतिक्रिया देते हुए कहा कि उन्हें किसी भी तरह की नाबालिगों से जुड़ी अश्लील तस्वीरों की जानकारी नहीं है। मस्क ने पोस्ट में लिखा,
“मुझे Grok द्वारा किसी भी तरह की नग्न अंडरएज तस्वीरें बनाए जाने की कोई जानकारी नहीं है। सचमुच, बिल्कुल शून्य।”
हालांकि, CCDH और अन्य संगठनों का कहना है कि उपलब्ध डेटा मस्क के इस दावे से मेल नहीं खाता।
CCDH का तीखा बयान
CCDH के मुख्य कार्यकारी अधिकारी इमरान अहमद ने Grok AI पर तीखा हमला बोलते हुए कहा,
“डेटा साफ है—एलन मस्क की Grok AI यौन शोषण सामग्री बनाने की एक फैक्ट्री बन चुकी है। पर्याप्त सुरक्षा उपायों के बिना AI को तैनात कर, मस्क ने दो हफ्तों में करीब 23,000 बच्चों की यौनिकृत तस्वीरें और लाखों महिलाओं की आपत्तिजनक तस्वीरें बनने का रास्ता खोल दिया।” उन्होंने कहा कि यह सिर्फ तकनीकी गलती नहीं, बल्कि गंभीर नीतिगत विफलता है।
पहले भी विवादों में रह चुकी है Grok
यह पहली बार नहीं है जब Grok AI गलत वजहों से सुर्खियों में आई हो। इससे पहले भी इस चैटबॉट पर आपत्तिजनक, भ्रामक और संवेदनशील कंटेंट तैयार करने के आरोप लग चुके हैं। विशेषज्ञों का मानना है कि अगर AI टूल्स पर सख्त नियम, कंटेंट फिल्टर और जवाबदेही तय नहीं की गई, तो ऐसे मामले भविष्य में और बढ़ सकते हैं।
इस विवाद के बाद यह सवाल जोर पकड़ रहा है कि क्या Grok AI जैसे टूल्स को मौजूदा रूप में चलने दिया जाना चाहिए। कई विशेषज्ञों का कहना है कि अगर कंपनी ने अपनी नीतियों और सुरक्षा ढांचे को मजबूत नहीं किया, तो एलन मस्क को इस प्रोडक्ट को पूरी तरह बंद करने के लिए भी मजबूर होना पड़ सकता है।
Grok AI पर लगे ये आरोप टेक इंडस्ट्री के लिए एक बड़ी चेतावनी माने जा रहे हैं कि AI की रफ्तार के साथ-साथ जवाबदेही और सुरक्षा भी उतनी ही जरूरी है।
