सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने भारत सरकार के सामने अपनी गलती स्वीकार करते हुए यह भरोसा दिलाया है कि वह आगे से भारतीय कानूनों का पूरी तरह पालन करेगा। सरकारी सूत्रों के मुताबिक, प्लेटफॉर्म पर अश्लील और आपत्तिजनक सामग्री को लेकर उठे विवाद के बाद X ने व्यापक कार्रवाई करते हुए 600 से अधिक अकाउंट्स को हटाया और करीब 3,500 पोस्ट्स को ब्लॉक किया है। यह कदम सरकार द्वारा जताई गई गंभीर आपत्तियों के बाद उठाया गया है, जिसमें X के एआई टूल Grok के जरिए अशोभनीय कंटेंट के प्रसार की बात सामने आई थी।
सरकारी सूत्रों ने बताया कि X ने न केवल अपनी चूक मानी है, बल्कि यह भी आश्वासन दिया है कि भविष्य में इस तरह की सामग्री को प्लेटफॉर्म पर जगह नहीं दी जाएगी। कंपनी ने कहा है कि वह अपनी कंटेंट मॉडरेशन प्रणाली को और मजबूत करेगी, ताकि भारतीय आईटी कानूनों और नियमों का सख्ती से पालन सुनिश्चित किया जा सके। सरकार का मानना है कि यह कार्रवाई ऑनलाइन प्लेटफॉर्म्स की जवाबदेही तय करने की दिशा में एक महत्वपूर्ण कदम है।
यह पूरा मामला उस समय सामने आया, जब इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने हाल ही में Grok जैसे एआई टूल्स के माध्यम से अश्लील, आपत्तिजनक और यौन रूप से स्पष्ट कंटेंट के निर्माण और प्रसार पर गहरी चिंता जताई थी। मंत्रालय ने कहा था कि इस तरह का कंटेंट न केवल कानून का उल्लंघन है, बल्कि समाज पर भी इसका नकारात्मक प्रभाव पड़ता है, खासकर महिलाओं की सुरक्षा और गरिमा के संदर्भ में।
सरकार की सख्त चेतावनी के बाद, 2 जनवरी को आईटी मंत्रालय ने X को औपचारिक आदेश जारी किया था, जिसमें प्लेटफॉर्म से तत्काल सभी वल्गर, अश्लील और गैरकानूनी कंटेंट, विशेष रूप से Grok के जरिए बनाए गए कंटेंट को हटाने के निर्देश दिए गए थे। मंत्रालय ने साफ कहा था कि यदि X ने आदेश का पालन नहीं किया, तो उसके खिलाफ आईटी एक्ट और अन्य लागू कानूनों के तहत कार्रवाई की जाएगी।
आदेश में यह भी कहा गया था कि X को 72 घंटे के भीतर एक विस्तृत “एक्शन टेकन रिपोर्ट” (Action Taken Report) दाखिल करनी होगी। इस रिपोर्ट में कंपनी को यह स्पष्ट करना था कि Grok से जुड़े मामलों में कौन-कौन से तकनीकी और प्रशासनिक कदम उठाए गए हैं, और किस स्तर पर निगरानी की जा रही है। साथ ही, इसमें यह भी बताना जरूरी था कि प्लेटफॉर्म के चीफ कंप्लायंस ऑफिसर ने इस पूरे मामले में क्या भूमिका निभाई है।
मंत्रालय ने X से यह भी अपेक्षा की थी कि वह यह जानकारी दे कि आपत्तिजनक कंटेंट, संबंधित यूजर्स और अकाउंट्स के खिलाफ क्या कार्रवाई की गई है। इसके अलावा, कंपनी को यह भी बताने के लिए कहा गया था कि भारतीय कानून के तहत अनिवार्य रिपोर्टिंग दायित्वों का पालन सुनिश्चित करने के लिए कौन-सी नई प्रणालियां और प्रक्रियाएं लागू की गई हैं।
सरकारी अधिकारियों के अनुसार, जांच के दौरान यह बात सामने आई कि Grok एआई का दुरुपयोग केवल फर्जी प्रोफाइल बनाने तक सीमित नहीं था। इसका इस्तेमाल महिलाओं को निशाना बनाने, उन्हें ऑनलाइन परेशान करने और उनकी तस्वीरों या वीडियो के साथ छेड़छाड़ करने के लिए भी किया जा रहा था। कुछ मामलों में, एआई प्रॉम्प्ट्स, इमेज एडिटिंग और सिंथेटिक कंटेंट जनरेशन के जरिए महिलाओं की छवियों को आपत्तिजनक रूप में पेश किया गया, जो गंभीर चिंता का विषय है।
सरकार ने इसे महिलाओं के खिलाफ डिजिटल उत्पीड़न का एक नया और खतरनाक रूप बताया है। मंत्रालय का कहना है कि इस तरह की गतिविधियां न केवल आईटी कानूनों का उल्लंघन हैं, बल्कि महिलाओं की गरिमा, निजता और सुरक्षा पर सीधा हमला भी हैं। यही कारण है कि सरकार ने इस मामले में कोई ढिलाई न बरतने का फैसला किया।
8 जनवरी को X ने आईटी मंत्रालय को एक लंबा और विस्तृत जवाब भी सौंपा। हालांकि, सरकारी सूत्रों के मुताबिक, यह जवाब “विस्तृत जरूर था, लेकिन पर्याप्त नहीं” माना गया। सरकार का मानना है कि X को सिर्फ जवाब देने तक सीमित नहीं रहना चाहिए, बल्कि जमीनी स्तर पर ठोस और प्रभावी कदम उठाने होंगे, ताकि भविष्य में इस तरह की घटनाएं दोबारा न हों।
कार्रवाई के तहत X द्वारा सैकड़ों अकाउंट्स हटाना और हजारों पोस्ट्स को ब्लॉक करना सरकार के दबाव और सख्त रुख का नतीजा माना जा रहा है। अधिकारियों का कहना है कि यह सिर्फ शुरुआत है और आने वाले समय में डिजिटल प्लेटफॉर्म्स की जवाबदेही को लेकर निगरानी और सख्त की जा सकती है। खासकर एआई आधारित सेवाओं के बढ़ते इस्तेमाल को देखते हुए, सरकार इस क्षेत्र में स्पष्ट और कड़े नियम लागू करने के संकेत दे चुकी है।
सरकार ने यह भी दोहराया है कि भारत में काम करने वाली सभी टेक कंपनियों को देश के कानूनों, सामाजिक मूल्यों और संवेदनशीलताओं का सम्मान करना होगा। किसी भी तरह के आपत्तिजनक, अश्लील या गैरकानूनी कंटेंट को बर्दाश्त नहीं किया जाएगा, चाहे वह इंसानों द्वारा बनाया गया हो या आर्टिफिशियल इंटेलिजेंस के जरिए।
X और उसके एआई टूल Grok से जुड़ा यह मामला भारत में डिजिटल गवर्नेंस और एआई रेगुलेशन की दिशा में एक अहम मोड़ के रूप में देखा जा रहा है। सरकार का स्पष्ट संदेश है कि तकनीक का इस्तेमाल अभिव्यक्ति की स्वतंत्रता के नाम पर कानून तोड़ने या किसी की गरिमा को ठेस पहुंचाने के लिए नहीं किया जा सकता। आने वाले दिनों में यह देखना अहम होगा कि X अपने वादों पर कितना खरा उतरता है और क्या उसकी नई कंटेंट मॉडरेशन व्यवस्था वास्तव में प्रभावी साबित होती है।
