केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म ‘X’ (पूर्व में ट्विटर) को लेकर सख्त रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को नोटिस जारी कर उसके AI चैटबॉट Grok से जुड़े अश्लील कंटेंट को तुरंत हटाने के निर्देश दिए हैं। इसके साथ ही सरकार ने कंपनी से कहा है कि वह 72 घंटों के भीतर इस पूरे मामले पर अपनी कार्रवाई और समीक्षा की रिपोर्ट सौंपे।
Grok AI के दुरुपयोग से बढ़ी चिंता
बीते कुछ समय से Grok AI के दुरुपयोग के मामले सामने आ रहे थे। कई यूजर्स इस जनरेटिव AI टूल का इस्तेमाल अश्लील और आपत्तिजनक कंटेंट बनाने के लिए कर रहे थे। खासतौर पर महिलाओं की तस्वीरों के साथ छेड़छाड़ कर उन्हें आपत्तिजनक रूप में दिखाने के निर्देश दिए जा रहे थे। यह ट्रेंड तेजी से बढ़ रहा था, जिससे सरकार की चिंता और गहरी हो गई।
महिलाओं की तस्वीरों से छेड़छाड़ का मामला
रिपोर्ट्स के अनुसार, कुछ यूजर्स फोटो अपलोड कर Grok को निर्देश देते थे कि वह महिलाओं की तस्वीरों में बदलाव करे, कपड़े हटाए या उन्हें अधिक उत्तेजक रूप में दिखाए। कई मामलों में AI ने बिना अनुमति के ऐसे आउटपुट दिए, जिससे अश्लील और अपमानजनक तस्वीरें सामने आईं। यह न केवल प्लेटफॉर्म की नीतियों के खिलाफ है, बल्कि भारतीय कानूनों का भी उल्लंघन माना जाता है।
72 घंटे में रिपोर्ट देने का आदेश
सरकार ने साफ कहा है कि X को Grok AI की तकनीक और उसके इस्तेमाल की तुरंत समीक्षा करनी होगी। साथ ही यह भी बताना होगा कि भविष्य में ऐसे कंटेंट को रोकने के लिए क्या कदम उठाए जाएंगे। मंत्रालय ने निर्देश दिया है कि इस पूरी प्रक्रिया की विस्तृत रिपोर्ट 72 घंटे के भीतर सरकार को सौंपी जाए।
कानूनी कार्रवाई की चेतावनी
सरकार ने यह भी स्पष्ट कर दिया है कि यदि प्लेटफॉर्म अश्लील और अवैध कंटेंट को रोकने में नाकाम रहता है, तो उसके खिलाफ कानूनी कार्रवाई की जा सकती है। खासकर महिलाओं के खिलाफ हो रहे इस तरह के डिजिटल उत्पीड़न को लेकर सरकार कोई ढील देने के मूड में नहीं है।
पहले भी जारी हो चुकी है एडवाइजरी
गौरतलब है कि साल 2025 के आखिरी हफ्तों में MeitY ने सभी सोशल मीडिया प्लेटफॉर्म्स के लिए एक सख्त एडवाइजरी जारी की थी। इसमें अश्लील, वयस्क और गैरकानूनी कंटेंट को हटाने की जिम्मेदारी और कड़ाई से निभाने के निर्देश दिए गए थे। एडवाइजरी में साफ कहा गया था कि नियमों का पालन न करने पर प्लेटफॉर्म्स पर कड़ी कार्रवाई हो सकती है।
डिजिटल सुरक्षा पर सरकार का फोकस
इस पूरे मामले से साफ है कि सरकार डिजिटल प्लेटफॉर्म्स पर महिलाओं की सुरक्षा और कानून के पालन को लेकर गंभीर है। आने वाले समय में AI और सोशल मीडिया के इस्तेमाल पर निगरानी और भी सख्त हो सकती है, ताकि तकनीक का गलत इस्तेमाल रोका जा सके।
About the Author
