सोशल मीडिया प्लेटफॉर्म X (पहले ट्विटर) ने अपने AI टूल Grok के गलत इस्तेमाल को रोकने के लिए कड़े कदम उठाए हैं। अब Grok के ज़रिए किसी की भद्दी या अश्लील तस्वीरें बनाना आसान नहीं होगा। दरअसल, बीते कुछ समय से Grok के इमेज जेनरेशन फीचर का दुरुपयोग कर लोगों की आपत्तिजनक तस्वीरें बनाई जा रही थीं, जिस पर कई देशों ने गंभीर आपत्ति जताई थी।
भारत और ब्रिटेन की शिकायतों का असर
भारत, ब्रिटेन सहित कई देशों ने X से शिकायत की थी कि Grok के जरिए निजता का उल्लंघन हो रहा है। कुछ देशों ने तो यह तक चेतावनी दी थी कि अगर इस पर रोक नहीं लगी तो Grok को बैन किया जा सकता है। बढ़ते दबाव और आलोचना के बाद एलन मस्क की कंपनी X को आखिरकार सख्त फैसला लेना पड़ा।
अब पेड यूज़र्स तक सीमित रहेगा फीचर
X ने Grok के इमेज एडिटिंग और जेनरेशन टूल पर नए प्रतिबंध लगा दिए हैं। अब यह सुविधा केवल X Premium या X Premium Plus सब्सक्रिप्शन लेने वाले यूज़र्स को ही मिलेगी। यानी मुफ्त अकाउंट से अब इस तरह के फीचर का इस्तेमाल नहीं किया जा सकेगा। इसके अलावा, पहचान और पेमेंट डिटेल्स देना भी अनिवार्य कर दिया गया है।
ब्लू टिक वालों को ही मिलेगी अनुमति
नए नियमों के तहत सिर्फ़ वेरिफाइड, यानी ब्लू-टिक अकाउंट रखने वाले यूज़र्स ही Grok के इमेज एडिटिंग फीचर तक पहुंच पाएंगे। बीबीसी की एक रिपोर्ट के अनुसार, ब्रिटेन में जो यूज़र्स बिना भुगतान के Grok का इस्तेमाल करने की कोशिश कर रहे हैं, उन्हें एरर मैसेज दिखाया जा रहा है और सब्सक्रिप्शन लेने के लिए कहा जा रहा है।
AI ट्रेंड बना विवाद की जड़
यह विवाद तब शुरू हुआ जब Grok एक साधारण कमांड पर तस्वीरों में बदलाव करने लगा। देखते ही देखते सोशल मीडिया पर इस तरह की बदली हुई तस्वीरों की बाढ़ आ गई, जिनमें खास तौर पर महिलाओं को निशाना बनाया गया। इससे X और उसकी AI कंपनी xAI की आलोचना तेज़ हो गई।
भारत में भी उठा मामला
भारत में भी इस ट्रेंड को लेकर काफी हंगामा हुआ। कुछ लोगों ने युवतियों की तस्वीरों पर Grok का इस्तेमाल कर आपत्तिजनक बदलाव किए। इस पर राज्यसभा सांसद प्रियंका चतुर्वेदी ने कड़ा रुख अपनाया और केंद्र सरकार को पत्र लिखकर इसे महिलाओं की निजता और सुरक्षा से जुड़ा गंभीर मुद्दा बताया। इसके बाद केंद्र सरकार ने X से इस मामले में जवाब और रिपोर्ट मांगी।
भविष्य में और सख्ती के संकेत
X के इस फैसले से साफ है कि कंपनी अब AI टूल्स के इस्तेमाल को लेकर ज्यादा सतर्क हो गई है। माना जा रहा है कि आने वाले समय में AI से जुड़े नियम और सख्त किए जा सकते हैं, ताकि टेक्नोलॉजी का इस्तेमाल रचनात्मक और सुरक्षित दिशा में हो सके।
About the Author
