न्यूड इमेज मामले में X का एक्शन, भारत में डिलीट किए 600 से ज्यादा अकाउंट, हजारों कंटेंट ब्लॉक

Elon Musk का सोशल मीडिया प्लेटफॉर्म X पिछले कई दिनों से विवादों में है। दरअसल, एक्स पर मौजूद AI चैटबॉट Grok लोगों के न्यूड फोटो बना रहा था, जिसके चलते दुनियाभर में इसकी कड़ी आलोचना हुई। विवाद बढ़ता देख एक्स ने अपनी AI इमेज जनरेशन और एडिटिंग फंक्शनैलिटी को फ्री यूजर्स के लिए बंद कर दिया था। अब भारत में भी एक्स ने बड़ा एक्शन लिया है। एचटी ने सूत्रों के हवाले से अपनी रिपोर्ट में बताया कि भारत में एक्स ने 3,500 से ज्यादा कंटेंट को ब्लॉक किया और 600 से ज्यादा अकाउंट डिलीट किए हैं, और उसने भारत में ऑनलाइन कंटेंट कानूनों का पालन करने के लिए ऑपरेशन जारी रखने का आश्वासन दिया है।

अश्लील कंटेंट पर एक्स ने लिया एक्शन

यह कदम सरकार द्वारा एलन मस्क की कंपनी एक्स कॉर्प को उसके AI चैटबॉट ग्रोक द्वारा बनाए गए अश्लील और सेक्शुअली आपत्तिजनक कंटेंट पर की गई कार्रवाई की रिपोर्ट दाखिल करने के लिए समय देने के कुछ दिनों बाद उठाया गया है। सूत्रों के अनुसार, एक्स ने "अपनी गलती मान ली" और अपने प्लेटफॉर्म पर अश्लील इमेज बनने से रोकने पर सहमति जताई।

2 जनवरी को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एक्स को एक लेटर लिखकर सेक्सुअली कंटेंट को रोकने में गंभीर नाकामियों की बात कही। एचटी की पहले की एक रिपोर्ट में एक अधिकारी के हवाले से कहा गया था, "देश का कानून लागू होना चाहिए।"

अधिकारी ने एक्स को भारतीय कानून के तहत कानूनी सुरक्षा खोने की चेतावनी दी, और कहा कि अगर उनके AI चैटबॉट नियमों का पालन नहीं करते हैं तो दूसरे प्लेटफॉर्म पर भी ऐसे ही कदम उठाए जाएंगे। अधिकारी ने कहा था, "ग्रोक के मामले में, असर तेजी से हो रहा है क्योंकि यह एक्स जैसे प्लेटफॉर्म पर काम करता है।"

ग्रोक को न्यूट्रल प्लेटफॉर्म नहीं माना जा सकता

अधिकारियों ने कहा कि मंत्रालय ने यह साफ कर दिया है कि ग्रोक को एक न्यूट्रल प्लेटफॉर्म टूल के तौर पर नहीं माना जा सकता। "अब सोच बदल गई है। पहले, वे ऊंची पोजिशन से काम कर रहे थे, लेकिन हमने इस मुद्दे को कानून के लेवल पर ला दिया है। अधिकारी ने कहा, ग्रोक को एक प्लेटफॉर्म के तौर पर नहीं माना जा सकता। यह एक कंटेंट क्रिएटर है, एक आर्टिफिशियल कंटेंट क्रिएटर। जैसे मैं एक ह्यूमन कंटेंट क्रिएटर हूं, वैसे ही ग्रोक एक आर्टिफिशियल कंटेंट क्रिएटर है।"

रिपोर्ट्स के मुताबिक, एक्स ने पांच दिन बाद मिनिस्ट्री के लेटर का जवाब दिया, लेकिन सरकार ने कहा कि वह इससे संतुष्ट नहीं है। एक अधिकारी ने जवाब के बारे में कहा था कि एक्स ने "असल में अपनी यूजर पॉलिसी को पांच पन्नों में छापकर मिनिस्ट्री को भेज दिया।" सरकार ने कहा कि एक्स को भेजे गए लेटर में उठाए गए मुख्य मुद्दों पर मिले जवाब में कोई ध्यान नहीं दिया गया।

इन देशों ने भी लिया एक्शन

ग्रोक AI का इस्तेमाल करके आपत्तिजनक कंटेंट बनाने पर आपत्ति जताने वाला भारत अकेला देश नहीं है। इंडोनेशिया ने हाल ही में AI से बने पोर्नोग्राफिक कंटेंट को लेकर चिंताओं के कारण चैटबॉट को सस्पेंड कर दिया था, और यूके, फ्रांस और मलेशिया ने भी पहले कंटेंट जनरेशन का विरोध किया है।