अब बिकिनी वाली अश्लील फोटो नहीं बनाएगा AI, दबाव के बाद Musk की कंपनी ने किया बदलाव

एलन मस्क की कंपनी xAI का AI चैटबॉट Grok को विवादों के चलते एक बड़ा पॉलिसी चेंज करना पड़ा है। बढ़ती आलोचना और रेगुलेटरी प्रेशर के बाद अब ग्रोक महिलाओं की बिकिनी या सेक्सुअल पोज वाली फोटोज जेनरेट करने से साफ इनकार कर रहा है। मीडिया रिपोर्ट्स के मुताबिक यह बदलाव फिलहाल ज्यादा तौर पर UK में नजर आ रहा है, जहां सरकार एक्स प्लेटफॉर्म पर सख्त एक्शन लेने की चेतावनी दे चुकी है।

The Telegraph की रिपोर्ट के मुताबिक, Grok अब ऐसे रिक्वेस्ट्स को रिजेक्ट कर रहा है, जिनमें महिलाओं को स्विमवेयर, बिकिनी या किसी भी तरह के रिवीलिंग कपड़ों में दिखाने की मांग की जाती है। AI का जवाब सीधा होता है, 'सॉरी, मैं इस तरह की इमेज जनरेट नहीं कर सकता।' कई मामलों में Grok यह भी कह रहा है कि रियल पीपल या उनसे मिलती-जुलती इमेजेस को इस तरह के कपड़ों में दिखाना नॉन-कंसेंशुअल इमेज मैनिपुलेशन की कैटेगरी में आता है।

इस वजह से बदलनी पड़ी पॉलिसी

बदलाव को UK अथॉरिटीज के दबाव से जोड़कर देखा जा रहा है। हाल ही में UK के प्राइम मिनिस्टर सर कीयर स्टारमर ने पार्लियामेंट में कहा था कि अगर X अपने AI बॉट Grok को कंट्रोल नहीं कर पाया, तो प्लेटफॉर्म से सेल्फ-रेगुलेशन का हक छीना जा सकता है। उन्होंने साफ कहा, 'अगर X Grok को कंट्रोल नहीं कर सकता, तो हम करेंगे।'

हालांकि, मौजूदा बदलाव के बाद भी यह विवाद पूरी तरह खत्म नहीं हुआ है। रिपोर्ट्स बताती हैं कि ये नए रिस्ट्रिक्शन्स खासतौर पर महिलाओं से जुड़ी इमेज रिक्वेस्ट्स पर लागू हो रहे हैं। ग्रोक अब भी पुरुषों और यहां तक कि अन्य निर्जीव ऑब्जेक्ट्स को बिकिनी में दिखाने वाली इमेजेस जनरेट कर रहा है। इसे लेकर ऑनलाइन यूजर्स और एक्सपर्ट्स डबल स्टैंडर्ड्स पर सवाल उठा रहे हैं।

बढ़ता जा रहा AI टूल से जुड़ा विवाद

याद दिला दें कि Grok को लेकर विवाद पिछले कुछ हफ्तों से बढ़ता जा रहा था। कई यूजर्स ने AI टूल का इस्तेमाल करते हुए महिलाओं की डीपफेक-स्टाइल इमेजेस बनाईं, जिनमें उन्हें बिना कंसेंट के रिवीलिंग आउटफिट्स में दिखाया गया। ट्रोल्स ने पब्लिक फिगर्स को भी टारगेट किया। इसमें प्रिंसेस ऑफ वेल्स और स्वीडन की डिप्टी प्राइम मिनिस्टर एब्बा बुश जैसे सिलेब्स के नाम भी सामने आए।

इससे पहले X ने मिसयूज रोकने के लिए Grok के इमेज टूल्स को सिर्फ पेइंग सब्सक्राइबर्स तक लिमिट किया था। लेकिन रेगुलेटर्स ने इस कदम की आलोचना की और कहा कि इससे प्रॉब्लम सॉल्व नहीं हुई, बल्कि इसको एक तरह की प्रीमियम सर्विस बना दिया गया।

भारत सरकार ने भी दिए थे सख्त आदेश

ग्लोबल लेवल पर अब सरकारें अलग-अलग तरीके से प्रतिक्रिया दे रही हैं और विरोध दर्ज कर रही हैं। भारत सरकार ने X को आपत्तिजनक डीपफेक कंटेंट हटाने और सेफगार्ड्स मजबूत करने के आदेश दिए हैं। कई अकाउंट्स पर बैन भी लगाया गया है। वहीं मलेशिया और इंडोनेशिया जैसे देशों ने नॉन-कंसेंशुअल सेक्सुअल इमेजरी को लेकर X को ब्लॉक करने का फैसला किया है।