बना रहा था महिलाओं और बच्चों की न्यूड फोटोज! मस्क के AI टूल Grok में बदलाव

एलन मस्क की ओनरशिप वाले सोशल मीडिया प्लेटफॉर्म X पर मौजूद AI चैटबॉट Grok एक बड़े विवाद में पड़ गया है। महिलाओं और बच्चों की आपत्तिजनक और सेक्शुअली प्रोवोकिंग फोटोज बनाए जाने के बाद Grok ने फ्री यूजर्स के लिए अपनी AI इमेज जनरेशन और एडिटिंग फंक्शनैलिटी को बंद कर दिया है। यह कदम बढ़ते अंतरराष्ट्रीय दबाव और कानूनी चेतावनियों के बीच उठाया गया है।

रिपोर्ट्स के मुताबिक, कुछ यूजर्स Grok का इस्तेमाल कर महिलाओं और बच्चों की बिना कपड़ों की तस्वीरें बना रहे थे, जिनमें उन्हें सेक्शुअल और इरोटिक पोजीशन में दिखाया गया था। इस तरह के AI कंटेंट को लेकर भारी आलोचना हुई थी और कई देशों ने इसे गैरकानूनी भी करार दिया। इसके बाद Grok ने X पर पोस्ट कर साफ किया कि अब इमेज जनरेशन और एडिटिंग की सुविधा केवल पेड सब्सक्राइबर्स के लिए उपलब्ध होगी।

यूजर्स को दी गई बदलाव की जानकारी

Grok के आधिकारिक रिप्लाई में कहा गया, “इमेज जनरेशन और एडिटिंग फिलहाल केवल भुगतान करने वाले सब्सक्राइबर्स के लिए सीमित है। इन फीचर्स को अनलॉक करने के लिए सब्सक्रिप्शन लेना होगा।” इसका मतलब यह है कि अब बड़ी संख्या में यूजर्स इस AI टूल से फोटोज नहीं बना पाएंगे। वहीं, भुगतान करने वाले ग्राहकों को अपनी क्रेडिट कार्ड डिटेल्स और पर्सनल जानकारी देनी होगी।

बता दें, इस मामले पर यूरोपियन यूनियन (EU) ने कड़ा रुख अपनाया है। आयोग ने महिलाओं और बच्चों की न्यूज फोटोज को गैरकानूनी बताते हुए X को आदेश दिया है कि वह Grok से जुड़े सभी इंटरनल डॉक्यूमेंट और डाटा को 2026 के आखिर तक सेफ रखे। यह आदेश संभावित जांच और कानूनी कार्रवाई को देखते हुए दिया गया है।

ब्रिटेन के प्रधानमंत्री कीयर स्टारमर ने भी इस मामले पर नाराजगी जताई है। उन्होंने कहा कि X को ‘इसपर कंट्रोल करना होगा' और उन्होंने देश के कम्युनिकेशन रेगुलेटर Ofcom से सभी ऑप्शंस पर विचार करने को कहा है। स्टारमर ने साफ किया कि ब्रिटेन इस तरह के गैरकानूनी कंटेंट को बर्दाश्त नहीं करेगा।

भारत ने भी की थी प्लेटफॉर्म की आलोचना

फ्रांस, मलेशिया और भारत जैसे देशों ने भी एलन मस्क के प्लेटफॉर्म की आलोचना की है। एलन मस्क ने खुद X पर लिखा कि जो भी व्यक्ति Grok का इस्तेमाल कर अवैध कंटेंट बनाएगा, उसके खिलाफ वही कार्रवाई होगी, जैसे अवैध कंटेंट अपलोड करने पर होती है।

वहीं, X के आधिकारिक सेफ्टी अकाउंट ने कहा है कि प्लेटफॉर्म पर अवैध कंटेंट को हटाया जाता है, ऐसे अकाउंट्स को परमानेंटली सस्पेंड किया जाता है और जरूरत पड़ने पर सरकारों और कानूनी एजेंसियों के साथ सहयोग भी किया जाता है।