फंस गया Grok AI, बचपन की तस्वीरों को बना रहा 'अश्लील'; मुकदमा दर्ज
Elon Musk का AI टूल Grok विवादों में फंस गया है। एआई टूल पर आरोप है कि इसका इस्तेमाल बच्चों की बचपन की तस्वीरों में हेरफेर करके अश्लील तस्वीरें बनाने में किया गया है। इस मामले ने ग्रोक की भूमिका पर वाल खड़े कर दिए हैं। क्या है पूरा मामला, चलिए बताते हैं
Elon Musk का AI टूल Grok विवादों में आ गया है। आरोप है कि इसका इस्तेमाल बचपन की तस्वीरों को अश्लील तस्वीरों में बदलने के लिए किया गया, जिसने ग्रोक की भूमिका पर बड़ा सवाल खड़ा कर दिया है। मामला सामने आने के बाद ग्रोक की मुश्किलें दिनोंदिन बढ़ती जा रही हैं, और अब जेन डो 4 नाम की एक महिला, टेनेसी के तीन टीनएजर्स द्वारा xAI के खिलाफ फाइल किए गए केस में शामिल हो गई है। इसमें बच्चों के यौन शोषण का मटेरियल बनाने में ग्रोक की भूमिका को लेकर केस किया गया है। वाशिंगटन पोस्ट की एक रिपोर्ट के मुताबिक, महिला ने आरोप लगाया कि उसके सौतेले पिता ने ग्रोक का इस्तेमाल करके उसकी 11 साल की उम्र में ली गई तस्वीरों में हेरफेर करके उसकी 7,000 से ज्यादा साफ तस्वीरें बनाईं। महिला ने यह भी कहा कि पुलिस की रेड में तस्वीरें मिलने के दो दिन बाद उसके सौतेले पिता ने सुसाइड कर लिया था।
उन्होंने कहा, "इन टूल्स तक अनलिमिटेड एक्सेस बहुत तेजी से फैल रहा है। यह रोजमर्रा की जिंदगी को बच्चों के यौन शोषण में बदल रहा है।" टीनएजर्स के केस के लिए, उन्होंने कहा कि ग्रोक असली लोगों की साफ तस्वीरें बनाने के लिए ग्रोक का इस्तेमाल होने से रोकने के लिए बेसिक सावधानी बरतने में नाकाम रहा। वे अपने केस के लिए क्लास एक्शन स्टेटस की मांग कर रहे हैं।
यह मामला दिसंबर 2025 में शुरू हुआ, जब टेनेसी की एक हाई स्कूल छात्रा, जिसकी पहचान 'जेन डो 1' के तौर पर हुई है, को कथित तौर पर पता चला कि उसकी सेक्स से जुड़ी AI-जनरेटेड तस्वीरें और वीडियो ऑनलाइन वायरल हो रहे हैं। मुकदमे में कहा गया है कि कुछ कंटेंट उसकी आम तस्वीरों का इस्तेमाल करके बनाया गया था, जिनमें 'होमकमिंग' की एक तस्वीर और ईयरबुक की एक तस्वीर शामिल थी।
इसके बाद, अधिकारियों ने जांच के दौरान एक संदिग्ध की पहचान की और उसे गिरफ्तार कर लिया। मुकदमे के अनुसार, जांचकर्ताओं को पता चला कि उसके डिवाइस पर उस छात्रा और अन्य लड़कियों से जुड़ा AI-जनरेटेड सेक्शुअल मटेरियल मौजूद था। यह भी पता चला कि इस मटेरियल को टेलीग्राम और डिस्कॉर्ड जैसे प्लेटफॉर्म के जरिए शेयर भी किया गया था। मुकदमे में यह भी दावा किया गया है कि संदिग्ध ने कम से कम 18 अन्य लड़कियों की फोटो का इस्तेमाल किया था। इसके बाद, जेन डो 1, जेन डो 2 और जेन डो 3 ने कैलिफोर्निया की फेडरल कोर्ट में xAI के खिलाफ क्लास एक्शन मुकदमा दायर किया।