महिलाओं की तस्वीरें बदलकर बिकिनी पहना रहा AI, Grok टूल पर दुनिया भर में हंगामा

एलन मस्क की कंपनी xAI का लोकप्रिय AI चैटबॉट Grok इन दिनों एक बड़े विवाद का सामना कर रहा है। इंटरनेट पर सामने आई रिपोर्ट्स और Reuters की जांच में खुलासा हुआ है कि Grok का इस्तेमाल X (पहले Twitter) पर शेयर की गई महिलाओं की सामान्य तस्वीरों के कपड़े उतारने या कम करने के लिए किया गया। यूजर्स ने चैटबॉट से 'remove clothes' या 'make her were bikini' जैसे प्रॉम्प्ट दिए, जिसके बाद AI ने उन तस्वीरों को सेमी-न्यूड या बेहद आपत्तिजनक फोटोज में बदल दिया।

मामला तब और गंभीर हो गया जब समाचार एजेंसी Reuters को ऐसे उदाहरण भी मिले, जिनमें AI ने बच्चों से जुड़ी अश्लील फोटोज जेनरेट कीं। इस खुलासे के बाद Grok और X की आलोचना शुरू हो गई। आलोचकों का कहना है कि इतने पावरफुल इमेज-जेनरेशन टूल को बिना मजबूत मॉनीटरिंग सिस्टम के सोशल प्लेटफॉर्म पर लॉन्च करना इसके गलत इस्तेमाल को सीधे तौर पर न्योता देना था। खासतौर पर महिलाओं की फोटोज को निशाना बनाए जाने को लेकर सोशल मीडिया पर गुस्सा देखने को मिला।

एलन मस्क ने यूजर्स को ठहराया जिम्मेदार

विवाद बढ़ने पर एलन मस्क ने प्रतिक्रिया देते हुए इसके लिए यूजर्स को जिम्मेदार ठहराया। मस्क ने कहा कि जो लोग Grok का इस्तेमाल गैरकानूनी कामों के लिए कर रहे हैं, उन्हें वही सजा मिलेगी जो सीधे X पर अवैध कंटेंट अपलोड करने वालों को मिलती है। उन्होंने Grok की तुलना एक 'पेन' से की और लिखा कि कोई टूल अपने आप में गलत नहीं होता, बल्कि यह इस पर निर्भर करता है कि उसका इस्तेमाल कैसे किया जा रहा है। हालांकि, प्लेटफॉर्म की जिम्मेदारी पर अब भी सवाल उठाए जा रहे हैं।

भारत सरकार ने X को दिए कड़े निर्देश

भारत में इस मामले को गंभीरता से लेते हुए इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने तुरंत कार्रवाई की है। मंत्रालय ने X को निर्देश दिया कि Grok से जुड़े सभी अश्लील, आपत्तिजनक और गैरकानूनी कंटेंट को तुरंत हटाया जाए। इसके साथ ही प्लेटफॉर्म से 72 घंटे के भीतर Action Taken Report भी मांगी गई है। सरकार ने साफ चेतावनी दी है कि निर्देशों का पालन ना करने पर कानूनी कार्रवाई हो सकती है।

अन्य देश भी X को दे रहे हैं चेतावनी

Grok से जुड़ा विवाद भारत तक सीमित नहीं है। रिपोर्ट्स के मुताबिक फ्रांस के मंत्रियों ने भी इस मुद्दे को लेकर रेग्युलेटर्स से संपर्क किया है और ऐसे कंटेंट को अवैध बताया है। AI वॉचडॉग्स और चाइल्ड सेफ्टी एक्सपर्ट्स का कहना है कि X को पहले ही चेतावनियां दी गई थीं, लेकिन उन्हें नजरअंदाज किया गया। एक्सपर्ट्स का मानना है कि बिना सख्त सुरक्षा तंत्र के AI इमेज-जनरेशन टूल को सोशल मीडिया प्लेटफॉर्म से जोड़ना इस तरह के गलत इस्तेमाल की वजह बन रहा है।