आईआईआईटी दिल्ली का रॉबिनहुड रोकेगा सोशल मीडिया पर हेट स्पीच, जानें कैसे करता है काम; इतना है एक्युरेसी प्रतिशत

सोशल मीडिया पर हेट स्पीच और फेक न्यूज रोकने के लिए इंद्रप्रस्थ इंस्टीट्यूट ऑफ इंफार्मेशन टेक्नोलॉजी (आईआईआईटी) दिल्ली ने रॉबिनहुड टूल बनाया है। इसके लिए संस्थान ने बड़ी संख्या में सोशल मीडिया साइट का डाटा का विश्लेषण किया है। इस प्रोजेक्ट से जुड़े आईआईआई दिल्ली के लैबोरेटरी फॉर कम्प्युटेशनल सोशल सिस्टम्स के निदेशक और हेड ऑफ सेंटर फॉर एआई एसोसिएट प्रोफेसर तन्मय चक्रवर्ती ने बताया कि इस टूल का नाम रॉबिनहुड है। 

इसकी एक्युरेसी 80-85 फीसद है। हम यह नहीं कह सकते हैं कि यह पहला टूल है और लोगों के पास भी इस तरह के टूल होंगे लेकिन हमारी एक्युरेसी अधिक है। इसका रिसर्च पेपर भी पब्लिश हुआ है। हमारा पेपर रिव्यू करके इसे प्रमाणित किया गया है। इस टूल को तैयार करने के लिए हमने 5 हजार हैशटैग लिए थे। इसके अलावा 50 लाख ट्वीट का विश्लेषण किया गया था। हमने ट्विटर, कोरा, यूट्यूब सहित कई सोशल मीडिया से डाटा लिए हैं। फेसबुक से नहीं लिए हैं। इसका एल्गोरिद्म तैयार कर एक डेटाबेस तैयार किया है।

इसके लिए हमारी टीम ने यूजर के व्यवहार, मैसेज का कंटेट और ग्राफ स्ट्रक्चर की मदद से एल्गोरिद्म के माध्यम से टूल तैयार किया है। यूट्यूब से 50 हजार वीडियो और 1 लाख के करीब कमेंट है, कोरा से 50-60 हजार कमेंट लिया है। इसके लिए दो टाइप का टूल है। एक टूल साफ्टवेयर है और दूसरा वेब बेस्ड टूल है। 

चुनाव के समय किया गहन अध्ययन

प्रो.तन्मय की टीम ने हाल ही में संपन्न हुए विधानसभा चुनाओं में प्रसारित हुए कंटेंट का भी अध्ययन किया है। इसमें उत्तर प्रदेश चुनाव सहित अन्य राज्यों के चुनाव में प्रयोग हुए डेटा का अध्ययन किया गया। 

कैसे करता है काम

प्रो. चक्रवर्ती का कहना है कि वेब पेज पर अगर कोई कंटेट डाला जाएगा तो वहां से पता चल जाएगा कि यह कंटेट हेट स्पीच है और फैलाया जा रहा है।  

क्या कहते हैं विशेषज्ञ

केपीएस मल्होत्रा, डीसीपी, इंटेलीजेंस एंड स्ट्रेटजिक युनिट दिल्ली पुलिस कहते हैं, 'यह टूल उपयोगी साबित हो सकती है। यह टूल चाहे कंटेंट का विश्लेषण करे या फिर वॉयस सैंपलिंग  के आधार पर विश्लेषण करे, इससे जांच में मदद मिलेगी।'

अप्रेमेय राधाकृष्ण, सह संस्थापक कू एप

हमारे पास भी कम्युनिटी गाइडलाइन है। हेट स्पीच रोकने के लिए हमारे पास आंतरिक मशीन लर्निंग एल्गोरिद्म है जो शब्द और वाक्य की विभिन्न भारतीय भाषाओं में पहचान करता है। बड़े डाटाबेस से हम इसकी पहचान करते हैं और इसे हटा देते हैं। हमें खुशी है कि आईआईआईटी दिल्ली अगर इस तरह का सॉफ्टवेयर बना रहा है तो हम लोग भी उससे जुड़ना चाहेंगे।