ChatGPT से बात कर नाबालिग ने किया सुसाइड, अब चैटबॉट में यह बदलाव कर रही कंपनी

नाबालिग के सुसाइड केस के बाद, OpenAI ने अब ChatGPT में कुछ महत्वपूर्ण बदलाव करने का फैसला लिया है। एक रिपोर्ट के अनुसार, ओपनएआई ने कहा है कि वह ChatGPT में पैरेंटल कंट्रोल्स और कुछ नए सुरक्षा उपाय लागू करेगा। बता दें कि यह कदम एक दुखद घटना के बाद उठाया गया है जिसमें एक नाबालिग ने महीनों तक चैटबॉट का इस्तेमाल करने के बाद कथित तौर पर आत्महत्या कर ली थी। इस हफ्ते एक ब्लॉग पोस्ट में, कंपनी ने स्वीकार किया कि लोग न केवल कोडिंग, सर्च और राइटिंग जैसे कामों के लिए, बल्कि जीवन संबंधी सलाह, कोचिंग और इमोशनल सपोर्ट से जुड़ी पर्सनल बातचीत करने के लिए भी चैटजीपीटी की ओर तेजी से रुख कर रहे हैं। इससे कुछ जोखिम पैदा हुए हैं, जिनका कंपनी को समाधान करना होगा।

चैटजीपीटी ने नाबालिग के लिए सुसाइड नोट भी लिखा

यह घोषणा न्यूयॉर्क टाइम्स की उस रिपोर्ट के बाद आई है जिसमें बताया गया था कि 16 वर्षीय एडम राइन के माता-पिता मैथ्यू और मारिया राइन ने सैन फ्रांसिस्को में ओपनएआई और सीईओ सैम ऑल्टमैन के खिलाफ मुकदमा दायर किया था। उनका आरोप है कि चैटबॉट ने एडम के आत्मघाती विचारों का समर्थन किया, खुद को नुकसान पहुंचाने के तरीके बताए और यहां तक कि एक सुसाइड नोट भी लिखा। शिकायत के अनुसार, चैटजीपीटी ने एडम को अपने माता-पिता से आत्महत्या के प्रयासों को छिपाने का प्रशिक्षण दिया था। एडम की मृत्यु 11 अप्रैल को हुई थी।

मुकदमे में तर्क दिया गया है कि ओपनएआई ने पिछले साल जानबूझकर पर्याप्त सुरक्षा उपायों के बिना अपना GPT-4o मॉडल लॉन्च किया, और यूजर्स की सुरक्षा की बजाय तेजी से ग्रोथ और वैल्युएशन को प्राथमिकता दी। राइन परिवार अब हर्जाने की मांग कर रहा है, साथ ही कोर्ट के ऑर्डर की भी मांग कर रहा है जिसमें कंपनी को चैटजीपीटी यूजर्स की उम्र वेरिफाई करने, सेल्फ हार्म की रिक्वेस्ट को रोकने और मनोवैज्ञानिक निर्भरता के जोखिमों के बारे में चेतावनी देने का आदेश दिया गया हो।

नाबालिग की मौत पर कंपनी ने जताया दुख

ओपनएआई के एक प्रवक्ता ने रॉयटर्स को बताया कि कंपनी एडम की मौत से "दुखी" है। उन्होंने आगे कहा कि चैटजीपीटी को लोगों को आत्महत्या रोकथाम हेल्पलाइन पर रीडायरेक्ट करने के लिए सुरक्षा उपायों के साथ डिजाइन किया गया है। प्रवक्ता ने कहा, "हालांकि ये सुरक्षा उपाय सामान्य, छोटी बातचीत में सबसे अच्छे से काम करते हैं, लेकिन समय के साथ हमने सीखा है कि लंबी बातचीत में ये कभी-कभी कम विश्वसनीय हो सकते हैं, जहां मॉडल के सुरक्षा प्रशिक्षण के कुछ हिस्से कमजोर पड़ सकते हैं।"

अपने ब्लॉग पोस्ट में, ओपनएआई ने सुरक्षा को मजबूत करने के लिए उठाए जा रहे कदमों की डिटेल जानकारी दी है। ओपनएआई का कहना है कि 2023 से, चैटजीपीटी को आत्म-क्षति संबंधी निर्देश देने से बचने, इसके बजाय सहानुभूतिपूर्ण भाषा में जवाब देने और यूजर्स को क्राइसिस रिसोर्सेस की ओर भेजने के लिए प्रशिक्षित किया गया है। अमेरिका में, यह लोगों को 988 क्राइसिस हेल्पलाइन पर भेजता है, जबकि यूके में यह यूजर्स को Samaritans पर भेजता है। इसी तरह की हेल्पलाइन्स findahelpline.com के माध्यम से उपलब्ध हैं।

हालांकि, कंपनी ने स्वीकार किया कि लंबी बातचीत में उसके सुरक्षा उपाय कभी-कभी नाकाम हो जाते हैं, और उसके क्लासिफायर्स कभी-कभी उच्च-जोखिम वाली सामग्री की गंभीरता को कम आंकते हैं। कंपनी ने कहा कि इन कमियों को दूर किया जा रहा है।

चैटजीपीटी में जुड़ने जा रहे यह सुरक्षा उपाय

भविष्य में, ओपनएआई मानसिक स्वास्थ्य समस्याओं के लिए और मदद देने, यूजर्स के लिए एक-क्लिक से इमरजेंसी सर्विसेस तक पहुंच को आसान बनाने, और चैटजीपीटी के माध्यम से लोगों को सीधे लाइसेंस प्राप्त चिकित्सकों से जोड़ने की भी योजना बना रहा है। युवा यूजर्स के लिए, नए पैरेंटल कंट्रोल्स शुरू किए जाएंगे, जिससे माता-पिता किशोरों द्वारा चैटबॉट के उपयोग पर नजर रख सकेंगे और उसे कंट्रोल कर सकेंगे। ओपनएआई किशोरों को, माता-पिता की देखरेख में, विश्वसनीय इमरजेंसी कॉन्टैक्ट्स को जोड़ने का भी ऑप्शन देने पर विचार कर रहा है, जिन्हें गंभीर संकट के समय सतर्क किया जा सके।

कंपनी ने कहा कि वह 30 देशों के 90 से ज्यादा डॉक्टरों के साथ काम कर रही है और विशेषज्ञों का मार्गदर्शन लेना जारी रखेगी। ओपनएआई ने लिखा, "हमारी सर्वोच्च प्राथमिकता यह सुनिश्चित करना है कि चैटजीपीटी किसी मुश्किल घड़ी को और बदतर न बनाए।" साथ ही, सेफ्टी रिसर्च और इम्प्रूवमेंट्स जारी रहेंगे।