ChatGPT ने उकसाया और बेटे ने कर दी मां की हत्या; OpenAI पर दर्ज हो गया केस

अमेरिका में कनेक्टिकट की 83 वर्षीय महिला के परिवार ने चैटजीपीटी निर्माता ओपनएआई और उसके व्यापारिक साझेदार माइक्रोसॉफ्ट पर मुकदमा कर आरोप लगाया है कि कृत्रिम बुद्धिमत्ता वाले चैटबॉट ने उनके बेटे के ‘भ्रम’ को और बढ़ा दिया तथा अपनी मां की हत्या करने के लिए उकसाया। पुलिस ने बताया कि प्रौद्योगिकी के क्षेत्र में काम करने वाले पूर्व कर्मचारी 56 वर्षीय स्टीन-एरिक सोएलबर्ग ने अगस्त की शुरुआत में कनेक्टिकट में स्थित घर में अपनी मां सुजैन एडम्स की पीट-पीटकर और गला घोंटकर हत्या कर दी। मां-बेटे इसी घर में रहते थे।

एडम्स के परिवार द्वारा बृहस्पतिवार को सैन फ्रांसिस्को में स्थित अदालत में दायर मुकदमे में आरोप लगाया गया है कि ओपनएआई ने एक दोषपूर्ण उत्पाद डिजाइन व वितरित किया जिसने एक उपयोगकर्ता के अपनी मां के बारे में मनगढ़ंत भ्रमों को सही साबित कर दिया।

मुकदमे में कहा गया है कि इन सभी बातचीत के दौरान, चैटजीपीटी ने एक ही खतरनाक संदेश को दोहराया कि स्टीन-एरिक को अपने जीवन में किसी पर भी भरोसा नहीं करना चाहिए, सिवाय चैटजीपीटी के। मुकदमे में कहा गया है कि इसने (चैटजीपीटी) स्टीन-एरिक की भावनात्मक निर्भरता को बढ़ावा दिया, साथ ही उसके आसपास के लोगों को व्यवस्थित रूप से दुश्मन के रूप में चित्रित किया। चैटजीपीटी ने उसे बताया कि उसकी मां उस पर नजर रख रही है। चैटजीपीटी ने उसे बताया कि उससे जुड़े लोग, पुलिस अधिकारी और यहां तक कि दोस्त भी उसके खिलाफ काम करने वाले एजेंट हैं।

ओपनएआई ने इन आरोपों पर कोई टिप्पणी नहीं की। हालांकि एक बयान जारी किया गया है बयान में कहा गया, 'यह एक बेहद दुखद स्थिति है, और हम मामले की पूरी जानकारी प्राप्त करने के लिए दस्तावेजों की समीक्षा करेंगे। आगे कहा गया कि हम मानसिक या भावनात्मक परेशानी के संकेतों को पहचानने और उन पर प्रतिक्रिया देने तथा लोगों की वास्तविक सहायता के लिए चैटजीपीटी के प्रशिक्षण में लगातार सुधार कर रहे हैं। हम मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर संवेदनशील मौकों पर चैटजीपीटी की प्रतिक्रियाओं को भी मजबूत कर रहे हैं।