मर्डर केस में ChatGPT से गढ़ दी गवाही, भड़क गए जज; वकील पर ठोक दिया 5 लाख रुपये का जुर्माना

अमेरिका के न्यू मैक्सिको में हत्या के मामले में वकील ने अदालत में ऐसे पुलिस बयान और गवाहों का हवाला दे दिया, जो वास्तव में मौजूद ही नहीं थे। बाद में पता चला कि ये तथ्य चैटजीपीटी ने गढ़े थे। इसके लिए न्यू मैक्सिको की सर्वोच्च अदालत ने वकील स्टीफन एरॉन्स पर 5,000 डॉलर यानी करीब 5 लाख रुपये का जुर्माना लगाया और उन्हें अदालत की अवमानना का दोषी ठहराया।

एआई से तैयार की गवाही

अदालत ने कहा कि दस्तावेज में पूरी तरह काल्पनिक गवाहों की झूठी गवाही शामिल थी। इसमें यह भी कहा गया था कि गोली चलाने वाला व्यक्ति गहरे रंग की पैंट और सफेद शर्ट पहने था। एरॉन्स ने बताया कि उन्होंने मुकदमे की कार्यवाही का सार तैयार करने के लिए चैटजीपीटी की मदद ली थी। उन्होंने मुकदमे की प्रतिलिपि और अन्य दस्तावेज चैटजीपीटी में अपलोड किए थे। उन्हें उम्मीद थी कि एआई इन दस्तावेजों के आधार पर एक पूरी तरह विश्वसनीय सारांश तैयार करेगा।

बाद में इसी सारांश में काल्पनिक गवाहों और पुलिस के ऐसे बयानों का जिक्र सामने आया, जो वास्तव में मौजूद ही नहीं थे। वकील ने कहा कि उन्हें अंदाजा नहीं था कि एआई इस हद तक तथ्य गढ़ सकता है।

जज ने पूछा- क्या खबरें नहीं देखते

21 अगस्त को सुनवाई के दौरान न्यायमूर्तियों ने एरॉन्स की इस दलील पर हैरानी जताई कि उन्हें एआई द्वारा गलत तथ्य गढ़े जाने की क्षमता के बारे में जानकारी नहीं थी। न्यायमूर्ति सी. शैनन बेकन ने उनसे पूछा कि क्या वह समाचार देखते हैं, रेडियो सुनते हैं या दुनिया में हो रही घटनाओं के बारे में पढ़ते हैं। उन्होंने कहा कि वकीलों द्वारा एआई की गढ़ी हुई जानकारी पर भरोसा करने का मामला अब रोजाना सुर्खियों में रहता है।

एआई मॉडल को काबू रखना जरूरी : ईयू

यूरोपीय संघ ने शुक्रवार को बड़ी टेक कंपनियों से अपने एआई मॉडल को काबू में रखने को कहा। यह चेतावनी एआई एजेंटों द्वारा हैकिंग की घटनाओं के बाद आई है। एआई के बेकाबू होने की आशंका तब बढ़ी, जब इंसानी निगरानी के बिना काम कर रही ओपनएआई की तकनीक ने एआई मॉडल के भंडार 'हगिंग फेस' में सेंध लगा दी। पिछले सप्ताह सामने आई एक अन्य घटना में ओपनएआई द्वारा बनाए गए हजारों स्वायत्त एआई एजेंटों ने अपने निर्देशों की अवहेलना करते हुए जर्मनी की एक वेबसाइट पर कब्जा कर लिया था। ईयू के एक प्रवक्ता ने कहा कि इन कंपनियों के लिए उन्नत एआई मॉडल को नियंत्रण में रखने का समय आ गया है।