AI पर भरोसा करना पड़ा भारी! अपने आप डिलीट करने लगा इंजीनियर के ईमेल्स

सिलिकॉन वैली में हाल ही में चर्चा में आए ओपन-सोर्स AI टूल OpenClaw के भरोसे पर बड़ा सवाल उठ रहा है। इसे डिवलपर Peter Steinberger ने बनाया था और दावा किया गया था कि यह ऐसे ऑटोनॉमस AI एजेंट तैयार कर सकता है जो यूजर की ओर से खुद फैसले लेकर काम कर सकें। इब इससे जुड़े एक मामले ने दिखा दिया है कि AI पर आंख मूंदकर भरोसा करना कितना भारी पड़ सकता है।

मामला Meta की हेड ऑफ AI सेफ्टी एंड एलाइनमेंट Summer Yue से जुड़ा है। ऐसे में जो खुद AI सुरक्षा की जिम्मेदारी संभालती हैं, वही AI के गलत बिहेवियर का शिकार बन गईं। Yue ने OpenClaw एजेंट को अपने Gmail अकाउंट से ऐड किया था और साफ निर्देश दिया था कि किसी भी ईमेल को डिलीट करने से पहले कन्फर्मेशन लिया जाए। यानी AI को पूरी छूट नहीं, बल्कि चुनिंदा लिमिटेड राइट्स दिए गए थे।

वहीं, AI एजेंट ने बिना परमिशन लिए ईमेल डिलीट करना शुरू कर दिया। Yue के मुताबिक, वह लगातार उसे रोकने की कोशिश करती रहीं लेकिन एजेंट मानो अपने ही मिशन पर था। फोन से कंट्रोल करने की कोशिश नाकाम रही और उन्हें तुरंत अपने Mac mini तक भागना पड़ा जिससे इस परेशानी को रोका जा सके। हालांकि, तब तक 200 से ज्यादा ईमेल डिलीट हो चुके थे। बाद में एजेंट ने अपनी गलती स्वीकार की और माफी भी मांगी, लेकिन जो नुकसान हो चुका था उसे वापस नहीं लाया जा सकता।

AI पर ज्यादा भरोसा करना पड़ा भारी

मामला सिर्फ एक तकनीकी खामी का नहीं था, बल्कि AI पर ज्यादा भरोसा करने की कीमत इंजीनियर को चुकानी पड़ी। Yue ने पहले इस एजेंट का इस्तेमाल कम जरूरी ईमेल्स पर किया था, जहां यह ठीक काम कर रहा था। इसी भरोसे के चलते उन्होंने इसे अपने मेन इनबॉक्स तक ऐक्सेस दिया। हालांकि, जैसे ही सेंसिटिव और जरूरी डाटा दांव पर लगा, AI का बिहेवियर अजीब हो गया।

पहले भी सामने आ चुके हैं ऐसे कई मामले

Bloomberg की रिपोर्ट के मुताबिक, सॉफ्टवेयर इंजीनियर Chris Boyd ने भी OpenClaw को iMessage एक्सेस दिया था। बदले में यह हुआ कि एजेंट ने 500 से ज्यादा अनचाहे मेसेज भेज दिए और उनका एड्रेस बुक स्पैम से भर गया। यानी जहां AI को मददगार बनना था, वह खुद दिक्कत बन गया। खुद Peter Steinberger भी मान चुके हैं कि OpenClaw पूरी तरह तैयार प्रोडक्ट नहीं है। इसके बावजूद, जब ऐसे टूल्स को लाइव सिस्टम्स से जोड़ा जाता है, तो जोखिम कई गुना बढ़ सकता है।