एंथ्रोपिक ने जैविक हथियारों से जुड़े एआई दुरुपयोग को रोका

वॉशिंगटन/सैन फ्रांसिस्को, एजेंसी। एआई कंपनी एंथ्रोपिक ने कहा कि उसने अपने क्लॉड मॉडल का इस्तेमाल कर जैविक हथियार विकसित करने की कोशिशें रोक दीं। इसके साथ ही उसने यूक्रेन के खिलाफ रूस से जुड़े संदिग्ध साइबर जासूसी अभियान चलाने की कोशिशों को नाकाम कर दिया। कंपनी ने गुरुवार को जारी अपनी नवीनतम खतरा खुफिया रिपोर्ट में यह जानकारी दी।

रिपोर्ट में सुरक्षा उपाय

एंथ्रोपिक ने बताया कि उसने अपने नवीनतम एआई मॉडलों में जैविक अनुसंधान से जुड़े काम पर अतिरिक्त सुरक्षा उपाय लगाए हैं, ताकि ऐसी जानकारी के दुरुपयोग को रोका जा सके, जिसका इस्तेमाल हथियार बनाने में हो सकता है। कंपनी ने कहा कि उसके द्वारा सामने लाए गए मामले सामान्य दुरुपयोग के उदाहरण नहीं हैं, बल्कि अब तक सामने आई सबसे उल्लेखनीय और नई तरह की खतरनाक गतिविधियों में शामिल हैं। रिपोर्ट में कंपनी द्वारा पकड़े गए कुछ हानिकारक कोड और एआई प्रॉम्प्ट के अंश भी शामिल किए गए हैं। एंथ्रोपिक ने सरकारों और अन्य एआई कंपनियों से भी ऐसे दुरुपयोग की पहचान कर उन्हें रोकने का आग्रह किया है। कंपनी ने कहा कि जैसे-जैसे एआई मॉडल अधिक सक्षम होंगे, उनके जोखिम भी बढ़ेंगे, जब तक कि एआई डेवलपर और समाज इन तकनीकों को सुरक्षित बनाने के लिए कदम नहीं उठाते।

नियंत्रण से बाहर होने की आशंका

एआई स्टार्टअप ने यह विस्तृत रिपोर्ट ऐसे समय जारी की है, जब वह इस साल के अंत में प्रारंभिक सार्वजनिक निर्गम (आईपीओ) की योजना बना रही है। रिपोर्ट एंथ्रोपिक के एक शोधकर्ता के इस्तीफे की घोषणा के दो दिन बाद आई है। शोधकर्ता ने एआई के विकास में कंपनी और उसके प्रतिस्पर्धियों के जिम्मेदार तरीके से काम नहीं करने को लेकर चिंता जताई थी। उन्होंने इस तकनीक के मानव नियंत्रण से बाहर होने की आशंकाओं को भी दोहराया।