Meta AI का बड़ा अपडेट: अब बच्चों की खतरनाक AI चैट नहीं रहेगी छिपी, बच्चा करेगा सुसाइड जैसी बात, तो तुरंत पहुंचेगा पैरेंट

AI का इस्तेमाल तेजी से बढ़ रहा है और अब बच्चे और टीन भी पढ़ाई, जानकारी और बातचीत के लिए AI चैटबॉट का इस्तेमाल कर रहे हैं। लेकिन इसके साथ सुरक्षा और मेंटल हेल्थ बिगड़ रही हैं। इन्हीं चिंताओं को देखते हुए Meta ने अपने AI चैटबॉट के लिए एक नया Parent Alert फीचर पेश किया है। इस फीचर का मकसद उन किशोरों की सुरक्षा बढ़ाना है जो Meta AI से बातचीत के दौरान सुसाइड (Suicide) या खुद को नुकसान पहुंचाने (Self-Harm) जैसी गंभीर बातें करते हैं। अगर Meta AI को बातचीत में ऐसे संकेत मिलते हैं कि किसी किशोर को तुरंत मदद की जरूरत हो सकती है, तो यह सिर्फ हेल्पलाइन की जानकारी ही नहीं देगा, बल्कि पैरेंटल सुपरविजन का इस्तेमाल कर रहे माता-पिता को भी अलर्ट भेज सकता है।

कैसे करेगा काम

जब कोई Teen Meta AI से चैट करेगा और बातचीत में ऐसे संकेत मिलेंगे कि वह मेंटल हेल्थ संकट में हो सकता है, तो सबसे पहले Meta AI उसे हेल्पलाइन और भरोसेमंद वयस्क (जैसे माता-पिता या काउंसलर) से बात करने की सलाह देगा। अगर सिस्टम को जोखिम अधिक लगे, तो चैट का रीव्यू के बाद सुपरवाइजिंग पैरेंट को अलर्ट भेजा जा सकता है।

Meta का कहना है कि हर बातचीत पर माता-पिता को नोटिफिकेशन नहीं भेजा जाएगा। कंपनी का कहना है कि अलर्ट भेजने से पहले चैट का Manual Review भी किया जाएगा। अगर अलर्ट भेजा जाता है, तो माता-पिता को सिर्फ इनफार्मेशन ही नहीं मिलेगी बल्कि एक्सपर्ट्स द्वारा तैयार किए गए टिप्स भी दिए जाएंगे। इनमें यह बताया जाएगा कि बच्चे से सेंसिटिव बात पर कैसे बात करें। फिलहाल यह फीचर अमेरिका, ब्रिटेन, कनाडा और ऑस्ट्रेलिया में Instagram के Parental Supervision इस्तेमाल करने वाले परिवारों के लिए शुरू किया गया है। Meta ने कहा है कि साल के अंत तक इसे अन्य देशों में भी उपलब्ध कराया जाएगा।

Teen Accounts में पहले से कौन-कौन से सुरक्षा फीचर

Meta पहले ही Teen Accounts के लिए कई सुरक्षा उपाय लागू कर चुका है। इनमें संवेदनशील कंटेंट पर रोक, अजनबियों के मैसेज पर कंट्रोल, समय संबंधी सीमाएं और पैरेंटल सुपरविजन जैसे फीचर शामिल हैं। नया Parent Alert फीचर इन्हीं सुरक्षा उपायों का विस्तार है। Meta ने यह भी बताया है कि कंपनी ऐसे सिस्टम पर काम कर रही है, जो बहुत गंभीर खतरे की स्थिति में स्थानीय इमरजेंसी सर्विस को सूचना देने में मदद कर सके। हालांकि यह फीचर अभी विकास के चरण में है।