नई दिल्ली: मेटा अपने AI चैटबॉट Meta AI में एक नया सुरक्षा फीचर लाने जा रहा है. अगर कोई किशोर (टीनएजर) चैटबॉट से आत्महत्या या खुद को नुकसान पहुंचाने की बात करेगा, तो उसके माता-पिता को अलर्ट भेजा जाएगा. कैलिफोर्निया की इस कंपनी ने गुरुवार, 16 जुलाई को इसकी घोषणा की.
मेटा ने अपने बयान में कहा, “अब इंस्टाग्राम के पैरेंटल सुपरविजन टूल इस्तेमाल करने वाले माता-पिता को बताया जाएगा कि अगर उनका बच्चा Meta AI से आत्महत्या या खुद को नुकसान पहुंचाने की बात करता है. साथ ही, माता-पिता को विशेषज्ञों की सलाह और ज़रूरी जानकारी भी दी जाएगी, ताकि वे अपने बच्चों से इस विषय पर सही तरीके से बात कर सकें.”
मेटा ऐसे तरीके भी तैयार कर रहा है, जिससे अगर किसी व्यक्ति के आत्महत्या के तुरंत खतरे में होने की आशंका लगे, तो पहले मदद पहुंचाने वाली एजेंसियों (फर्स्ट रिस्पॉन्डर्स) को भी अलर्ट भेजा जा सके.
बयान में मेटा ने कहा कि वह 75 से ज्यादा डॉक्टरों और मानसिक स्वास्थ्य विशेषज्ञों की सलाह ले रहा है, ताकि यह और बेहतर बनाया जा सके कि Meta AI, किशोरों की आत्महत्या या खुद को नुकसान पहुंचाने से जुड़ी बातों का कैसे जवाब दे.
मार्क जुकरबर्ग की कंपनी ने कहा कि अगर कोई किशोर यह इशारा करता है कि वह आत्महत्या के बारे में सोच रहा है, तो Meta AI पहले से ही उसे संकट सहायता हेल्पलाइन (क्राइसिस हेल्पलाइन) की जानकारी देता है और उसे अपने माता-पिता या किसी भरोसेमंद बड़े व्यक्ति, जैसे काउंसलर, से बात करने की सलाह देता है.
Alerting Parents if Teens Show Signs of Distress in Conversations With Meta AI
मेटा ने कहा, “हम माता-पिता को विशेषज्ञों की सलाह भी देंगे, ताकि वे अपने बच्चों से इस तरह की बातचीत सही तरीके से कर सकें.”
यह फीचर कैसे काम करेगा
मेटा ने माता-पिता और विशेषज्ञों के साथ मिलकर यह समझा कि AI चैटबॉट के साथ किस तरह की बातचीत पर अलर्ट भेजा जाना चाहिए. इसमें वे बातचीत भी शामिल हैं, जहां कोई किशोर खुद को नुकसान पहुंचाने की बात साफ तौर पर कहता है, चाहे वह बात बहुत हल्के या इशारे में ही क्यों न कही गई हो.
मेटा ने कहा, “इसके बाद हमने एक खास AI सिस्टम तैयार किया, जो ऐसी बातचीत की पहचान करेगा.”
कंपनी ने माना कि ऐसे अलर्ट मिलने पर माता-पिता परेशान हो सकते हैं. इसलिए Meta AI जिन चैट को चिन्हित करेगा, उन्हें अलर्ट भेजने से पहले इंसान द्वारा भी जांचा जाएगा.
मेटा ने कहा, “अगर किसी किशोर की बात पूरी तरह साफ नहीं होगी, तब भी हम सावधानी बरतते हुए माता-पिता को अलर्ट भेजेंगे. इसका मतलब है कि कभी-कभी ऐसे मामलों में भी अलर्ट जा सकता है, जहां वास्तव में चिंता की बात न हो. लेकिन हमें लगता है कि शुरुआत के लिए यही सही तरीका है और हम लगातार इसकी निगरानी करते रहेंगे, ताकि यह सही ढंग से काम करता रहे.”
ConnectSafely के सीईओ और सह-संस्थापक लैरी मैगिड ने कहा, “मेरा मानना है कि किशोरों को अपनी निजता का अधिकार है, लेकिन अगर उनके खुद को नुकसान पहुंचाने का खतरा हो, तो माता-पिता को इसकी जानकारी मिलनी चाहिए. इसलिए मैंने इस तरीके का समर्थन किया और मेटा के इस फैसले का स्वागत करता हूं कि पूरी जांच के बाद अगर Meta AI की बातचीत में आत्महत्या या खुद को नुकसान पहुंचाने के संकेत मिलते हैं, तो माता-पिता को अलर्ट भेजा जाए.”
मैगिड ने कहा कि मेटा ने किशोरों की निजता और माता-पिता को जरूरी जानकारी देने के बीच सही संतुलन बनाया है. फिलहाल यह अलर्ट फीचर अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा में इंस्टाग्राम के पैरेंटल सुपरविजन इस्तेमाल करने वाले माता-पिता के लिए शुरू हो गया है. साल के आखिर तक इसे पूरी दुनिया में शुरू कर दिया जाएगा.
दक्षिण कोरिया की हैंकुक यूनिवर्सिटी ऑफ फॉरेन स्टडीज में काउंसलिंग साइकोलॉजी की प्रोफेसर और अमेरिका की लाइसेंस प्राप्त मनोवैज्ञानिक जी-योन ली ने कहा, “मैं मेटा की क्लीनिकल जांच प्रक्रिया को देखकर प्रभावित हुई. इसमें सिर्फ आत्महत्या या खुद को नुकसान पहुंचाने वाली बातों पर तुरंत जवाब देने की ही नहीं, बल्कि पूरी बातचीत, उसके बाद क्या जवाब दिया जाना चाहिए और अलग-अलग तरह के खतरे को भी ध्यान में रखा गया. विशेषज्ञों की सलाह के आधार पर इस तरह AI को बेहतर बनाना किशोरों के लिए AI को ज्यादा सुरक्षित बनाने में बहुत जरूरी है.”
(इस रिपोर्ट को अंग्रेज़ी में पढ़ने के लिए यहां क्लिक करें)