सोशल मीडिया कंपनी Meta ने बच्चों और किशोरों की ऑनलाइन सुरक्षा को मजबूत करने के लिए नए सेफ्टी टूल्स लॉन्च किए हैं। कंपनी ने चुनिंदा ग्लोबल मार्केट्स में ऐसे फीचर्स पेश किए हैं, जिनकी मदद से पेरेंट्स को उस समय अलर्ट किया जाएगा, जब उनके बच्चे सोशल मीडिया या Meta AI के साथ मानसिक तनाव, आत्महत्या या खुद को नुकसान पहुंचाने जैसी संवेदनशील बातचीत करते हैं। Meta का कहना है कि इन नए पैरेंटल सेफ्टी टूल्स का उद्देश्य बच्चों को ऑनलाइन खतरों से बचाना और समय रहते परिवार को जरूरी कदम उठाने में मदद करना है। कंपनी ने बताया कि वह Instagram सुपरविजन टूल्स का इस्तेमाल करने वाले माता-पिता को नोटिफिकेशन भेजेगी, अगर उनके टीनएजर बच्चे ने Meta AI के साथ सेल्फ-हार्म या सुसाइड से जुड़ी कोई बातचीत की है।
कंपनी के अनुसार, यह फीचर फिलहाल अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा जैसे देशों में उपलब्ध कराया गया है। Meta की योजना है कि आने वाले समय में इसे अन्य देशों में भी विस्तार दिया जाए। Meta ने बताया कि उसने इस फीचर को तैयार करने के लिए मानसिक स्वास्थ्य विशेषज्ञों, पेरेंट्स और युवाओं के साथ मिलकर काम किया है। कंपनी का कहना है कि AI सिस्टम उन बातचीतों को पहचानने में सक्षम होगा, जिनमें कोई बच्चा सीधे या अप्रत्यक्ष रूप से खुद को नुकसान पहुंचाने का संकेत देता है।
Meta के मुताबिक, केवल संदिग्ध बातचीत मिलने पर ही तुरंत अलर्ट नहीं भेजा जाएगा। कंपनी पहले Meta AI द्वारा चिन्हित चैट्स की मैनुअल समीक्षा करेगी। यदि बातचीत से बच्चे के जोखिम में होने की संभावना दिखाई देती है, तो पेरेंट्स को इसकी जानकारी दी जाएगी और उन्हें विशेषज्ञों से जुड़ी सहायता सामग्री भी उपलब्ध कराई जाएगी। कंपनी ने कहा कि कई बार बच्चे अपनी परेशानियों को सीधे शब्दों में नहीं बताते, बल्कि बातचीत के दौरान संकेत देते हैं। ऐसे छिपे हुए संकेतों को पहचानने के लिए विशेष AI सिस्टम तैयार किया गया है। इसका उद्देश्य बच्चों की निजता का सम्मान रखते हुए उनकी सुरक्षा सुनिश्चित करना है।
