Meta का नया सेफ्टी प्लान, AI चैट में बच्चों को खतरा दिखते ही पैरेंट्स को करेगा अलर्ट
Meta AI Safety Feature: मेटा अपने एआई चैटबॉट में एक नया फीचर जोड़ने जा रही है. अब अगर कोई टीन यूजर सुसाइड से जुड़ी बात करेगा तो मेटा उसके पैरेंट्स को अलर्ट कर देगी.
- मेटा एआई किशोरों की आत्महत्या संबंधी बातचीत पर पैरेंट्स को सूचित करेगा।
- शुरुआत में यह सुविधा अमेरिका समेत चार देशों में उपलब्ध होगी।
- समर्पित एआई सिस्टम बातचीत पहचानेगा, मानवीय समीक्षा से अलर्ट जारी होगा।
- मेटा एआई में अब इंस्टाग्राम का
Meta AI Safety Feature: मेटा अपने एआई चैटबॉट के लिए नया सेफ्टी फीचर ला रही है. अब अगर कोई टीन यूजर मेटा एआई के साथ सुसाइड या खुद को नुकसान पहुंचाने के बारे में बात करता है तो यह फीचर उसके पैरेंट्स को अलर्ट कर देगा. शुरुआत में इस फीचर को अमेरिका, यूके, ऑस्ट्रेलिया और कनाडा में इंस्टाग्राम के पैरेंटल सुपरविजन टूल्स यूज कर रहे पैरेंट्स के लिए रोल आउट किया गया है. साल के अंत तक इसे भारत समेत ग्लोबल मार्केट्स के लिए रोल आउट कर दिया जाएगा. आइए जानते हैं कि यह फीचर कैसे काम करेगा और इससे क्या बदल जाएगा.
कैसे काम करेगा नया फीचर?
मेटा के मुताबिक, उसने एक डेडिकेटेड एआई सिस्टम बनाया है. जैसे ही कोई टीन यूजर मेटा एआई के साथ सुसाइड या खुद को नुकसान पहुंचाने के बारे में बात करेगा, यह सिस्टम उसको डिटेक्ट कर लेगा. उसके बाद उस कन्वर्सेशन को मैनुअली रिव्यू किया जाएगा और फिर पैरेंट्स के पास इसका अलर्ट भेजा जाएगा. मेटा के मुताबिक, एआई सिस्टम अपने स्तर पर कन्वर्सेशन देखकर नोटिफिकेशन भेजने का फैसला नहीं लेगा. कंपनी ने कहा कि कन्वर्सेशन ने अगर किसी टीन यूजर का इंटेट साफ नजर नहीं आ रहा है तो भी पैरेंट्स को नोटिफाई किया जाएगा. ऐसे में कई बार उस समय भी अलर्ट मिल सकते हैं, जब असल में कोई खतरा नहीं होगा.
सेफ्टी को लेकर सतर्कता बरत रही है मेटा
बता दें कि मेटा सेफ्टी फीचर्स पर काफी जोर दे रही है और पिछले कुछ महीनों में कई नए फीचर भी जोड़े गए हैं. इंस्टाग्राम की बात करें तो अगर कोई टीनएजर यूजर बार-बार सुसाइड या सेल्फ हार्म से जुड़ा कंटेट सर्च करता है तो पैरेंट्स को नोटिफिकेशन चली जाती है. इसके अलावा पैरेंट्स उन टॉपिक्स को भी देख सकते हैं, जिनके बारे में उनके बच्चों ने मेटा एआई से बातचीत की है. इस फीचर में पैरेंट्स को कन्वर्सेशन एक्सेस करने की परमिशन नहीं है.
मेटा एआई भी जोड़ा जाएगा इंस्टाग्राम वाला फीचर
मेटा अपने एआई चैटबॉट में भी एक्स्ट्रा प्रोटेक्शन एड करने पर काम कर रही है. इंस्टाग्राम के "Limited Content" मोड को अब मेटा एआई में भी जोड़ा जा रहा है. यह फीचर टीनएजर के लिए कुछ कंटेट को लिमिटेड कर देता है. इसके अलावा नए सुरक्षा उपायों पर भी विचार किया जा रहा है, जिसमें इमरजेंसी रिस्पॉन्डर को शामिल किया जा सकता है. यानी अगर सिस्टम को लगता है कि किसी यूजर के सुसाइड करने का खतरा है तो यह इमरजेंसी सर्विसेस को इसकी सूचना दे देगा.
ये भी पढ़ें-
दिमाग में चिप लगाने की रेस में सबसे आगे निकला चीन, ट्रायल करता रह गया अमेरिका
टॉप हेडलाइंस
