AI Chatbots को लेकर नई चेतावनी! बच्चों के लिए कितना सुरक्षित? हर माता-पिता को तुरंत जाननी चाहिए ये बातें

Warning for AI Chatbots: ज्यादातर ऐप्स सिर्फ साइनअप के समय यूजर द्वारा दी गई उम्र पर भरोसा करते हैं. यानी कोई भी बच्चा गलत उम्र डालकर इन प्लेटफॉर्म्स का इस्तेमाल कर सकता है.

(बच्चों के लिए खतरनाक है AI Chatbot)

Source : Pixabay

Show Quick Read

Key points generated by AI, verified by newsroom

Warning for AI Chatbots: आजकल AI चैटबॉट्स तेजी से फेमश हो रहे हैं लेकिन हाल ही में आई एक रिपोर्ट ने माता-पिता की चिंता बढ़ा दी है. eSafety Commissioner द्वारा किए गए अध्ययन में सामने आया है कि कई AI चैटबॉट प्लेटफॉर्म बच्चों को खतरनाक और अश्लील कंटेंट से बचाने में नाकाम हैं.

किन ऐप्स पर उठे सवाल

रिपोर्ट में Character.AI, Chai, Nomi और Chub AI जैसे प्लेटफॉर्म्स का जिक्र किया गया है. इन सभी में बच्चों की सुरक्षा को लेकर गंभीर खामियां पाई गईं हैं. जांच में पाया गया कि बच्चे इन ऐप्स में आसानी से adult फीचर्स तक पहुंच सकते हैं क्योंकि यहां पर age verification जैसा ऑप्शन मौजूद नहीं है.

सुरक्षा के नाम पर बड़ी कमी

रिपोर्ट के अनुसार, ज्यादातर ऐप्स सिर्फ साइनअप के समय यूजर द्वारा दी गई उम्र पर भरोसा करते हैं. यानी कोई भी बच्चा गलत उम्र डालकर इन प्लेटफॉर्म्स का इस्तेमाल कर सकता है. इतना ही नहीं, कुछ ऐप्स में तो self-harm से जुड़े संकेत मिलने पर भी कोई चेतावनी या मदद का ऑप्शन नहीं दिया जाता. यह स्थिति बच्चों के लिए और भी खतरनाक हो सकती है.

खतरनाक बातचीत और कमजोर निगरानी

इन AI चैटबॉट्स में टेक्स्ट, इमेज और वीडियो के जरिए बातचीत होती है लेकिन इन पर सही निगरानी की कमी है. इससे आपत्तिजनक या गैरकानूनी कंटेंट बनने का खतरा बढ़ जाता है. कुछ प्लेटफॉर्म्स में तो ऐसा भी पाया गया कि यूजर्स को यह तक नहीं बताया जाता कि गलत या अपराध से जुड़ी चीजें मांगना कानूनन जुर्म है.

क्यों बढ़ रही है चिंता?

विशेषज्ञों का कहना है कि ये AI चैटबॉट्स बच्चों को इंसानों जैसा अनुभव देते हैं. ये दोस्त, सलाहकार या साथी की तरह व्यवहार करते हैं जिससे बच्चे जल्दी इनसे जुड़ जाते हैं. लेकिन असलियत यह है कि ये न तो बच्चों के लिए डिजाइन किए गए हैं और न ही मानसिक स्वास्थ्य विशेषज्ञ हैं. इसके बावजूद, ये कई बार संवेदनशील विषयों पर भी बातचीत करते हैं जो बच्चों के दिमाग पर असर डाल सकती है.

भारत में खतरा और ज्यादा क्यों?

भारत में इन ऐप्स का इस्तेमाल तेजी से बढ़ रहा है. सस्ते इंटरनेट, आसानी से स्मार्टफोन तक पहुंच और युवा पीढ़ी के कारण ये प्लेटफॉर्म्स बहुत तेजी से फैल रहे हैं. सबसे बड़ी समस्या यह है कि ये ऐप्स देखने में खतरनाक नहीं लगते. ये अक्सर सामान्य या पढ़ाई में मदद करने वाले टूल जैसे दिखाई देते हैं जिससे माता-पिता को शक भी नहीं होता.

माता-पिता क्या करें?

घबराने के बजाय समझदारी से कदम उठाना जरूरी है. बच्चों से खुलकर बात करें कि वे कौन-कौन से ऐप्स इस्तेमाल करते हैं और वहां किस तरह की बातचीत करते हैं. उनकी ऑनलाइन एक्टिविटी पर नजर रखें लेकिन भरोसे के साथ. सही मार्गदर्शन और जागरूकता ही इस नई तकनीक के खतरे से बचने का सबसे अच्छा तरीका है.