अब उम्र छुपाना पड़ेगा भारी! ChatGPT खुद पहचान लेगा आप नाबालिग हैं या नहीं, आ गया चौंकाने वाला नया फीचर
OpenAI ने ChatGPT यूजर्स के लिए एक ऐसा नया सिस्टम लाना शुरू किया है जो खुद यह अनुमान लगाएगा कि कोई यूजर नाबालिग है या नहीं. इस फीचर का मकसद 18 साल से कम उम्र के लोगों के लिए ChatGPT को ज्यादा सुरक्षित बनाना है. कंपनी का कहना है कि अगर किसी अकाउंट को कम उम्र के यूजर से जुड़ा माना जाता है तो उस पर अपने आप कुछ कंटेंट सीमाएं लागू हो जाएंगी. OpenAI इसे बच्चों और किशोरों की ऑनलाइन सुरक्षा की दिशा में अहम कदम मान रहा है.
यह नया age prediction सिस्टम किसी एक जानकारी पर भरोसा नहीं करता. इसके बजाय यह कई तरह के संकेतों को साथ जोड़कर काम करता है. जैसे अकाउंट कितने समय से इस्तेमाल में है, यूजर दिन के किस वक्त ज्यादा एक्टिव रहता है, बातचीत और इस्तेमाल का पैटर्न कैसा है और यूजर ने प्रोफाइल में खुद जो उम्र बताई है.
इन सभी बातों को मिलाकर सिस्टम यह अंदाजा लगाता है कि अकाउंट किसी 18 साल से कम उम्र के व्यक्ति का तो नहीं है. कंपनी के मुताबिक इसका उद्देश्य किसी की असली उम्र जानना नहीं, बल्कि जोखिम वाले मामलों में अतिरिक्त सुरक्षा देना है.
अगर ChatGPT को लगता है कि कोई यूजर नाबालिग हो सकता है तो प्लेटफॉर्म पर दिखने वाले जवाबों और टॉपिक्स में अपने आप बदलाव हो जाएगा. ऐसे अकाउंट्स के लिए आत्म-नुकसान से जुड़ी बातें, हिंसक या ग्राफिक कंटेंट, खतरनाक ऑनलाइन ट्रेंड और संवेदनशील रोल-प्ले जैसे विषयों पर सीमाएं लगा दी जाएंगी.
इसके साथ ही शरीर को लेकर गलत धारणाएं या अस्वस्थ डाइट को बढ़ावा देने वाला कंटेंट भी कम दिखाई देगा. OpenAI का कहना है कि यह सब इसलिए किया जा रहा है ताकि बच्चों और टीनएजर्स को नुकसानदेह जानकारी से बचाया जा सके.
कंपनी ने यह भी स्वीकार किया है कि कभी-कभी सिस्टम से गलत अनुमान लग सकता है. ऐसी स्थिति में अगर कोई वयस्क यूजर गलती से नाबालिग मान लिया जाता है, तो वह अपनी पहचान सत्यापित करके पूरा एक्सेस दोबारा हासिल कर सकता है. इसके लिए Persona नाम की पहचान वेरिफिकेशन सर्विस का इस्तेमाल किया जाएगा, जिसे पहले से कई बड़ी टेक कंपनियां अपना रही हैं. इससे यूजर्स को भरोसा मिलेगा कि बिना वजह उनकी सुविधाएं सीमित नहीं होंगी.
पिछले कुछ समय से OpenAI पर बच्चों की सुरक्षा को लेकर दबाव बढ़ता जा रहा है. FTC जैसी संस्थाएं यह जांच कर रही हैं कि AI चैटबॉट्स का बच्चों और किशोरों पर क्या असर पड़ रहा है. इसी पृष्ठभूमि में कंपनी ने पैरेंटल कंट्रोल, एक्सपर्ट्स की सलाह और अब यह age prediction सिस्टम जैसे कदम उठाए हैं. OpenAI का कहना है कि यह मॉडल आने वाले समय में और बेहतर बनाया जाएगा और यूरोपियन यूनियन में इसे स्थानीय नियमों के अनुसार जल्द लागू किया जाएगा.