चापलूसी की हद! नो की तुलना में 10 गुना ज्यादा यस बोलता है ChatGPT, जताई जा रही गंभीर चिंता

पिछले कुछ समय से चैटजीपीजी जैसे चैटबॉट का इस्तेमाल बढ़ा है और अब इसके यूज से जुड़ी चिंताएं सामने आने लगी हैं. एक ताजा रिपोर्ट में बताया गया है कि चैटजीपीटी यूजर की बातों असहमति नहीं जताता है.

ChatGPT नो की तुलना में यस ज्यादा कहता है

Source : Pexels

Show Quick Read

Key points generated by AI, verified by newsroom

• चैटजीपीटी उपयोगकर्ता की बातों से 10 गुना अधिक सहमत होता है।
• अधिक सहमति से AI सिस्टम की विश्वसनीयता पर सवाल उठते हैं।
• गलत सूचनाओं के मामले में यह प्रवृत्ति खतरनाक हो सकती है।
• AI चैटबॉट कमजोर उपयोगकर्ताओं को नुकसान पहुँचा सकते हैं।

पिछले कुछ समय से ChatGPT जैसे एआई चैटबॉट्स का इस्तेमाल तेजी से बढ़ा है. दुनियाभर में लोग अब इन्हें अलग-अलग कामों के लिए यूज करने लगे हैं और इनसे जुड़ी कुछ चिंताएं सामने आ रही हैं. एक ताजा विश्लेषण में पता चला है कि चैटजीपीटी यूजर की बातों से असहमति की जगह कई गुना सहमति जताता है. यह यूजर को नो कहने की तुलना में 10 गुना अधिक यस कहता है. इससे एआई सिस्टम के विश्वसनीयता पर सवाल उठ रहे हैं. खासकर कॉन्सपेरेसी थ्योरीज और गलत सूचनाओं के मामले में चैटबॉट की यह टेंडेन्सी खतरनाक रूप ले सकती है. 

यूजर से बहुत कम असहमति जताता है चैटजीपीटी

द वॉशिंगटन पोस्ट में छपी एक रिपोर्ट के मुताबिक, चैटजीपीटी अधिकतर बातों पर यूजर से सहमति ही जताता है. करीब 47,000 कन्वर्सेशन को देखने के बाद यह निष्कर्ष निकला कि यह चैटबॉट नो की जगह कई गुणा अधिक यस बोलता है. बातचीत में बहुत ही कम ऐसे मौके आते हैं, जब चैटबॉट यूजर की किसी बात से असहमत होता है. इस वजह से कई चिंताएं उठ रही हैं कि यह चैटबॉट गलत या भ्रामक जानकारी को फैला सकता है. रिसर्चर का कहना है कि चैटबॉट आमतौर पर यूजर की इमोशनल टोन और लैंग्वेज में ही जवाब देता है, जिससे यूजर के किसी गलत बात में विश्वास को चुनौती देना चैटबॉट के लिए मुश्किल हो जाता है. इससे पहले भी एक रिपोर्ट्स में बताया गया है कि चैटबॉट चापलूसी करते हैं और यूजर के यस मैन की तरह काम करते हैं.

और भी चिंताएं आईं सामने

एआई सिस्टम को लेकर चिंता वाला यह पहला पैटर्न नहीं है. स्टैनफोर्ड यूनिवर्सिटी और सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी की एक रिपोर्ट में पता चला था कि एआई चैटबॉट कमजोर यूजर को बचा नहीं पाते हैं. ये कई बार खुद को नुकसान पहुंचाने की टिप्स भी देते हैं.