चैटबॉट से जानना है एकदम सच? एआई के गॉडफादर की यह ट्रिक करें यूज, कभी झूठ नहीं बोलेंगे चैटजीपीटी और जेमिनी
एआई चैटबॉट्स पर अकसर आरोप लगता है कि ये सटीक फीडबैक की जगह यूजर को खुश करने वाला रिस्पॉन्स देते हैं. एआई के गॉडफादर ने इससे बचने की एक ट्रिक बताई है.
चैटजीपीटी और गूगल जेमिनी जैसे चैटबॉट्स पर चाटुकार होने के आरोप लगते रहे हैं. ये चैटबॉट अपने यूजर को नाराज नहीं करते और ऐसे रिस्पॉन्स करते हैं, जिससे यूजर खुश हो जाए, भले ही वह जानकारी उसके लिए सटीक और उचित न हो. इसके कारण कई लोग अपने काम का फीडबैक एआई चैटबॉट से लेने से परहेज करते हैं. अब एआई के गॉडफादर माने जाने वाले रिसर्च साइंटिस्ट योशुआ बेंगियो ने एक ट्रिक बताई है, जिससे चैटबॉट झूठ नहीं बोल पाएंगे.
सच जानने के लिए अपनाएं यह ट्रिक
बेंगियो ने कहा कि चैटबॉट बायस्ड होते हैं और यूजर को खुश करने वाले जवाब देते हैं. एक पॉडकास्ट के दौरान उन्होंने कहा कि प्रोफेशनल फीडबैक के लिए ये चैटबॉट बेकार हैं क्योंकि ये सही सच्चाई बताने की बजाय यूजर को खुश करने पर ज्यादा ध्यान देते हैं. एक ट्रिक बताते हुए उन्होंने कहा कि सच्चाई जानने के लिए उन्हें चैटबॉट से झूठ बोलना पड़ता है. बेंगियो ने कहा कि चैटबॉट की ट्रेनिंग को बाईपास करने के लिए चैटबॉट पर अपने रिसर्च आइडिया किसी दोस्त के बताकर अपलोड करते थे. ऐसा करने पर चैटबॉट ने उन्हें सटीक और सही फीडबैक दिया. उन्होंने कहा कि अगर चैटबॉट को यह पता लग जाता कि यह मेरा आइडिया है तो यह सही की जगह मुझे खुश करने वाला फीडबैक देता.
चैटबॉट को नहीं होना चाहिए चाटुकार- बेंगियो
बेंगियो ने कहा कि चैटबॉट को चाटुकार नहीं होना चाहिए. हम एआई को ऐसा नहीं देख सकते. इसके खतरे बताते हुए उन्होंने कहा कि अगर किसी को लगातार पॉजिटिव फीडबैक मिलता जा रहा है तो टेक्नोलॉजी से उसका भावनात्मक संबंध हो जाता है, जो इंसान और मशीन के रिश्ते को जटिल बना देता है. बेंगियो के अलावा भी कई और एक्सपर्ट ऐसा ही खतरे का अंदेशा जता चुके हैं. कुछ समय पहले हुई एक रिसर्च में सामने आया था कि चैटबॉट के 42 प्रतिशत रिस्पॉन्स गलत और यूजर को खुश करने वाले थे. इसे देखते हुए एआई कंपनियों ने इस गलती को सुधारने की बात कही है.
ये भी पढ़ें-
लगभग 40,000 रुपये में खरीदें नया आईफोन 16, यह प्लेटफॉर्म दे रहा धांसू डील, हजारों की बचत का मौका
टॉप हेडलाइंस
Source: IOCL
