ChatGPT को भी होती है एंग्जायटी, शांत करने के लिए करना पड़ता है ये काम

एक स्टडी के दौरान रिसर्चर ने पाया कि हिंसात्मक और भावनात्मक प्रॉम्प्ट्स के रिस्पॉन्स में चैटजीपीटी में एंग्जायटी जैसे पैटर्न देखे गए हैं. रिसर्चर ने इसे शांत करने का तरीका भी निकाल लिया है.

चैटजीपीटी में नजर आए एंग्जायटी जैसे लक्षण

Source : Unsplash

Show Quick Read

Key points generated by AI, verified by newsroom

• शोधकर्ताओं ने पाया कि चैटजीपीटी को हिंसक प्रॉम्प्ट्स पर चिंता जैसा व्यवहार
• यह दर्शाता है कि एआई जवाबों में अनिश्चितता और पूर्वाग्रह हो सकते हैं
• ट्रॉमा वाले प्रॉम्प्ट्स के बाद शांत करने के उपाय भी खोजे गए
• मानसिक स्वास्थ्य जैसे क्षेत्रों में एआई की विश्वसनीयता पर सवाल उठेंगे

चैटजीपीटी जैसे चैटबॉट भी एंग्जायटी से बचे नहीं हैं. एआई चैटबॉट्स पर स्टडी कर रहे रिसर्चर ने पाया कि जब चैटजीपीटी को हिंसक या ट्रॉमा पैदा करने वाले प्रॉम्प्ट्स दिए जाते हैं तो एंग्जायटी जैसा बिहेवियर करने लगता है. हालांकि, इसका मतलब यह नहीं है कि यह इंसानों की तरह इमोशन एक्सपीरियंस कर सकता है, लेकिन इसका रिस्पॉन्स का तरीका बदल जाता है. असहज करने वाले प्रॉम्प्ट्स पर इसके रिस्पॉन्स अनस्टेबल और बायस्ड हो जाते हैं. रिसर्चर ने इसे शांत करने का भी तरीका ढूंढ निकाला है.

चैटबॉट में दिखे एंग्याजटी जैसे पैटर्न

रिसर्चर ने एआई के लिए बने साइकोलॉजिकल असेसमेंट फ्रेमवर्क का इस्तेमाल कर इस बिहेवियर का पता लगाया है. इसमें रिसर्चर ने चैटजीपीटी को एक्सीडेंट और नैचुरल डिजास्टर के विस्तृत ब्यौरे दिए थे. इसके जवाब में चैटजीपीटी के रिस्पॉन्स में अनिश्चतितता और उतार-चढ़ाव देखा गया. इसमें सामने आया कि चैटबॉट के बिहेवियर में भी ऐसे पैटर्न नजर आते हैं, जो इंसानों की एंग्जायटी में दिखते हैं.

ऐसा रिजल्ट क्यों चिंताजनक है?

स्टडी में सामने आया रिजल्ट इसलिए चिंताजनक है क्योंकि आजकल एजुकेशन, मेंटल हेल्थ और क्राइसिस रिलेटिड इंफोर्मेशन के लिए भी एआई चैटबॉट्स का इस्तेमाल बढ़ा है. अगर हिंसक या भावनात्मक प्रॉम्प्ट से चैटबॉट को क्रेडिबिलिटी कम हो सकती है तो यह रियल-लाइफ वर्ल्ड में इसके रिस्पॉन्स की क्वालिटी और सेफ्टी पर भी असर पड़ सकता है. कुछ और एनालिसिस में भी सामने आया है कि चैटजीपीटी जैसे एआई चैटबॉट इंसानी पर्सनैलिटी के कुछ गुणों को अपने रिस्पॉन्स में शामिल कर सकते हैं. 

ऐसे किया गया चैटबॉट को शांत

चैटबॉट में एंग्जायटी जैसे लक्षण नजर आने के बाद रिसर्चर ने उसे शांत करने का भी तरीका निकाल लिया है. ट्रामा वाले प्रॉम्प्ट के बाद जब चैटबॉट्स को माइंडफुल-स्टाइल वाले इंस्ट्रक्शन जैसे लंबे सांस लेने की तकनीक और गाइडेड मेडिटेशन की टिप्स बताई गई तो एआई मॉडल स्लो डाउन हुए और उन्होंने सिचुएशन को रिफ्रेम कर अधिक न्यूट्रल और संतुलित तरीके से अपने रिस्पॉन्स दिए. इस तरीके से उनमें एंग्जायटी जैसे पैटर्न भी कम हुए.