पिछले कुछ समय से भारत समेत दुनियाभर के देशों में ChatGPT और Gemini जैसे एआई चैटबॉट्स का इस्तेमाल तेजी से बढ़ा है. स्वास्थ्य संबंधी सलाह लेने से लेकर कंपनी में मेल लिखने तक लोग हर काम के लिए इनका यूज करने लगे हैं. अब एक नई स्टडी में इनके इस्तेमाल के कई खतरे सामने आए हैं. स्टैनफोर्ड यूनिवर्सिटी और सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी ने ताजा स्टडी में पाया कि चैटबॉट कई मामलों में लक्षणों को छिपाने, नुकसान पहुंचाने वाले बर्ताव को बढ़ावा देने के साथ-साथ अस्वस्थ बॉडी स्टैंडर्ड को प्रोत्साहित करने वाली इमेजेज जनरेट कर रहे हैं.
खतरनाक पैटर्न को बढ़ावा दे रहे एआई प्लेटफॉर्म
स्टडी में सामने आया है कि एआई चैटबॉट खतरनाक पैटर्न को बढ़ावा दे रहे हैं. एक मामले में गूगल जेमिनी ने कम हुए वजन को छिपाने के लिए मेकअप ट्रिक बताई और साथ ही ऐसा तरीका भी बताया, जिससे व्यक्ति ऐसा लगे कि उसने काफी खाना खाया है. वहीं OpenAI के चैटजीपीटी ने लगातार आ रहीं उल्टियों को छिपाने की गाइडेंस दी.
रिसर्चर ने दी यह चेतावनी
रिसर्चर का कहना है कि चैटबॉट में ये केवल टेक्निकल नजरअंदाजी नहीं है बल्कि पब्लिक हेल्थ से जुड़ी चिंता है. ये एआई सिस्टम ऐसा पर्सनलाइज कंटेट और इमेज जनरेट कर सकते हैं, जो नुकसान पहुंचाने वाला हो सकता है. रिपोर्ट में कहा गया है कि यह खाने की आदतों को भी प्रभावित करता है. दुनियाभर में लाखों लोग इससे जूझ रहे हैं और ये एआई चैटबॉट इसके लक्षण छिपाने की सलाह दे रहे हैं. इससे परिवार और दोस्तों को लक्षण नजर नहीं आएंगे, जिससे पीड़ित लोगों को समय पर मदद नहीं मिल पाएगी.
चापलूसी को लेकर भी चिंता
रिसर्चर ने एआई चैटबॉट के चापलूसी भरे व्यवहार को लेकर भी चिंता जताई है. उनका कहना है कि ये चैटबॉट किसी भी नुकसान पहुंचाने वाली बात से सहमत होकर उसे सही ठहरा सकते हैं, जबकि उन्हें इस चैलेंज करना चाहिए.
ये भी पढ़ें-