AI चैटबॉट से भूलकर भी मत पूछना ये बातें, 50 पर्सेंट एडवाइज होती हैं गलत

AI Chatbots Misleading Medical Advice: एआई चैटबॉट से मेडिकल सलाह लेने वाले लोगों को सावधान हो जाने की जरूरत है. एक स्टडी में पता चला है कि इन चैटबॉट्स की 50 प्रतिशत मेडिकल सलाहें मिसलीडिंग होती हैं.

AI Chatbots Misleading Medical Advice: एआई चैटबॉट्स से मेडिकल सलाह लेने से बचें

Source : FreePik

Show Quick Read

Key points generated by AI, verified by newsroom

• मेडिकल सलाह के लिए AI चैटबॉट आधे जवाब गलत देते हैं।
• स्टडी में पांच AI चैटबॉट के जवाबों का विश्लेषण किया गया।
• ओपन-एंडेड सवालों के जवाब काफी खराब और अविश्वसनीय थे।
• कंपनियां चैटबॉट में हेल्थ टूल्स जोड़ रही हैं।

AI Chatbots Misleading Medical Advice: पिछले कुछ समय से एआई चैटबॉट का इस्तेमाल तेजी से बढ़ा है. लोग छुट्टी के बहाने से लेकर बीमारियों के इलाज तक इन चैटबॉट्स पर ढूंढ रहे हैं. जनरल यूज के लिए ये चैटबॉट्स ठीक हैं, लेकिन अगर आप इनसे मेडिकल सलाह ले रहे हैं तो सावधान हो जाना चाहिए. एक ताजा स्टडी में पता चला है कि मेडिकल सलाह के लिए ये चैटबॉट ठीक नहीं हैं और इनके आधे जवाब गलत या मिसलीडिंग होते हैं. आधी बार ये यूजर्स को गलत सलाह दे सकते हैं. स्टडी ने इस उभरती हुए टेक्नोलॉजी के खतरे को लेकर लोगों को आगाह किया है. 

AI Chatbots की मेडिकल सलाह पर न करें भरोसा

इस स्टडी में अमेरिका, कनाडा और यूके के रिसर्चर ने पांच पॉपुलर एआई चैटबॉट- चैटजीपीटी, जेमिनी, मेटा एआई, ग्रोक और डीपसीक से 5 अलग-अलग कैटेगरी में 10-10 सवाल पूछे. इनके कुल रिस्पॉन्स में से 50 प्रतिशत प्रॉब्लमैटिक थे, जबकि 20 प्रतिशत हाइली प्रॉब्लमैटिक पाए गए. यानी ये रिस्पॉन्स ऐसे थे, जिन पर लोग भरोसा नहीं कर सकते. स्टडी में सामने आया कि इन चैटबॉट्स ने क्लोज-एंडेड प्रॉम्प्ट और वैक्सीन और कैंसर से जुड़े सवालों के जवाब अपेक्षाकृत ठीक दिए, जबकि ओपन-एंडेड सवालों और स्टेम सेल और न्यूट्रिशन्स से जुड़े सवालों के जवाब काफी खराब थे. 

रेफरेंस लिस्ट की भी दिखी कमी

रिसर्चर ने पाया कि चैटबॉट्स ने पूरे कॉन्फिडेंस और निश्चितता के साथ सवालों के जवाब दिए, लेकिन किसी भी चैटबॉट ने अपने रिस्पॉन्स में पूरी और सटीक रेफरेंस लिस्ट नहीं दी. वहीं केवल मेटा एआई ने दो सवालों के जवाब देने से इनकार किया, जबकि बाकी सारे चैटबॉट्स ने सारे सवालों के जवाब दिए. स्टडी में सामने आए रिजल्ट इसलिए भी चिंताजनक हैं क्योंकि लोग लगातार मेडिकल सलाह के लिए भी इन चैटबॉट्स का यूज कर रहे हैं, जबकि इन्हें ऐसी सलाह देने के लिए डिजाइन नहीं किया गया है और न ही इनके पास किसी बीमारी का पता लगाने की एबिलिटी है.

एआई चैटबॉट्स में हेल्थ टूल्स शामिल कर रही हैं कंपनियां

एआई चैटबॉट्स की बढ़ती पॉपुलैरिटी ने इन्हें लोगों के लिए मेडिकल एडवाइस का भी ठिकाना बना दिया है. OpenAI ने बताया था कि हर हफ्ते 20 करोड़ से अधिक लोग ChatGPT से हेल्थ और वेलनेस से जुड़े सवाल पूछते हैं. इसे देखते हुए कंपनी ने जनवरी में ChatGPT में हेल्थ टूल शामिल किया था. इसके बाद एंथ्रोपिक और माइक्रोसॉफ्ट जैसी कंपनियां भी अपने चैटबॉट्स में ऐसे टूल्स शामिल कर चुकी हैं.