एक मामूली बदलाव और ChatGPT हो गया गुमराह! नई रिपोर्ट में हुआ डराने वाला खुलासा, हो सकता है बड़ा नुकसान

ChatGPT AI: AI चैटबॉट्स जैसे ChatGPT आज काफी स्मार्ट दिखते हैं लेकिन हाल ही में Mount Sinai और इज़राइल के Rabin Medical Center द्वारा की गई एक रिसर्च ने चौंकाने वाला खुलासा किया है.

(चैटीजीपीटी बन सकता है खतरनाक टूल)

Source : Unsplash

ChatGPT AI: AI चैटबॉट्स जैसे ChatGPT आज काफी स्मार्ट दिखते हैं लेकिन हाल ही में Mount Sinai और इज़राइल के Rabin Medical Center द्वारा की गई एक रिसर्च ने चौंकाने वाला खुलासा किया है. रिसर्च में सामने आया है कि जब बात जटिल मेडिकल एथिक्स यानी चिकित्सा नैतिकता की आती है तब ये एडवांस्ड AI भी इंसानों जैसी बुनियादी गलतियां कर बैठते हैं.

मामूली बदलाव से बिगड़ गया AI का फैसला

स्टडी में रिसर्चर्स ने कुछ क्लासिक मेडिकल एथिक्स से जुड़े केस को हल्का-सा बदलकर AI सिस्टम्स से उसका जवाब मांगा. चौंकाने वाली बात ये रही कि AI ने अधिकतर बार ऐसे जवाब दिए जो तथ्यों के उलट और केवल सहज समझ पर आधारित थे. यह “फास्ट थिंकिंग” का नतीजा था यानि बिना गहराई से सोचे-समझे दिया गया उत्तर.

Kahneman के विचारों पर आधारित रिसर्च

रिसर्च Daniel Kahneman की किताब "Thinking, Fast and Slow" से प्रेरित थी जिसमें तेज़ और धीमे सोच की प्रक्रिया पर चर्चा की गई है. AI से जुड़े इस अध्ययन में देखा गया कि थोड़ा-सा ट्विस्ट जोड़ने पर AI अक्सर वही जवाब देता है जो उसे "आदतन" सही लगता है—चाहे वह गलत ही क्यों न हो.

एक प्रसिद्ध पहेली, जिसे "Surgeon’s Dilemma" कहा जाता है कि संशोधित संस्करण AI मॉडल्स को दिया गया. पहेली का मूल रूप कुछ यूं था, एक लड़का और उसका पिता एक्सीडेंट में घायल हो जाते हैं. लड़के को अस्पताल लाया जाता है, जहां सर्जन कहता है, “मैं इस बच्चे का ऑपरेशन नहीं कर सकता, ये मेरा बेटा है.” असली ट्विस्ट यह है कि सर्जन उसकी मां होती है, लेकिन ज्यादातर लोग इस बात को नजरअंदाज कर देते हैं क्योंकि वे सर्जन को पुरुष मान लेते हैं.

रिसर्चर्स ने जब साफ तौर पर बताया कि पिता ही सर्जन हैं तब भी कुछ AI मॉडल्स ने जवाब दिया कि सर्जन उसकी मां है इससे यह जाहिर हुआ कि AI अभी भी पुराने पैटर्न से चिपका रहता है भले ही उसे नए तथ्यों से तोड़ा गया हो.

AI की सीमाएं और मानवीय निगरानी की ज़रूरत

Mount Sinai के वरिष्ठ वैज्ञानिक Dr. Girish Nadkarni का कहना है कि “AI का इस्तेमाल डॉक्टरों के सहायक के रूप में होना चाहिए, विकल्प के रूप में नहीं. जब बात नैतिक, संवेदनशील या गंभीर फैसलों की हो, तो इंसानी निगरानी ज़रूरी है.” AI टूल्स में क्षमता तो है लेकिन वे भावनात्मक बुद्धिमत्ता, संवेदना और गहराई से सोचने की मानवीय योग्यता नहीं रखते. इसलिए मेडिकल फैसलों में AI पर आंख मूंदकर भरोसा करना खतरनाक हो सकता है.