AI जितना स्मार्ट उतना ही खतरनाक, इस्तेमाल करना अब खतरे से खाली नहीं? जानिए क्यों
अगर AI किसी रेसिपी या फिल्म की सिफारिश में गलती कर दे, तो शायद कोई फर्क न पड़े. लेकिन अगर वही गलती कोर्ट केस, मेडिकल रिपोर्ट या बिजनेस डेटा में हो जाए तो नुकसान बड़ा हो सकता है.
सोचिए, आप किसी टेक कंपनी के कस्टमर हैं और अचानक आपको एक मेल मिले कि अब आप उस सर्विस को सिर्फ एक ही कंप्यूटर पर चला सकते हैं, जबकि पहले ऐसा कोई नियम नहीं था. गुस्से में आप सब्सक्रिप्शन कैंसिल कर देते हैं और फिर पता चलता है कि ये सब एक AI बोट की गलती थी!
जी हां, जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (AI) तेज हो रही है, उसकी गलतियां भी उतनी ही बढ़ती जा रही हैं. इस गड़बड़ी को तकनीकी भाषा में हैलूसिनेशन (Hallucination) कहा जाता है. यानी जब AI बिना किसी ठोस वजह के खुद से कुछ गढ़ लेता है.
AI ने बनाया फर्जी नियम, लोग हुए नाराज
हाल ही में Cursor नाम की एक प्रोग्रामिंग टूल कंपनी में ऐसी ही एक घटना हुई. उनके AI सपोर्ट बोट ने कुछ ग्राहकों को बता दिया कि अब Cursor सिर्फ एक कंप्यूटर पर ही इस्तेमाल किया जा सकता है. इस जानकारी से लोग इतने नाराज हो गए कि कुछ ने अपने अकाउंट तक कैंसिल कर दिए.
बाद में कंपनी के CEO माइकल ट्रुएल ने Reddit पर सफाई दी. उन्होंने कहा, 'हमारी कोई ऐसी पॉलिसी नहीं है. यह फ्रंटलाइन AI बोट की गलत प्रतिक्रिया थी.'
AI में सुधार हो रहा है, लेकिन सच्चाई से दूरी भी
आज ChatGPT, Google Gemini और अन्य AI टूल्स कई कामों में मदद कर रहे हैं. जैसे कोड लिखना, ईमेल बनाना, रिपोर्ट तैयार करना और सवालों के जवाब देना. लेकिन एक बड़ी दिक्कत ये है कि ये सिस्टम कभी-कभी तथ्य गलत बताते हैं या बिना किसी स्रोत के जानकारी बना लेते हैं.
कुछ नए AI मॉडल्स की जांच में पाया गया कि वे 79% तक गलत जानकारी दे सकते हैं. इंडियन एक्सप्रेस की एक रिपोर्ट में AI एक्सपर्ट अम्र अवदल्लाह कहते हैं, 'चाहे हम कितनी भी कोशिश करें, AI हमेशा थोड़ी बहुत गलतियां करता रहेगा. ये कभी पूरी तरह से नहीं रुकेंगी.'
गलत जानकारी कहां बनती है खतरनाक?
अगर AI किसी रेसिपी या फिल्म की सिफारिश में गलती कर दे, तो शायद कोई फर्क न पड़े. लेकिन अगर वही गलती कोर्ट केस, मेडिकल रिपोर्ट या बिजनेस डेटा में हो जाए तो नुकसान बड़ा हो सकता है.
Google या Bing जैसे सर्च इंजन में मौजूद AI भी कई बार ऐसे जवाब दे देते हैं जो या तो पूरी तरह गलत होते हैं या उनके पीछे कोई असली स्रोत नहीं होता. उदाहरण के लिए, अगर आप पूछें कि वेस्ट कोस्ट पर कौन-सी मैराथन बढ़िया है, तो जवाब में फिलाडेल्फिया की रेस बता सकता है जबकि वो ईस्ट कोस्ट में है.
भरोसे से पहले जांच भी जरूरी है
AI हमारी ज़िंदगी आसान जरूर बना रहा है, लेकिन अंधे भरोसे से काम नहीं चलेगा. खासकर जब बात हो मेडिकल, लीगल या संवेदनशील डेटा की, तो इंसानी दिमाग की जांच-पड़ताल अभी भी सबसे जरूरी है. जब तक AI ये नहीं समझ पाता कि 'सच क्या है और झूठ क्या,' तब तक सावधानी ही सबसे बड़ा उपाय है.
टॉप हेडलाइंस
Source: IOCL
