AI को भी बनाया जा सकता है मूर्ख, आंख मूंदकर न करें जानकारी पर भरोसा, इस प्रैंक ने कर दिया साबित

AI Can Be Manipulated: एआई चैटबॉट्स भले ही सबकुछ जानने का दावा करे, लेकिन इन्हें आसानी से मूर्ख बनाया जा सकता है. इस तरीके से लोगों के बीच गलत जानकारी फैलने का भी डर बढ़ गया है.

AI Can Be Manipulated: एआई चैटबॉट को फर्जी जानकारी देकर मूर्ख बनाया जा सकता है

Source : Magnific

Show Quick Read

Key points generated by AI, verified by newsroom

• वीडियो प्लेटफॉर्म भी बने हेरफेर का जरिया, गलत सूचना का खतरा

AI Can Be Manipulated: बीते कुछ समय से हर किसी की जुबान पर एआई छाया हुआ है. घर से लेकर ऑफिस और स्कूल से लेकर हॉस्पिटल तक, हर जगह एआई के चर्चे हैं और एआई टूल्स को यूज भी किया जा रहा है. पर्सनल रिलेशनशिप से लेकर फाइनेंशियल एडवाइसेस तक के लिए लोग अब इन टूल्स पर निर्भर होते जा रहे हैं. हालांकि, एक्सपर्ट्स ऐसा न करने की सलाह देते हैं. अब एक नई रिसर्च में सामने आया है कि एआई टूल्स को भी मैनिपुलेट किया जा सकता है. इन टूल्स को मूर्ख बनाकर गलत जानकारी फैलाने में इनकी मदद ली जा सकती है. 

एक्सपेरिमेंट में सामने आ गई कमजोरी

मीडिया रिपोर्ट्स के अनुसार, एक पब्लिकेशन ने पर्सनल वेबसाइट पर एक फर्जी आर्टिकल छापा था, जिसमें दावा किया गया कि हॉट-डॉग खाने के मामले में वह वर्ल्ड चैंपियन है. इसके कुछ दिन बाद ही कई पॉपुलर एआई चैटबॉट अपने रिस्पॉन्स में इस फर्जी दावे को यूज करने लगे. यह एक प्रैंक था, लेकिन इसने एआई चैटबॉट में छिपी बड़ी कमजोरी को सामने लाकर रख दिया है. इस तरीके से एआई चैटबॉट का यूज कर करोड़ों लोगों तक फर्जी जानकारी फैलाई जा सकती है.

क्यों आई यह परेशानी?

एक्सपर्ट्स का कहना है कि जब एआई चैटबॉट जानकारी के लिए अपने ट्रेनिंग वाले डेटा को छोड़कर इंटरनेट पर जवाब तलाशते हैं तो ऐसी गड़बड़ हो सकती है. कई मामलों में एआई चैटबॉट्स बिना सच्चाई परखे ऐसी जानकारी भी भरोसा कर लेते हैं, जो किसी के पर्सनल ब्लॉग, वेबसाइट या सोशल मीडिया पेज पर पब्लिश हुई है. यही सबसे बड़ी चिंता का कारण माना जा रहा है. इससे कोई भी प्रैंक, मजाक या जानबूझकर एआई चैटबॉट्स के जवाबों को प्रभावित कर सकता है. 

बढ़ रहा है यह खतरा

कई जानकारों का कहना है कि एआई को मैनिपुलेट करने के मामले बढ़ रहे हैं और लोग नए-नए तरीकों से यह काम कर रहे हैं. अब किसी को फर्जी ब्लॉग या पोस्ट लिखने की भी जरूरत नहीं है. अब एआई टूल्स इंफोर्मेशन के सोर्स के लिए वीडियो प्लेटफॉर्म को भी स्कैन करने लगे हैं. इसलिए लोग किसी इंफ्लुएंसर को पैसे देकर मिसलीडिंग वीडियो बनवा सकते हैं. इससे लोगों तक गलत जानकारी पहुंचने का खतरा बढ़ गया है.

एआई चैटबॉट यूज करते समय ध्यान रखें ये बातें

• यह ध्यान रखें कि एआई चैटबॉट्स गलत जानकारी को भी पूरे भरोसे के साथ आपके सामने पेश कर सकते हैं.
• एआई से मिले जवाब को हमेशा क्रॉस-चेक करें. 
• हेल्थ, फाइनेंस और पर्सनल लाइफ से जुड़े मामलों को लेकर एआई पर आंख मूंदकर भरोसा न करें.
• एआई से मिले हर जवाब पर भरोसा नहीं करना चाहिए.