क्या आप वाकई जो देख रहे हैं उस पर भरोसा कर सकते हैं? जानें सोशल मीडिया पर कैसे छा रही हैं फर्जी AI वीडियोज

Fake AI Videos: हाल ही में एक वीडियो वायरल हुआ जिसमें दावा किया गया कि गुजरात की सड़कों पर सोए एक आदमी के पास एक शेर आकर उसे सूंघता है और फिर चुपचाप चला जाता है.

(सोशल मीडिया पर खूब वायरल हो रहीं फेक एआई वीडियो)

Source : X.com

Fake AI Videos: हाल ही में एक वीडियो वायरल हुआ जिसमें दावा किया गया कि गुजरात की सड़कों पर सोए एक आदमी के पास एक शेर आकर उसे सूंघता है और फिर चुपचाप चला जाता है. देखने में यह किसी CCTV कैमरे की फुटेज लगती थी—ड्रामेटिक, चौंकाने वाली, लेकिन पूरी तरह फर्जी. दरअसल, यह वीडियो आर्टिफिशियल इंटेलिजेंस (AI) की मदद से बनाया गया था. इसके बावजूद यह वीडियो इंटरनेट पर तेजी से फैल गया और कुछ न्यूज चैनलों ने बिना किसी जांच के इसे असली घटना बताकर चला भी दिया. यह वीडियो एक यूट्यूब चैनल ‘The World of Beasts’ से आया था जिसने केवल अपने बायो में ‘AI-assisted designs’ का ज़िक्र किया था.

फेक वीडियोज हो रहीं वायरल

एक अन्य वायरल वीडियो में एक कंगारू को एक इंसान के साथ फ्लाइट में चढ़ने की कोशिश करते हुए दिखाया गया और कहा गया कि वह एक इमोशनल सपोर्ट एनिमल है. इस वीडियो को भी लोगों ने सच मान लिया. यह क्लिप इंस्टाग्राम अकाउंट ‘Infinite Unreality’ पर पोस्ट हुई थी जो खुद को ‘आपकी रोज़ की असलियत से परे की खुराक’ कहता है.

अब हकीकत और कल्पना के बीच की रेखा सोशल मीडिया पर धुंधली हो चुकी है. कहीं विशाल अजगर नदियों में तैरते नजर आते हैं तो कहीं चीतों को लोगों की जान बचाते दिखाया जाता है. ये सभी AI से बने वीडियो होते हैं, जो अब इतने रियल दिखने लगे हैं कि आम इंसान उनके सच या झूठ का फर्क नहीं कर पाता. जैसे-जैसे AI टूल्स अधिक एडवांस और आम होते जा रहे हैं इस तरह के वीडियो भी बढ़ते जा रहे हैं.

AI वीडियो का कहर क्यों है बढ़ता जा रहा?

AI वीडियो केवल तकनीक के करिश्मे के कारण नहीं फैलते बल्कि इसलिए भी क्योंकि ये सोशल मीडिया पर लोगों का ध्यान खींचते हैं. Instagram, Facebook, TikTok और YouTube जैसी प्लेटफॉर्म्स पर ऐसी क्लिप्स को अल्गोरिदम तेजी से प्रमोट करता है क्योंकि इनसे यूज़र ज़्यादा समय तक प्लेटफॉर्म पर टिकते हैं.

इंडियन एक्सप्रेस को दिए एक इंटरव्यू में Reality Defender के CEO बेन कोलमैन कहते हैं, "इन वीडियो का स्तर इतना बेहतर हो चुका है कि वो ‘Uncanny Valley’ की सीमा पार कर चुके हैं और अब लोगों को असल लगते हैं." उन्होंने बताया कि हाल ही में NBA Finals के दौरान Kalshi नामक एक सट्टा प्लेटफॉर्म का 30 सेकंड का विज्ञापन पूरी तरह AI से बना था. WITNESS संस्था के प्रमुख सैम ग्रेगरी के अनुसार, "AI अब सिर्फ फोटो नहीं, बल्कि इंटरव्यू और न्यूज़ जैसे स्टाइल में भी वीडियो बना रहा है." लोग अब AI का इस्तेमाल मेम कल्चर में भी कर रहे हैं.

फर्जी को पकड़ना मुश्किल होता जा रहा है

Colman स्वीकार करते हैं कि यहां तक कि उनके अपने PhD एक्सपर्ट भी कई बार असली और नकली वीडियो का फर्क नहीं कर पाते. Meta जैसे बड़े प्लेटफॉर्म अब AI कंटेंट को रोकने की बजाय केवल ‘खतरनाक और भ्रामक’ कंटेंट को हटाने की नीति अपना रहे हैं. हालांकि Gregory ने C2PA जैसी तकनीक का ज़िक्र किया जो वीडियो और ऑडियो की असलियत का पता लगाने में मदद कर सकती है, लेकिन यह अभी हर प्लेटफॉर्म पर लागू नहीं है.

अब हर कोई बना रहा है AI वीडियो

अब सवाल यह नहीं कि ये वीडियो कौन बना रहा है बल्कि यह है कि इन्हें कौन नहीं बना रहा. बच्चों से लेकर सरकारी एजेंसियों तक, हर कोई इन टूल्स का इस्तेमाल कर रहा है. Colman कहते हैं, "अब हर कोई क्रिएटर है." ग्रेगरी भी मानते हैं कि आज के दौर में ‘AI Influencers’ भी एक नया ट्रेंड बन चुके हैं. कुमार के अनुसार, 90% कंटेंट मनोरंजन के लिए होता है, लेकिन बाकी 10% कंटेंट राजनीतिक और सामाजिक स्तर पर असली नुकसान पहुंचा रहा है.

आगे क्या किया जा सकता है?

Colman और Gregory दोनों मानते हैं कि अब वक्त है कि नए कानून बनें, जो कंटेंट अपलोड के समय ही उसकी सत्यता जांचें. Kumar कहती हैं कि अब प्लेटफॉर्म्स और यूज़र्स दोनों के लिए सख्त नियम और सज़ा जरूरी है. Gregory चेतावनी देते हैं, "अगर लोग अपनी आंखों और कानों पर भरोसा खो बैठें तो फिर असली पत्रकारिता, असली घटनाएं और असली पीड़ाएं सब कुछ संदेह में आ जाएगा."