Tech Explained: डीपफेक टेक्नोलॉजी क्या है और यह कैसे करती है काम? जानिए फायदे-नुकसान समेत सारी बातें

पिछले कुछ समय से डीपफेक टेक्नोलॉजी का यूज बढ़ा है. स्कैम और चुनावों को प्रभावित करने में इसका यूज हो रहा है तो कई लोग इसका सही इस्तेमाल भी कर रहे हैं.

डीपफेक टेक्नोलॉजी क्या होती है?

Source : X

आप सोशल मीडिया पर एक्टिव हैं तो आपने डीपफेक का नाम सुना ही होगा. डीपफेक ऐसे वीडियो, ऑडियो क्लिप या पिक्चर होती हैं, जिन्हें आर्टिफिशियल इंटेलीजेंस से बनाया जाता है, लेकिन ये एकदम असली दिखती हैं. कई लोग मजाक या पैरोडी के लिए इसे बनाते हैं, लेकिन इसी टेक्नोलॉजी की मदद से स्कैम भी बढ़ रहे हैं. स्कैमर्स अब डीपफेक से ऐसा कंटेट तैयार कर रहे हैं, जिसे लोग असली समझकर उनके जाल में फंस जाते हैं और अपना नुकसान करवा बैठते हैं. बड़े स्तर पर इसके मिसयूज को देखें तो कई देशों में चुनावों को प्रभावित करने के लिए भी डीपफेक कंटेट का यूज किया जा रहा है. आज के एक्सप्लेनर में हम जानेंगे कि डीपफेक टेक्नोलॉजी क्या है, यह काम कैसे करती है और इसके सिर्फ नुकसान हैं या इसके कुछ फायदे भी हैं.

क्या होती है डीपफेक टेक्नोलॉजी?

डीपफेक फोटो, ऑडियो और वीडियो समेत उस मीडिया को कहा जाता है, जिसे एआई की मदद से क्रिएट या मैनिपुलेट किया गया हो. डीपफेक टर्म डीप लर्निंग कॉन्सेप्ट और किसी फेक चीज को मिलाकर बनी है. इमेज, वीडियो और साउंड को एडिट करने के टूल्स पहले से मौजूद रहे हैं, लेकिन डीपफेक इनके मुकाबले नई है. यह मशीन लर्निंग का इस्तेमाल कर मीडिया को ऐसे मॉडिफाई कर देती है कि असली और नकली का फर्क पहचान पाना बहुत मुश्किल हो जाता है.

कब हुई इसकी शुरुआत?

डीपफेक टर्म सबसे पहले 2017 में पब्लिक डोमेन में आई, जब डीपफेक्स यूजरनेम से एक रेडिट यूजर ने प्लेटफॉर्म पर एडिटेड अश्लील वीडियोज शेयर किए गए थे. उसने गूगल की ओपन-सोर्स डीप-लर्निंग टेक्नोलॉजी को यूज करते हुए सेलिब्रिटीज के चेहरों को अश्लील वीडियोज में दिख रहे परफॉर्मर्स के साथ स्वैप कर दिया था. इस तरह पहली बार दुनिया ने डीपफेक टर्म को सुना.

कैसे काम करती है डीपफेक टेक्नोलॉजी?

एआई आने के बाद डीपफेक टेक्नोलॉजी भी पूरी तरह बदल गई है. मौजूदा डीपफेक एआई दो मशीन लर्निंग मॉडल्स के साथ काम करती है, जो एक-दूसरे के खिलाफ काम करते हैं. इसमें एक जनरेटर एल्गोरिद्म होता है, जो सैंपल ऑडियो, वीडियो या इमेज का यूज कर नया कंटेट जनरेट या एडिट कर सकता है. यह एल्गोरिद्म एकदम सैंपल से मिलता हुआ कंटेट तैयार करने की कोशिश करता है. इसके बाद डिस्क्रिमिनेटर एल्गोरिद्म का काम शुरू होता है. यह सैंपल से कमियां निकालने के लिए डिजाइन किया गया होता है. यह कंटेट से उन कमियों को प्वाइंट आउट करता है, जहां जनरेटर एल्मोरिद्म से चूक हो गई. इन कमियों को ठीक करने के लिए कंटेट को फिर से जनरेटर एल्गोरिद्म में भेजा जाता है. इसे जनरेटिव एडवर्सियल नेटवर्क (GAN) कहा जाता है. इस पूरी प्रोसेस में जनरेटर और डिस्क्रिमिनेटर मीडिया सैंपल से डेटा एनालाइज करते हैं. इसके बाद जनरेटर मीडिया को क्रिएट या मैनिपुलेट करता है. यह शुरुआती डीपफेक होता है. इसके बाद डिस्क्रिमिनेटर सैंपल और डीपफेक में अंतर को पकड़कर कमियां निकालता है. फिर यह मीडिया वापस से जनरेटर के पास जाता है, जो उन कमियों को दूर करता है. यह प्रोसेस तब तक चलती रहती है, जब तक डीपफेक एकदम असली जैसा न दिखने लग जाए.

ये भी है एक तरीका

डीपफेक क्रिएट करने का एक और तरीका भी है, जिसे एनकोडर्स एआई एल्गोरिद्म कहा जाता है. इसे किसी वीडियो या फोटो से चेहरा स्वैप करने या बदलने के लिए यूज किया जाता है. इसमें किसी चेहरे को पूरी तरह अलग शरीर पर सुपरइंपोज कर दिया जाता है. कई डीपफेक टूल दो ऑटोएनकॉडर को भी यूज करते हैं, जिससे इमेज और मूवमेंट दोनों को एक इमेज से दूसरी इमेज पर ट्रांसफर किया जा सकता है.

डीपफेक के नुकसान
‍
स्कैम- साइबर अपराधी इस टेक्नोलॉजी की मदद से स्कैम्स को अंजाम दे रहे हैं. उदाहरण के तौर पर स्कैमर लोगों को किडनैप करने के डीपफेक वीडियो क्रिएट कर उनके घर वालों से फिरौती मांग रहे हैं. इसके अलावा भी कई तरह के स्कैम करने के लिए डीपफेक टेक्नोलॉजी का यूज किया जा रहा है, जिससे लोगों को भारी नुकसान उठाना पड़ रहा है.

अश्लील वीडियो- कई लोग डीपफेक की मदद से सेलिब्रिटी और आम लोगों के चेहरों को अश्लील वीडियोज पर सुपरइंपोज कर रहे हैं. यह डीपफेक का एक बहुत बड़ा खतरा है और यह किसी की शोहरत को पूरी तरह मिट्टी में मिला सकता है.

इलेक्शन मैनिपुलेशन- चुनावों को प्रभावित करने के लिए भी डीपफेक टेक्नोलॉजी का इस्तेमाल किया जा रहा है. चुनावों के दौरान किसी नेता से डीपफेक वीडियो में ऐसी बात बुलाई जा सकती है, जो उसने कभी कही ही नहीं. भारत जैसे लोकतांत्रिक देशों में इसका खतरा और भी बढ़ जाता है. कुछ साल पहले बराक ओबामा का एक डीपफेक वीडियो पूरी दुनिया में वायरल हुआ था.

सोशल इंजीनियरिंग अटैक- सोशल इंजीनियरिंग स्कैम्स में भी डीपफेक टेक्नोलॉजी का यूज किया जा रहा है. इनमें डीपफेक ऑडियो से लोगों को मूर्ख बनाया जाता है. स्कैमर्स किसी कंपनी के कर्मचारी के पास सीईओ आदि बनकर कॉल करते हैं और मोटी रकम अपने अकाउंट में ट्रांसफर करवा लेते हैं. ऐसे कई मामले सामने आ चुके हैं.

गलत सूचनाएं फैलाना- गलत और झूठी सूचनाएं फैलाने में भी डीपफेक वीडियोज यूज किए जा रहे हैं. कुछ समय पहले मार्क जुकरबर्ग का एक वीडियो वायरल हुआ था, जिसमें वो दावा कर रहे थे कि एक मूवी में दिखाए गए फिक्शनल ऑर्गेनाइजेशन की मदद से उनके पास अरबों लोगों के डेटा का टोटल कंट्रोल है. सोशल मीडिया पर ऐसे कॉन्सपीरेसी थ्योरी वाले अलग-अलग वीडियोज खूब वायरल हो रहे हैं.

क्या डीपफेक का कोई फायदा है?

डीपफेक टेक्नोलॉजी से काम की चीजें भी की जा सकती है. इससे पैरोडी और सटायर वाले वीडियो क्रिएट किए जा सकते हैं, जो लोगों का मनोरंजन कर सकते हैं. इसके अलावा टेक्नोलॉजी के डेमोन्स्ट्रेशन, हिस्टोरिकल इवेंट्स को रिक्रिएट करने आदि कामों में भी डीपफेक का यूज किया जा सकता है.