सोशल मीडिया पर कुछ ऐसे वीडियो वायरल हो रहे हैं, जो देखने में तो असली लगते हैं लेकिन, असल में ये आर्टिफिशियल इंटेलीजेंस के जरिए बनाए गए फेक वीडियो हैं. इनका इस्तेमाल अधिकतर मशहूर हस्तियों के चेहरे के साथ किया जाता है.
डीप फेक कहे जाने वाले ये वीडियो सिर्फ मीम मटीरियल नहीं हैं. फेक न्यूज फैलाने में भी इनका खूब इस्तेमाल होता है. जाहिर है ये काफी हद तक असली वीडियो की तरह दिखते हैं तो पहली नजर में कई सोशल मीडिया यूजर इन पर शक नहीं करता है.
फेक न्यूज फैक्ट्री में डीप फेक वीडियो का उत्पादन नया नहीं है. भारत और अमेरिका में पिछले चुनावों के समय इनका इस्तेमाल खूब देखने को मिला है. देखिए डीप फेक वीडियोज के कुछ उदाहरण और ये भी समझिए की हंसी मजाक का सामान नजर आते ये वीडियो कैसे बड़े प्रोपेगेंडा को फैलाने में इस्तेमाल हो सकते हैं.
Rofl Gandhi 2.0 नाम के ट्विटर हैंडल से 1 मार्च को वीडियो शेयर किया गया. साफ नजर आ रहा है कि इसमें पीएम नरेंद्र मोदी की एक पुरानी फोटो का इस्तेमाल किया गया है.
बीते कुछ दिनों में ट्विटर पर भगत सिंह, स्वामी विवेकानंद, लाल बहादुर शास्त्री, मुंशी प्रेमचंद, एल्बर्ट आइंस्टीन, मोना लीसा, जॉर्ज वॉशिंगटन के कई डीप फेक वीडियो भी खूब दिखाई दिए हैं.
दिल्ली चुनाव में हो चुका है इस्तेमाल
फरवरी, 2020 में दिल्ली विधानसभा चुनाव के समय भारतीय जनता पार्टी के दिल्ली अध्यक्ष मनोज तिवारी के डीप फेक वीडियो वायरल हुए थे. वीडियो में मनोज तिवारी पंजाबी और अंग्रेजी में वोट की अपील करते दिख रहे थे. क्विंट ने इस वीडियो की लेकर विस्तार से रिपोर्ट भी की थी.
रियल और फेक वीडियो में अंतर करना मुश्किल
बीते कुछ महीनों में ऐसे डीप फेक वीडियो दिखाई दिए हैं, जिन्हें पहली नजर में फेक बता पाना लगभग नामुमकिन है. लोगों के चेहरे का इस्तेमाल कर वीडियो में ऐसी बातें कहलवाई जा रही हैं, जो उन्होंने कभी नहीं कहीं.
फेसबुक और माइक्रोसॉफ्ट दिसंबर 2019 में ही डीप फेक वीडियोज के जरिए किए जा रहे झूठे दावों को रोकने के लिए साथ आ चुके हैं. चीन ने तो आर्टिफिशियल इंटेलीजेंस के जरिए फैलाई जा रही फेक न्यूज पर प्रतिबंध भी लगा दिया है.
डीप फेक वीडियो को पहचान पाना अब कितना मुश्किल है ये समझने के लिए टॉम क्रूज की फोटो का इस्तेमाल कर बनाया गया ये फेक वीडियो देखिए.
कहां से बन रहे हैं ये वीडियो ?
माय हेरिटेज वेबसाइट ने Deep Nostalgia नाम से एक नया फीचर शुरू किया है. इसमें पुरानी तस्वीरों के जरिए कुछ शॉर्ट वीडियो क्रिएट किए जा सकते हैं. सॉफ्टवेयर से तस्वीर के चेहरे पर कुछ ड्रायवर्स के जरिए मूवमेंट कराया जाता है. इन ड्रायवर्स के जरिए ही तस्वीर में दिख रहे शख्स को मुस्कुराते, पलकें झपकते, सिर हिलाते देखा जा सकता है.
कई लोग इस वेबसाइट के जरिए अपने पूर्वजों की पुरानी तस्वीरों से डीप फेक वीडियो बना रहे हैं. माय हेरिटेज को डीप फेक वीडियो बनाने के लिए इस्तेमाल होने वाले सॉफ्टवेयर का लाइसेंस इजरायली कंपनी D-ID से मिला है. कंपनी इस तरह के वीडियो क्रिएट करने को लेकर मशहूर है.
बढ़ रही है डीप फेक की पहुंच
माय हैरिटेज वेबसाइट के डीप नॉस्टेलजिया फीचर ने लोगों तक डीप फेक वीडियो की पहुंच को तेजी से बढ़ाया है. अब एक मिनट के अंदर इस तरह के वीडियो क्रिएट किए जा सकते हैं.
हालांकि, कंपनी की वेबसाइट पर यह लिखा है कि डीप नॉस्टेलजिया का उद्देश्य पुरानी यादों को जीना, यादें ताजा करना ( Nostalgic Use) है. लेकिन, इस पहलू को भी नकारा नहीं जा सकता कि इस फीचर का इस्तेमाल बड़े पैमाने पर डीप फेक वीडियो के जरिए फेक न्यूज फैलाने में भी किया जा सकता है.
(क्विंट हिन्दी, हर मुद्दे पर बनता आपकी आवाज, करता है सवाल. आज ही मेंबर बनें और हमारी पत्रकारिता को आकार देने में सक्रिय भूमिका निभाएं.)