साउथ अभिनेत्री रश्मिका मंदाना के डीपफेक वीडियो वायरल होने के बाद सरकार ने सख्ती दिखाई है। इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने सोशल मीडिया कंपनियों को एक एडवाइजरी जारी की है और मौजूदा एडवाइजरी को दोहराया है। मंत्रालय ने कहा है कि इस तरह के कृत्य के लिए तीन साल की जेल की सजा हो सकती है और एक लाख रुपये का जुर्माना लगाया जा सकता है।

एडवाइजरी में क्या है?

मंत्रालय की ओर से जारी एडवाइजरी में सूचना प्रौद्योगिकी अधिनियम, 2000 के 66डी सहित मौजूदा नियमों को दोहराते हुए कहा गया है कि कंप्यूटर संसाधन का इस्तेमाल करके धोखाधड़ी करने पर 3 साल तक की कैद की सजा और 1 लाख रुपये तक का जुर्माना लगेगा। 

आईटी मध्यस्थ नियम: नियम 3(1)(बी)(vii) के तहत सोशल मीडिया कंपनियों को भी नियमों और गोपनीयता नीति का पालन करना होगा। सोशल मीडिया कंपनियों को इस तरह के कंटेंट पोस्ट करने वाले यूजर्स को रोकना होगा। नियम 3(2)(बी) के मुताबिक किसी कंटेंट को लेकर शिकायत प्राप्त होने के 24 घंटे के भीतर उसे अपने प्लेटफॉर्म से हटाना होगा।

बता दें कि सोमवार 6 नवंबर को साउथ अभिनेत्री रश्मिका मंदाना का वीडियो वायरल हुआ था जो कि उनका था ही नहीं। यह वायरल वीडियो सोशल मीडिया इंफ्लूएंसर जारा पटेल का था जिसे एडिट करके जारा पटेल के चेहरे को रश्मिका मंदाना के चेहरे से रिप्लेस कर दिया गया। इस वीडियो के सामने आने के बाद केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा कि डीपफेक वीडियो गलत सूचना का सबसे खतरनाक रूप है।

ऐसे वीडियोज पर सोशल मीडिया कंपनियों की जवाबदेही तय होनी चाहिए। अमिताभ बच्चन ने भी वीडियो को शेयर करते हुए कहा कि इस पर कानूनी कार्रवाई होनी चाहिए। रश्मिका मंदाना का यह वायरल डीपफेक का सबसे बड़ा और ताजा उदाहरण है।

साउथ अभिनेत्री रश्मिका मंदाना के एक वायरल वीडियो ने फिर से डीपफेक (Deep Fake) पर बहस छेड़ दी है। सोमवार यानी 6 नवंबर को मंदाना का एक वीडियो वायरल हुआ जो कि उनका था ही नहीं। यह वायरल वीडियो सोशल मीडिया इंफ्लूएंसर जारा पटेल का था जिसे एडिट करके जारा पटेल के चेहरे को रश्मिका मंदाना के चेहरे से रिप्लेस कर दिया गया। इस वीडियो के सामने आने के बाद केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा कि डीपफेक वीडियो गलत सूचना का सबसे खतरनाक रूप है। ऐसे वीडियोज पर सोशल मीडिया कंपनियों की जवाबदेही तय होनी चाहिए। अमिताभ बच्चन ने भी वीडियो को शेयर करते हुए कहा कि इस पर कानूनी कार्रवाई होनी चाहिए। रश्मिका मंदाना का यह वायरल डीपफेक का सबसे बड़ा और ताजा उदाहरण है। आइए समझने की कोशिश करते हैं कि आखिर डीपफेक क्या है और इसे पहचानने का तरीका क्या है?

क्या होता है डीपफेक?

डीपफेक वीडियो और वीडियो दोनों रूप में हो सकता है। इसे एक स्पेशल मशीन लर्निंग का इस्तेमाल करके बनाया जाता है जिसे डीप लर्निंग कहा जाता है। डीप लर्निंग में कंप्यूटर को दो वीडियोज या फोटो दिए जाते हैं जिन्हें देखकर वह खुद ही दोनों वीडियो या फोटो को एक ही जैसा बनाता है। यह ठीक उसी तरह है जैसे बच्चा किसी चीज की नकल करता है। इस तरह के फोटो वीडियोज में हिडेन लेयर्स होते हैं जिन्हें सिर्फ एडिटिंग सॉफ्टवेयर से ही देखा जाता है। एक लाइन में कहें तो डीपफेक, रियल इमेज-वीडियोज को बेहतर रियल फेक फोटो-वीडियोज में बदलने की एक प्रक्रिया है। डीपफेक फोटो-वीडियोज फेक होते हुए भी रियल नजर आते हैं।

बहुत ही आसान भाषा में कहें तो डीपफेक एक एडिटेड वीडियो होता है जिसमें किसी अन्य के चेहरे को किसी अन्य के चेहरे से बदल दिया जाता है। डीपफेक वीडियोज इतने सटीक होते हैं कि आप इन्हें आसानी से पहचान नहीं सकते। ताजा उदाहरण के लिए आप रश्मिका मंदाना के वीडियो को देख सकते हैं। यदि जारा पटेल का असली वीडियो सामने नहीं आता तो कोई भी यकीन कर लेता है कि यह वीडियो रश्मिका का ही है। किसी भी इंसान का डीपफेक वीडियो बनाया जा सकता है। डीपफेक वीडियो बनाने के लिए आर्टिफिशियल इंटेलिजेंस (AI) और मशीन लर्निंग की भी मदद ली जाती है। 

Deepfakes दो नेटवर्क की मदद से बनता है जिनमें एक इनकोडर होता है और दूसरा डीकोडर नेटवर्क होता है। इनकोडर नेटवर्क सोर्स कंटेंट (असली वीडियो) को एनालाइज करता है और फिर डाटा को डीकोडर नेटवर्क को भेजता है। उसके बाद फाइनल आउटपुट निकलता है जो कि हूबहू असली जैसा है लेकिन वास्तव में वह फेक होता है। इसके लिए सिर्फ एक वीडियो या वीडियो की जरूरत होती है। डीपफेक के लिए कई वेबसाइट्स और एप हैं जहां लोग डीपफेक वीडियोज बना रहे हैं। आप ऊपर की तस्वीर को देखें। ना यह इंस्टाग्राम अकाउंट ऐश्वर्या राय बच्चन का है और ना इस पर शेयर हुए कंटेंटऐश्वर्या राय के हैं। यह डीपफेक का सबसे बड़ा उदाहरण है।

डीपफेक वीडियो कैसे पहचानें?

इस तरह के फोटो-वीडियोज को पहचानना आसान तो नहीं है लेकिन नामुमकिन भी नहीं है। इन्हें पहचानने के लिए आपको वीडियो को बहुत ही बारिकी से देखना होगा। खासतौर पर चेहरे के एक्सप्रेशन, आंखों की मूवमेंट और बॉडी स्टाइल पर ध्यान देना होगा। इसके अलावा बॉडी कलर से भी आप इन्हें पहचान सकते हैं। आमतौर पर ऐसे वीडियोज में चेहरे और बॉडी का कलर मैच नहीं करता है। इसके अलावा लिप सिंकिंग से भी इस तरह के वीडियोज की पहचान की जा सकती है। ऐसे वीडियोज को आप लोकेशन और एक्स्ट्रा ब्राइटनेस से भी पहचान सकते हैं। इसके अलावा खुद ही समझ से भी आप यह तय कर सकते हैं कि यह वीडियो असली है या नहीं। उदाहरण के तौर पर बराक ओबामा का भोजपुरी गाने पर डांस का वीडियो फर्जी हो सकता है।

डीपफेक वीडियो बनाने पर सजा

यदि आप मजाक में किसी का डीपफेक वीडियोज बनाते हैं और शेयर करते हैं तो आपके खिलाफ आईपीसी की धारा के तहत कार्रवाई हो सकती है। भारी जुर्माना भी लगाया जा सकता है। इसके अलावा यदि किसी की छवि खराब होती है तो आपके खिलाफ मानहानी का भी मामला बनेगा। इस मामले में सोशल मीडिया कंपनियों के खिलाफ भी आईटी नियमों के तहत कार्रवाई हो सकती है। शिकायत के बाद 36 घंटे के अंदर सोशल मीडिया कंपनियों को अपने प्लेटफॉर्म से इस तरह के कंटेंट को हटाना होगा।