माइक्रोसॉफ्ट, मेटा, गूगल, एक्स, अमेजन और ओपनएआइ जैसी 20 प्रमुख कंपनियों ने इस साल भारत सहित दुनिया के अन्य देशों में होने वाले चुनावों में भ्रामक एआइ कंटेंट और डीपफेक पर अंकुश लगाने का संकल्प लिया है। इन कंपनियों ने म्युनिख सिक्योरिटी कान्फ्रेंस में समझौते पर हस्ताक्षर किए।

समझौते पर हस्ताक्षर करने वालों में ये कंपनियां शामिल

समझौते पर हस्ताक्षर करने वालों में एडोब, अमेजन, एंथ्रोपिक, आर्म, इलेवनलैब्स, गूगल, आइबीएम, इन्फ्लेक्शन एआइ, लिंक्डइन, मैकेफी, मेटा, माइक्रोसाफ्ट, नोटा, ओपनएआइ, स्नैप इंक, स्टेबिलिटी एआइ, टिकटाक, ट्रेंड माइक्रो, ट्रूपिक और एक्स शामिल हैं।

ये कंपनियां भ्रामक एआइ चुनाव कंटेंट से संबंधित जोखिमों को कम करने के लिए तकनीक विकसित करने जैसी प्रतिबद्धताओं पर सहमत हुई हैं। इस वर्ष 40 से अधिक देशों के चार अरब से अधिक लोग मतदान करेंगे।

वैलेंटाइन वीक चल रहा है। 14 तारीख को प्रेमी- जोड़े वैलेंटाइन डे मनाने जा रहे हैं। इसी कड़ी में साइबर सुरक्षा को लेकर शोधकर्ताओं ने भारतीयों को चेताया है।

न्यूज एजेंसी आईएएनएस की लेटेस्ट रिपोर्ट की मानें तो साइबर-सुरक्षा शोधकर्ताओं ने सोमवार को कहा कि भारत में रोमांस स्कैम बढ़ रहे हैं। इतना ही नहीं, देश में 66 प्रतिशत लोग ऑनलाइन डेटिंग स्कैम का शिकार हुए हैं।

2023 में, 43 प्रतिशत भारतीय एआई वॉयस स्कैम के शिकार बन गए और जिन लोगों को धोखा दिया गया उनमें से 83 प्रतिशत ने अपना पैसा खो दिया।

एआई और डीपफेक का बढ़ रहा खतरा

हाल ही के वर्षों में रोमांस स्कैम को लेकर एक नया बदलाव देखने को मिला है। ट्रेडिशनल तरीकों को एडवांस टेक्नोलॉजी जैसे जनरेटिव एआई और डीपफेक के साथ मर्ज किया जा रहा है।

एक्सपोजर मैनेजमेंट कंपनी Tenable की एक रिपोर्ट की मानें तो एआई जनरेटेड डीपफेक भारतीयों के लिए एक नई परेशानी के रूप में उभरा है।

ऐसा इसलिए क्योंकि 69 प्रतिशत भारतीय ये मानते हैं कि वे एआई और रियल वॉइस में फर्क महसूस नहीं कर पाते हैं। यही वजह है कि स्कैमर्स अब एआई और डीपफेक टेक्नोलॉजी का सहारा लेकर रोमांस स्कैम को नए तरीके से अंजाम दे रहे हैं।

पॉपुलर सोशल मीडिया प्लेटफॉर्म पर बरतें सावधानी

इस मामले में टेनेबल के स्टाफ रिसर्च इंजीनियर क्रिस बॉयड का कहना है कि जब पॉपुलर और पुराने प्लेटफॉर्म पर प्राइवेट बात होने लगती है तो मैं ज्यादा सतर्कता बरतने की वकालत करता हूं।

कई बार पॉपुलर साइट्स की सुरक्षा परतें भी कमजोर पड़ जाती हैं, ऐसे में जेनेरेटिव एआई और डीपफेक के दौर में सावधान रहना जरूरी है।

रिपोर्ट की मानें तो इस तरह के स्कैम फेसबुक जैसे सोशल मीडिया प्लेटफॉर्म से ज्यादा आ रहे हैं। हाल ही के दिनों में ऐसा ट्रेंड भी देखने को मिला है जहां, स्कैमर्स बुजर्ग शख्स खासकर विधवा महिलाओं को टागरेग कर रहे हैं।

स्कैम को लेकर ऐसे मिलता है रेड फ्लैग

शोधकर्ताओं का कहना है कि किसी भी नए कनेक्शन से पैसों की मदद मांगा जाना इस तरह के स्कैम को लेकर घंटी हो सकती है।

इस तरह के स्कैम से बचने के लिए शोधकर्ता जागरुकता और सतर्कता को ही बचाव का तरीका बताते हैं। खास कर प्रेम चाहने वाले लोगों को इस तरह के स्कैम से बचने की जररूत है।

खेल-खेल में तकनीक का गलत इस्तेमाल कर डीपफेक वीडियो बनाकर नए उम्र के युवा व किशोर अपनी जिंदगी बर्बाद कर रहे हैं। साइबर एक्सपर्ट मानते हैं कि जिले में अब तक जितने भी मामले सामने आए हैं, उसमें खेल-खेल में वीडियो बनाकर शेयर किया जाता है और फिर यह वायरल हो जाता है।

पकड़े जाने पर युवा- किशोर गलती मानते हैं, मां-बाप उम्र और करिअर की दुहाई देकर सिफारिश करते हैं। कई मामलों में शिकायत करने वाले पीछे हट जाते हैं तो कई मामलों में केस दर्ज होने की वजह से पुलिस को कार्रवाई करनी ही होती है। इसे रोकने के लिए पाबंदी तो बहुत लगाई गई है, लेकिन आज भी पांच तरह के एप गोरखपुर में इस्तेमाल हो रहे हैं, जिससे घटनाएं सामने आ रही हैं।

इससे बचने का एक मात्र तरीका है कि अगर बच्चा इंटरनेट व मोबाइल का इस्तेमाल करता है तो उसकी गतिविधियों पर ध्यान दें। वरना केस में फंसा तो करिअर चौपट होता तय है।

ताजा मामला शाहपुर थाने में सामने आया है। एक शिक्षिका का अश्लील वीडियो बनाकर वायरल किया गया था। साइबर एक्सपर्ट ने जांच की तो पता चला कि उसी स्कूल के नौवीं के छात्र ने ऐसी हरकत की है। पुलिस कानूनी कार्रवाई कर रही है, लेकिन इस तरह के मामले तेजी से बढ़े हैं।

साइबर एक्सपर्ट उपेंद्र सिंह बताते हैं कि इस एप का गलत इस्तेमाल छात्र कर रहे हैं। कई जगहों से मामले सामने आए हैं, जिसमें पुलिस ने कार्रवाई भी की है। पकड़े जाने पर वह गलती से होना बताते हैं, लेकिन इस एप की जरूरत के बारे में पूछने पर खामोश हो जाते हैं। इससे बचने के लिए मां-बाप को जागरूक होने की जरूरत है।

क्या होता है डीपफेक
किसी रियल वीडियो में दूसरे के चेहरे को फिट कर देने को डीपफेक नाम दिया गया है, जिससे लोग यकीन कर लें। डीपफेक से वीडियो और फोटो को बनाया जाता है। इसमें मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस का सहारा लिया जाता है। इसमें वीडियो और ऑडियो को टेक्नोलॉजी और सॉफ्टवेयर की मदद से बनाया जाता है। इसी डीपफेक से वीडियो बनाया जाता है। साधारण शब्दों में समझें, तो इस टेक्नोलॉजी में कोडर और डिकोडर टेक्नोलॉजी की मदद ली जाती है।

डिकोडर सबसे पहले किसी इंसान के चेहरे को हावभाव और बनावट की गहन जांच करता है। इसके बाद किसी फर्जी फेस पर इसे लगाया जाता है, जिससे हूबहू फर्जी वीडियो और फोटो को बनाया जा सकता है। हालांकि इसे बनाने में काफी टेक्नोलॉजी की जरूरत होती है, ऐसे में आम लोग डीपफेक वीडियो नहीं बना सकते। लेकि, इन दिनों डीपफेक बनाने से जुड़े एप मार्केट में मौजूद हैं, जिनकी मदद से आसानी से डीपफेक वीडियो को बनाया जा सकता है।

ऐसे कर सकते हैं पहचान
इस तरह के फोटो-वीडियोज को पहचानना आसान तो नहीं है लेकिन नामुमकिन भी नहीं है। इन्हें पहचानने के लिए आपको वीडियो को बहुत ही बारीकी से देखना होगा। खासतौर पर चेहरे के एक्सप्रेशन, आंखों की मूवमेंट और बॉडी स्टाइल पर ध्यान देना होगा। इसके अलावा बॉडी कलर से भी आप इन्हें पहचान सकते हैं। आमतौर पर ऐसे वीडियोज में चेहरे और बॉडी का कलर मैच नहीं करता है। इसके अलावा लिप सिंकिंग से भी इस तरह के वीडियोज की पहचान की जा सकती है। ऐसे वीडियोज को आप लोकेशन और एक्स्ट्रा ब्राइटनेस से भी पहचान सकते हैं।

सरकार के कड़े निर्देशों के बाद इंटरनेट पर डीपफेक सामग्री रोकने के लिए गूगल ने बुधवार को कई कदम उठाने की घोषणा की। इसकी शुरुआत वह यूट्यूब से कर रहा है, यहां सामग्री बनाने वालों (क्रिएटर्स) से कहा जा रहा है कि अगर वे डीपफेक, बिगाड़ी हुई या नकली फोटो, तस्वीरें या आवाज अपलोड करते हैं तो खुद ही इसका खुलासा करना होगा। गूगल भी आर्टिफिशियल इंटेलिजेंस (एआई) तकनीक से रची ऐसी आपत्तिजनक सामग्री हटाएगा जो किसी व्यक्ति की पहचान जैसे उसके चेहरे या आवाज से मिलती-जुलती हो।

एक ब्लॉग पोस्ट में गूगल ने बताया, ‘अगले कुछ महीनों में यूट्यूब पर यह जरूरी हो जाएगा कि असली जैसी नजर आ रही सामग्री में क्या बदलाव किए गए हैं, क्रिएटर्स यह बताएं? क्या इसमें एआई टूल्स उपयोग हुए हैं? अगर ऐसा है तो वीडियो प्लेयर व विवरण पैनल पर लेबल लगाकर इसकी सूचना भी देनी होगी।’ उसने दावा किया कि वह क्रिएटर्स से इस बारे में बात कर रहा है ताकि उन्हें अपनी भूमिका समझ आए और बदलावों के लिए क्या करना जरूरी, उन्हें पता रहे। उल्लेखनीय है कि बीते सप्ताह आईटी व इलेक्ट्रॉनिकी मंत्री अश्विनी वैष्णव और राज्य मंत्री राजीव चंद्रशेखर ने सोशल मीडिया कंपनियों व टेक कंपनियों को डीपफेक सामग्री को रोकने के लिए कड़े कदम उठाने को कहा था। सरकार के इसके लिए नियम व गाइडलाइन भी जारी करने जा रही है।

वाटरमार्क का सहारा, चुनाव विज्ञापन नीति में सुधार
गूगल ने बताया कि डीपफेक से निपटने के लिए सामग्री पर वाटरमार्क व मेटाडाटा लेबल का भी सहारा लिया जा सकता है। अगर चुनावी विज्ञापनों को डिजिटली जनरेट सामग्री से बनाया गया है, तो यह जानकारी विज्ञापन में देने को कहा गया है।

डीपफेक के खिलाफ कोई रामबाण नहीं
गूगल ने कहा कि डीपफेक और एआई आधारित भ्रामक सूचनाओं से लड़ने के लिए कोई रामबाण नहीं है। इनके लिए मिलेजुले प्रयास और खुला संवाद करना होगा, जोखिम का कड़ा मूल्यांकन करते हुए नुकसान कम करने की रणनीति पहले से बनानी होगी।

पड़ रहा बुरा असर
गूगल ने कहा कि उसने डीपफेक को लेकर क्रिएटर्स, यूजर्स और कलाकारों से फीडबैक लिए। लोगों की अनुमति के बिना उनके चेहरे या आवाज को डिजिटली जनरेट करना, उनके नजरिए को गलत ढंग से प्रस्तुत करना, यह सभी पर बुरा असर डाल सकता है।

केंद्रीय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी राज्य मंत्री राजीव चंद्रशेखर ने कहा कि इंटरनेट सुरक्षा और डीपफेक के प्रसार को रोकना सोशल मीडिया प्लेटफाॅर्म की जिम्मेदारी है। इन्हें भारतीय कानून के अनुसार अपनी सामग्री को विनियमित करना होगा।

केंद्र ने हाल ही में आर्टिफिशियल इंटेलिजेंस (एआई) के इस्तेमाल से तैयार डीपफेक के बढ़ते मामलों को देखते हुए बैठक की थी और सभी सोशल मीडिया प्लेटफाॅर्मों को सलाह जारी की थी। राजीव ने रविवार को कहा कि 24 नवंबर को हमने सोशल मीडिया प्लेटफाॅर्मों के साथ विस्तृत बैठक की थी। इसमें उन्हें यह स्पष्ट कर दिया गया था कि मौजूदा कानून के तहत सुरक्षित इंटरनेट और डीपफेक के प्रसार को रोकने का दायित्व और जिम्मेदारी उन्हीं की है।

उन्होंने कहा कि डीपफेक के प्रसार को रोकने के लिए पर्याप्त कदम नहीं उठाने पर हम सभी जरूरी कदम उठाएंगे। इसमें सोशल मीडिया प्लेटफाॅर्म को मिले सुरक्षित हार्बर को वापस लेने के साथ उनके खिलाफ कानूनी कार्रवाई करना भी शामिल है।