भारतीय-अमेरिकी मशहूर हस्तियों की AI ने बनाई अश्लील इमेज

आजकल मेटा अपने एआई को लेकर काफी चर्चा में रहा है। हाल ही में कुछ इमेज सामने आई है जिसमें भारतीय और अमेरिका के सेलिब्रिटी की एआई से जनरेटेड बेकार तस्वीरें इंस्टाग्राम और अन्य प्लेटफॉर्म पर शेयर की जा रही है। इस विषय पर निर्णय लेने के लिए टेक दिग्गज ने जनता से उनकी राय मांगी है। आइये इसके बारे में जानते हैं।

 सोशल मीडिया दिग्गज मेटा के ओवरसाइट बोर्ड ने भारत और अमेरिका में पब्लिक फिगर  से संबंधित दो मामलों में एआई-जनित अश्लील छवियों पर की जाने वाली कार्रवाई पर निर्णय लेने के लिए सार्वजनिक टिप्पणियां आमंत्रित की हैं।

बोर्ड, जो सामग्री मॉडरेशन पर निर्णय लेने वाले बोर्ड ने कहा कि दो मामलों में से एक में इंस्टाग्राम पर पोस्ट की गई एक नग्न महिला की एआई-जनित इमेज शामिल है। यह छवि भारत की एक सार्वजनिक शख्सियत से मिलती-जुलती है , जिसे एआई का उपयोग करके बनाया गया है।

जिस अकाउंट ने इस कंटेंट को पोस्ट किया है वह केवल भारतीय महिलाओं की एआई-जनित छवियों को साझा करता है। प्रतिक्रिया देने वाले अधिकांश यूजर के आकाउंट भारत में हैं। जहां डीपफेक होते हैं और यह एक समस्या बढ़ती जा रही है।

मेटा ने मांगी जनता की राय 

मेटा ने इस मुद्दे पर जनता की राय मांगी है, हालांकि इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने पहले ही सोशल मीडिया फर्मों को एआई-जनरेटेड नकली छवियों और वीडियो को हटाने के लिए कहा है और एक सलाह जारी की है, जिसमें इन प्लेटफार्मों को उनका सख्ती से पालन करने के लिए कहा गया है।

रश्मिका मंदाना और प्रियंका चोपड़ा जोनास सहित कई भारतीय अभिनेत्रियों की नकली या बदली तस्वीरें और वीडियो इंस्टाग्राम, फेसबुक और एक्स सहित कई सोशल मीडिया प्लेटफार्मों पर वायरल हो गए हैं।

बोर्ड ने कहा कि भारत से संबंधित मामले में, एक यूजर ने कंटेंट को अश्लीलता के लिए मेटा को रिपोर्ट किया था लेकिन रिपोर्ट ऑटोमेटिकली बंद कर दी गई थी, क्योंकि 48 घंटों के भीतर इसकी समीक्षा नहीं की गई थी।

बोर्ड ने कहा कि इसके बाद यूजर ने बोर्ड से अपील की। बोर्ड द्वारा इस मामले को चुनने के परिणामस्वरूप, मेटा ने निर्धारित किया कि कंटेंट को छोड़ने का उसका निर्णय त्रुटिपूर्ण था और धमकी और उत्पीड़न समुदाय मानक का उल्लंघन करने के लिए पोस्ट को हटा दिया गया।

शिकायत के 24 घंटे के भीतर होती है कार्रवाई

2021 के आईटी नियमों के अनुसार, एक ऑनलाइन प्लेटफॉर्म को शिकायत प्राप्त होने के 24 घंटों के भीतर पूर्ण या आंशिक नग्नता को हटाना आवश्यक है। बोर्ड ने अमेरिका में एक मामले पर सार्वजनिक विचार भी आमंत्रित किए हैं, जहां एक फेसबुक ग्रुप में एक अमेरिकी सेलिब्रिटी की एआई-जनित अश्लील छवि पोस्ट की गई थी।

बोर्ड ने कहा कि पोस्ट पर प्रतिक्रिया देने वाले अधिकांश यूजर्स के खाते अमेरिका में हैं। इस मामले में, छवि को पहले ही फेसबुक के कम्युनिटी स्टैंडर्ड का उल्लंघन माना गया था और हटा दिया गया था।

बोर्ड ने कहा, इस मामले के लिए पब्लिक कॉमेंट विंडो 30 अप्रैल तक 14 दिनों के लिए खुली है।ओवरसाइट बोर्ड ने मशहूर हस्तियों के नाम या विवरण का उल्लेख नहीं किया।