Facebook पर प्रधानमंत्री नरेंद्र मोदी से जुड़ा एक वीडियो कुछ समय के लिए हटाए जाने के बाद Meta India एक बार फिर विवादों में है। इस बार AI-जनरेटेड मॉर्फ्ड वीडियो मामले में Meta India के प्रमुख अरुण श्रीनिवास समेत कुछ सोशल मीडिया अकाउंट्स के खिलाफ FIR दर्ज की गई है। मीडिया रिपोर्ट्स के अनुसार, हैदराबाद साइबर क्राइम पुलिस मामले की जांच कर रही है।
क्या है मामला?
पुलिस के अनुसार, प्रधानमंत्री नरेंद्र मोदी से जुड़े एक वीडियो को कुछ सोशल मीडिया यूजर्स ने कथित तौर पर AI टूल्स की मदद से एडिट कर अलग संदर्भ में Facebook और Instagram पर साझा किया। जांच एजेंसियों का आरोप है कि इस तरह के मॉर्फ्ड वीडियो लोगों को गुमराह कर सकते हैं और गलत जानकारी फैलाने का माध्यम बन सकते हैं।
Facebook और Instagram पर हुई शेयरिंग
रिपोर्ट्स के मुताबिक, विवादित वीडियो Meta के प्लेटफॉर्म Facebook और Instagram पर प्रसारित हुए। पुलिस यह जांच कर रही है कि क्या इन वीडियो के प्रसार से भारतीय न्याय संहिता (BNS) और सूचना प्रौद्योगिकी अधिनियम (IT Act) के प्रावधानों का उल्लंघन हुआ है।
वीडियो बनाने और फैलाने वालों की जांच
हैदराबाद साइबर क्राइम पुलिस यह पता लगाने में जुटी है कि AI-जनरेटेड वीडियो किसने तैयार किए, उन्हें किस तरह सोशल मीडिया पर फैलाया गया और क्या प्लेटफॉर्म की मॉडरेशन व्यवस्था ऐसे कंटेंट को रोकने में पर्याप्त थी। साथ ही, वीडियो बनाने और आगे साझा करने वाले सभी संबंधित लोगों की भूमिका की भी जांच की जा रही है।
Meta से मांगा गया जवाब
इससे पहले हैदराबाद साइबर क्राइम पुलिस ने Meta के अधिकारियों को पूछताछ के लिए बुलाया था। कंपनी से पूछा गया कि AI-आधारित फर्जी कंटेंट, मॉर्फ्ड वीडियो और ऑनलाइन स्कैम की पहचान कर उन्हें हटाने के लिए उसके पास क्या व्यवस्था है। Meta ने जांच एजेंसियों के समक्ष अपने कंटेंट मॉडरेशन सिस्टम और नीतियों की जानकारी दी है तथा जांच में पूरा सहयोग करने की बात कही है।
शुरुआती चरण में है जांच
पुलिस ने स्पष्ट किया है कि मामला अभी शुरुआती जांच के दौर में है। आगे की कार्रवाई डिजिटल साक्ष्यों और जांच में सामने आने वाले तथ्यों के आधार पर की जाएगी। फिलहाल किसी भी व्यक्ति की दोषसिद्धि नहीं हुई है और जांच जारी है।
क्या होते हैं मॉर्फ्ड वीडियो?
मॉर्फ्ड वीडियो ऐसे वीडियो होते हैं जिनमें किसी व्यक्ति के चेहरे, आवाज या हाव-भाव को AI या अन्य डिजिटल एडिटिंग तकनीकों की मदद से इस तरह बदला जाता है कि वह व्यक्ति ऐसी बात कहता या करता हुआ दिखाई दे, जो उसने वास्तव में कभी नहीं कही या की हो। ऐसे वीडियो गलत सूचना फैलाने और लोगों को भ्रमित करने का कारण बन सकते हैं।
