प्रधानमंत्री नरेंद्र मोदी के कथित AI से मॉर्फ्ड वीडियो सोशल मीडिया पर वायरल होने के मामले में हैदराबाद साइबर क्राइम पुलिस ने Meta और Meta इंडिया हेड अरुण श्रीनिवास समेत कई सोशल मीडिया यूजर्स के खिलाफ केस दर्ज किया है। मामला Facebook और Instagram पर साझा किए गए कथित एडिटेड वीडियो से जुड़ा है।
पुलिस के अनुसार, प्रधानमंत्री नरेंद्र मोदी के एक वीडियो को AI तकनीक की मदद से एडिट कर सोशल मीडिया पर फैलाया गया, जिससे लोगों के गुमराह होने की आशंका जताई गई है। जांच एजेंसियों का मानना है कि यह सामग्री भारतीय न्याय संहिता (BNS) और सूचना प्रौद्योगिकी अधिनियम (IT Act) के प्रावधानों का उल्लंघन कर सकती है।
साइबर क्राइम पुलिस अब यह पता लगाने में जुटी है कि इन डीपफेक जैसे वीडियो को किसने बनाया, इन्हें किस तरह सोशल मीडिया पर फैलाया गया और प्लेटफॉर्म पर मौजूद सुरक्षा व्यवस्था इन्हें रोकने में कितनी प्रभावी रही। साथ ही वीडियो बनाने और शेयर करने वालों की भूमिका की भी जांच की जा रही है।
इससे पहले हैदराबाद साइबर क्राइम पुलिस ने Meta के अधिकारियों को तलब कर AI स्कैम, फर्जी विज्ञापनों और मॉर्फ्ड कंटेंट की पहचान कर उन्हें हटाने की प्रक्रिया पर जवाब मांगा था। रिपोर्ट के अनुसार, Meta ने जांच में सहयोग करते हुए अपनी कंटेंट मॉडरेशन और सुरक्षा नीतियों की जानकारी अधिकारियों को उपलब्ध कराई है।
पुलिस ने स्पष्ट किया है कि जांच अभी शुरुआती चरण में है। सभी आरोपों की पुष्टि डिजिटल सबूतों के आधार पर की जाएगी और फिलहाल किसी को दोषी नहीं ठहराया गया है। जांच पूरी होने के बाद ही आगे की कार्रवाई तय होगी।
मॉर्फ्ड वीडियो ऐसे वीडियो होते हैं जिनमें AI या एडिटिंग सॉफ्टवेयर की मदद से किसी व्यक्ति का चेहरा, आवाज या हाव-भाव बदल दिए जाते हैं, जिससे ऐसा प्रतीत होता है कि उसने कुछ ऐसा कहा या किया है जो वास्तव में हुआ ही नहीं।
