कुछ समय से सोशल मीडिया पर बॉलीवुड अभिनेत्री रश्मिका मंदाना(Rashmika Mandanna) का एक Deepfake वीडियो वायरल हो रहा है। जिससे AI के दुरुपयोग की खतरनाक संभावनाओं का पता चलता है।
Celebrities या पब्लिक Personalities को ही नहीं बल्कि सामान्य व्यक्तियों को भी इससे खतरा हो सकता है। डीपफेक वीडियो, जिसमें चेहरे को स्वैप करने या वीडियो को बदलने के लिए AI का उपयोग किया जाता है, में यह बतलाना कठिन होता है कि असली क्या है।
Deepfake क्या होता है?
Deepfake Videos सॉफ्टवेयर, मशीन लर्निंग और फेस स्वैपिंग टेकनीक का उपयोग करके बनाए गए नकली वीडियो होते हैं, जिनमें विभिन्न प्रकार की पिक्चर्स को एक नया विडिओ बनाने के लिए जोड़ दिया जाता है। जो ऐसी घटनाओं को दर्शा सकते हैं, जिनका वास्तविकता से कोई संबंध नहीं होता है।
इन वीडियो में एक व्यक्ति के चेहरे को दूसरे व्यक्ति के चेहरे के साथ स्वैप कर दिया जाता है। इन भ्रामक छवियों को बनाने के लिए AI की Deep Learning का प्रयोग किया जाता है, यही कारण है कि उन्हें “Deepfake” कहा जाता है।
Deepfake Technology के द्वारा काल्पनिक तस्वीरें, किसी की आवाज के क्लोन व अन्य कई प्रकार के विडिओ भी बनाए जा सकते हैं।
दूसरे शब्दों में कहें तो Deepfake Videos AI टेक्नॉलजी का उपयोग करके बनाए जाते है, जिनमें किसी भी व्यक्ति के चेहरे या आवाज को किसी दूसरे व्यक्ति के चेहरे या आवाज से बदल दिया जाता है। आजकल बहुत से क्रिमिनल इस टेक्नॉलजी का उपयोग साइबर क्राइम के लिए कर रहे हैं।
डीपफेक वीडियो को पहचानना कठिन है क्योंकि उनमें प्रयोग की जाने वाली तकनीक का लगातार विकास होता जा रहा है।
इस टेक्नॉलजी का प्रयोग करके झूठी जानकारी, जिसका किसी विश्वसनीय स्रोत से आने का भ्रम होता है, फैलाने का खतरा हो सकता है। यद्यपि यह टेक्नॉलजी खतरनाक हो सकती है, लेकिन इसका उपयोग वैध तरीके से भी किया जा सकता है।
Tips to identify a Deepfake Video | Deepfake Video को कैसे पहचाने –
- किसी भी नकली वीडियो की पहचान करने के लिए, उसमें दिखने वाले व्यक्ति के चेहरे पर ध्यान दें।
- इस पर ध्यान दें कि क्या वीडियो में दिखाया जाने वाला कंटेन्ट, दिखने वाले व्यक्ति के सामान्य व्यवहार के अनुसार है।
- वीडियो की विश्वसनीयता के लिए उसके सोर्स की पुष्टि करें।
- डीपफेक डिटेक्शन टूल का उपयोग करें।
- डीपफेक टेक्नॉलजी के बारे में अपडेट लेते रहें।
- इन वीडियो में चेहरे के हाव-भाव या गतिविधियाँ अप्राकृतिक लगती हैं।
- ऑडिओ सुनकर पहचाने कि यह असली व्यक्ति है या नहीं।
- विडिओ की बैकग्राउन्ड पर ध्यान दें कि वीडियो धुंधला तो नहीं है, लाइट असामान्य तो नहीं है
- यदि विडिओ में दिखने वाला व्यक्ति पहचान का है तो उससे पुष्टि करें।
यदि किसी के साथ साइबर फ्रॉड हुआ है तो उसे साइबर हेल्पलाइन नंबर 1930 पर कॉल करना चाहिए या cybercrime.gov.in पर अपनी शिकायत को रजिस्टर करना चाहिए।
Deepfake से बचने के लिए आपको अपनी व्यक्तिगत जानकारी सोशल मीडिया प्लेटफॉर्म नहीं शेयर करनी चाहिए। अपने सोशल मीडिया अकाउंट को प्राइवेट ही रखना चाहिए।