गहरे नकली संदेह बोते हैं 4 14
 तकनीक जो डीपफेक का उत्पादन कर सकती है वह व्यापक रूप से उपलब्ध है। (Shutterstock)

मार्च की शुरुआत में, ए यूक्रेन के राष्ट्रपति वलोडिमिर ज़ेलेंस्की का हेर-फेर वाला वीडियो प्रसारित किया गया. इसमें, डिजिटल रूप से उत्पन्न ज़ेलेंस्की ने यूक्रेनी राष्ट्रीय सेना को आत्मसमर्पण करने के लिए कहा। वीडियो को ऑनलाइन प्रसारित किया गया था, लेकिन इसे एक डीपफेक के रूप में जल्दी से खारिज कर दिया गया था - कृत्रिम बुद्धिमत्ता का उपयोग करके निर्मित एक अति-यथार्थवादी अभी तक नकली और हेरफेर किया गया वीडियो।

जबकि रूसी दुष्प्रचार का एक सीमित प्रभाव प्रतीत होता है, इस खतरनाक उदाहरण ने डीपफेक के संभावित परिणामों को चित्रित किया।

हालांकि, सहायक तकनीक में डीपफेक का सफलतापूर्वक उपयोग किया जा रहा है। उदाहरण के लिए, जो लोग पार्किंसंस रोग से पीड़ित हैं वे संवाद करने के लिए वॉयस क्लोनिंग का उपयोग कर सकते हैं.

शिक्षा में डीपफेक का उपयोग किया जाता है: आयरलैंड स्थित भाषण संश्लेषण कंपनी सेरेप्रोक ने जॉन एफ कैनेडी के लिए एक सिंथेटिक आवाज बनाई, अपने ऐतिहासिक भाषण को देने के लिए उन्हें वापस जीवन में लाना.

आंतरिक सदस्यता ग्राफिक

फिर भी हर सिक्के के दो पहलू होते हैं। डीपफेक अति-यथार्थवादी हो सकते हैं, और मूल रूप से मानव आंखों से ज्ञानी नहीं है.

इसलिए, फ़िशिंग, मानहानि और ब्लैकमेलिंग के लिए उसी वॉयस-क्लोनिंग तकनीक का उपयोग किया जा सकता है। जब जनता की राय को नया आकार देने, सामाजिक संघर्षों को भड़काने और चुनावों में हेरफेर करने के लिए जानबूझकर डीपफेक तैनात किए जाते हैं, तो उनमें लोकतंत्र को कमजोर करने की क्षमता होती है।

वाशिंगटन विश्वविद्यालय के शोधकर्ताओं ने बराक ओबामा का डीपफेक बनाया।

अराजकता पैदा करना

डीपफेक तकनीक पर आधारित होते हैं जिन्हें के रूप में जाना जाता है जनरेटिव प्रतिकूल नेटवर्क जिसमें दो एल्गोरिदम एक दूसरे को चित्र बनाने के लिए प्रशिक्षित करते हैं।

जबकि गहरे नकली के पीछे की तकनीक जटिल लग सकती है, यह एक आसान मामला है। कई ऑनलाइन आवेदन हैं जैसे चेहरा बदलना और ZAO डीपस्वैप जो मिनटों में डीपफेक बना सकता है।

Google Colaboratory — कई प्रोग्रामिंग भाषाओं में कोड के लिए एक ऑनलाइन रिपॉजिटरी — में कोड के उदाहरण शामिल हैं जो नकली चित्र और वीडियो बनाने के लिए इस्तेमाल किया जा सकता है. सॉफ्टवेयर के साथ यह सुलभ है, यह देखना आसान है कि संभावित सुरक्षा जोखिमों को महसूस किए बिना औसत उपयोगकर्ता डीपफेक के साथ कैसे कहर बरपा सकते हैं।

फेस-स्वैपिंग ऐप्स और ऑनलाइन सेवाओं की लोकप्रियता जैसे गहरी उदासीनता दिखाएँ कि आम जनता द्वारा कितनी जल्दी और व्यापक रूप से डीपफेक को अपनाया जा सकता है। 2019 में, डीपफेक का उपयोग करने वाले लगभग 15,000 वीडियो का पता चला है. और यह संख्या बढ़ने की उम्मीद है।

डीपफेक दुष्प्रचार अभियानों के लिए एकदम सही उपकरण हैं क्योंकि वे विश्वसनीय फर्जी खबरें पैदा करते हैं जिन्हें खारिज करने में समय लगता है। इस बीच, डीपफेक से होने वाले नुकसान - विशेष रूप से जो लोगों की प्रतिष्ठा को प्रभावित करते हैं - अक्सर लंबे समय तक चलने वाले और अपरिवर्तनीय होते हैं।

देखना विश्वास कर रहा है?

शायद डीपफेक का सबसे खतरनाक असर यह है कि वे राजनीतिक अभियानों में खुद को गलत सूचनाओं के लिए कैसे उधार देते हैं।

हमने इसे तब देखा जब डोनाल्ड ट्रम्प ने किसी भी अप्रिय मीडिया कवरेज को "फर्जी खबर।" अपने आलोचकों पर नकली समाचार प्रसारित करने का आरोप लगाकर, ट्रम्प अपने गलत कामों के बचाव में और प्रचार उपकरण के रूप में गलत सूचना का उपयोग करने में सक्षम थे।

ट्रम्प की रणनीति उन्हें यह दावा करके अविश्वास और दुष्प्रचार से भरे वातावरण में समर्थन बनाए रखने की अनुमति देती है "कि सच्ची घटनाएँ और कहानियाँ नकली समाचार या डीपफेक हैं".

अधिकारियों और मीडिया में विश्वसनीयता को कम किया जा रहा हैअविश्वास का माहौल बना रहे हैं। और डीपफेक के बढ़ते प्रसार के साथ, राजनेता किसी भी उभरते हुए घोटालों में दोषी होने से आसानी से इनकार कर सकते हैं। वीडियो में किसी की पहचान की पुष्टि कैसे की जा सकती है अगर वे इससे इनकार करते हैं?

हालाँकि, लोकतंत्र के लिए गलत सूचना का मुकाबला करना हमेशा एक चुनौती रहा है क्योंकि वे अभिव्यक्ति की स्वतंत्रता को बनाए रखने का प्रयास करते हैं। मानव-एआई भागीदारी लोगों को जानकारी सत्यापित करने के द्वारा डीपफेक के बढ़ते जोखिम से निपटने में मदद कर सकती है। सूचनाओं को गलत बनाने और लोगों का प्रतिरूपण करने के लिए डीपफेक के उत्पादकों को दंडित करने के लिए नया कानून पेश करने या मौजूदा कानूनों को लागू करने पर भी विचार किया जा सकता है।

लोकतांत्रिक समाजों को झूठी सूचनाओं से बचाने के लिए अंतरराष्ट्रीय और राष्ट्रीय सरकारों, निजी कंपनियों और अन्य संगठनों द्वारा बहु-विषयक दृष्टिकोण सभी महत्वपूर्ण हैं।वार्तालाप

के बारे में लेखक

सेज़-फंग ली, अनुसंधान सहायक, सूचना अध्ययन विभाग, मैकगिल विश्वविद्यालय और बेंजामिन सीएम फंग, साइबर सुरक्षा के लिए डेटा माइनिंग में प्रोफेसर और कनाडा रिसर्च चेयर, मैकगिल विश्वविद्यालय

इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.