डीपफेक और राजनीतिक अभियानों का अस्थिर मिश्रण सतर्क रहने का एक अच्छा कारण है। शॉन एंथोनी एडी क्रिएटिव/ई+ गेटी इमेज के माध्यम से

एक कल्पना कीजिए अक्टूबर आश्चर्य किसी अन्य की तरह नहीं: 5 नवंबर, 2024 से केवल एक सप्ताह पहले, एक वीडियो रिकॉर्डिंग से जो बिडेन और वलोडिमिर ज़ेलेंस्की के बीच एक गुप्त बैठक का पता चलता है। अमेरिकी और यूक्रेनी राष्ट्रपति "विशेष आपातकालीन सदस्यता प्रोटोकॉल" के तहत यूक्रेन को तुरंत नाटो में शामिल करने और रूस के खिलाफ परमाणु हथियार हमले की तैयारी करने पर सहमत हुए। अचानक, दुनिया हर-मगिदोन के मुहाने पर है।

जबकि पत्रकार उस ओर इशारा कर सकते थे ऐसा कोई प्रोटोकॉल मौजूद नहीं है और सोशल मीडिया उपयोगकर्ता वीडियो के अजीब वीडियो-गेम जैसे गुणों को देख सकते हैं, दूसरों को ऐसा महसूस हो सकता है उनका सबसे बुरा डर पुष्टि की गई है. जब चुनाव का दिन आता है, तो ये चिंतित नागरिक वीडियो को अपने वोटों पर हावी होने दे सकते हैं, इस बात से अनजान कि उन्हें सिर्फ एक डीपफेक स्थिति द्वारा हेरफेर किया गया है - एक ऐसी घटना जो वास्तव में कभी नहीं हुई थी।

स्थिति डीपफेक प्रौद्योगिकियों के अगले चरण का प्रतिनिधित्व करती है पहले से है वास्तविकता के प्रति दर्शकों की धारणा को झकझोर दिया। हमारे शोध में डेफेक प्रोजेक्ट, मेरे सहकर्मी Rochester प्रौद्योगिकी संस्थान, मिसिसिपी विश्वविद्यालय, मिशिगन स्टेट यूनिवर्सिटी और मैं अध्ययन करें कि डीपफेक कैसे बनाए जाते हैं और मतदाता उनसे खुद को बचाने के लिए क्या उपाय कर सकते हैं।

उन घटनाओं की कल्पना करना जो कभी घटित नहीं हुईं

डीपफेक तब बनता है जब कोई विशेष रूप से कृत्रिम बुद्धिमत्ता उपकरण का उपयोग करता है ध्यान लगा के पढ़ना या सीखना, हेरफेर करना या उत्पन्न करना बनानातक आवाज़ अथवा - के उदय के साथ बड़े भाषा मॉडल पसंद ChatGPT - बोलचाल की भाषा. इन्हें "सिचुएशन डीपफेक" बनाने के लिए जोड़ा जा सकता है।

स्थिति डीपफेक का मूल विचार और तकनीक किसी भी अन्य डीपफेक के समान ही है, लेकिन एक साहसिक महत्वाकांक्षा के साथ: किसी वास्तविक घटना में हेरफेर करना या हवा से किसी घटना का आविष्कार करना। उदाहरणों में के चित्रण शामिल हैं डोनाल्ड ट्रंप की पर्प वॉक और एंथोनी फौसी को गले लगाते ट्रंप, इनमें से कुछ भी नहीं हुआ। हग शॉट को एक द्वारा प्रचारित किया गया था ट्विटर खाते राष्ट्रपति अभियान से जुड़े ट्रम्प प्रतिद्वंद्वी रॉन डेसेंटिस की। एक आक्रमण विज्ञापन रिपब्लिकन नेशनल कमेटी द्वारा प्रकाशित जो बिडेन के 2024 अभियान को लक्षित किया गया था पूरी तरह से AI से बनाया गया.

पर डेफेक प्रोजेक्ट, हमारी शोध में पाया गया स्थितियों सहित, डीपफेक आमतौर पर कुछ मिश्रण द्वारा बनाए जाते हैं मीडिया के एक हिस्से को दूसरे के साथ जोड़ना; एक वीडियो का उपयोग करना किसी छवि को एनिमेट करने या किसी अन्य वीडियो को बदलने के लिए, डब किया गया कठपुतली ; मीडिया के एक टुकड़े को अस्तित्व में लाना, आम तौर पर उपयोग करना जनरेटिव ए.आई.; या इन तकनीकों का कुछ संयोजन।

स्पष्ट रूप से कहें तो, कई सिचुएशन डीपफेक निर्दोष उद्देश्यों के लिए बनाए जाते हैं। उदाहरण के लिए, अनंत ओडिसी पत्रिका फिल्मों से नकली चित्र तैयार करता है कभी उत्पादित नहीं किये गये or कभी अस्तित्व में नहीं हो सकता था. लेकिन मासूम डीपफेक भी रुकने का कारण देते हैं, जैसा कि लगभग विश्वसनीय नकली तस्वीरों के मामले में होता है अपोलो मून एक फिल्म निर्माण के रूप में उतर रहा है.

चुनाव को डीपफेक करना

अब अपने आप को आगामी चुनाव को प्रभावित करने की कोशिश करने वाले व्यक्ति की स्थिति में रखें। वे कौन सी संभावित परिस्थितियाँ हैं जो आप बनाना चाहेंगे?

शुरुआत करने वालों के लिए, यह मायने रखेगा कि आप मतदान को किसी विशिष्ट परिणाम की ओर झुकाना चाहते हैं या उससे दूर। हो सकता है कि आप एक उम्मीदवार को तेज रफ्तार कार के रास्ते से एक पैदल यात्री को खींचकर या इसके विपरीत, कुछ आक्रामक या आपराधिक कार्य करते हुए वीरतापूर्वक कार्य करते हुए चित्रित करेंगे। स्थिति डीपफेक का प्रारूप भी मायने रखेगा। एक वीडियो के बजाय, यह एक तस्वीर हो सकती है, शायद धुंधले और कोणों के साथ जो स्मार्टफोन कैमरे या समाचार एजेंसी के जाली लोगो का अनुकरण करती है।

आपके लक्षित दर्शक महत्वपूर्ण होंगे। आम मतदाताओं या किसी पार्टी के आधार को लक्ष्य बनाने के बजाय, आप प्रमुख मतदान जिलों में षड्यंत्र सिद्धांतकारों को लक्षित कर सकते हैं। आप उम्मीदवार या उनके परिवार के सदस्यों को इसमें शामिल होने के रूप में चित्रित कर सकते हैं शैतानी की रस्म, एक उत्सव में भाग ले रहे हैं विशिष्ट और विवादास्पद बोहेमियन ग्रोव, या होने किसी अलौकिक प्राणी से गुप्त मुलाकात.

यदि आपमें इसके लिए महत्वाकांक्षा और क्षमताएं हैं, तो आप चुनाव को भी डीपफेक करने का प्रयास कर सकते हैं। जून 2023 में, रूस के टेलीविजन और रेडियो स्टेशनों को हैक कर लिया गया था पूर्ण लामबंदी आदेश प्रसारित करें एक से रूसी राष्ट्रपति व्लादिमीर पुतिन का डीपफेक. हालांकि अमेरिकी चुनाव में ऐसा करना अधिक कठिन होगा, सिद्धांत रूप में किसी भी समाचार आउटलेट को हैक किया जा सकता है ताकि उनके एंकरों द्वारा गलत नतीजों की घोषणा करने या उम्मीदवार के स्वीकार करने के डीपफेक प्रसारित किए जा सकें।

वास्तविकता का बचाव

डीपफेक का पता लगाने और उससे बचाव के लिए कई प्रकार के तकनीकी और मनोवैज्ञानिक तरीके हैं।

तकनीकी मोर्चे पर, सभी डीपफेक में उनकी वास्तविक प्रकृति के कुछ सबूत होते हैं। इनमें से कुछ बातें मानव आँख से देखी जा सकती हैं - जैसे अत्यधिक चिकनी त्वचा या विषम प्रकाश व्यवस्था या वास्तुकला - जबकि अन्य हो सकती हैं केवल डीपफेक-हंटिंग एआई द्वारा पता लगाया जा सकता है.

हम निर्माण कर रहे हैं डीफेकडीपफेक के स्पष्ट संकेतों को पकड़ने के लिए एआई का उपयोग करने वाला डिटेक्टर, और हम इसे 2024 के चुनाव के लिए समय पर तैयार करने का प्रयास करने के लिए काम कर रहे हैं। लेकिन भले ही हमारे जैसे पर्याप्त शक्तिशाली डीपफेक डिटेक्टर को चुनाव के दिन तक तैनात नहीं किया जा सकता है, ऐसे मनोवैज्ञानिक उपकरण हैं जिनका उपयोग आप, मतदाता, डीपफेक की पहचान करने के लिए कर सकते हैं: पृष्ठभूमि ज्ञान, जिज्ञासा और स्वस्थ संदेह।

यदि आपको किसी व्यक्ति, स्थान या घटना के बारे में मीडिया सामग्री मिलती है जो अस्वाभाविक लगती है, तो अपने पृष्ठभूमि ज्ञान पर भरोसा करें। उदाहरण के लिए, ए में पेंटागन में आग लगने की हालिया अफवाह, दिखाई गई इमारत पंचकोणीय की तुलना में अधिक चौकोर दिखती है, जो एक सस्ता उपहार हो सकता है।

हालाँकि, पूरी तरह से अपने पृष्ठभूमि ज्ञान पर भरोसा न करने का प्रयास करें, जो गलत या अधूरा हो सकता है। विश्वसनीय स्रोतों से अधिक जानने से कभी न डरें, जैसे तथ्य-जांच की गई समाचार रिपोर्ट, सहकर्मी-समीक्षित अकादमिक लेख या प्रमाणित विशेषज्ञों के साथ साक्षात्कार।

इसके अतिरिक्त, इस बात से अवगत रहें कि डीपफेक का उपयोग आपकी स्थिति का फायदा उठाने के लिए किया जा सकता है विश्वास करने के लिए इच्छुक किसी व्यक्ति, स्थान या घटना के बारे में। इससे निपटने का सबसे अच्छा तरीका बस यही है अपने पूर्वाग्रहों से अवगत रहें और किसी भी मीडिया सामग्री के बारे में थोड़ा सावधान रहें जो उनकी पुष्टि करती प्रतीत होती है।

भले ही डीपफेक के लिए सही स्थिति बनाना संभव हो जाए, फिर भी उनका विषय कितना भी विश्वसनीय क्यों न हो, उनके लिए मुसीबत बने रहने की संभावना है। इसलिए, तकनीकी समाधान के साथ या उसके बिना, आपके पास अभी भी चुनाव को फर्जी घटनाओं के प्रभाव से बचाने की शक्ति है।

के बारे में लेखक

क्रिस्टोफर श्वार्ट्ज, कम्प्यूटिंग सुरक्षा के पोस्टडॉक्टोरल रिसर्च एसोसिएट, Rochester प्रौद्योगिकी संस्थान

इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.

संबंधित पुस्तकें:

अत्याचार पर: बीसवीं सदी से बीस पाठ

टिमोथी स्नाइडर द्वारा

यह पुस्तक संस्थाओं के महत्व, व्यक्तिगत नागरिकों की भूमिका, और अधिनायकवाद के खतरों सहित लोकतंत्र के संरक्षण और बचाव के लिए इतिहास से सबक प्रदान करती है।

अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें

हमारा समय अब ​​है: शक्ति, उद्देश्य, और एक निष्पक्ष अमेरिका के लिए लड़ाई

स्टेसी अब्राम्स द्वारा

लेखक, एक राजनेता और कार्यकर्ता, अधिक समावेशी और न्यायपूर्ण लोकतंत्र के लिए अपने दृष्टिकोण को साझा करती हैं और राजनीतिक जुड़ाव और मतदाता लामबंदी के लिए व्यावहारिक रणनीति पेश करती हैं।

अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें

कैसे डेमोक्रेसीज मरो

स्टीवन लेविट्स्की और डैनियल ज़िब्लाट द्वारा

यह पुस्तक लोकतंत्र के टूटने के चेतावनी संकेतों और कारणों की जांच करती है, दुनिया भर के केस स्टडीज पर चित्रण करती है ताकि लोकतंत्र की सुरक्षा कैसे की जा सके।

अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें

द पीपल, नो: अ ब्रीफ हिस्ट्री ऑफ एंटी-पॉपुलिज्म

थॉमस फ्रैंक द्वारा

लेखक संयुक्त राज्य में लोकलुभावन आंदोलनों का इतिहास प्रस्तुत करता है और "लोकलुभावन-विरोधी" विचारधारा की आलोचना करता है, जिसके बारे में उनका तर्क है कि इसने लोकतांत्रिक सुधार और प्रगति को दबा दिया है।

अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें

एक किताब या उससे कम में लोकतंत्र: यह कैसे काम करता है, यह क्यों नहीं करता है, और इसे ठीक करना आपके विचार से आसान क्यों है

डेविड लिट द्वारा

यह पुस्तक लोकतंत्र की ताकत और कमजोरियों सहित उसका एक सिंहावलोकन प्रस्तुत करती है, और प्रणाली को अधिक उत्तरदायी और जवाबदेह बनाने के लिए सुधारों का प्रस्ताव करती है।

अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें