छवि द्वारा सुसान सिप्रियानो
संपादक से:
जैसा कि इस लेख में प्रकाश डाला गया है, एआई-संचालित राजनीतिक अभियानों का विकास, जैसे क्लॉगर नामक काल्पनिक मशीन, चुनावों की अखंडता को गंभीर रूप से कमजोर कर सकती है। ऑटोमेशन, अनुकूलित संदेश और सुदृढीकरण सीखने का लाभ उठाकर, इन मशीनों में बड़े पैमाने पर मतदाताओं के व्यवहार में हेरफेर करने और बदलने की क्षमता है।
एक ऐसे युग में जहां आर्टिफिशियल इंटेलिजेंस (एआई) तेजी से आगे बढ़ रहा है, हमें अपनी लोकतांत्रिक प्रक्रियाओं के लिए संभावित खतरों के प्रति सतर्क रहना चाहिए। एआई-संचालित अभियानों का उद्भव लोकतंत्र के सार को ही चुनौती देता है। चुनावों को विचारों की शक्ति, नीति प्रस्तावों और वास्तविक मतदाता विकल्पों द्वारा निर्धारित किए जाने के बजाय, उन्हें केवल जीत पर केंद्रित मशीनों द्वारा प्रभावित किया जा सकता है। प्रबल होने वाली सामग्री सत्य या राजनीतिक सिद्धांतों के संबंध में एआई भाषा मॉडल से आएगी। संक्षेप में, चुनाव परिणाम एक कृत्रिम बुद्धि द्वारा निर्धारित किया जाएगा, जो लोकतांत्रिक प्रक्रिया को नष्ट कर देगा।
एक "क्लॉगोक्रेसी" के उदय और नागरिकों की शक्तिहीनता को रोकने के लिए, यह महत्वपूर्ण है कि हम कार्रवाई करें। बढ़ी हुई गोपनीयता सुरक्षा और मजबूत डेटा गोपनीयता कानून व्यक्तिगत डेटा तक एआई मशीनों की पहुंच को सीमित करने में मदद कर सकते हैं, व्यक्तियों को लक्षित करने और हेरफेर करने में उनकी प्रभावशीलता को कम कर सकते हैं। चुनाव आयोगों को मतदाताओं को प्रभावित करने के लिए डिजाइन किए गए एआई सिस्टम पर प्रतिबंध लगाने या सख्ती से विनियमित करने पर भी विचार करना चाहिए। राजनीतिक अभियानों में एआई-जनित संदेशों का उपयोग करने पर स्पष्ट अस्वीकरण की आवश्यकता वाले नियमों को लागू करना। यह पारदर्शिता प्रदान कर सकता है और मतदाताओं को सूचित निर्णय लेने में मदद कर सकता है।
यह जरूरी है कि हम इन चुनौतियों का सक्रिय रूप से समाधान करें और यह सुनिश्चित करें कि लोकतंत्र के सिद्धांतों को बनाए रखने के लिए एआई की शक्ति का जिम्मेदारी से उपयोग किया जाए। चुनावों की सत्यनिष्ठा की रक्षा करके और पसंद की स्वतंत्रता की रक्षा करके, हम एआई की जटिलताओं को नेविगेट कर सकते हैं और लोकतांत्रिक शासन की नींव को सुरक्षित रख सकते हैं।
एआई चुनाव कैसे ले सकता है - और लोकतंत्र को कमजोर कर सकता है
द्वारा लिखित आर्कन फंग, नागरिकता और स्वशासन के प्रोफेसर, हार्वर्ड केनेडी स्कूल और लॉरेंस Lessig, कानून और नेतृत्व के प्रोफेसर, हावर्ड यूनिवर्सिटी
क्या संगठन मतदाताओं को विशिष्ट तरीकों से व्यवहार करने के लिए प्रेरित करने के लिए आर्टिफिशियल इंटेलिजेंस भाषा मॉडल जैसे चैटजीपीटी का उपयोग कर सकते हैं?
सेन जोश हॉली ने ओपनएआई के सीईओ सैम ऑल्टमैन से यह सवाल पूछा 16 मई, 2023, अमेरिकी सीनेट की सुनवाई कृत्रिम बुद्धि पर। ऑल्टमैन ने उत्तर दिया कि वह वास्तव में चिंतित थे कि कुछ लोग मतदाताओं के साथ आमने-सामने की बातचीत में हेरफेर करने, मनाने और संलग्न करने के लिए भाषा मॉडल का उपयोग कर सकते हैं।
ऑल्टमैन ने विस्तार से नहीं बताया, लेकिन हो सकता है कि उनके मन में इस तरह का कुछ परिदृश्य रहा हो। कल्पना कीजिए कि जल्द ही, राजनीतिक प्रौद्योगिकीविद् क्लॉगर नामक एक मशीन विकसित करते हैं - एक ब्लैक बॉक्स में एक राजनीतिक अभियान। क्लॉगर लगातार केवल एक उद्देश्य का पीछा करता है: इस संभावना को अधिकतम करने के लिए कि उसका उम्मीदवार - वह अभियान जो क्लॉगर इंक की सेवाओं को खरीदता है - एक चुनाव में प्रबल होता है।
जबकि फेसबुक, ट्विटर और यूट्यूब जैसे प्लेटफॉर्म उपयोगकर्ताओं को प्राप्त करने के लिए एआई के रूपों का उपयोग करते हैं अधिक समय बिताओ अपनी साइटों पर, क्लॉगर के एआई का एक अलग उद्देश्य होगा: लोगों के मतदान व्यवहार को बदलना।
क्लॉगर कैसे काम करेगा
एक के रूप में राजनैतिक वैज्ञानिक और एक कानूनी विद्वान जो प्रौद्योगिकी और लोकतंत्र के प्रतिच्छेदन का अध्ययन करते हैं, हमारा मानना है कि क्लॉगर जैसी कोई चीज़ स्वचालन का उपयोग नाटकीय रूप से पैमाने और संभावित रूप से प्रभावशीलता को बढ़ाने के लिए कर सकती है व्यवहार में हेरफेर और सूक्ष्म लक्ष्यीकरण तकनीक 2000 के दशक की शुरुआत से ही राजनीतिक अभियानों ने इसका इस्तेमाल किया है। जिस प्रकार विज्ञापनदाता आपके ब्राउज़िंग और सोशल मीडिया इतिहास का उपयोग करते हैं वाणिज्यिक और राजनीतिक विज्ञापनों को अब व्यक्तिगत रूप से लक्षित करने के लिए, क्लॉगर आप पर - और करोड़ों अन्य मतदाताओं पर - व्यक्तिगत रूप से ध्यान देगा।
यह वर्तमान अत्याधुनिक एल्गोरिथम व्यवहार हेरफेर पर तीन अग्रिमों की पेशकश करेगा। सबसे पहले, इसका भाषा मॉडल संदेश - टेक्स्ट, सोशल मीडिया और ईमेल उत्पन्न करेगा, शायद छवियों और वीडियो सहित - व्यक्तिगत रूप से आपके अनुरूप। जबकि विज्ञापनदाता रणनीतिक रूप से अपेक्षाकृत कम संख्या में विज्ञापन देते हैं, चैटजीपीटी जैसे भाषा मॉडल एक अभियान के दौरान व्यक्तिगत रूप से आपके लिए - और दूसरों के लिए लाखों - अनगिनत अद्वितीय संदेश उत्पन्न कर सकते हैं।
दूसरा, क्लॉगर नामक तकनीक का उपयोग करेगा सुदृढीकरण सीखना संदेशों का एक क्रम उत्पन्न करने के लिए जो आपके वोट को बदलने की अधिक संभावना बन जाते हैं। रीइन्फोर्समेंट लर्निंग एक मशीन-लर्निंग, ट्रायल-एंड-एरर अप्रोच है जिसमें कंप्यूटर एक्शन लेता है और फीडबैक प्राप्त करता है कि कौन सा काम बेहतर है ताकि यह सीख सके कि किसी उद्देश्य को कैसे पूरा किया जाए। मशीनें जो गो, शतरंज और कई वीडियो गेम खेल सकती हैं किसी भी इंसान से बेहतर सुदृढीकरण सीखने का उपयोग किया है।
सुदृढीकरण सीखना कैसे काम करता है।
तीसरा, एक अभियान के दौरान, क्लॉगर के संदेश मशीन के पूर्व प्रेषण के प्रति आपकी प्रतिक्रियाओं को ध्यान में रखने के लिए विकसित हो सकते हैं और इसने दूसरों के दिमाग को बदलने के बारे में क्या सीखा है। क्लॉगर आपके साथ - और लाखों अन्य लोगों के साथ - समय के साथ गतिशील "बातचीत" करने में सक्षम होगा। क्लॉगर के संदेश समान होंगे विज्ञापन जो आपका अनुसरण करते हैं विभिन्न वेबसाइटों और सोशल मीडिया पर।
एआई की प्रकृति
तीन और विशेषताएं - या बग - ध्यान देने योग्य हैं।
सबसे पहले, क्लॉगर द्वारा भेजे जाने वाले संदेश सामग्री में राजनीतिक हो भी सकते हैं और नहीं भी। मशीन का एकमात्र लक्ष्य वोट शेयर को अधिकतम करना है, और यह संभवतः इस लक्ष्य को प्राप्त करने के लिए ऐसी रणनीति तैयार करेगा जिसके बारे में किसी मानव प्रचारक ने नहीं सोचा होगा।
एक संभावना संभावित विरोधी मतदाताओं को गैर-राजनीतिक जुनून के बारे में जानकारी भेज रही है जो उन्हें प्राप्त होने वाले राजनीतिक संदेश को दफनाने के लिए खेल या मनोरंजन में है। एक अन्य संभावना ऑफ-पुटिंग संदेश भेज रही है - उदाहरण के लिए असंयम विज्ञापन - विरोधियों के संदेश के साथ मेल खाने का समय। और दूसरा मतदाताओं के सोशल मीडिया मित्र समूहों में हेरफेर कर रहा है ताकि यह समझा जा सके कि उनके सामाजिक दायरे उनके उम्मीदवार का समर्थन करते हैं।
दूसरा, क्लॉगर को सच्चाई से कोई सरोकार नहीं है। दरअसल, उसके पास यह जानने का कोई तरीका नहीं है कि क्या सच है और क्या झूठ। भाषा मॉडल "मतिभ्रम" इस मशीन के लिए कोई समस्या नहीं है क्योंकि इसका उद्देश्य आपके वोट को बदलना है, न कि सटीक जानकारी प्रदान करना।
तीसरा, क्योंकि यह एक है ब्लैक बॉक्स प्रकार की कृत्रिम बुद्धि, लोगों के पास यह जानने का कोई तरीका नहीं होगा कि यह किन रणनीतियों का उपयोग करता है।
समझाने योग्य एआई के क्षेत्र का उद्देश्य कई मशीन-लर्निंग मॉडल के ब्लैक बॉक्स को खोलना है ताकि लोग समझ सकें कि वे कैसे काम करते हैं।
क्लॉगोक्रेसी
यदि रिपब्लिकन राष्ट्रपति अभियान 2024 में क्लॉगर को तैनात करता है, तो डेमोक्रेटिक अभियान संभवतः इसी तरह की मशीन के साथ प्रतिक्रिया देने के लिए मजबूर होगा। इसे डोगर कहते हैं। यदि अभियान प्रबंधकों ने सोचा कि ये मशीनें प्रभावी थीं, तो राष्ट्रपति पद की प्रतियोगिता क्लॉगर बनाम डॉगर तक कम हो सकती है, और विजेता अधिक प्रभावी मशीन का ग्राहक होगा।
राजनीतिक वैज्ञानिकों और पंडितों के पास इस बारे में कहने के लिए बहुत कुछ होगा कि एक या दूसरे एआई क्यों प्रबल हुए, लेकिन वास्तव में किसी को भी पता नहीं चलेगा। राष्ट्रपति को इसलिए नहीं चुना गया होगा क्योंकि उनके नीतिगत प्रस्तावों या राजनीतिक विचारों ने अधिक अमेरिकियों को राजी किया, बल्कि इसलिए कि उनके पास अधिक प्रभावी एआई था। उस दिन जो सामग्री जीती वह पूरी तरह से जीत पर केंद्रित एआई से आई होगी, जिसका अपना कोई राजनीतिक विचार नहीं था, बल्कि उम्मीदवारों या पार्टियों से आया था।
इस लिहाज से बेहद अहम मायने में चुनाव में एक व्यक्ति नहीं बल्कि एक मशीन जीती होगी। चुनाव अब लोकतांत्रिक नहीं होगा, भले ही लोकतंत्र की सभी सामान्य गतिविधियाँ - भाषण, विज्ञापन, संदेश, मतदान और वोटों की गिनती - हो चुकी होंगी।
एआई-निर्वाचित अध्यक्ष तब दो तरीकों में से एक जा सकता था। वह रिपब्लिकन या डेमोक्रेटिक पार्टी की नीतियों को आगे बढ़ाने के लिए चुनाव के अधिकार का उपयोग कर सकता है। लेकिन क्योंकि पार्टी के विचारों का इस बात से बहुत कम लेना-देना हो सकता है कि लोगों ने जिस तरह से मतदान किया - क्लॉगर और डॉगर को नीतिगत विचारों की परवाह नहीं है - राष्ट्रपति के कार्यों से मतदाताओं की इच्छा को जरूरी नहीं दिखाया जाएगा। मतदाताओं को स्वतंत्र रूप से अपने राजनीतिक नेताओं और नीतियों को चुनने के बजाय एआई द्वारा हेरफेर किया जाता।
राष्ट्रपति के लिए एक और रास्ता उन संदेशों, व्यवहारों और नीतियों को आगे बढ़ाने का है जो मशीन भविष्यवाणी करती है कि पुन: चुनाव की संभावना अधिकतम होगी। इस रास्ते पर, राष्ट्रपति के पास सत्ता बनाए रखने से परे कोई विशेष मंच या एजेंडा नहीं होगा। क्लॉगर द्वारा निर्देशित राष्ट्रपति की कार्रवाइयाँ मतदाताओं के वास्तविक हितों या यहाँ तक कि राष्ट्रपति की अपनी विचारधारा की सेवा करने के बजाय मतदाताओं को हेरफेर करने की सबसे अधिक संभावना होगी।
क्लॉगोक्रेसी से बचना
एआई चुनाव में हेरफेर से बचना संभव होगा यदि उम्मीदवार, अभियान और सलाहकार सभी ऐसे राजनीतिक एआई के उपयोग को छोड़ दें। हम मानते हैं कि यह असंभव है। यदि राजनीतिक रूप से प्रभावी ब्लैक बॉक्स विकसित किए जाते, तो उनका उपयोग करने का प्रलोभन लगभग अप्रतिरोध्य होता। दरअसल, राजनीतिक सलाहकार अपने उम्मीदवारों को जीतने में मदद करने के लिए अपनी पेशेवर जिम्मेदारी के अनुसार इन उपकरणों का उपयोग कर सकते हैं। और एक बार जब एक उम्मीदवार इस तरह के एक प्रभावी उपकरण का उपयोग करता है, तो विरोधियों से शायद ही एकतरफा निरस्त्रीकरण का विरोध करने की उम्मीद की जा सकती है।
बढ़ी हुई गोपनीयता सुरक्षा सहायता करेंगे. क्लॉगर व्यक्तियों को लक्षित करने के लिए बड़ी मात्रा में व्यक्तिगत डेटा तक पहुंच पर निर्भर करेगा, उन्हें राजी करने या हेरफेर करने के लिए शिल्प संदेश तैयार करेगा, और एक अभियान के दौरान उन्हें ट्रैक और पुनः लक्षित करेगा। उस सूचना का प्रत्येक अंश जिसे कंपनियां या नीति निर्माता मशीन से इनकार करते हैं, उसे कम प्रभावी बना देगा।
मजबूत डेटा गोपनीयता कानून एआई को चालाकी से दूर रखने में मदद कर सकते हैं।
एक अन्य समाधान चुनाव आयोगों के पास है। वे इन मशीनों को प्रतिबंधित या गंभीर रूप से नियंत्रित करने का प्रयास कर सकते थे। वहाँ है तीखी बहस क्या इस बारे में "प्रतिकृति" भाषण, भले ही यह राजनीतिक प्रकृति का हो, इसे विनियमित किया जा सकता है। अमेरिका की अत्यधिक मुक्त भाषण परंपरा कई प्रमुख शिक्षाविदों को यह कहने के लिए प्रेरित करता है कि यह नहीं हो सकता.
लेकिन इन मशीनों के उत्पाद के लिए पहले संशोधन के संरक्षण को स्वचालित रूप से विस्तारित करने का कोई कारण नहीं है। राष्ट्र भले ही मशीनों को अधिकार देने का चुनाव करे, लेकिन यह निर्णय आज की चुनौतियों के आधार पर होना चाहिए, गलत धारणा नहीं 1789 में जेम्स मैडिसन के विचार एआई पर लागू करने के लिए थे।
यूरोपीय संघ के नियामक इस दिशा में आगे बढ़ रहे हैं। नीति निर्माताओं ने अपने आर्टिफिशियल इंटेलिजेंस अधिनियम के यूरोपीय संसद के मसौदे को "अभियानों में मतदाताओं को प्रभावित करने के लिए एआई सिस्टम" नामित करने के लिए संशोधित किया "उच्च जोखिम" के रूप में और नियामक जांच के अधीन।
एक संवैधानिक रूप से सुरक्षित, यदि छोटा है, कदम, पहले से ही आंशिक रूप से अपनाया गया है यूरोपीय इंटरनेट नियामक में और कैलिफोर्निया, बॉट्स को खुद को लोगों के रूप में प्रस्तुत करने से रोकना है। उदाहरण के लिए, विनियमन की आवश्यकता हो सकती है कि अभियान संदेश अस्वीकरण के साथ आते हैं जब उनमें मौजूद सामग्री मनुष्यों के बजाय मशीनों द्वारा उत्पन्न होती है।
यह विज्ञापन अस्वीकरण आवश्यकताओं की तरह होगा - "कांग्रेस समिति के लिए सैम जोन्स द्वारा भुगतान किया गया" - लेकिन इसकी एआई उत्पत्ति को प्रतिबिंबित करने के लिए संशोधित किया गया: "यह एआई-जेनरेट किया गया विज्ञापन सैम जोन्स द्वारा कांग्रेस समिति के लिए भुगतान किया गया था।" एक मजबूत संस्करण की आवश्यकता हो सकती है: "यह एआई-जेनरेट किया गया संदेश सैम जोन्स द्वारा कांग्रेस कमेटी के लिए भेजा जा रहा है क्योंकि क्लॉगर ने भविष्यवाणी की है कि ऐसा करने से सैम जोन्स के लिए आपके मतदान की संभावना 0.0002% बढ़ जाएगी।" कम से कम, हम मानते हैं कि मतदाता यह जानने के योग्य हैं कि जब कोई बॉट उनसे बात कर रहा है, और उन्हें यह भी जानना चाहिए कि क्यों।
क्लॉगर जैसी प्रणाली की संभावना से पता चलता है कि पथ की ओर मानव सामूहिक शक्तिहीनता कुछ अलौकिक की आवश्यकता नहीं हो सकती है कृत्रिम सामान्य बुद्धि. इसके लिए केवल अत्यधिक उत्सुक प्रचारकों और सलाहकारों की आवश्यकता हो सकती है जिनके पास शक्तिशाली नए उपकरण हैं जो प्रभावी रूप से लाखों लोगों के कई बटन दबा सकते हैं।
लेखक के बारे में
आर्कन फंग, नागरिकता और स्वशासन के प्रोफेसर, हार्वर्ड केनेडी स्कूल और लॉरेंस Lessig, कानून और नेतृत्व के प्रोफेसर, हावर्ड यूनिवर्सिटी
इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.
संपादक का परिशिष्ट: चुनावों को संभालने और लोकतंत्र को कमजोर करने के लिए एआई की क्षमता एक गंभीर चिंता है जो हमारे ध्यान की मांग करती है। जैसा कि इस लेख में प्रकाश डाला गया है, क्लॉगर जैसे एआई-संचालित राजनीतिक अभियानों का उदय चुनावी परिणामों को फिर से आकार दे सकता है, जिसमें मशीनें अभूतपूर्व पैमाने पर मतदाता व्यवहार को प्रभावित करती हैं। इस तरह के बदलाव के परिणाम दूरगामी होंगे, क्योंकि चुनाव लोगों की इच्छा से नहीं बल्कि एआई हेरफेर की प्रभावशीलता से निर्धारित होते हैं।
नागरिकों की इस शक्तिहीनता को रोकने और लोकतंत्र की रक्षा के लिए हमें सक्रिय कदम उठाने चाहिए। मजबूत गोपनीयता संरक्षण और नियम जो चुनाव में एआई सिस्टम के प्रभाव को सीमित करते हैं, महत्वपूर्ण हैं। पारदर्शिता सुनिश्चित करके, एआई-सृजित सामग्री के लिए स्पष्ट अस्वीकरण लागू करके, और एआई के जिम्मेदार उपयोग को बढ़ावा देकर, हम लोकतांत्रिक प्रक्रियाओं की अखंडता को बनाए रख सकते हैं और अपने समाज के मूलभूत मूल्यों की रक्षा कर सकते हैं।
यह जरूरी है कि हम सतर्क रहें और चुनावों में एआई द्वारा पेश की गई चुनौतियों का सामना करने के लिए सामूहिक रूप से काम करें। ऐसा करके, हम उन लोकतांत्रिक आदर्शों को संरक्षित कर सकते हैं जो हमारे समाज को आधार देते हैं और एक ऐसा भविष्य सुरक्षित कर सकते हैं जहां प्रौद्योगिकी की शक्ति लोगों के हितों और आकांक्षाओं के साथ संरेखित हो।
संबंधित पुस्तकें:
अत्याचार पर: बीसवीं सदी से बीस पाठ
टिमोथी स्नाइडर द्वारा
यह पुस्तक संस्थाओं के महत्व, व्यक्तिगत नागरिकों की भूमिका, और अधिनायकवाद के खतरों सहित लोकतंत्र के संरक्षण और बचाव के लिए इतिहास से सबक प्रदान करती है।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
हमारा समय अब है: शक्ति, उद्देश्य, और एक निष्पक्ष अमेरिका के लिए लड़ाई
स्टेसी अब्राम्स द्वारा
लेखक, एक राजनेता और कार्यकर्ता, अधिक समावेशी और न्यायपूर्ण लोकतंत्र के लिए अपने दृष्टिकोण को साझा करती हैं और राजनीतिक जुड़ाव और मतदाता लामबंदी के लिए व्यावहारिक रणनीति पेश करती हैं।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
कैसे डेमोक्रेसीज मरो
स्टीवन लेविट्स्की और डैनियल ज़िब्लाट द्वारा
यह पुस्तक लोकतंत्र के टूटने के चेतावनी संकेतों और कारणों की जांच करती है, दुनिया भर के केस स्टडीज पर चित्रण करती है ताकि लोकतंत्र की सुरक्षा कैसे की जा सके।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
द पीपल, नो: अ ब्रीफ हिस्ट्री ऑफ एंटी-पॉपुलिज्म
थॉमस फ्रैंक द्वारा
लेखक संयुक्त राज्य में लोकलुभावन आंदोलनों का इतिहास प्रस्तुत करता है और "लोकलुभावन-विरोधी" विचारधारा की आलोचना करता है, जिसके बारे में उनका तर्क है कि इसने लोकतांत्रिक सुधार और प्रगति को दबा दिया है।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
एक किताब या उससे कम में लोकतंत्र: यह कैसे काम करता है, यह क्यों नहीं करता है, और इसे ठीक करना आपके विचार से आसान क्यों है
डेविड लिट द्वारा
यह पुस्तक लोकतंत्र की ताकत और कमजोरियों सहित उसका एक सिंहावलोकन प्रस्तुत करती है, और प्रणाली को अधिक उत्तरदायी और जवाबदेह बनाने के लिए सुधारों का प्रस्ताव करती है।
