क्या आप जानते हैं कि जब आप अपना डेटा साझा करते हैं तो क्या होता है? mtkang / shutterstock.com

जीवन के हर पहलू को आर्टिफिशियल इंटेलिजेंस एल्गोरिदम द्वारा निर्देशित किया जा सकता है - अपनी सुबह के आवागमन के लिए कौन सा रास्ता चुनना है, यह तय करने के लिए कि किसको डेट पर ले जाना है, जटिल कानूनी और न्यायिक मामलों जैसे प्रेडिक्टिव पुलिसिंग।

Google और फेसबुक जैसी बड़ी टेक कंपनियां विस्तृत ग्राहक डेटा के अपने अभिमानी ट्रू पर अंतर्दृष्टि प्राप्त करने के लिए एआई का उपयोग करती हैं। यह उन्हें माइक्रो-टारगेटिंग, विज्ञापनदाताओं द्वारा उपयोगकर्ताओं की विशिष्ट सेटों को लक्षित करने के लिए उपयोग की जाने वाली रणनीति जैसी प्रथाओं के माध्यम से उपयोगकर्ताओं की सामूहिक प्राथमिकताओं का मुद्रीकरण करने की अनुमति देता है।

समानांतर में, बहुत से लोग अब अपनी खुद की सरकारों और नागरिक समाज से अधिक प्लेटफार्मों और एल्गोरिदम पर भरोसा करते हैं। अक्टूबर 2018 अध्ययन ने सुझाव दिया कि लोग "एल्गोरिथ्म प्रशंसा, "इस हद तक कि वे सलाह पर भरोसा करते हैं जब उन्हें लगता है कि यह एक मानव से एक एल्गोरिथ्म से है।

अतीत में, प्रौद्योगिकी विशेषज्ञों ने चिंता की है "डिजिटल डिवाइड" उन लोगों के बीच जो कंप्यूटर और इंटरनेट का उपयोग कर सकते हैं और जो नहीं कर सकते हैं। डिजिटल तकनीकों तक कम पहुंच वाले परिवारों को अपनी क्षमता का नुकसान है पैसा कमाएँ और कौशल जमा करें.

लेकिन, डिजिटल उपकरणों के प्रसार के रूप में, विभाजन अब पहुंच के बारे में नहीं है। लोग ओवरलोड और एल्गोरिदमिक फैसलों की अधिकता से कैसे निपटते हैं जो उनके जीवन के हर पहलू को स्वीकार करते हैं?

Savvier उपयोगकर्ता उपकरणों से दूर हो रहे हैं और इस बारे में जागरूक हो रहे हैं कि एल्गोरिदम उनके जीवन को कैसे प्रभावित करते हैं। इस बीच, जिन उपभोक्ताओं के पास कम जानकारी है, वे अपने निर्णयों को निर्देशित करने के लिए एल्गोरिदम पर और भी अधिक भरोसा कर रहे हैं।

क्या आपको जुड़ा रहना चाहिए - या अनप्लग? pryzmat / shutterstock.com

कृत्रिम बुद्धि के पीछे गुप्त सॉस

नए डिजिटल डिवाइड का मुख्य कारण, मेरी राय में सूचना प्रणाली का अध्ययन करने वाला कोई व्यक्ति है बहुत कम लोग समझते हैं कि एल्गोरिदम कैसे काम करता है। अधिकांश उपयोगकर्ताओं के लिए, एल्गोरिदम को एक ब्लैक बॉक्स के रूप में देखा जाता है।

एआई एल्गोरिदम डेटा में लेते हैं, उन्हें एक गणितीय मॉडल में फिट करते हैं और एक भविष्यवाणी डालते हैं, से लेकर आप किस गाने का आनंद ले सकते हैं सेवा मेरे कितने साल किसी को जेल में बिताने चाहिए। ये मॉडल पिछले डेटा और पिछले मॉडल की सफलता के आधार पर विकसित और ट्विक किए गए हैं। अधिकांश लोग - यहां तक ​​कि कभी-कभी खुद एल्गोरिथ्म डिजाइनर - वास्तव में नहीं जानते कि मॉडल के अंदर क्या होता है।

शोधकर्ताओं लंबे समय से चिंतित हैं एल्गोरिथम निष्पक्षता के बारे में। उदाहरण के लिए, अमेज़न का AI- आधारित भर्ती उपकरण निकला महिला उम्मीदवारों को खारिज कर दिया। अमेज़न का सिस्टम चुनिंदा तरीके से निकाल रहा था स्पष्ट रूप से शब्दों का लिंग - ऐसे शब्द जो पुरुषों को रोज़मर्रा के भाषण में उपयोग करने की अधिक संभावना है, जैसे "निष्पादित" और "कैप्चर"।

अन्य अध्ययन दिखाया है कि न्यायिक एल्गोरिदम नस्लीय रूप से पक्षपाती हैं, दूसरों की तुलना में गरीब काले प्रतिवादियों को सजा सुनाते हैं।

यूरोपीय संघ में हाल ही में स्वीकृत सामान्य डेटा संरक्षण विनियमन के हिस्से के रूप में, लोगों के पास है "स्पष्टीकरण का अधिकार" एल्गोरिदम अपने निर्णयों में जिन मानदंडों का उपयोग करता है। यह कानून एक नुस्खा पुस्तक की तरह एल्गोरिथम निर्णय लेने की प्रक्रिया को मानता है। सोच यह है कि यदि आप नुस्खा को समझते हैं, तो आप समझ सकते हैं कि एल्गोरिथ्म आपके जीवन को कैसे प्रभावित करता है।

इस बीच, कुछ एआई शोधकर्ताओं ने एल्गोरिदम के लिए धक्का दिया है जो हैं निष्पक्ष, जवाबदेह और पारदर्शी, के रूप में के रूप में अच्छी तरह से व्याख्या, जिसका अर्थ है कि उन्हें अपने निर्णयों पर ऐसी प्रक्रियाओं के माध्यम से पहुंचना चाहिए जो मनुष्य समझ सकें और भरोसा कर सकें।

पारदर्शिता का क्या प्रभाव पड़ेगा? में एक अध्ययन, छात्रों को एक एल्गोरिथ्म द्वारा वर्गीकृत किया गया था और उनके साथियों के अंकों को एक अंतिम श्रेणी में लाने के लिए कैसे समायोजित किया गया था, इस बारे में विभिन्न स्तरों की व्याख्या की। अधिक पारदर्शी स्पष्टीकरण वाले छात्रों ने वास्तव में एल्गोरिथ्म पर कम भरोसा किया। यह, फिर से, एक डिजिटल विभाजन का सुझाव देता है: एल्गोरिथम जागरूकता प्रणाली में अधिक आत्मविश्वास पैदा नहीं करती है।

लेकिन पारदर्शिता रामबाण नहीं है। यहां तक ​​कि जब एक एल्गोरिथ्म की समग्र प्रक्रिया को छोड़ दिया जाता है, विवरण अभी भी बहुत जटिल हो सकता है उपयोगकर्ताओं को समझने के लिए। पारदर्शिता केवल उन उपयोगकर्ताओं को मदद करेगी जो एल्गोरिदम की पेचीदगियों को समझने के लिए पर्याप्त परिष्कृत हैं।

उदाहरण के लिए, 2014 में, फेडरल रिजर्व के पूर्व अध्यक्ष, बेन बर्नानके शुरू में थे एक स्वचालित प्रणाली द्वारा एक बंधक पुनर्वित्त से इनकार किया। अधिकांश व्यक्ति जो इस तरह के बंधक पुनर्वित्त के लिए आवेदन कर रहे हैं वे समझ नहीं पाएंगे कि एल्गोरिदम उनकी साख को कैसे निर्धारित कर सकते हैं।

एल्गोरिथ्म आज क्या करने के लिए कहता है? मारिया सावेंको / shutterstock.com

नई सूचना पारिस्थितिकी तंत्र से बाहर निकलना

जबकि एल्गोरिदम लोगों के जीवन को बहुत प्रभावित करते हैं, प्रतिभागियों का केवल एक छोटा अंश पूरी तरह से संलग्न करने के लिए पर्याप्त परिष्कृत है एल्गोरिदम उनके जीवन को कैसे प्रभावित करते हैं.

एल्गोरिथ्म के प्रति जागरूक लोगों की संख्या के बारे में कई आँकड़े नहीं हैं। अध्ययन में इसके प्रमाण मिले हैं एल्गोरिदम संबंधी चिंता, एल्गोरिदम को तैनात करने वाले प्लेटफार्मों के बीच शक्ति के गहरे असंतुलन के लिए अग्रणी और जो उपयोगकर्ता उन पर निर्भर हैं.

फेसबुक के उपयोग का एक अध्ययन पाया गया कि जब प्रतिभागियों को समाचार फीड्स को क्यूरेट करने के लिए फेसबुक के एल्गोरिदम के बारे में अवगत कराया गया था, तो लगभग 83% प्रतिभागियों ने एल्गोरिदम का लाभ उठाने की कोशिश करने के लिए अपने व्यवहार को संशोधित किया, जबकि लगभग 10% ने फेसबुक के उपयोग को कम कर दिया।

प्यू रिसर्च सेंटर की एक नवंबर 2018 रिपोर्ट पाया गया कि जनता के व्यापक बहुमत के पास विशेष उपयोग के लिए एल्गोरिदम के उपयोग के बारे में महत्वपूर्ण चिंताएं थीं। इसमें पाया गया कि 66% ने सोचा कि एल्गोरिदम के लिए व्यक्तिगत वित्त स्कोर की गणना करना उचित नहीं होगा, जबकि 57% ने स्वचालित फिर से शुरू होने वाली स्क्रीनिंग के बारे में भी यही कहा।

व्यक्तियों का एक छोटा सा अंश इस बात पर कुछ नियंत्रण रखता है कि एल्गोरिदम अपने व्यक्तिगत डेटा का उपयोग कैसे करते हैं। उदाहरण के लिए, हू-मैनिटी मंच उपयोगकर्ताओं को अनुमति देता है उनके डेटा का कितना संग्रह किया जाता है, इसे नियंत्रित करने का एक विकल्प। ऑनलाइन विश्वकोश Everipedia उपयोगकर्ताओं को अवधि की प्रक्रिया में एक हितधारक होने की क्षमता प्रदान करता है, जिसका अर्थ है कि उपयोगकर्ता यह भी नियंत्रित कर सकते हैं कि जानकारी कैसे एकत्र की जाती है और उन्हें प्रस्तुत की जाती है।

हालाँकि, अधिकांश प्लेटफ़ॉर्म अपने अंतिम उपयोगकर्ताओं को या तो इस तरह का लचीलापन प्रदान नहीं करते हैं या यह चुनने का अधिकार नहीं है कि एल्गोरिथ्म उनके समाचार फ़ीड को क्यूरेट करने में या उनकी सामग्री की अनुशंसा करने में उनकी प्राथमिकताओं का उपयोग कैसे करता है। यदि विकल्प हैं, तो उपयोगकर्ता उनके बारे में नहीं जान सकते हैं। फेसबुक के 74% उपयोगकर्ताओं के बारे में एक सर्वेक्षण में कहा गया कि वे थे मंच अपने निजी हितों की विशेषता के बारे में नहीं जानता.

मेरे विचार में, नया डिजिटल साक्षरता कंप्यूटर का उपयोग नहीं कर रहा है या इंटरनेट पर नहीं है, लेकिन हमेशा-प्लग-इन जीवन शैली के परिणामों को समझना और उनका मूल्यांकन करना है।

इस जीवनशैली का सार्थक प्रभाव है लोग दूसरों के साथ कैसे बातचीत करते हैं; उनकी क्षमता पर नई जानकारी पर ध्यान दें; और इसपर उनके निर्णय लेने की प्रक्रिया की जटिलता.

बढ़ती हुई एल्गोरिदमिक चिंता को अर्थव्यवस्था में समानांतर बदलाव से भी देखा जा सकता है। व्यक्तियों का एक छोटा समूह है स्वचालन से लाभ पर कब्जा, जबकि कई कार्यकर्ता ए अनिश्चित स्थिति.

एल्गोरिदमिक क्यूरेशन से बाहर निकलना एक लक्जरी है - और एक दिन केवल कुछ चुनिंदा लोगों के लिए उपलब्ध होने का प्रतीक हो सकता है। सवाल यह है कि डिजिटल डिवाइड के गलत पक्ष के लोगों के लिए औसत दर्जे का नुकसान क्या होगा।

के बारे में लेखक

अंजना सुसरला, सूचना प्रणाली के एसोसिएट प्रोफेसर, मिशिगन स्टेट यूनिवर्सिटी

इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.

संबंधित पुस्तकें

at इनरसेल्फ मार्केट और अमेज़न