Shutterstock।

चाहे आप इसका एहसास करते हैं या सहमति देते हैं, बड़ा डेटा आपको प्रभावित कर सकता है और आप अपना जीवन कैसे जी सकते हैं। सोशल मीडिया का उपयोग करते समय हम जो डेटा बनाते हैं, इंटरनेट ब्राउंजिंग और फिटनेस ट्रैकर्स पहनने वाले सभी एकत्रित, वर्गीकृत और उपयोग किए जाते हैं व्यवसायों से और राज्य हमारे प्रोफाइल बनाने के लिए। इन प्रोफाइलों का उपयोग तब उत्पादों और सेवाओं के विज्ञापनों को लक्षित करने के लिए किया जाता है, जो उन्हें खरीदने की संभावना रखते हैं, या सरकारी निर्णयों को सूचित करते हैं।

बड़ा डेटा राज्यों और कंपनियों को हमारी जानकारी तक पहुंचने, गठबंधन करने और विश्लेषण करने और प्रकट करने में सक्षम बनाता है - लेकिन अधूरा और संभावित रूप से ग़लत - हमारे जीवन की प्रोफाइल। वे हमारे बारे में डेटा में सहसंबंध और पैटर्न की पहचान करके और समान प्रोफाइल वाले लोगों की पहचान करके ऐसा करते हैं कि हम क्या कर सकते हैं इसके बारे में भविष्यवाणियां कर सकते हैं।

लेकिन सिर्फ इसलिए कि बड़े डेटा एनालिटिक्स एल्गोरिदम और आंकड़ों पर आधारित हैं, इसका मतलब यह नहीं है कि वे हैं सटीक, तटस्थ या स्वाभाविक रूप से उद्देश्य। और जबकि बड़ा डेटा समूह व्यवहार के बारे में अंतर्दृष्टि प्रदान कर सकता है, यह व्यक्तिगत व्यवहार निर्धारित करने के लिए आवश्यक रूप से एक विश्वसनीय तरीका नहीं है। वास्तव में, ये विधियां कर सकते हैं भेदभाव के लिए दरवाजा खोलो और लोगों के मानवाधिकारों को धमकाएं - वे भी आपके खिलाफ काम कर सकते हैं। यहां चार उदाहरण दिए गए हैं जहां बड़े डेटा एनालिटिक्स अन्याय का कारण बन सकते हैं।

1। क्रेडिट स्कोर की गणना

निर्णय लेने के लिए बड़े डेटा का उपयोग किया जा सकता है क्रेडिट पात्रता, यह प्रभावित करता है कि आपको बंधक दिया गया है, या आपका कितना ऊंचा है कार बीमा प्रीमियम होना चाहिए। इन निर्णयों को आपके द्वारा सूचित किया जा सकता है सोशल मीडिया पोस्ट और अन्य ऐप्स से डेटा, जो आपके जोखिम या विश्वसनीयता के स्तर को इंगित करने के लिए लिया जाता है।

लेकिन आपकी शिक्षा पृष्ठभूमि जैसे डेटा या आप जहां रहते हैं, ऐसे आकलन के लिए प्रासंगिक या भरोसेमंद नहीं हो सकते हैं। इस प्रकार का डेटा रेस या सामाजिक आर्थिक स्थिति के लिए प्रॉक्सी के रूप में कार्य कर सकता है, और क्रेडिट जोखिम के बारे में निर्णय लेने के लिए इसका उपयोग करने से भेदभाव हो सकता है।

2। नौकरी की खोज

निर्धारित करने के लिए बड़े डेटा का उपयोग किया जा सकता है जो नौकरी विज्ञापन देखता है या साक्षात्कार के लिए शॉर्टलिस्ट हो जाता है। नौकरी विज्ञापनों को विशेष आयु समूहों पर लक्षित किया जा सकता है, जैसे 25 से 36-year-olds, जिसमें छोटे और पुराने श्रमिकों को कुछ नौकरी पोस्टिंग देखने से भी शामिल नहीं किया जाता है और उम्र भेदभाव का खतरा प्रस्तुत करता है।

स्वचालन का उपयोग फ़िल्टरिंग, सॉर्टिंग और रैंकिंग उम्मीदवारों को अधिक कुशल बनाने के लिए भी किया जाता है। लेकिन यह स्क्रीनिंग प्रक्रिया लोगों को संकेतकों के आधार पर बहिष्कृत कर सकती है उनके यात्रा की दूरी। नियोक्ता मान सकते हैं कि लंबी यात्रा वाले लोग लंबे समय तक नौकरी में रहने की संभावना कम हैं, लेकिन यह वास्तव में किफायती आवास के स्थान के कारण शहर के केंद्र से आगे रहने वाले लोगों के खिलाफ भेदभाव कर सकता है।

3। पैरोल और जमानत निर्णय

अमेरिका और ब्रिटेन में, बड़े डेटा जोखिम आकलन मॉडल का उपयोग अधिकारियों को यह तय करने में सहायता के लिए किया जाता है कि लोगों को क्या दिया जाता है या नहीं पैरोल या जमानत, या संदर्भित किया गया है पुनर्वास कार्यक्रम। उनका उपयोग यह भी आकलन करने के लिए किया जा सकता है कि एक अपराधी समाज को कितना जोखिम प्रदान करता है, जो एक वाक्य है जो एक वाक्य की लंबाई तय करते समय विचार कर सकता है।

यह स्पष्ट नहीं है कि इन आकलनों को बनाने में सहायता के लिए डेटा का उपयोग किस प्रकार किया जाता है, लेकिन आगे बढ़ने के रूप में डिजिटल पुलिसिंग गति इकट्ठा करता है, यह तेजी से संभावना है कि इन कार्यक्रमों में खुले स्रोत की जानकारी शामिल होगी जैसे कि सामाजिक चिकित्सा गतिविधि - अगर वे पहले से नहीं हैं।

ये आकलन न केवल किसी व्यक्ति की प्रोफ़ाइल को देख सकते हैं, बल्कि दूसरों की तुलना में उनकी तुलना कैसे कर सकते हैं। कुछ पुलिस बलों के पास है ऐतिहासिक रूप से अधिक policed कुछ अल्पसंख्यक समुदायों, जो आपराधिक घटनाओं की एक असमान संख्या की ओर अग्रसर हैं। यदि यह डेटा एल्गोरिदम में खिलाया जाता है, तो यह जोखिम मूल्यांकन मॉडल विकृत करेगा और परिणामस्वरूप भेदभाव जो सीधे प्रभावित होता है स्वतंत्रता का एक व्यक्ति का अधिकार.

4। वीजा आवेदन वीटिंग

पिछले साल, संयुक्त राज्य अमेरिका की आप्रवासन और सीमा शुल्क प्रवर्तन एजेंसी (आईसीई) ने घोषणा की कि वह एक स्वचालित "चरम वीज़ा vetting"कार्यक्रम। यह स्वचालित रूप से और लगातार सोशल मीडिया खातों को स्कैन करेगा, यह आकलन करने के लिए कि क्या आवेदक संयुक्त राज्य अमेरिका में "सकारात्मक योगदान" करेंगे, और क्या कोई राष्ट्रीय सुरक्षा समस्या उत्पन्न हो सकती है।

साथ ही साथ विचार, राय, अभिव्यक्ति और एसोसिएशन की स्वतंत्रता के जोखिम को पेश करते हुए, महत्वपूर्ण जोखिम थे कि यह कार्यक्रम कुछ राष्ट्रीयताओं या धर्मों के लोगों के खिलाफ भेदभाव करेगा। टिप्पणीकारों इसे "एल्गोरिदम द्वारा मुस्लिम प्रतिबंध" के रूप में चिह्नित किया गया।

कार्यक्रम हाल ही में वापस ले लिया गया था, इस आधार पर बताया गया है कि "आउट ऑफ़ द बॉक्स 'सॉफ़्टवेयर नहीं था जो एजेंसी की निगरानी की गुणवत्ता प्रदान कर सकता था"। लेकिन खरीद दस्तावेजों में ऐसे लक्ष्यों सहित तकनीकी उद्योग के लिए भेदभाव-द्वारा-डिजाइन वाले कार्यक्रम विकसित करने के लिए खराब प्रोत्साहन पैदा हो सकते हैं।

कोई सवाल नहीं है कि बड़े डेटा एनालिटिक्स ऐसे तरीके से काम करते हैं जो जीवन में व्यक्तियों के अवसरों को प्रभावित कर सकते हैं। लेकिन वो पारदर्शिता की कमी इस बारे में कितना बड़ा डेटा एकत्र किया जाता है, उपयोग और साझा किया जाता है, लोगों को यह जानने में मुश्किल होती है कि किस जानकारी का उपयोग किया जाता है, कैसे और कब। बड़े डेटा एनालिटिक्स व्यक्तियों के लिए अनुचित उपयोग से अपने डेटा की रक्षा करने में सक्षम होने के लिए बहुत जटिल हैं। इसके बजाए, राज्यों और कंपनियों को यह सुनिश्चित करने के लिए नियमों का पालन करना होगा कि उनके बड़े डेटा का उपयोग भेदभाव का कारण नहीं बनता है।

लेखक के बारे में

लोर्न मैकग्रेगर, निदेशक, मानवाधिकार केंद्र, पीआई और सह-निदेशक, ईएसआरसी मानवाधिकार, बिग डेटा और प्रौद्योगिकी बड़े अनुदान, एसेक्स विश्वविद्यालय; एरेक्स लॉ स्कूल में अंतरराष्ट्रीय मानवाधिकार कानून में व्याख्याता, दाघ मुर्रे, एसेक्स विश्वविद्यालय, और विवियन एनजी, मानवाधिकारों में वरिष्ठ शोधकर्ता, एसेक्स विश्वविद्यालय

यह आलेख मूलतः पर प्रकाशित हुआ था वार्तालाप। को पढ़िए मूल लेख.

इनके द्वारा पुस्तकें

के बारे में लेखक

at

आने के लिए धन्यवाद InnerSelf.com, वहां हैं जहां 20,000 + "नए दृष्टिकोण और नई संभावनाओं" को बढ़ावा देने वाले जीवन-परिवर्तनकारी लेख। सभी आलेखों का अनुवाद किया गया है 30+ भाषाएँ. सदस्यता साप्ताहिक रूप से प्रकाशित होने वाली इनरसेल्फ मैगज़ीन और मैरी टी रसेल की डेली इंस्पिरेशन के लिए। InnerSelf पत्रिका 1985 से प्रकाशित हो रहा है।