आपराधिक न्याय प्रणालियों में, क्रेडिट बाजार, रोजगार के क्षेत्र, उच्च शिक्षा प्रवेश प्रक्रिया और यहां तक ​​कि सोशल मीडिया नेटवर्क, डेटा चालित एल्गोरिदम अब निर्णय लेने का अभियान चलाएं हमारे आर्थिक, सामाजिक और नागरिक जीवन को छूने वाले तरीकों से। ये सॉफ़्टवेयर सिस्टम मानव-निर्मित या डेटा-प्रेरित नियमों का उपयोग करके रैंक, वर्गीकृत, सहयोगी या फ़िल्टर जानकारी प्रदान करते हैं, जो बड़ी आबादी में निरंतर उपचार की अनुमति देते हैं।

लेकिन जबकि इन तकनीकों से दक्षता हासिल हो सकती है, वे भी कर सकते हैं वंचित समूहों के खिलाफ बंदरगाह पूर्वाग्रह or संरचनात्मक भेदभाव को मजबूत करता है। उदाहरण के लिए, आपराधिक न्याय के संदर्भ में, क्या यह उचित है कि किसी व्यक्ति की पैरोल के आधार पर निर्णय लिया जाए जो कि लोगों के व्यापक समूह में मापा गया है? क्या सांख्यिकीय मॉडल लागू करने से भेदभाव उत्पन्न हो सकता है एक राज्य की आबादी से दूसरे में, जनसांख्यिकी रूप से भिन्न जनसंख्या के लिए विकसित?

जनता को सरकारी क्षेत्रों सहित सार्वजनिक क्षेत्र में उपयोग किए जाने वाले एल्गोरिदम के पूर्वाग्रह और शक्ति को समझने की आवश्यकता है। एक प्रयास, जिसमें मैं शामिल हूं, को बुलाया गया एल्गोरिदम जवाबदेही, सिस्टम के उन प्रकारों के प्रभावों को स्पष्ट और अधिक व्यापक रूप से समझने का प्रयास करता है।

मौजूदा पारदर्शिता तकनीक, जब एल्गोरिदम पर लागू होती है, तो लोग निगरानी कर सकते हैं, ऑडिट कर सकते हैं और आलोचना कर सकते हैं कि वे सिस्टम कैसे काम कर रहे हैं - या नहीं, जैसा कि मामला हो सकता है। दुर्भाग्य से, सरकारी एजेंसियां ​​एल्गोरिदम और उनके निर्णयों में उनके उपयोग के बारे में पूछताछ के लिए अप्रस्तुत लगती हैं जो बड़े पैमाने पर दोनों व्यक्तियों और जनता को प्रभावित करती हैं।

सार्वजनिक जांच के लिए एल्गोरिदम खोलना

पिछले साल द संघीय सरकार ने अध्ययन शुरू किया पेशेवरों और कैदियों की रिहाई का पता लगाने के लिए जेल कैदियों की संभावना का निर्धारण करने में मदद करने के लिए कम्प्यूटरीकृत डेटा विश्लेषण का उपयोग करने की विपक्ष। व्यक्तियों को निम्न- मध्यम, या उच्च जोखिम वाले आवास और उपचार के फैसलों में मदद कर सकते हैं, ऐसे लोगों की पहचान कर सकते हैं, जिन्हें न्यूनतम सुरक्षा जेल या यहां तक ​​कि "आधे रास्ते का घर" भेजा जा सकता है, या जो एक विशेष प्रकार से लाभान्वित होंगे मनोवैज्ञानिक देखभाल।

वह जानकारी न्याय प्रक्रिया को अधिक कुशल और कम खर्चीला बना सकती है और यहां तक ​​कि जेल की भीड़ को भी कम कर सकती है। उच्च जोखिम वाले अपराधियों की तरह कम जोखिम वाले अपराधियों का इलाज करना दिखाया गया है कुछ अध्ययनों में उन्हें "बीमार" अपराधी और उनके कुटिल व्यवहार के लिए उपचार की आवश्यकता के रूप में आंतरिककरण करने के लिए नेतृत्व करने के लिए। उन्हें अलग करने से इस प्रकार नकारात्मक व्यवहार के विकास को कम किया जा सकता है जो रिलीज होने पर पुनरावृत्ति की ओर ले जाएगा।

डेटा और एल्गोरिदम कैदियों के जोखिम को फिर से संगठित करने के लिए पहले से ही हैं राज्यों द्वारा व्यापक रूप से उपयोग किया जाता है प्रीट्रियल निरोध, परिवीक्षा, पैरोल और यहां तक ​​कि सजा के प्रबंधन के लिए। लेकिन उनके लिए किसी का ध्यान नहीं जाना आसान है - वे अक्सर नौकरशाही की कागजी कार्रवाई को अनदेखा करते हैं।

आमतौर पर एल्गोरिदम को सरलीकृत स्कोर शीट तक उबाला जाता है जो लोक सेवकों द्वारा अंतर्निहित गणनाओं की थोड़ी समझ के साथ भरा जाता है। उदाहरण के लिए, एक केस वर्कर एक कैदी का मूल्यांकन एक ऐसे फॉर्म का उपयोग करके कर सकता है, जहां केस वर्कर यह चिन्हित करता है कि कैदी को हिंसक अपराध का दोषी ठहराया गया था, वह पहली गिरफ्तारी के समय युवा था, और उसने हाई स्कूल से स्नातक नहीं किया था या नहीं पाया था। GED। उन कारकों और व्यक्ति और अपराध के बारे में अन्य विशेषताओं में एक स्कोर होता है जो बताता है कि क्या कैदी पैरोल समीक्षा के लिए योग्य हो सकता है।

स्वयं फॉर्म, साथ ही इसकी स्कोरिंग प्रणाली, अक्सर एल्गोरिथ्म के बारे में महत्वपूर्ण विशेषताओं का खुलासा करती है, जैसे विचार के तहत चर और कैसे वे एक साथ आने के लिए एक समग्र जोखिम स्कोर बनाते हैं। लेकिन एल्गोरिथम पारदर्शिता के लिए जो भी महत्वपूर्ण है, वह यह जानना है कि ऐसे रूपों को कैसे डिजाइन, विकसित और मूल्यांकन किया गया था। इसके बाद ही जनता को पता चल सकता है कि स्कोर पर पहुंचने में शामिल कारक और गणना उचित और उचित है, या नहीं और बिना किसी पूर्वाग्रह के।

सूचना की स्वतंत्रता अधिनियम का उपयोग करना

उन रूपों, और उनकी सहायक सामग्री पर हमारे हाथ पाने के लिए हमारा प्राथमिक उपकरण, कानून है, और विशेष रूप से, सूचना कानूनों की स्वतंत्रता है। वे सरकार में पारदर्शिता सुनिश्चित करने के लिए जनता के पास सबसे शक्तिशाली तंत्र हैं। संघीय स्तर पर, सूचना की स्वतंत्रता अधिनियम (एफओआईए) जनता को औपचारिक रूप से अनुरोध करने की अनुमति देता है - और बदले में प्राप्त करने की अपेक्षा करता है - संघीय सरकार से दस्तावेज। अनुरूप विधान मौजूद हैं प्रत्येक राज्य के लिए.

1966 में अधिनियमित, FOIA कंप्यूटिंग के व्यापक उपयोग से पहले बनाया गया था, और अच्छी तरह से डेटा के बड़े स्थानों से पहले व्यक्तियों को प्रबंधित करने और पूर्वानुमान बनाने के लिए सॉफ्टवेयर सिस्टम में नियमित रूप से उपयोग किया गया था। वहाँ किया गया है कुछ प्रारंभिक शोध एफओआईए सॉफ्टवेयर स्रोत कोड के प्रकटीकरण को सुविधाजनक बनाने में सक्षम है या नहीं। लेकिन एक सवाल यह है कि क्या 21st सदी की जनता के लिए वर्तमान कानून उत्तरदायी हैं: क्या हम FOIA एल्गोरिदम कर सकते हैं?

एल्गोरिथ्म पारदर्शिता में एक केस स्टडी

मैं इस सवाल का जवाब देने के लिए तैयार हूं फिलिप मेरिल कॉलेज ऑफ जर्नलिज्म मैरीलैंड विश्वविद्यालय में, जहां मैं एक सहायक प्रोफेसर हूं। 2015 के पतन में, मेरी सहकर्मी सैंडी बंकी की मीडिया लॉ क्लास के साथ काम करते हुए, हमने 50 राज्यों में से प्रत्येक को FOIA अनुरोध प्रस्तुत करने में छात्रों का मार्गदर्शन किया। हमने आपराधिक न्याय में उपयोग किए गए एल्गोरिदम से संबंधित दस्तावेज, गणितीय विवरण, डेटा, सत्यापन आकलन, अनुबंध और स्रोत कोड जैसे कि पैरोल और परिवीक्षा, जमानत या सजा के फैसले के लिए कहा।

एक सेमेस्टर-लंबी परियोजना के रूप में, प्रयास में समय की कमी थी, बहुत सी बाधाएं और अपेक्षाकृत कुछ सफलताएं। कई पत्रकारों की जाँच के साथ-साथ यह भी पता लगाना कि किससे और कैसे - एक चुनौती थी। आपराधिक न्याय प्रणाली के विभिन्न क्षेत्रों के लिए विभिन्न एजेंसियां ​​जिम्मेदार हो सकती हैं (सजा अदालतों द्वारा की जा सकती है, लेकिन सुधार विभाग द्वारा किया गया पैरोल प्रबंधन)।

सही व्यक्ति की पहचान करने के बाद भी, छात्रों ने पाया कि सरकारी अधिकारियों ने अलग-अलग शब्दावली का इस्तेमाल किया है, जिससे यह सूचित करना मुश्किल हो गया है कि उन्हें क्या जानकारी चाहिए। कभी-कभी, छात्रों को "आपराधिक न्याय एल्गोरिदम" को समझाने के लिए कड़ी मेहनत करनी पड़ती थी, ताकि वह किसी डेटा-प्रेमी लोक सेवक को न बता सके। रेट्रोस्पेक्ट में, "जोखिम मूल्यांकन उपकरण" के लिए पूछना अधिक प्रभावी हो सकता है, क्योंकि यह एक शब्द है जिसका उपयोग अक्सर राज्य सरकारों द्वारा किया जाता है।

जवाबों को संभालना

कुछ राज्यों, जैसे कि कोलोराडो, फ्लैट-आउट ने हमारे अनुरोध को अस्वीकार कर दिया, जिसमें कहा गया था कि एल्गोरिदम सॉफ्टवेयर में निहित थे, जिसे "दस्तावेज़" नहीं माना जाता था, जो सरकारी कानूनों को खोलने के लिए अधिकारियों को सार्वजनिक करने की आवश्यकता होती थी। सॉफ्टवेयर उपयोग का खुलासा करने के बारे में अलग-अलग राज्यों के अलग-अलग नियम हैं। यह कभी-कभी अदालतों में सामने आया है, जैसे कि एक 2004 डेट्रायट शहर के खिलाफ मुकदमा इस बात पर कि क्या निकटवर्ती शहर में चार्ज की गई पानी की फीस की गणना का फॉर्मूला सार्वजनिक किया जाना चाहिए।

अपने स्वयं के प्रयासों में, हमें आपराधिक न्याय एल्गोरिथम का केवल एक गणितीय विवरण प्राप्त हुआ: ओरेगन ने खुलासा किया 16 चर और उनके वजन वहाँ एक मॉडल में इस्तेमाल किया पुनरावृत्ति की भविष्यवाणी करने के लिए। नॉर्थ डकोटा राज्य ने एक एक्सेल स्प्रेडशीट जारी की, जिसमें कैदियों को पैरोल के लिए विचार किए जाने के योग्य होने के लिए तारीखों का निर्धारण करने के लिए उपयोग किए जाने वाले समीकरण को दिखाया गया था। इदाहो और न्यू मैक्सिको से हमें उन राज्यों के उपयोग के जोखिम के मूल्यांकन के कुछ विवरणों के साथ दस्तावेज प्राप्त हुए, जिनका वे उपयोग करते थे, लेकिन वे कैसे विकसित या मान्य थे, इसके बारे में कोई विवरण नहीं है।

नौ राज्यों ने इस दावे पर अपने आपराधिक न्याय एल्गोरिदम के बारे में विवरण प्रकट करने से इनकार कर दिया कि जानकारी वास्तव में एक कंपनी के स्वामित्व में थी। यह निहितार्थ यह है कि एल्गोरिथ्म को जारी करने से उस फर्म को नुकसान होगा जो इसे विकसित करता है। एक सामान्य पुनरावृत्ति-जोखिम प्रश्नावली, जिसे LSI-R कहा जाता हैकॉपीराइट द्वारा संरक्षित, एक वाणिज्यिक उत्पाद बन जाता है। हवाई और मेन जैसे राज्यों ने दावा किया कि जनता को इसके प्रकटीकरण को रोका।

लुइसियाना ने कहा कि एक नई जोखिम मूल्यांकन तकनीक के विकासकर्ता के साथ उसका अनुबंध छह महीने के लिए मांगी गई सूचना जारी करने पर रोक लगाता है। केंटकी के राज्य ने इसके साथ अनुबंध का हवाला दिया परोपकारी नींव कारण के रूप में यह अधिक जानकारी का खुलासा नहीं कर सका। मालिकाना जानकारी के बारे में चिंता वैध हो सकती है, लेकिन यह देखते हुए कि सरकार निजी कंपनियों के साथ नियमित रूप से अनुबंध करती है, हम उन चिंताओं को एक स्पष्ट और वास्तव में वैध न्याय प्रणाली के खिलाफ कैसे संतुलित करते हैं?

सुधार करना

बहुत जरूरी FOIA सुधार है वर्तमान में विचार-विमर्श के तहत कांग्रेस द्वारा। यह कानून के आधुनिकीकरण का अवसर प्रदान करता है, लेकिन प्रस्तावित परिवर्तन अभी भी सरकार में एल्गोरिदम के बढ़ते उपयोग को समायोजित करने के लिए बहुत कम करते हैं। एल्गोरिथम पारदर्शिता जानकारी कोडित किया जा सकता है रिपोर्ट में कहा गया है कि सरकार हमेशा की तरह व्यापार के हिस्से के रूप में नियमित रूप से सृजन करती है और सार्वजनिक करती है।

एक समाज के रूप में हमें यह जानना चाहिए कि सार्वजनिक सूचना अधिकारियों को प्रशिक्षित किया जाना चाहिए ताकि वे साक्षर हों और शब्दावली में धाराप्रवाह हो जब जनता एल्गोरिदम के लिए पूछ रही हो। संघीय सरकार भी एक "एल्गोरिदम सीज़र," एक लोकपाल के लिए एक नई स्थिति बना सकती है, जिसका कार्य सरकारी स्वचालन में पूछताछ और क्षेत्र के बारे में संवाद करना होगा।

हमारे शोध में प्राप्त दस्तावेजों में से किसी ने भी हमें नहीं बताया कि आपराधिक न्याय जोखिम मूल्यांकन फॉर्म कैसे विकसित या मूल्यांकन किए गए थे। जैसा कि एल्गोरिदम हमारे जीवन के अधिक से अधिक को नियंत्रित करता है, नागरिकों को आवश्यकता होती है - और अधिक पारदर्शिता चाहिए।

के बारे में लेखक

कोलंबिया विश्वविद्यालय में निकोलस डायकोपोलोस, टो फेलो, टो सेंटर फॉर डिजिटल जर्नलिज्म; मैरीलैंड विश्वविद्यालय के पत्रकारिता के सहायक प्रोफेसर। उनका शोध कम्प्यूटेशनल और डेटा जर्नलिज्म में एल्गोरिदम की जवाबदेही, कथा डेटा विज़ुअलाइज़ेशन और समाचार में सामाजिक कंप्यूटिंग पर जोर देने के साथ है।

यह आलेख मूलतः पर प्रकाशित हुआ था वार्तालाप। को पढ़िए मूल लेख.

संबंधित पुस्तकें

at इनरसेल्फ मार्केट और अमेज़न