निजी कंपनियां स्वतंत्र निरीक्षण या नियमन के बिना ऑनलाइन घृणा का पालन कर रही हैं, जिसका गंभीर प्रभाव है और बुनियादी मानवाधिकारों और स्वतंत्रता के लिए जोखिम है। (Shutterstock)

हाल ही में चार्लोट्सविले, वाया में सशस्त्र श्वेत वर्चस्ववादियों द्वारा मशाल जलाई गई, इस बात पर बहस जारी है कि घृणा समूहों को कैसे नियंत्रित किया जाना चाहिए। मार्च के बाद जनता के बढ़ते दबाव के बीच, इंटरनेट कंपनियों ने अपने मंच वेबसाइटों से हिंसक घृणा फैलाने वाले भाषण को हटाने के लिए दौड़ लगाई।

पिताजी जाओ अपनी डोमेन सेवाओं को समाप्त कर दिया नव-नाजी वेबसाइट द डेली स्टॉर्मर ने, जैसा कि किया था गूगल। Cloudflare, एक कंपनी है जो ऑनलाइन हमलों से वेबसाइटों की रक्षा करती है प्रतिबंधित अपने मंच से नफरत वेबसाइट। रूस ने साइट को वर्जित करने का आदेश दिया देश में होस्ट किए जाने से।

मेरा शोध और मेरी किताब चोकपाइंट्स: इंटरनेट पर वैश्विक निजी विनियमन प्रदर्शित करता है कि कई इंटरनेट कंपनियां पहले से ही सामग्री को हटा देती हैं और उपयोगकर्ताओं को "स्वेच्छा से" रोकती हैं - अर्थात, कानून या किसी न्यायिक प्रक्रियाओं की अनुपस्थिति में। Google, PayPal, GoDaddy, Twitter और Facebook सहित प्रमुख बिचौलियों ने स्वेच्छा से बाल यौन शोषण सामग्री, उग्रवाद और नकली सामानों के अवैध व्यापार के लिए अपने प्लेटफार्मों को पुलिस बना दिया है।

बहुत से लोग घृणास्पद भाषण और अन्य आपत्तिजनक सामग्री पर मुहर लगाने के लिए इन प्रयासों की सराहना करते हैं। हालांकि, इंटरनेट कंपनियों के प्रयासों के रूप में भाषण के वास्तविक नियामक गंभीर सवाल उठाते हैं: ऑनलाइन सामग्री को कैसे विनियमित किया जाना चाहिए? किसके द्वारा?

मैं श्वेत वर्चस्ववादियों का समर्थन नहीं करता हूं और मैं इस तरह के भाषण के कुछ पुलिसिंग के खिलाफ बहस नहीं कर रहा हूं। बल्कि, मैं कह रहा हूं कि हमें गंभीरता से विचार करने की आवश्यकता है कि ऑनलाइन सामग्री को कैसे विनियमित किया जाए क्योंकि अगला मामला स्पष्ट कटौती के रूप में नहीं हो सकता है।

इंटरनेट पर पुलिस करने के लिए शक्तिशाली कंपनियों पर निर्भर होने के साथ महत्वपूर्ण समस्याएं हैं क्योंकि उनके प्रवर्तन अभ्यास परेशान करने वाले अपारदर्शी हैं और मनमानी व्याख्या करने के लिए प्रवण हैं।

मिसाल कायम करना

डेली स्टॉर्मर के लिए अपने सार्वजनिक विरोध के लिए इंटरनेट कंपनियों की जयकार के विपरीत, क्लाउडफेयर के सीईओ मैथ्यू प्रिंस ने एक सूक्ष्म, सावधानीपूर्ण दृष्टिकोण की पेशकश की, चेतावनी दी कि सार्वजनिक दबाव के जवाब में घृणा समूहों से सेवाएं वापस लेना पुलिसिंग ऑनलाइन भाषण में एक परेशान मिसाल सेट करता है ।

में ब्लॉग पोस्ट डेली स्टॉर्मर के खिलाफ क्लाउडफ्लेयर के कार्यों की व्याख्या करते हुए, राजकुमार ने तर्क दिया कि कंपनी वाक् की स्वतंत्रता की तुलना में नियत प्रक्रिया को "अधिक महत्वपूर्ण सिद्धांत" मानती है। विधिवत प्रक्रिया के अनुसार, उन्होंने कहा कि "आपको उन नियमों को जानना चाहिए जो एक प्रणाली का अनुसरण करेंगे यदि आप उस प्रणाली में भाग लेते हैं।" यह कथन उपयुक्त रूप से अंतर्वस्तु और ऑनलाइन व्यवहार के वास्तविक नियामकों के रूप में काम करने वाले बिचौलियों के साथ समस्याओं को पकड़ लेता है।

इस साल के शुरू, कर्मचारियों की दुकान करें और सैकड़ों की हजारों लोगों के आग्रह किया और याचिका दायर की दूर-सही ब्रेइटबार्ट मीडिया के इंटरनेट स्टोर की मेजबानी को रोकने के लिए ऑनलाइन वाणिज्य मंच। बहाल कार्यकारी अध्यक्ष स्टीफन बैनन कॉल Breitbart "ऊँचाई-दाएं के लिए मंच।" तथाकथित "ऑल्ट-राइट" - द्वारा प्रचलित एक शब्द रिचर्ड बर्ट्रेंड स्पेंसर - श्वेत वर्चस्ववादी, अलगाववादी, नव-नाजी, फासीवादी, नस्लवादी, यहूदी-विरोधी, इस्लामोफोबिक और लोकलुभावन रूढ़िवादी विचारधाराओं का मिश्रण है।

Shopify के CEO टोबियास लुत्के ने कहा कि वह मुक्त भाषण का बचाव कर रहे थे जैसा कि ओटावा कंपनी ने धमकी के तहत ब्रेइटबार्ट के ऑनलाइन स्टोर की मेजबानी करना जारी रखा इस्तीफा दे रहे कर्मचारी। जनता के बाद दबाव और एक जमीनी स्तर के अभियान को डब किया गया #DeleteShopify जांच हुई जिसके कारण और खुलासा हुआ संदिग्ध व्यवसाय, Shopify था मजबूर एक अपनाने के लिए "स्वीकार्य उपयोग नीति।"

इंटरनेट कंपनियों द्वारा द डेली स्टॉर्मर और इसके विलोपन के विपरीत उदाहरण और ब्रेइटबार्ट के लिए शॉपिफ़ के दृढ़ समर्थन ने एक दुविधा की चरम सीमा को प्रदर्शित किया जो केवल तीव्र होने का वादा करता है।

मनमानी नीतियां, विनियमन

इंटरनेट बिचौलियों के पास विभिन्न प्रकार के मुद्दों पर शक्तिशाली नियामक होने की क्षमता है क्योंकि वे तेजी से और अदालत के आदेश के बिना कार्य कर सकते हैं। महत्वपूर्ण रूप से, उनके पास किसी भी सामग्री को सेंसर करने या उपयोगकर्ताओं को उनके सेवा अनुबंधों के तहत प्रतिबंध लगाने के लिए अक्षांश है।

पेपल उपयोगकर्ताओं को अपनी सेवाएं समाप्त करने का अधिकार सुरक्षित रखता है ”किसी भी कारण से और किसी भी समय, "भाषा जो अधिकांश बिचौलियों के सेवा समझौतों में गूँजती है। इस प्रकार मनमाने ढंग से नियमन की क्षमता बिचौलियों के आंतरिक नियमों में निहित है।

प्रिंस ने आगाह किया कि डेली स्ट्रॉमर के खिलाफ क्लाउडफ्लेयर की कार्रवाई बिचौलियों के लिए अदालत के आदेश के बिना पुलिस भाषण के लिए एक मिसाल कायम करती है।

ये बिचौलिये अक्सर ऐसी सरकारों के इशारे पर काम करते हैं जो कंपनियों को इंटरनेट विनियमन का सार्वजनिक (लेकिन काफी हद तक अस्वीकार्य) होना पसंद करती हैं। लेकिन वे फर्म आमतौर पर अवैधता से वैधता को अलग करने के लिए गलत तरीके से सुसज्जित हैं, जिससे गलत तरीके से काम करने वाले और गलत तरीके से वैध व्यवहार को लक्षित करते हैं।

समान रूप से समस्याग्रस्त: मध्यस्थों की प्रवर्तन प्रक्रियाएं अक्सर अपारदर्शी होती हैं क्योंकि उनके सामग्री मध्यस्थ अपने जटिल, तेजी से बदलते आंतरिक नियमों की मनमानी व्याख्या करते हैं। इन समस्याओं को उनके प्लेटफार्मों पर समस्याग्रस्त सामग्री की पहचान करने और हटाने के लिए बिचौलियों के स्वचालित साधनों के बढ़ते उपयोग द्वारा जटिल किया जाता है।

तथाकथित मिशन-रेंगने की चिंता तब भी होती है जब बाल उत्पीड़न या आतंकवाद के खिलाफ पहले नियम लागू किए जाते हैं - प्रवर्तन कार्रवाई के लिए उल्लेखनीय उत्प्रेरक - बाद में अन्य विशिष्ट रूप से कम-हानिकारक मुद्दों पर लागू होते हैं, जैसे कॉपीराइट सामग्री का अनधिकृत डाउनलोड।

डायस्टोपियन भविष्य यहाँ है

रेगुलेटरी प्रयासों को आमतौर पर हिंसक अभद्र भाषा से दूसरे भाषण में फैलाने से फैलता है जिसे कुछ लोगों द्वारा विवादास्पद माना जा सकता है, जैसे कि ब्लैक लाइव्स मैटर। साथ ही, दुनिया भर की सरकारें नियमित रूप से बिचौलियों पर दबाव बनाती हैं सेंसर और ट्रैक आलोचक और राजनीतिक विरोधी।

जब प्रमुख बिचौलिए सरकारों की ओर से या उच्च-प्रोफ़ाइल विरोध प्रदर्शनों के जवाब में सामग्री के पुलिसिंग के लिए जिम्मेदार नियामक बन जाते हैं, तो उनकी पहले से ही काफी शक्ति बढ़ जाती है। यूएस-आधारित इंटरनेट कंपनियां पहले से ही कई उद्योग क्षेत्रों पर हावी हैं, जिनमें खोज, विज्ञापन, डोमेन पंजीकरण, भुगतान और सोशल मीडिया शामिल हैं। क्लाउडफेयर के राजकुमार ने सही कहा आगाह "कुछ विशाल नेटवर्क" के आधार पर, "बड़ी संख्या में कंपनियाँ काफी हद तक यह निर्धारित करेंगी कि ऑनलाइन क्या हो सकता है और क्या नहीं।"

यह डायस्टोपियन भविष्य पहले से ही यहां है।

डेली स्टॉमर का टेकडाउन निस्संदेह दुनिया को एक बेहतर स्थान बनाता है। लेकिन क्या हम वास्तव में फेसबुक और ट्विटर जैसी कंपनियों को तय करना चाहते हैं - स्वतंत्र रूप से, मनमाने ढंग से और गुप्त रूप से - हम किस सामग्री तक पहुंच सकते हैं और साझा कर सकते हैं?

इन प्रतीत होती समस्याओं को देखते हुए, हम क्या कर सकते हैं? पहले, हमें विरोध या मीडिया के दबाव के आधार पर शासन करने से बचना चाहिए। बजाय, हमें नियमों का स्पष्ट सेट चाहिए बिचौलियों को लगातार जवाब देने में सक्षम बनाने के लिए, राजकुमार की सिफारिश के अनुसार, पारदर्शी रूप से और उचित प्रक्रिया के लिए सम्मान के साथ।

सरकारों को, बिचौलियों की नियामक जिम्मेदारियों की सीमाओं को और महत्वपूर्ण रूप से इसकी प्रकृति को स्पष्ट करना चाहिए। अंत में, हमें विशिष्ट संकटों - तथाकथित "नकली समाचार," आतंकवाद और घृणा समूहों के जवाब में शासन करना बंद करना चाहिए - और इसके बजाय गंभीर रूप से सोचें कि हम इंटरनेट पर कैसे शासन कर सकते हैं।

के बारे में लेखक

नताशा तुसिकोव, सहायक प्रोफेसर, अपराध विज्ञान, सामाजिक विज्ञान विभाग, यॉर्क विश्वविद्यालय, कनाडा

इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.

संबंधित पुस्तकें

at इनरसेल्फ मार्केट और अमेज़न