फेसबुक ने पहली बार डेटा उपलब्ध कराया है अपमानजनक टिप्पणियों का पैमाना इसकी साइट पर पोस्ट किया गया। ऐसा हो सकता है कि सोशल मीडिया कंपनियों पर संगठनों की ओर से बढ़ते दबाव के तहत ऐसा किया गया हो ऑनलाइन दुरुपयोग के बारे में पारदर्शी, या उसके बाद विश्वसनीयता हासिल करने के लिए कैम्ब्रिज विश्लेषणात्मक डेटा घोटाला. किसी भी तरह, आंकड़े पढ़ने में आनंददायक नहीं हैं।
In छह महीने की अवधि अक्टूबर 2017 से मार्च 20178 तक, इसकी साइट से 21 मिलियन यौन रूप से स्पष्ट तस्वीरें, 3.5 मिलियन ग्राफिक रूप से हिंसक पोस्ट और 2.5 मिलियन प्रकार के घृणास्पद भाषण हटा दिए गए। ये आंकड़े कुछ चौंकाने वाले बिंदुओं को उजागर करने में मदद करते हैं।
जैसा कि अपेक्षित था, डेटा बताता है कि समस्या बदतर होती जा रही है। उदाहरण के लिए, जनवरी और मार्च के बीच यह अनुमान लगाया गया था कि प्रत्येक 10,000 ऑनलाइन संदेशों में से 22 से 27 के बीच ग्राफिक हिंसा शामिल थी, पिछले तीन महीनों में 16 से बढ़कर 19 हो गया. इससे इस तथ्य पर गहरी राहत मिलती है कि यूके में, ऑनलाइन दुरुपयोग के लिए मुकदमा कम हो रहा है, जैसा कि नीचे दिए गए ग्राफ़ में दिखाया गया है।
फिर भी फेसबुक ने हमें जो नहीं बताया वह उतना ही महत्वपूर्ण है।
सोशल नेटवर्क रहा है बढ़ते दबाव में अपनी साइट पर दुरुपयोग से निपटने के लिए, विशेष रूप से, को हटाना आतंकवादी प्रचार 2017 के वेस्टमिंस्टर हमले और मैनचेस्टर एरिना बमबारी जैसी घटनाओं के बाद। इधर, कंपनी सक्रिय रही है। जनवरी और मार्च 2018 के बीच, फेसबुक ने आतंकवादी प्रचार को प्रोत्साहित करने वाले 1.9 मिलियन संदेशों को हटा दिया, जो पिछले तीन महीनों की तुलना में 800,000 टिप्पणियों की वृद्धि है। इनमें से कुल 99.5% संदेशों को उन्नत प्रौद्योगिकी की सहायता से खोजा गया था।
पहली नज़र में, ऐसा लगता है कि फेसबुक ने सफलतापूर्वक सॉफ़्टवेयर विकसित कर लिया है जो इस सामग्री को अपने सर्वर से हटा सकता है। लेकिन फेसबुक ने यह बताने वाले आंकड़े जारी नहीं किए हैं कि कैसे प्रचलित आतंकवादी प्रचार-प्रसार इसकी साइट पर है। इसलिए हम वास्तव में नहीं जानते कि सॉफ्टवेयर इस संबंध में कितना सफल है।
हिंसक पोस्ट हटाना
फेसबुक ने अपनी साइट से ग्राफिक हिंसा को हटाने में सहायता के लिए प्रौद्योगिकी का भी उपयोग किया है। दो तीन महीने की अवधि के बीच हटाए गए पोस्टों की संख्या में 183% की वृद्धि हुई, जिन्हें ग्राफ़िक रूप से हिंसक करार दिया गया था। इनमें से कुल 86% टिप्पणियाँ कंप्यूटर सिस्टम द्वारा चिह्नित की गई थीं।
लेकिन हम यह भी जानते हैं कि फेसबुक के आंकड़े यह भी दिखाते हैं कि पहचान तकनीक से आगे निकलने वाली प्रत्येक 27 टिप्पणियों में से 10,000 में ग्राफिक हिंसा शामिल थी। यह बहुत अधिक नहीं लगता है, लेकिन साइट पर 2 अरब से अधिक सक्रिय उपयोगकर्ताओं द्वारा पोस्ट की गई कुल टिप्पणियों की विशाल संख्या पर विचार करना उचित है। एक अनुमान सुझाव देता है कि हर मिनट 510,000 टिप्पणियाँ पोस्ट की जाती हैं। यदि सटीक है, तो इसका मतलब है कि हर 1,982,880 घंटे में 24 हिंसक टिप्पणियाँ पोस्ट की जाती हैं।
अपने डिटेक्शन सॉफ़्टवेयर में विफलताओं की भरपाई के लिए, फेसबुक, अन्य सोशल नेटवर्कों की तरह, वर्षों से स्व-नियमन पर निर्भर रहा है, जिसके लिए उपयोगकर्ताओं को प्रोत्साहित किया जाता है। टिप्पणियाँ रिपोर्ट करें उनका मानना है कि साइट पर नहीं होना चाहिए। उदाहरण के लिए, जनवरी और मार्च 2018 के बीच, फेसबुक ने 2.5 मिलियन टिप्पणियों को हटा दिया, जिन्हें घृणास्पद भाषण माना जाता था, फिर भी इनमें से केवल 950,000 (38%) संदेशों को इसके सिस्टम द्वारा चिह्नित किया गया था। अन्य 62% उपयोगकर्ताओं द्वारा रिपोर्ट किया गया। इससे पता चलता है कि सोशल नेटवर्किंग साइटों पर बढ़ती चिंता के बावजूद, फेसबुक की तकनीक अपने नेटवर्क पर नफरत फैलाने वाले भाषण से पर्याप्त रूप से निपटने में विफल रही है। ईंधन भर रहे हैं वास्तविक दुनिया में घृणा अपराध।
कितनी टिप्पणियाँ रिपोर्ट की गई हैं?
यह हमें फेसबुक द्वारा जारी किए गए डेटा में शामिल नहीं किए गए अन्य महत्वपूर्ण आंकड़े पर लाता है: उपयोगकर्ताओं द्वारा रिपोर्ट की गई टिप्पणियों की कुल संख्या। चूंकि यह ऑनलाइन दुरुपयोग से निपटने के लिए एक बुनियादी तंत्र है, इसलिए कंपनी को की गई रिपोर्ट की मात्रा सार्वजनिक रूप से उपलब्ध कराई जानी चाहिए। इससे हमें ऑनलाइन की गई अपमानजनक टिप्पणियों की पूरी सीमा को समझने में मदद मिलेगी, साथ ही यह स्पष्ट हो जाएगा कि फेसबुक साइट से कितने संदेशों को नहीं हटाता है।
अपनी साइट पर दुरुपयोग के पैमाने को उजागर करने वाला डेटा जारी करने का फेसबुक का निर्णय एक महत्वपूर्ण कदम है। इसके विपरीत, ट्विटर से भी ऐसी ही जानकारी मांगी गई थी लेकिन मना कर दिया इसे जारी करना, यह दावा करना भ्रामक होगा। स्पष्ट रूप से, सोशल नेटवर्किंग साइटों के उपयोगकर्ताओं द्वारा चिह्नित सभी टिप्पणियाँ इसके नियमों और शर्तों का उल्लंघन नहीं करेंगी। लेकिन इस जानकारी को जारी करने में ट्विटर की विफलता से पता चलता है कि कंपनी अपनी साइट पर दुरुपयोग के पैमाने को प्रकट करने के लिए तैयार नहीं है।
हालाँकि, फेसबुक को भी पूर्ण पारदर्शिता पाने के लिए अभी भी एक लंबा रास्ता तय करना है। आदर्श रूप से, सभी सोशल नेटवर्किंग साइटें वार्षिक रिपोर्ट जारी करेंगी कि वे ऑनलाइन दुर्व्यवहार से कैसे निपट रही हैं। इससे नियामकों और जनता को अपने सर्वर से ऑनलाइन दुरुपयोग को हटाने में विफलताओं के लिए फर्मों को अधिक सीधे तौर पर जिम्मेदार ठहराने में मदद मिलेगी।
हालाँकि, फेसबुक को भी पूर्ण पारदर्शिता पाने के लिए अभी भी एक लंबा रास्ता तय करना है। आदर्श रूप से, सभी सोशल नेटवर्किंग साइटें वार्षिक रिपोर्ट जारी करेंगी कि वे ऑनलाइन दुर्व्यवहार से कैसे निपट रही हैं। इससे नियामकों और जनता को अपने सर्वर से ऑनलाइन दुरुपयोग को हटाने में विफलताओं के लिए फर्मों को अधिक सीधे तौर पर जिम्मेदार ठहराने में मदद मिलेगी।के बारे में लेखक
लौरा ब्लिस, सोशल मीडिया कानून में पीएचडी उम्मीदवार, एज हिल विश्वविद्यालय
यह आलेख मूलतः पर प्रकाशित हुआ था वार्तालाप। को पढ़िए मूल लेख.
संबंधित पुस्तकें:
at इनरसेल्फ मार्केट और अमेज़न
