लघु फिल्म स्लॉटरबॉट्स में निकट भविष्य का चित्रण किया गया है जिसमें माइक्रो ड्रोन के झुंड ने हजारों लोगों को उनकी राजनीतिक मान्यताओं के लिए हत्या कर दी। नवंबर 2017 में जारी किया गया उन्नत कृत्रिम बुद्धिमत्ता (एआई) के खतरों की चेतावनी देने वाले शिक्षाविदों और कार्यकर्ताओं द्वारा, यह जल्दी से वायरल हो गया, जो आज तक 3m के विचारों को आकर्षित करता है। इसने चिंगारी में मदद की सार्वजनिक वाद - विवाद स्वायत्त हथियारों के भविष्य पर और संयुक्त राष्ट्र में राजनयिकों की बैठक पर दबाव डाला कन्वेंशन ऑन कन्वेंशनल वेपन्स.
लेकिन इस तरह के सट्टा विज्ञान कथा कहानी ध्यान आकर्षित करने के लिए सिर्फ उपयोगी नहीं है। उन्नत तकनीक का डिजाइन और निर्माण करने वाले लोग अपने काम के परिणामों पर विचार करने के लिए कहानियों का उपयोग कर सकते हैं और यह सुनिश्चित कर सकते हैं कि इसका उपयोग अच्छे के लिए किया जाए। और हमें लगता है कि इस तरह के "साइंस फिक्शन प्रोटोटाइप" या "डिज़ाइन फिक्शन" मानव पूर्वाग्रहों को नई तकनीक में अपना काम करने से रोकने में मदद कर सकते हैं, जो समाज के पूर्वाग्रहों और अन्याय को और अधिक भड़का सकते हैं।
{वेम्बेड Y=9CO6M2HsoIA}
एक पूर्वाग्रह दूसरों पर कुछ श्रेणियों (परिणामों, लोगों, या विचारों) की मनमानी वरीयता को जन्म दे सकता है। उदाहरण के लिए, कुछ लोग कार्यकारी नौकरियों के लिए महिलाओं को काम पर रखने के खिलाफ पक्षपाती हो सकते हैं, चाहे वे इसके प्रति सचेत हों या नहीं.
इस तरह के पूर्वाग्रह को रिकॉर्ड करने वाले डेटा के आसपास निर्मित प्रौद्योगिकी समाप्त हो सकती है समस्या की प्रतिकृति। उदाहरण के लिए, किसी विशेष कार्य के लिए सर्वश्रेष्ठ सीवी का चयन करने के लिए डिज़ाइन किया गया भर्ती सॉफ़्टवेयर को उन विशेषताओं को देखने के लिए प्रोग्राम किया जा सकता है जो पुरुषों के प्रति अचेतन पूर्वाग्रह को दर्शाती हैं। किस स्थिति में, एल्गोरिथ्म पुरुषों के सीवी का समर्थन करेगा। और यह सैद्धांतिक नहीं है - यह वास्तव में अमेज़न के साथ हुआ.
संभावित नकारात्मक प्रभावों पर विचार किए बिना एल्गोरिदम को डिजाइन करना तुलना की गई है डॉक्टरों को "किसी दिए गए उपचार के लाभों के बारे में लिखना और साइड इफेक्ट्स की पूरी तरह से अनदेखी करना, चाहे वे कितने भी गंभीर हों"।
कुछ टेक फर्म और शोधकर्ता इस मुद्दे से निपटने की कोशिश कर रहे हैं। उदाहरण के लिए, Google ने आकर्षित किया नैतिक सिद्धांतों का सेट एअर इंडिया के अपने विकास का मार्गदर्शन करने के लिए। और ब्रिटेन के शिक्षाविदों ने एक पहल शुरू की है बराबर नहीं इसका उद्देश्य प्रौद्योगिकी के डिजाइन और उपयोग में अधिक निष्पक्षता और न्याय को प्रोत्साहित करना है।
समस्या यह है कि, सार्वजनिक रूप से, कंपनियां निकट भविष्य की प्रौद्योगिकियों के संभावित परिणामों का केवल एक सकारात्मक दृष्टिकोण प्रदान करती हैं। उदाहरण के लिए, चालक रहित कारों को अक्सर हमारे सभी परिवहन मुद्दों को सुरक्षा से लागत में वृद्धि के रूप में चित्रित किया जाता है साइबर हमले के खतरे या तथ्य यह है कि वे लोगों को प्रोत्साहित कर सकते हैं चलना या कम चलना.
यह समझने में कठिनाई है कि डिजिटल प्रौद्योगिकियां कैसे काम करती हैं, विशेष रूप से वे जो अस्पष्ट एल्गोरिदम द्वारा भारी रूप से संचालित होते हैं, इससे लोगों के लिए मुद्दों का एक जटिल और व्यापक दृष्टिकोण रखना कठिन हो जाता है। यह स्थिति सकारात्मक कथन और अस्पष्ट संदेह के बीच एक तनाव पैदा करती है कि हमारे आसपास की तकनीकों में कुछ हद तक पूर्वाग्रह अंतर्निहित हैं। यह वह जगह है जहां हमें लगता है कि डिजाइन फिक्शन के माध्यम से कहानी सुन सकते हैं।
कहानियाँ संभावनाओं और जटिल परिस्थितियों के बारे में सोचने का एक स्वाभाविक तरीका है, और हम उन्हें अपने जीवन भर सुनते रहे हैं। साइंस फिक्शन हमें समाज पर निकट भविष्य की प्रौद्योगिकियों के प्रभाव पर अटकलें लगाने में मदद कर सकता है, जैसा कि स्लॉटरबॉट करता है। इसमें सामाजिक न्याय के मुद्दे भी शामिल हो सकते हैं, जैसे कुछ समूहों, जैसे कि शरणार्थी और प्रवासी, हो सकते हैं से बाहर रखा गया डिजिटल नवाचार।
भविष्य का खुलासा (संभव)
फिक्शन की कहानियां डिजाइन करें मानव दृष्टिकोण से प्रौद्योगिकी के प्रभाव के बारे में सोचने के लिए डिजाइनरों, इंजीनियरों और भविष्यवादियों (दूसरों के बीच) के लिए एक नया तरीका प्रदान करें और इसे भविष्य की संभावित जरूरतों से जोड़ दें। तर्क और कल्पना के मिश्रण के साथ, डिजाइन फिक्शन के पहलुओं को प्रकट कर सकता है कि तकनीक को कैसे अपनाया और इस्तेमाल किया जा सकता है, इसके बारे में बातचीत शुरू करना भविष्य के प्रभाव.
उदाहरण के लिए, छोटी कहानी "अपराध सोर्सिंग"अगर एअर इंडिया भीड़-भाड़ वाली जानकारी और एक आपराधिक डेटाबेस का उपयोग करने की भविष्यवाणी करता है, जो यह अनुमान लगा सकता है कि कोई हत्या कर सकता है। शोधकर्ताओं ने पाया कि क्योंकि डेटाबेस अल्पसंख्यक जातीय समूहों के लोगों से भरा था, जो सामाजिक कारणों से, सांख्यिकीय रूप से फिर से संगठित होने की संभावना रखते थे, "अपराध-सोर्सिंग" मॉडल की अधिक संभावना थी अल्पसंख्यकों पर गलत शक करना गोरे लोगों की तुलना में।
डिजाइन फिक्शन का निर्माण करने के लिए आपको एक प्रतिभाशाली लेखक होने या एक चालाक फिल्म बनाने की आवश्यकता नहीं है। कार्ड और स्टोरीबोर्ड सहित मंथन की गतिविधियाँ प्रयोग किया जा चुका है डिजाइन फिक्शन विकसित करने और कहानी कहने की प्रक्रिया को विकसित करने में मदद करने के लिए। ऐसी कार्यशालाएँ बनाना जो इस प्रकार के औजारों का अधिक सामान्य उपयोग करती हैं और अधिक इंजीनियरों, उद्यमियों और नीति निर्माताओं को मूल्यांकन की इस पद्धति का उपयोग करने में सक्षम बनाती हैं। और परिणामी काम को सार्वजनिक रूप से उपलब्ध कराने से समाज को प्रभावित करने से पहले प्रौद्योगिकियों में संभावित गैसों को उजागर करने में मदद मिलेगी।
इस तरह से और अधिक कहानियां बनाने और साझा करने के लिए डिजाइनरों को प्रोत्साहित करने से यह सुनिश्चित होता है कि नई तकनीक के तहत सिर्फ एक सकारात्मक तस्वीर पेश नहीं होगी, न ही एक अत्यंत नकारात्मक या डायस्टोपियन। इसके बजाय, लोग हमारे आस-पास होने वाले दोनों पहलुओं की सराहना कर सकेंगे।
लेखक के बारे में
एलेसियो मालिज़िया, प्रोफेसर के उपयोगकर्ता अनुभव डिजाइन, हेर्टफोर्डशायर विश्वविद्यालय और सिल्वियो कार्टा, प्रमुख कला और डिजाइन और डिजाइन अनुसंधान समूह के अध्यक्ष, हेर्टफोर्डशायर विश्वविद्यालय
इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.
