एआई से मानवता को गुलाम बनाने की संभावना नहीं है, लेकिन यह हमारे जीवन के कई पहलुओं पर कब्ज़ा कर सकता है। गेटी इमेजेज के माध्यम से एलेनैब्स/आईस्टॉक

चैटजीपीटी और इसी तरह की कृत्रिम बुद्धिमत्ता प्रणालियों के उदय के साथ-साथ तेजी भी आई है एआई को लेकर बढ़ी चिंता. पिछले कुछ महीनों से, अधिकारी और एआई सुरक्षा शोधकर्ता भविष्यवाणियाँ पेश कर रहे हैं, जिन्हें "पी(कयामत),'' इस संभावना के बारे में कि एआई बड़े पैमाने पर तबाही लाएगा।

चिंताएँ मई 2023 में चरम पर थीं जब गैर-लाभकारी अनुसंधान और वकालत संगठन सेंटर फॉर एआई सेफ्टी ने जारी किया एक वाक्य का कथन: "महामारी और परमाणु युद्ध जैसे अन्य सामाजिक-स्तर के जोखिमों के साथ-साथ एआई से विलुप्त होने के जोखिम को कम करना एक वैश्विक प्राथमिकता होनी चाहिए।" इस बयान पर क्षेत्र के कई प्रमुख खिलाड़ियों ने हस्ताक्षर किए, जिनमें ओपनएआई, गूगल और एंथ्रोपिक के नेताओं के साथ-साथ एआई के दो तथाकथित "गॉडफादर" भी शामिल हैं: जेफ्री हिंटन और योशुआ बेंगियो.

आप पूछ सकते हैं कि इस तरह के अस्तित्व संबंधी डर कैसे चल सकते हैं। एक प्रसिद्ध परिदृश्य है "पेपर क्लिप मैक्सिमाइज़रऑक्सफोर्ड के दार्शनिक द्वारा व्यक्त विचार प्रयोग निक बोस्त्रोम. विचार यह है कि जितना संभव हो उतने पेपर क्लिप बनाने का काम करने वाला एक एआई सिस्टम कच्चे माल को खोजने के लिए असाधारण हद तक जा सकता है, जैसे कि कारखानों को नष्ट करना और कार दुर्घटनाओं का कारण बनना।

A कम संसाधन-गहन भिन्नता एक एआई को एक लोकप्रिय रेस्तरां के लिए आरक्षण प्राप्त करने का काम सौंपा गया है, जिससे अन्य ग्राहकों को टेबल मिलने से रोकने के लिए सेल्युलर नेटवर्क और ट्रैफिक लाइट बंद कर दी जाती है।

कार्यालय की आपूर्ति या रात्रिभोज, मूल विचार एक ही है: एआई तेजी से एक विदेशी बुद्धि बन रहा है, लक्ष्यों को पूरा करने में अच्छा है लेकिन खतरनाक है क्योंकि यह जरूरी नहीं कि यह अपने रचनाकारों के नैतिक मूल्यों के साथ संरेखित हो। और, अपने सबसे चरम संस्करण में, यह तर्क एआई के बारे में स्पष्ट चिंताओं में बदल जाता है मानव जाति को गुलाम बनाना या नष्ट करना.

पेपर क्लिप बनाने वाला AI बिना सोचे-समझे चलता है, यह AI सर्वनाश परिदृश्य का एक प्रकार है।

वास्तविक हानि

पिछले कुछ वर्षों में, मेरे सहयोगियों और मैं पर यूमास बोस्टन एप्लाइड एथिक्स सेंटर लोगों की स्वयं की समझ पर एआई के साथ जुड़ाव के प्रभाव का अध्ययन कर रहा हूं, और मेरा मानना ​​​​है कि ये भयावह चिंताएं हैं अतिरंजित और गलत निर्देशित.

हां, एआई की विश्वसनीय डीप-फर्जी वीडियो और ऑडियो बनाने की क्षमता भयावह है, और बुरे इरादे वाले लोगों द्वारा इसका दुरुपयोग किया जा सकता है। वास्तव में, यह पहले से ही हो रहा है: रूसी गुर्गों ने संभवतः क्रेमलिन आलोचक को शर्मिंदा करने का प्रयास किया था बिल Browder पूर्व यूक्रेनी राष्ट्रपति पेट्रो पोरोशेंको के अवतार के साथ बातचीत में फंसाकर। साइबर अपराधी विभिन्न प्रकार के अपराधों के लिए एआई वॉयस क्लोनिंग का उपयोग कर रहे हैं हाई-टेक डकैतियाँ सेवा मेरे साधारण घोटाले.

एआई निर्णय लेने वाली प्रणालियाँ ऋण अनुमोदन और नियुक्ति अनुशंसाएँ प्रदान करें एल्गोरिथम पूर्वाग्रह का जोखिम उठाते हैं, क्योंकि वे जिन प्रशिक्षण डेटा और निर्णय मॉडल पर चलते हैं वे लंबे समय से चले आ रहे सामाजिक पूर्वाग्रहों को दर्शाते हैं।

ये बड़ी समस्याएं हैं और इन पर नीति निर्माताओं को ध्यान देने की आवश्यकता है। लेकिन वे कुछ समय से आसपास हैं, और वे शायद ही विनाशकारी हैं।

एक ही लीग में नहीं

सेंटर फॉर एआई सेफ्टी के बयान में एआई को महामारी और परमाणु हथियारों के साथ सभ्यता के लिए एक बड़ा खतरा बताया गया है। उस तुलना में समस्याएँ हैं। COVID-19 का परिणाम लगभग हुआ दुनिया भर में 7 मिलियन मौतें, एक पर लाया गया बड़े पैमाने पर और निरंतर मानसिक स्वास्थ्य संकट और बनाया आर्थिक चुनौतियां, जिसमें पुरानी आपूर्ति श्रृंखला की कमी और अनियंत्रित मुद्रास्फीति शामिल है।

परमाणु हथियारों से संभवत: मौत हो गयी 200,000 अधिक अधिक लोगों को 1945 में हिरोशिमा और नागासाकी में, इसके बाद के वर्षों में कैंसर से कई लोगों की जान चली गई, शीत युद्ध के दौरान दशकों तक गहरी चिंता उत्पन्न हुई और 1962 में क्यूबा मिसाइल संकट के दौरान दुनिया को विनाश के कगार पर ला खड़ा किया। राष्ट्रीय नेताओं का गणित बदल दिया अंतर्राष्ट्रीय आक्रामकता का जवाब कैसे दिया जाए, जैसा कि वर्तमान में यूक्रेन पर रूस के आक्रमण के साथ हो रहा है।

एआई इस तरह की क्षति करने की क्षमता हासिल करने के बिल्कुल भी करीब नहीं है। पेपर क्लिप परिदृश्य और इसके जैसे अन्य परिदृश्य विज्ञान कथा हैं। मौजूदा एआई एप्लिकेशन व्यापक निर्णय लेने के बजाय विशिष्ट कार्य निष्पादित करते हैं। तकनीक है निर्णय लेने और फिर योजना बनाने में सक्षम होने से बहुत दूर किसी रेस्तरां में सीट पाने के लिए या पेपर क्लिप के लिए अपनी इच्छा को संतुष्ट करने के लिए कार फैक्ट्री को उड़ाने के लिए यातायात को बंद करने के लिए आवश्यक लक्ष्य और अधीनस्थ लक्ष्य।

न केवल प्रौद्योगिकी में इन परिदृश्यों में शामिल बहुपरत निर्णय के लिए जटिल क्षमता का अभाव है, बल्कि उस तरह की क्षति शुरू करने के लिए हमारे महत्वपूर्ण बुनियादी ढांचे के पर्याप्त हिस्सों तक स्वायत्त पहुंच भी नहीं है।

इसका मतलब इंसान होने का क्या मतलब है

दरअसल, एआई का उपयोग करने में एक अस्तित्वगत खतरा निहित है, लेकिन वह जोखिम सर्वनाशकारी अर्थ के बजाय दार्शनिक रूप से अस्तित्वगत है। एआई अपने मौजूदा स्वरूप में लोगों के खुद को देखने के तरीके को बदल सकता है। यह उन क्षमताओं और अनुभवों को ख़राब कर सकता है जिन्हें लोग इंसान होने के लिए आवश्यक मानते हैं।

उदाहरण के लिए, मनुष्य निर्णय लेने वाला प्राणी है। लोग तर्कसंगत रूप से विवरण का मूल्यांकन करते हैं और काम पर और ख़ाली समय के दौरान दैनिक निर्णय लेते हैं कि किसे काम पर रखना है, किसे ऋण लेना चाहिए, क्या देखना है इत्यादि। लेकिन इनमें से अधिक से अधिक निर्णय हैं स्वचालित किया जा रहा है और एल्गोरिदम के अनुसार तैयार किया जा रहा है. जैसे ही ऐसा होगा, दुनिया खत्म नहीं होगी. लेकिन लोग धीरे-धीरे ये निर्णय लेने की क्षमता खो देंगे। इन्हें जितना कम लोग बनाएंगे, इन्हें बनाने में उनके खराब होने की संभावना उतनी ही अधिक होगी।

या लोगों के जीवन में अवसर की भूमिका पर विचार करें। मनुष्य आकस्मिक मुठभेड़ों को महत्व देते हैं: किसी स्थान, व्यक्ति या गतिविधि का दुर्घटनावश सामना होना, उसमें शामिल हो जाना और इन सार्थक खोजों में निभाई गई भूमिका दुर्घटना की पूर्वव्यापी सराहना करना। लेकिन एल्गोरिथम अनुशंसा इंजन की भूमिका है उस प्रकार की आकस्मिकता को कम करें और इसे योजना और भविष्यवाणी से बदलें।

अंत में, ChatGPT की लेखन क्षमताओं पर विचार करें। प्रौद्योगिकी उच्च शिक्षा में लेखन कार्य की भूमिका को ख़त्म करने की प्रक्रिया में है। यदि ऐसा होता है, तो शिक्षक छात्रों को पढ़ाने का एक महत्वपूर्ण उपकरण खो देंगे आलोचनात्मक ढंग से कैसे सोचें.

मरा नहीं बल्कि कम हो गया

तो, नहीं, AI दुनिया को नहीं उड़ा देगा। लेकिन विभिन्न प्रकार के संकीर्ण संदर्भों में, इसे तेजी से गैर-आलोचनात्मक रूप से अपनाने का अर्थ है, मनुष्यों के कुछ सबसे महत्वपूर्ण कौशलों का क्रमिक क्षरण। एल्गोरिदम पहले से ही लोगों की निर्णय लेने, आकस्मिक मुठभेड़ों का आनंद लेने और आलोचनात्मक सोच को बेहतर बनाने की क्षमता को कम कर रहे हैं।

मानव प्रजाति ऐसे नुकसान से बच जाएगी। लेकिन इस प्रक्रिया में हमारे अस्तित्व का तरीका ख़राब हो जाएगा। आने वाले एआई प्रलय, विलक्षणता, स्काईनेट, या जैसा कि आप इसके बारे में सोच सकते हैं, के बारे में शानदार चिंताएं इन अधिक सूक्ष्म लागतों को अस्पष्ट करती हैं। टीएस एलियट की प्रसिद्ध समापन पंक्तियों को याद करें "खोखले लोग”: “इसी तरह दुनिया ख़त्म होती है,” उन्होंने लिखा, “धमाके के साथ नहीं बल्कि फुसफुसाहट के साथ।”

के बारे में लेखक

नीर ईसिकोविट्स, दर्शनशास्त्र के प्रोफेसर और निदेशक, एप्लाइड एथिक्स सेंटर, UMass बोस्टन

इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.