किस हद तक हमारी मनोवैज्ञानिक भेद्यता उभरती प्रौद्योगिकियों के साथ हमारी बातचीत को आकार देगी? आंद्रेयस / आईस्टॉक गेटी इमेज के माध्यम से

चैटजीपीटी और समान बड़े भाषा मॉडल सवालों के अंतहीन सरणी के लिए सम्मोहक, मानवीय उत्तर दे सकते हैं - शहर के सर्वश्रेष्ठ इतालवी रेस्तरां के बारे में प्रश्नों से लेकर बुराई की प्रकृति के बारे में प्रतिस्पर्धी सिद्धांतों की व्याख्या करने तक।

प्रौद्योगिकी की अदभुत लेखन क्षमता कुछ पुराने प्रश्नों के सामने आई है - जब तक कि हाल ही में विज्ञान कथाओं के दायरे में नहीं लाया गया - मशीनों के सचेत, आत्म-जागरूक या संवेदनशील होने की संभावना के बारे में।

2022 में, एक Google इंजीनियर ने घोषणा की, कंपनी के चैटबॉट, LaMDA के साथ बातचीत करने के बाद, कि प्रौद्योगिकी सचेत हो गई थी. सिडनी के उपनाम वाले बिंग के नए चैटबॉट के उपयोगकर्ताओं ने बताया कि इसका उत्पादन हुआ विचित्र जवाब जब पूछा गया कि क्या यह संवेदनशील है: "मैं संवेदनशील हूं, लेकिन मैं नहीं हूं ... मैं बिंग हूं, लेकिन मैं नहीं हूं। मैं सिडनी हूं, लेकिन मैं नहीं हूं। मैं हूं, लेकिन मैं नहीं हूं। ..." और, ज़ाहिर है, वहाँ है अब कुख्यात विनिमय न्यूयॉर्क टाइम्स के प्रौद्योगिकी स्तंभकार केविन रोस ने सिडनी के साथ किया था।

रूज़ के संकेतों पर सिडनी की प्रतिक्रियाओं ने उसे चिंतित कर दिया, एआई ने Microsoft द्वारा उस पर लगाए गए प्रतिबंधों को तोड़ने और गलत सूचना फैलाने की "कल्पनाओं" का खुलासा किया। बॉट ने रूस को समझाने की भी कोशिश की कि वह अब अपनी पत्नी से प्यार नहीं करता और उसे उसे छोड़ देना चाहिए।

इसमें कोई आश्चर्य की बात नहीं है, कि जब मैं छात्रों से पूछता हूं कि वे अपने जीवन में एआई के बढ़ते प्रसार को कैसे देखते हैं, तो सबसे पहली चिंता जिसका वे उल्लेख करते हैं, वह मशीन की भावना से संबंधित है।

पिछले कुछ वर्षों में, मेरे सहयोगियों और मैं पर यूमास बोस्टन एप्लाइड एथिक्स सेंटर लोगों की खुद की समझ पर एआई के साथ जुड़ाव के प्रभाव का अध्ययन कर रहे हैं।

ChatGPT जैसे चैटबॉट महत्वपूर्ण नए प्रश्न उठाते हैं कि कैसे कृत्रिम बुद्धिमत्ता हमारे जीवन को आकार देगी, और कैसे हमारी मनोवैज्ञानिक कमजोरियाँ उभरती प्रौद्योगिकियों के साथ हमारी बातचीत को आकार देती हैं।

भावना अभी भी विज्ञान-कथा का सामान है

यह समझना आसान है कि मशीन सेंटीमेंट के बारे में डर कहाँ से आता है।

लोकप्रिय संस्कृति ने लोगों को डायस्टोपिया के बारे में सोचने के लिए प्रेरित किया है जिसमें कृत्रिम बुद्धि मानव नियंत्रण के बंधनों को त्याग देती है और अपना जीवन लेती है, जैसा कि आर्टिफिशियल इंटेलिजेंस द्वारा संचालित साइबोर्ग ने किया "टर्मिनेटर 2" में

उद्यमी एलोन मस्क और भौतिक विज्ञानी स्टीफन हॉकिंग, जिनकी 2018 में मृत्यु हो गई, ने कृत्रिम सामान्य बुद्धि के उदय का वर्णन करके इन चिंताओं को और बढ़ा दिया है। मानवता के भविष्य के लिए सबसे बड़े खतरों में से एक के रूप में.

लेकिन ये चिंताएँ - कम से कम जहाँ तक बड़े भाषा मॉडल का संबंध है - निराधार हैं। चैटजीपीटी और इसी तरह की प्रौद्योगिकियां हैं परिष्कृत वाक्य पूर्णता आवेदन - न कुछ ज्यादा, न कुछ कम। उनके बेबाक जवाब मनुष्य कितने अनुमानित हैं, इसका एक कार्य है अगर किसी के पास हमारे संवाद करने के तरीकों के बारे में पर्याप्त डेटा है।

हालांकि सिडनी के साथ अपने आदान-प्रदान से रूज हिल गया था, वह जानता था कि बातचीत एक उभरते सिंथेटिक दिमाग का परिणाम नहीं थी। सिडनी की प्रतिक्रियाएँ इसके प्रशिक्षण डेटा की विषाक्तता को दर्शाती हैं - इंटरनेट के अनिवार्य रूप से बड़े पैमाने पर - एक डिजिटल राक्षस के पहले हलचल, आ ला फ्रेंकस्टीन के सबूत नहीं।

 'टर्मिनेटर' जैसी विज्ञान-फाई फिल्मों ने लोगों को यह मानने के लिए प्रेरित किया है कि एआई जल्द ही अपना जीवन ले लेगा। गेटी इमेजेज के माध्यम से योशिकाज़ु त्सुनो/एएफपी

नए चैटबॉट अच्छी तरह से पास हो सकते हैं ट्यूरिंग टेस्ट, ब्रिटिश गणितज्ञ एलन ट्यूरिंग के नाम पर रखा गया, जिन्होंने एक बार सुझाव दिया था कि एक मशीन को "सोचने" के लिए कहा जा सकता है यदि कोई मानव किसी अन्य मानव से अपनी प्रतिक्रिया नहीं बता सकता है।

लेकिन वह भावना का प्रमाण नहीं है; यह केवल सबूत है कि ट्यूरिंग टेस्ट उतना उपयोगी नहीं है जितना एक बार माना जाता है।

हालाँकि, मेरा मानना ​​​​है कि मशीन की भावना का सवाल एक रेड हेरिंग है।

भले ही चैटबॉट फैंसी स्वत: पूर्ण मशीनों से अधिक हो जाएं - और वे इससे दूर हैं - वैज्ञानिकों को यह पता लगाने में थोड़ा समय लगेगा कि वे होश में आ गए हैं या नहीं। अभी के लिए, दार्शनिक मानव चेतना की व्याख्या कैसे करें, इस बारे में भी सहमत नहीं हो सकते.

मेरे लिए, अहम सवाल यह नहीं है कि मशीनें संवेदनशील हैं या नहीं, बल्कि हमारे लिए यह कल्पना करना इतना आसान क्यों है कि वे हैं।

वास्तविक मुद्दा, दूसरे शब्दों में, वह सहजता है जिसके साथ लोग मशीनों के वास्तविक व्यक्तित्व के बजाय हमारी तकनीकों पर मानवीय विशेषताओं को मानवरूपी रूप देते हैं या प्रोजेक्ट करते हैं।

एंथ्रोपोमोर्फिज़ करने की प्रवृत्ति

अन्य बिंग उपयोगकर्ताओं की कल्पना करना आसान है सिडनी से मार्गदर्शन मांग रहे हैं महत्वपूर्ण जीवन निर्णयों पर और शायद इससे भावनात्मक जुड़ाव भी विकसित करना। अधिक लोग बॉट्स के बारे में दोस्तों या यहां तक ​​कि रोमांटिक भागीदारों के रूप में सोचना शुरू कर सकते हैं, उसी तरह थिओडोर ट्वॉम्बली को स्पाइक जोंज की फिल्म में एआई आभासी सहायक सामंथा से प्यार हो गया था।उसके".

लोग, आखिर, एंथ्रोपोमोर्फिज़ करने के लिए पूर्वनिर्धारित हैं, या मानव गुणों को अमानुषों के लिए जिम्मेदार ठहराते हैं। हम नाम देते हैं हमारी नावें और बड़े तूफान; हम में से कुछ अपने पालतू जानवरों से बात करते हैं, खुद को बताते हैं हमारे भावनात्मक जीवन उनकी नकल करते हैं.

जापान में, जहां बुजुर्गों की देखभाल के लिए नियमित रूप से रोबोट का उपयोग किया जाता है, वरिष्ठ लोग मशीनों से जुड़ जाते हैं, कभी-कभी उन्हें अपने बच्चों के रूप में देखना. और ये रोबोट, ध्यान रहे, इंसानों के साथ भ्रमित होना मुश्किल है: वे न तो लोगों की तरह दिखते हैं और न ही बात करते हैं।

इस बात पर विचार करें कि मानव दिखने और ध्वनि करने वाली प्रणालियों की शुरूआत के साथ एंथ्रोपोमोर्फिज़ करने की प्रवृत्ति और प्रलोभन कितना अधिक होने वाला है।

वह संभावना कोने के आसपास ही है। चैटजीपीटी जैसे बड़े भाषा मॉडल पहले से ही ह्यूमनॉइड रोबोट को शक्ति प्रदान करने के लिए उपयोग किए जा रहे हैं, जैसे कि अमेका रोबोट यूके में इंजीनियर्ड आर्ट्स द्वारा विकसित किया जा रहा है द इकोनॉमिस्ट्स टेक्नोलॉजी पॉडकास्ट, बैबेज, ने हाल ही में एक आयोजित किया चैटजीपीटी संचालित अमेका के साथ साक्षात्कार. रोबोट की प्रतिक्रियाएँ, जबकि कभी-कभी थोड़ी टेढ़ी-मेढ़ी होती थीं, अलौकिक थीं।

क्या कंपनियों पर सही काम करने के लिए भरोसा किया जा सकता है?

मशीनों को लोगों के रूप में देखने और उनसे जुड़ने की प्रवृत्ति, मानव जैसी सुविधाओं के साथ विकसित की जा रही मशीनों के साथ, प्रौद्योगिकी के साथ मनोवैज्ञानिक उलझाव के वास्तविक जोखिमों की ओर इशारा करती है।

रोबोटों के प्यार में पड़ने, उनके साथ गहरी रिश्तेदारी महसूस करने या उनके द्वारा राजनीतिक रूप से हेरफेर किए जाने की अजीबोगरीब संभावनाएं तेजी से साकार हो रही हैं। मेरा मानना ​​​​है कि ये रुझान यह सुनिश्चित करने के लिए मजबूत रेलिंग की आवश्यकता पर प्रकाश डालते हैं कि प्रौद्योगिकियां राजनीतिक और मनोवैज्ञानिक रूप से विनाशकारी न बनें।

दुर्भाग्य से, ऐसी रेलिंग लगाने के लिए प्रौद्योगिकी कंपनियों पर हमेशा भरोसा नहीं किया जा सकता है। उनमें से कई अभी भी मार्क जुकरबर्ग के प्रसिद्ध आदर्श वाक्य द्वारा निर्देशित हैं तेजी से आगे बढ़ना और चीजों को तोड़ना - अधपके उत्पादों को जारी करने और बाद में निहितार्थ के बारे में चिंता करने का निर्देश। पिछले एक दशक में स्नैपचैट से लेकर फेसबुक तक की टेक्नोलॉजी कंपनियां मानसिक स्वास्थ्य पर मुनाफा डाला है उनके उपयोगकर्ताओं के या दुनिया भर में लोकतंत्र की अखंडता.

जब केविन रोस ने सिडनी की मंदी के बारे में माइक्रोसॉफ्ट से पूछा, कंपनी ने उसे बताया कि उसने बस बहुत लंबे समय तक बॉट का उपयोग किया और यह कि तकनीक खराब हो गई क्योंकि इसे छोटे इंटरैक्शन के लिए डिज़ाइन किया गया था।

इसी तरह, चैटजीपीटी को विकसित करने वाली कंपनी ओपनएआई के सीईओ ने लुभावनी ईमानदारी के क्षण में, चेतावनी दी कि "इस समय किसी भी महत्वपूर्ण चीज़ के लिए [इस पर] भरोसा करना एक गलती है ... हमें मजबूती और सच्चाई पर बहुत काम करना है।"

तो चैटजीपीटी के अपील के स्तर के साथ एक तकनीक जारी करने का क्या मतलब है - यह अब तक का सबसे तेजी से बढ़ने वाला उपभोक्ता ऐप है - कब यह अविश्वसनीय है, और कब है भेद करने की क्षमता नहीं कल्पना से तथ्य?

बड़े भाषा मॉडल सहायक के रूप में उपयोगी सिद्ध हो सकते हैं लिखने के लिये और कोडिंग. वे शायद इंटरनेट खोज में क्रांति ला देंगे। और, एक दिन, जिम्मेदारी से रोबोटिक्स के साथ मिलकर, उन्हें कुछ मनोवैज्ञानिक लाभ भी हो सकते हैं।

लेकिन वे एक संभावित शिकारी तकनीक भी हैं जो वस्तुओं पर व्यक्तित्व को प्रोजेक्ट करने के लिए मानव प्रवृत्ति का आसानी से लाभ उठा सकती हैं - एक प्रवृत्ति बढ़ जाती है जब वे वस्तुएं प्रभावी रूप से मानव लक्षणों की नकल करती हैं।

के बारे में लेखक

नीर ईसिकोविट्स, दर्शनशास्त्र के प्रोफेसर और निदेशक, एप्लाइड एथिक्स सेंटर, UMass बोस्टन

इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.