एआई चैटबॉट पहले से ही व्यवसायों द्वारा ग्राहकों का स्वागत करने और उनके सवालों के जवाब देने के लिए व्यापक रूप से उपयोग किए जाते हैं - या तो फोन पर या वेबसाइटों पर। कुछ कंपनियों ने पाया है कि वे कुछ हद तक कॉल सेंटर भूमिकाओं में इंसानों की जगह मशीनों को ले सकती हैं।
हालाँकि, उपलब्ध साक्ष्य से पता चलता है कि ऐसे क्षेत्र हैं - जैसे स्वास्थ्य सेवा और मानव संसाधन - जहाँ इन फ्रंटलाइन उपकरणों के उपयोग के संबंध में अत्यधिक सावधानी बरतने की आवश्यकता है, और नैतिक निरीक्षण आवश्यक हो सकता है।
इसका एक ताजा और अत्यधिक प्रचारित उदाहरण है चैटबॉट को टेसा कहा जाता है, जिसका उपयोग किया गया था राष्ट्रीय भोजन विकार एसोसिएशन (एनईडीए) अमेरिका में। संगठन ने शुरू में वेतनभोगी कर्मचारियों और स्वयंसेवकों के संयोजन द्वारा संचालित एक हेल्पलाइन बनाए रखी थी। इसका स्पष्ट लक्ष्य खाने के विकारों से पीड़ित कमजोर लोगों की सहायता करना था।
हालाँकि, इस वर्ष, संगठन अपने हेल्पलाइन स्टाफ को भंग कर दिया, यह घोषणा करते हुए कि यह उन्हें टेसा चैटबॉट से बदल देगा। इसके कारण विवादित हैं। पूर्व कर्मचारियों का दावा है कि यह बदलाव हेल्पलाइन कर्मचारियों द्वारा यूनियन बनाने के निर्णय के बाद किया गया। NEDA के उपाध्यक्ष का हवाला दिया गया कॉल और प्रतीक्षा समय की बढ़ी हुई संख्या, साथ ही स्वयंसेवी कर्मचारियों के उपयोग से संबंधित कानूनी देनदारियां।
जो भी मामला हो, ऑपरेशन की एक बहुत ही संक्षिप्त अवधि के बाद, टेसा को उन रिपोर्टों पर ऑफ़लाइन कर दिया गया था कि चैटबॉट ने समस्याग्रस्त सलाह जारी की थी जो खाने के विकारों के लिए मदद मांगने वाले लोगों के लक्षणों को बढ़ा सकती थी।
यह भी खबर आई थी डॉ. एलेन फिट्ज़सिमन्स-क्राफ्ट और डॉ. सी बर्र टेलरटेसा के निर्माण में सहायता करने वाले दो उच्च योग्य शोधकर्ताओं ने यह निर्धारित किया था कि चैटबॉट का उद्देश्य मौजूदा हेल्पलाइन के प्रतिस्थापन के रूप में या तीव्र भोजन विकार लक्षणों का अनुभव करने वाले लोगों को तत्काल सहायता प्रदान करना नहीं था।
महत्वपूर्ण उन्नयन
तो टेसा को किस लिए डिज़ाइन किया गया था? शोधकर्ताओं ने सहकर्मियों के साथ मिलकर एक तैयार किया था अवलोकन अध्ययन उन उपयोगकर्ताओं के साथ बातचीत करने के लिए नियम-आधारित चैटबॉट को डिज़ाइन करने में आने वाली चुनौतियों पर प्रकाश डाला गया जो खाने के विकारों के बारे में चिंतित हैं। यह पढ़ने में काफी दिलचस्प है, जिसमें डिजाइन विकल्पों, परिचालनों, कमियों और संशोधनों को दर्शाया गया है।
टेसा का मूल संस्करण पारंपरिक था, नियम-आधारित चैटबॉट, यद्यपि अत्यधिक परिष्कृत, जो तर्क के आधार पर पूर्व-परिभाषित संरचना का पालन करता है। यह अपने रचनाकारों द्वारा अंशांकित मानकीकृत पूर्व-क्रमादेशित प्रतिक्रियाओं से विचलित नहीं हो सका।
उनके निष्कर्ष में निम्नलिखित बिंदु शामिल थे: "नियम-आधारित चैटबॉट्स में जानकारी और सरल इंटरैक्शन प्रदान करने में कम लागत पर बड़ी आबादी तक पहुंचने की क्षमता है, लेकिन अप्रत्याशित उपयोगकर्ता प्रतिक्रियाओं को समझने और उचित रूप से प्रतिक्रिया देने में सीमित हैं"।
ऐसा प्रतीत हो सकता है कि इससे उन उपयोगों को सीमित किया जा सकता है जिनके लिए टेसा उपयुक्त थी। तो आखिर इसने NEDA द्वारा पहले इस्तेमाल की गई हेल्पलाइन की जगह कैसे ले ली? अलग-अलग खातों के बीच घटनाओं की सटीक श्रृंखला पर चर्चा चल रही है, लेकिन, एनपीआर के अनुसार, चैटबॉट की होस्टिंग कंपनी ने टेसा को नियम-आधारित चैटबॉट से पूर्व-प्रोग्राम किए गए प्रतिक्रियाओं वाले चैटबॉट में बदल दिया। "उन्नत प्रश्न और उत्तर सुविधा".
टेसा का बाद का संस्करण चैटजीपीटी और इसी तरह के उत्पादों की तरह जेनरेटिव एआई को नियोजित करने वाला था। ये उन्नत एआई चैटबॉट अधिक यथार्थवादी और उपयोगी प्रतिक्रिया देने के इरादे से मानव वार्तालाप पैटर्न का अनुकरण करने के लिए डिज़ाइन किए गए हैं। इन अनुकूलित उत्तरों को तैयार करना सूचना के बड़े डेटाबेस पर निर्भर करता है, जिसे एआई मॉडल को विभिन्न तकनीकी प्रक्रियाओं के माध्यम से "समझने" के लिए प्रशिक्षित किया जाता है: यंत्र अधिगम, ध्यान लगा के पढ़ना या सीखना और प्राकृतिक भाषा प्रसंस्करण.
सबक सीखना
अंततः, चैटबॉट ने कुछ उपयोगकर्ताओं के प्रश्नों के संभावित रूप से हानिकारक उत्तर उत्पन्न किए। आगामी चर्चाओं ने दोष को एक संस्था से दूसरी संस्था पर स्थानांतरित कर दिया है। हालाँकि, मुद्दा यह है कि आने वाली परिस्थितियों से संभावित रूप से बचा जा सकता था यदि नैतिक निरीक्षण, "पाश में मानव" और टेसा के मूल डिजाइन के स्पष्ट उद्देश्य का पालन करने वाली संस्था होती।
विभिन्न प्रणालियों में एआई के एकीकरण की दिशा में तेजी की पृष्ठभूमि में इस तरह के मामलों से सबक सीखना महत्वपूर्ण है। और जबकि ये घटनाएँ अमेरिका में हुईं, इनमें उन लोगों के लिए सबक शामिल हैं जो अन्य देशों में भी ऐसा करना चाहते हैं।
ऐसा प्रतीत होता है कि यूके इस मुद्दे पर कुछ हद तक खंडित दृष्टिकोण रखता है। सेंटर फॉर डेटा एथिक्स एंड इनोवेशन (सीडीईआई) का सलाहकार बोर्ड हाल ही में भंग कर दिया गया था और मेज पर इसकी सीट नवगठित फ्रंटियर एआई टास्कफोर्स द्वारा ली गई थी। ऐसी भी रिपोर्टें हैं कि श्रमिकों की सहायता के लिए लंदन में एआई सिस्टम का पहले से ही परीक्षण किया जा रहा है - हालांकि हेल्पलाइन के प्रतिस्थापन के रूप में नहीं।
ये दोनों उदाहरण नैतिक विचारों और व्यावसायिक हितों के बीच संभावित तनाव को उजागर करते हैं। हमें उम्मीद करनी चाहिए कि अंततः दोनों एक हो जाएंगे और एआई द्वारा प्रदान की जा सकने वाली दक्षता और लाभों के साथ व्यक्तियों की भलाई को संतुलित किया जा सकेगा।
हालाँकि, कुछ क्षेत्रों में जहां संगठन जनता के साथ बातचीत करते हैं, एआई-जनित प्रतिक्रियाएं और नकली सहानुभूति वास्तविक मानवता और करुणा को बदलने के लिए कभी भी पर्याप्त नहीं हो सकती हैं - विशेष रूप से चिकित्सा और मानसिक स्वास्थ्य के क्षेत्रों में।
मार्क त्सगास, व्याख्याता, आपराधिक कानून, यूनिवर्सिटी ऑफ ईस्ट लंडन
इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.
