एआई चैटबॉट अधिक शक्तिशाली होते जा रहे हैं, लेकिन आपको कैसे पता चलेगा कि वे आपके सर्वोत्तम हित में काम कर रहे हैं?
यदि आप अमेज़ॅन के वॉयस असिस्टेंट एआई सिस्टम एलेक्सा से पूछते हैं कि क्या अमेज़ॅन का एकाधिकार है, तो इसका जवाब मिलता है कह रहा है यह नहीं जानता. इसे बनाने में ज्यादा मेहनत नहीं लगती अन्य तकनीकी दिग्गजों को लताड़ें, लेकिन यह अपने ही कॉर्पोरेट माता-पिता के कुकर्मों के बारे में चुप है।
जब एलेक्सा इस तरह से प्रतिक्रिया देती है, तो यह स्पष्ट है कि वह अपने डेवलपर के हितों को आपके हितों से आगे रख रही है। हालाँकि, आमतौर पर, यह इतना स्पष्ट नहीं है कि AI सिस्टम किसे सेवा दे रहा है। इन प्रणालियों द्वारा शोषण से बचने के लिए, लोगों को एआई पर संदेह करना सीखना होगा। इसका मतलब है कि आप जो इनपुट देते हैं उसे जानबूझकर तैयार करना और उसके आउटपुट के बारे में गंभीरता से सोचना।
एआई मॉडल की नई पीढ़ी, अपनी अधिक परिष्कृत और कम रटी हुई प्रतिक्रियाओं के साथ, यह बताना कठिन बना रही है कि जब वे बोलते हैं तो किसे लाभ होता है। इंटरनेट कंपनियों द्वारा अपने हितों की पूर्ति के लिए जो कुछ भी आप देखते हैं उसमें हेरफेर करना कोई नई बात नहीं है। Google के खोज परिणाम और आपका Facebook फ़ीड हैं सशुल्क प्रविष्टियों से भरा हुआ. फेसबुक, टिक टॉक और अन्य लोग प्लेटफ़ॉर्म पर आपके द्वारा बिताए गए समय को अधिकतम करने के लिए आपके फ़ीड में हेरफेर करते हैं, जिसका अर्थ है आपकी भलाई के लिए अधिक विज्ञापन दृश्य।
एआई सिस्टम को इन अन्य इंटरनेट सेवाओं से जो अलग करता है वह यह है कि वे कितने इंटरैक्टिव हैं और कैसे ये इंटरैक्शन तेजी से रिश्तों की तरह बन जाएंगे। एआई की कल्पना करने के लिए आज की प्रौद्योगिकियों से ज्यादा कुछ निकालने की जरूरत नहीं है जो आपके लिए यात्राओं की योजना बनाएगी, आपकी ओर से बातचीत करेगी या चिकित्सक और जीवन प्रशिक्षक के रूप में कार्य करेगी।
संभावना है कि वे चौबीसों घंटे आपके साथ रहेंगे, आपको करीब से जानते होंगे और आपकी जरूरतों का अनुमान लगाने में सक्षम होंगे। वेब पर सेवाओं और संसाधनों के विशाल नेटवर्क के लिए इस प्रकार का संवादात्मक इंटरफ़ेस चैटजीपीटी जैसे मौजूदा जेनरेटर एआई की क्षमताओं के भीतर है। वे बनने की राह पर हैं वैयक्तिकृत डिजिटल सहायक.
एक के रूप में सुरक्षा विशेषज्ञ और आँकड़े वाला वैज्ञानिकहमारा मानना है कि जो लोग इन एआई पर भरोसा करते हैं, उन्हें दैनिक जीवन में आगे बढ़ने के लिए उन पर पूरी तरह भरोसा करना होगा। इसका मतलब है कि उन्हें यह सुनिश्चित करना होगा कि एआई गुप्त रूप से किसी और के लिए काम नहीं कर रहे हैं। इंटरनेट पर, जो उपकरण और सेवाएँ आपके लिए काम करती प्रतीत होती हैं, वे पहले से ही गुप्त रूप से आपके विरुद्ध काम करती हैं। स्मार्ट टीवी आप पर जासूसी. फ़ोन ऐप्स अपना डेटा एकत्र करें और बेचें. कई ऐप्स और वेबसाइटें अंधेरे पैटर्न के माध्यम से आपको हेरफेर करें, डिज़ाइन तत्व जो वेबसाइट आगंतुकों को जानबूझकर गुमराह करना, बाध्य करना या धोखा देना। ये है निगरानी पूंजीवाद, और एआई इसका हिस्सा बनने के लिए आकार ले रहा है। एआई निगरानी पूंजीवाद में एक भूमिका निभा रहा है, जो आपसे पैसे कमाने के लिए आपकी जासूसी करने तक सीमित है।
अंधेरे में
संभवतः, AI के साथ यह और भी बदतर हो सकता है। उस एआई डिजिटल सहायक को वास्तव में उपयोगी बनाने के लिए, उसे वास्तव में आपको जानना होगा। आपका फ़ोन आपको बेहतर जानता है. Google सर्च आपको बेहतर जानता है. शायद, आपके करीबी दोस्त, अंतरंग साथी और चिकित्सक आपको इससे बेहतर जानते हैं।
आपके पास आज के अग्रणी जेनेरिक एआई टूल पर भरोसा करने का कोई कारण नहीं है। को छोड़ दें मतिभ्रमजीपीटी और अन्य बड़े भाषा मॉडल निर्मित "तथ्य" बनाते हैं। हम उम्मीद करते हैं कि अगले कुछ वर्षों में प्रौद्योगिकी में सुधार होने पर इन्हें बड़े पैमाने पर साफ कर दिया जाएगा।
लेकिन आप नहीं जानते कि एआई को कैसे कॉन्फ़िगर किया गया है: उन्हें कैसे प्रशिक्षित किया गया है, उन्हें क्या जानकारी दी गई है, और उन्हें किन निर्देशों का पालन करने का आदेश दिया गया है। उदाहरण के लिए, शोधकर्ता गुप्त नियमों का खुलासा किया जो माइक्रोसॉफ्ट बिंग चैटबॉट के व्यवहार को नियंत्रित करता है। वे काफी हद तक सौम्य हैं लेकिन किसी भी समय बदल सकते हैं।
पैसा बनाना
इनमें से कई एआई को कुछ सबसे बड़े तकनीकी एकाधिकारों द्वारा भारी खर्च पर बनाया और प्रशिक्षित किया गया है। इन्हें लोगों को निःशुल्क या बहुत कम कीमत पर उपयोग करने की पेशकश की जा रही है। इन कंपनियों को किसी तरह इनका मुद्रीकरण करना होगा। और, बाकी इंटरनेट की तरह, इसमें किसी तरह निगरानी और हेरफेर शामिल होने की संभावना है।
कल्पना कीजिए कि आप अपने चैटबॉट से अपनी अगली छुट्टियों की योजना बनाने के लिए कह रहे हैं। क्या इसने किसी विशेष एयरलाइन या होटल श्रृंखला या रेस्तरां को इसलिए चुना क्योंकि यह आपके लिए सबसे अच्छा था या क्योंकि इसके निर्माता को व्यवसायों से रिश्वत मिली थी? Google खोज में भुगतान किए गए परिणामों, फेसबुक पर न्यूज़फ़ीड विज्ञापनों और अमेज़ॅन प्रश्नों पर भुगतान किए गए प्लेसमेंट के साथ, इन भुगतान प्रभावों के समय के साथ और अधिक गुप्त होने की संभावना है।
यदि आप अपने चैटबॉट से राजनीतिक जानकारी मांग रहे हैं, तो क्या परिणाम उस निगम की राजनीति के कारण विकृत हैं जो चैटबॉट का मालिक है? या वह उम्मीदवार जिसने इसे सबसे अधिक पैसे दिए? या उन लोगों के जनसांख्यिकीय के विचार भी जिनके डेटा का उपयोग मॉडल को प्रशिक्षित करने में किया गया था? क्या आपका AI एजेंट गुप्त रूप से डबल एजेंट है? फिलहाल, जानने का कोई तरीका नहीं है.
कानून द्वारा विश्वसनीय
हमारा मानना है कि लोगों को प्रौद्योगिकी से अधिक उम्मीद करनी चाहिए और तकनीकी कंपनियां और एआई अधिक भरोसेमंद बन सकते हैं। यूरोपीय संघ का प्रस्ताव एआई एक्ट कुछ महत्वपूर्ण कदम उठाता है, जिसमें एआई मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा के बारे में पारदर्शिता, संभावित पूर्वाग्रह को कम करना, संभावित जोखिमों का खुलासा करना और उद्योग मानक परीक्षणों पर रिपोर्टिंग की आवश्यकता होती है। यूरोपीय संघ एआई विनियमन को आगे बढ़ा रहा है।
अधिकांश मौजूदा एआई अनुपालन करने में विफल इस उभरते यूरोपीय जनादेश के साथ, और, इसके बावजूद हाल ही में उकसाया गया सीनेट के बहुमत नेता चक शूमर के अनुसार, अमेरिका इस तरह के नियमन में बहुत पीछे है।
भविष्य के एआई भरोसेमंद होने चाहिए। जब तक सरकार एआई उत्पादों के लिए मजबूत उपभोक्ता सुरक्षा प्रदान नहीं करती है, तब तक लोगों को एआई के संभावित जोखिमों और पूर्वाग्रहों का अनुमान लगाना और उनके साथ लोगों के अनुभवों पर उनके सबसे बुरे प्रभावों को कम करना होगा।
इसलिए जब आपको एआई टूल से कोई यात्रा अनुशंसा या राजनीतिक जानकारी मिलती है, तो उसे उसी संदेह भरी नजर से देखें जिस नजर से आप एक बिलबोर्ड विज्ञापन या अभियान स्वयंसेवक को देखते हैं। अपनी सभी तकनीकी जादूगरी के लिए, AI उपकरण समान से थोड़ा अधिक हो सकता है।
के बारे में लेखक
ब्रूस Schneier, सार्वजनिक नीति में सहायक व्याख्याता, हार्वर्ड केनेडी स्कूल और नाथन सैंडर्स, संबद्ध, बर्कमैन क्लेन सेंटर फॉर इंटरनेट एंड सोसाइटी, हावर्ड यूनिवर्सिटी
इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.
