Getty Images
आर्टिफिशियल इंटेलिजेंस (एआई) तेजी से आगे बढ़ रहा है और नैदानिक देखभाल में एक महत्वपूर्ण सहायक उपकरण बन जाएगा। शोध से पता चलता है कि एआई एल्गोरिदम सटीक रूप से कर सकते हैं मेलेनोमा का पता लगाएं और भविष्य के स्तन कैंसर की भविष्यवाणी करें.
लेकिन इससे पहले कि एआई को नियमित नैदानिक उपयोग में एकीकृत किया जा सके, हमें एल्गोरिथम पूर्वाग्रह की चुनौती का समाधान करना चाहिए। एआई एल्गोरिदम में अंतर्निहित पूर्वाग्रह हो सकते हैं जो भेदभाव और गोपनीयता के मुद्दों को जन्म दे सकते हैं। एआई सिस्टम आवश्यक निरीक्षण या मानव इनपुट के बिना भी निर्णय ले सकता है।
एआई के संभावित हानिकारक प्रभावों का एक उदाहरण एक से आता है अंतरराष्ट्रीय परियोजना जिसका उद्देश्य सफल चिकित्सा उपचार विकसित करके जीवन बचाने के लिए एआई का उपयोग करना है। एक प्रयोग में, टीम ने "नुकसान" करने के लिए नए एआई मॉडल के विकल्प बनाने के लिए अपने "अच्छे" एआई मॉडल को उलट दिया।
छह घंटे से भी कम समय के प्रशिक्षण में, उल्टे एआई एल्गोरिदम ने हजारों संभावित रासायनिक युद्ध एजेंट उत्पन्न किए, जिनमें वर्तमान युद्ध एजेंटों की तुलना में कई अधिक खतरनाक थे। यह रासायनिक यौगिकों से संबंधित एक चरम उदाहरण है, लेकिन यह एआई के ज्ञात और संभावित रूप से अनजाने नैतिक परिणामों का मूल्यांकन करने के लिए एक वेक-अप कॉल के रूप में कार्य करता है।
नैदानिक देखभाल में ए.आई
चिकित्सा में, हम लोगों के सबसे निजी डेटा और अक्सर जीवन बदलने वाले फैसलों से निपटते हैं। मजबूत एआई नैतिकता ढांचे अनिवार्य हैं।
RSI ऑस्ट्रेलियाई मिर्गी परियोजना लोगों के जीवन में सुधार लाने और नैदानिक देखभाल को अधिक व्यापक रूप से उपलब्ध कराने का लक्ष्य है। उन्नत मस्तिष्क इमेजिंग, मिर्गी से पीड़ित हजारों लोगों की आनुवंशिक और संज्ञानात्मक जानकारी के आधार पर, हम एआई का उपयोग करने की योजना बना रहे हैं वर्तमान में अनुत्तरित प्रश्नों का उत्तर दें.
क्या इस व्यक्ति के दौरे जारी रहेंगे? कौन सी दवा सबसे ज्यादा असरदार है? क्या ब्रेन सर्जरी एक व्यवहार्य उपचार विकल्प है? ये मौलिक प्रश्न हैं जिन्हें आधुनिक चिकित्सा संबोधित करने के लिए संघर्ष करती है।
इस परियोजना के एआई नेतृत्व के रूप में, मेरी मुख्य चिंता यह है कि एआई तेजी से आगे बढ़ रहा है और नियामक निरीक्षण न्यूनतम है। इन मुद्दों के कारण हमने हाल ही में एक स्थापित किया है नैतिक ढांचा एआई को क्लिनिकल सपोर्ट टूल के रूप में उपयोग करने के लिए। इस ढांचे का इरादा यह सुनिश्चित करना है कि नैदानिक देखभाल में समावेशिता और निष्पक्षता को बढ़ावा देते हुए हमारी एआई प्रौद्योगिकियां खुली, सुरक्षित और भरोसेमंद हों।
तो हम पूर्वाग्रह को कम करने और एल्गोरिदम पर नियंत्रण बनाए रखने के लिए एआई नैतिकता को चिकित्सा में कैसे लागू करते हैं? कंप्यूटर विज्ञान का सिद्धांत "कचरा अंदर, कचरा बाहर" एआई पर लागू होता है। मान लीजिए हम छोटे नमूनों से पक्षपाती डेटा एकत्र करते हैं। हमारे एआई एल्गोरिदम संभवतः पक्षपाती होंगे और किसी अन्य नैदानिक सेटिंग में प्रतिकृति नहीं होंगे।
समकालीन एआई मॉडल में पक्षपात के उदाहरण खोजना मुश्किल नहीं है। लोकप्रिय बड़े भाषा मॉडल (उदाहरण के लिए ChatGPT) और अव्यक्त प्रसार मॉडल (DALL-E और स्थिर प्रसार) दिखाते हैं कि कैसे स्पष्ट पक्षपात लिंग, जातीयता और सामाजिक आर्थिक स्थिति के बारे में हो सकता है।
शोधकर्ताओं ने पाया कि सरल उपयोगकर्ता संकेत जातीय, लिंग और वर्ग रूढ़िवादिता को बनाए रखने वाली छवियां उत्पन्न करते हैं। उदाहरण के लिए, एक डॉक्टर के लिए एक संकेत अधिकतर उत्पन्न करता है पुरुष डॉक्टरों की छवियां, जो वास्तविकता के साथ असंगत हैं क्योंकि ओईसीडी देशों में लगभग आधे डॉक्टर महिलाएं हैं।
मेडिकल एआई का सुरक्षित कार्यान्वयन
पक्षपात और भेदभाव को रोकने का समाधान तुच्छ नहीं है। स्वास्थ्य समानता को सक्षम करने और नैदानिक अध्ययनों में समावेशिता को बढ़ावा देने की संभावना है प्राथमिक समाधान चिकित्सा एआई में पक्षपात का मुकाबला करने के लिए।
उत्साहजनक रूप से, यूएस फूड एंड ड्रग एडमिनिस्ट्रेशन ने हाल ही में प्रस्तावित किया है विविधता को अनिवार्य बनाना नैदानिक परीक्षणों में। यह प्रस्ताव कम पक्षपातपूर्ण और समुदाय आधारित नैदानिक अध्ययन की दिशा में एक कदम का प्रतिनिधित्व करता है।
प्रगति के लिए एक और बाधा सीमित शोध निधि है। एआई एल्गोरिदम को आमतौर पर पर्याप्त मात्रा में डेटा की आवश्यकता होती है, जो महंगा हो सकता है। उन्नत वित्त पोषण तंत्र स्थापित करना महत्वपूर्ण है जो शोधकर्ताओं को एआई अनुप्रयोगों के लिए उपयुक्त नैदानिक रूप से प्रासंगिक डेटा एकत्र करने के लिए आवश्यक संसाधन प्रदान करता है।
हम यह भी तर्क देते हैं कि हमें एआई एल्गोरिदम के आंतरिक कामकाज को हमेशा जानना चाहिए और यह समझना चाहिए कि वे अपने निष्कर्ष और सिफारिशों तक कैसे पहुंचे। इस अवधारणा को अक्सर एआई में "व्याख्या" के रूप में जाना जाता है। यह इस विचार से संबंधित है कि इष्टतम परिणामों के लिए मनुष्य और मशीनों को मिलकर काम करना चाहिए।
हम "कृत्रिम" बुद्धिमत्ता के बजाय "संवर्धित" के रूप में मॉडल में भविष्यवाणी के कार्यान्वयन को देखना पसंद करते हैं - एल्गोरिदम प्रक्रिया का हिस्सा होना चाहिए और चिकित्सा व्यवसायों को निर्णय लेने के नियंत्रण में रहना चाहिए।
समझाने योग्य एल्गोरिदम के उपयोग को प्रोत्साहित करने के अलावा, हम पारदर्शी और खुले विज्ञान का समर्थन करते हैं। पारदर्शिता और पुनरुत्पादन क्षमता बढ़ाने के लिए वैज्ञानिकों को एआई मॉडल और उनकी कार्यप्रणाली का विवरण प्रकाशित करना चाहिए।
चिकित्सा देखभाल में एआई के सुरक्षित कार्यान्वयन को सुनिश्चित करने के लिए हमें एओटियरोआ न्यूजीलैंड में क्या चाहिए? एआई नैतिकता संबंधी चिंताओं का नेतृत्व मुख्य रूप से क्षेत्र के विशेषज्ञ करते हैं। हालाँकि, लक्षित AI नियम, जैसे EU-आधारित आर्टिफिशियल इंटेलिजेंस एक्ट इन नैतिक विचारों को संबोधित करते हुए प्रस्तावित किया गया है।
यूरोपीय एआई कानून का स्वागत है और यह "सुरक्षित एआई" के भीतर काम करने वाले लोगों की रक्षा करेगा। यूके सरकार ने हाल ही में उनकी जारी की एआई विनियमन के लिए सक्रिय दृष्टिकोण, एआई सुरक्षा के लिए अन्य सरकारी प्रतिक्रियाओं के खाके के रूप में कार्य करना।
एओटियरोआ में, हम एआई सुरक्षा के प्रति प्रतिक्रियाशील रुख के बजाय एक सक्रिय रुख अपनाने के लिए तर्क देते हैं। यह नैदानिक देखभाल और अन्य क्षेत्रों में एआई का उपयोग करने के लिए व्याख्यात्मक, सुरक्षित और निष्पक्ष एआई प्रदान करने के लिए एक नैतिक ढांचा स्थापित करेगा। नतीजतन, हमारा विश्वास बढ़ेगा कि यह शक्तिशाली तकनीक समाज को नुकसान से बचाते हुए लाभान्वित करती है।
के बारे में लेखक
मंगोर पेडरसन, मनोविज्ञान और तंत्रिका विज्ञान के एसोसिएट प्रोफेसर, ऑकलैंड प्रौद्योगिकी विश्वविद्यालय
इस लेख से पुन: प्रकाशित किया गया है वार्तालाप क्रिएटिव कॉमन्स लाइसेंस के तहत। को पढ़िए मूल लेख.
संबंधित पुस्तकें:
द बॉडी कीप्स द स्कोर: ब्रेन माइंड एंड बॉडी इन द हीलिंग ऑफ ट्रॉमा
बेसेल वैन डर कोल द्वारा
यह पुस्तक आघात और शारीरिक और मानसिक स्वास्थ्य के बीच संबंधों की पड़ताल करती है, उपचार और पुनर्प्राप्ति के लिए अंतर्दृष्टि और रणनीतियों की पेशकश करती है।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
ब्रीथ: द न्यू साइंस ऑफ़ ए लॉस्ट आर्ट
जेम्स नेस्टर द्वारा
यह पुस्तक सांस लेने के विज्ञान और अभ्यास की पड़ताल करती है, शारीरिक और मानसिक स्वास्थ्य में सुधार के लिए अंतर्दृष्टि और तकनीक प्रदान करती है।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
द प्लांट पैराडॉक्स: द हिडन डेंजरस इन "हेल्दी" फूड्स दैट कॉज डिजीज एंड वेट गेन
स्टीवन आर गुंड्री द्वारा
यह पुस्तक आहार, स्वास्थ्य और बीमारी के बीच संबंधों की पड़ताल करती है, समग्र स्वास्थ्य और कल्याण में सुधार के लिए अंतर्दृष्टि और रणनीतियों की पेशकश करती है।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
द इम्युनिटी कोड: द न्यू पैराडाइम फॉर रियल हेल्थ एंड रेडिकल एंटी-एजिंग
जोएल ग्रीन द्वारा
यह पुस्तक एपिजेनेटिक्स के सिद्धांतों पर आधारित स्वास्थ्य और प्रतिरक्षा पर एक नया दृष्टिकोण प्रदान करती है और स्वास्थ्य और उम्र बढ़ने के अनुकूलन के लिए अंतर्दृष्टि और रणनीतियों की पेशकश करती है।
अधिक जानकारी के लिए या ऑर्डर करने के लिए क्लिक करें
उपवास के लिए संपूर्ण मार्गदर्शिका: आंतरायिक, वैकल्पिक-दिन और विस्तारित उपवास के माध्यम से अपने शरीर को ठीक करें
डॉ. जेसन फंग और जिमी मूर द्वारा
यह पुस्तक समग्र स्वास्थ्य और कल्याण में सुधार के लिए अंतर्दृष्टि और रणनीतियों की पेशकश करते हुए उपवास के विज्ञान और अभ्यास की पड़ताल करती है।
कौन
