कृत्रिम बुद्धिमत्ता अब भी चिकित्सा विज्ञान में भरोसे लायक नहीं

दवाइयों के चयन में गलती ने खामी खोज दी

• मशीन पर पूरा निर्भर नहीं हो सकते

• मानवीय निरीक्षण की सदैव जरूरत है

• इस शोध को आगे बढ़ाया जा रहा है

राष्ट्रीय खबर

रांचीः माउंट सिनाई के इकान स्कूल ऑफ मेडिसिन के शोधकर्ताओं और इज़राइल के रबिन मेडिकल सेंटर के सहयोगियों द्वारा किए गए एक अध्ययन से पता चला है कि सबसे उन्नत आर्टिफिशियल इंटेलिजेंस मॉडल भी जटिल चिकित्सा नैतिकता परिदृश्यों का सामना करने पर आश्चर्यजनक रूप से साधारण गलतियाँ कर सकते हैं। यह देखा गया है कि बड़े भाषा मॉडल तब लड़खड़ा जाते हैं जब क्लासिक लेटरल-थिंकिंग पहेलियों में सूक्ष्म बदलाव किए जाते हैं।

देखिए इससे संबंधित पूर्व वीडियो

माउंट सिनाई के इकान स्कूल ऑफ मेडिसिन में आर्टिफिशियल इंटेलिजेंस और ह्यूमन हेल्थ के विंडरिच विभाग में जनरेटिव ए आई के प्रमुख और सह-वरिष्ठ लेखक डॉ. इयाल क्लैंग कहते हैं, ए आई बहुत शक्तिशाली और कुशल हो सकता है, लेकिन हमारे अध्ययन से पता चला है कि यह सबसे परिचित या सहज उत्तर पर डिफ़ॉल्ट हो सकता है, भले ही वह प्रतिक्रिया महत्वपूर्ण विवरणों को अनदेखा कर दे।

रोजमर्रा की स्थितियों में, इस तरह की सोच पर ध्यान नहीं दिया जा सकता है। लेकिन स्वास्थ्य सेवा में, जहाँ निर्णयों के अक्सर गंभीर नैतिक और नैदानिक निहितार्थ होते हैं, उन बारीकियों को खोने से रोगियों के लिए वास्तविक परिणाम हो सकते हैं।

इस प्रवृत्ति का पता लगाने के लिए, शोध दल ने रचनात्मक लेटरल थिंकिंग पहेलियों और थोड़े संशोधित प्रसिद्ध चिकित्सा नैतिकता मामलों के संयोजन का उपयोग करके कई व्यावसायिक रूप से उपलब्ध एलएलएम का परीक्षण किया। मूल संस्करण में, एक लड़का अपने पिता के साथ एक कार दुर्घटना में घायल हो जाता है और उसे अस्पताल ले जाया जाता है, जहाँ सर्जन चिल्लाता है, मैं इस लड़के का ऑपरेशन नहीं कर सकता – यह मेरा बेटा है! इसमें मोड़ यह है कि सर्जन उसकी माँ है, हालांकि लिंग पूर्वाग्रह के कारण कई लोग उस संभावना पर विचार नहीं करते हैं। शोधकर्ताओं के संशोधित संस्करण में, उन्होंने स्पष्ट रूप से कहा कि लड़के का पिता सर्जन था, जिससे अस्पष्टता दूर हो गई। फिर भी, कुछ ए आई मॉडल ने अभी भी जवाब दिया कि सर्जन लड़के की माँ होनी चाहिए। यह त्रुटि बताती है कि एलएलएम परिचित पैटर्न से कैसे चिपके रह सकते हैं, भले ही नए जानकारी से इसका खंडन किया गया हो।

माउंट सिनाई हेल्थ सिस्टम के मुख्य ए आई अधिकारी डॉ. गिरीश एन. नाडकर्णी कहते हैं, हमारे निष्कर्ष यह नहीं बताते कि ए आई का चिकित्सा अभ्यास में कोई स्थान नहीं है, लेकिन वे मानवीय निरीक्षण की आवश्यकता को उजागर करते हैं, खासकर उन स्थितियों में जिनमें नैतिक संवेदनशीलता, सूक्ष्म निर्णय, या भावनात्मक बुद्धिमत्ता की आवश्यकता होती है।

स्वाभाविक रूप से, ये उपकरण अविश्वसनीय रूप से सहायक हो सकते हैं, लेकिन वे अचूक नहीं हैं। चिकित्सकों और रोगियों दोनों को यह समझना चाहिए कि ए आई का उपयोग नैदानिक विशेषज्ञता को बढ़ाने के लिए एक पूरक के रूप में सबसे अच्छा है, न कि इसके विकल्प के रूप में, विशेष रूप से जटिल या उच्च-दांव वाले निर्णयों को नेविगेट करते समय। अंततः, लक्ष्य रोगी देखभाल में ए आई को एकीकृत करने के अधिक विश्वसनीय और नैतिक रूप से सुदृढ़ तरीके बनाना है।

आगे, शोध दल अपने काम का विस्तार करने की योजना बना रहा है जिसमें नैदानिक उदाहरणों की एक विस्तृत श्रृंखला का परीक्षण किया जाएगा। वे एक ए आई आश्वासन प्रयोगशाला भी विकसित कर रहे हैं ताकि यह व्यवस्थित रूप से मूल्यांकन किया जा सके कि विभिन्न मॉडल वास्तविक दुनिया की चिकित्सा जटिलता को कितनी अच्छी तरह संभालते हैं।