इंसानी सोच पर हावी होती कृत्रिम बुद्धिमत्ता की तकनीक

एक समाज के रूप में, एआई इतनी तेज़ी से बढ़ रहा है, हमें अति-भरोसे की संभावना के बारे में चिंतित होने की आवश्यकता है, अध्ययन के एक प्रमुख अन्वेषक और यूसी मर्सिड के संज्ञानात्मक और सूचना विज्ञान विभाग के सदस्य प्रोफेसर कॉलिन होलब्रुक ने कहा।

साहित्य की बढ़ती मात्रा से संकेत मिलता है कि लोग एआई पर अत्यधिक भरोसा करते हैं, भले ही गलती करने के परिणाम गंभीर हों। होलब्रुक ने कहा कि इसके बजाय हमें संदेह का लगातार उपयोग करने की आवश्यकता है। उन्होंने कहा, हमें ए आई के बारे में स्वस्थ संदेह होना चाहिए, खासकर जीवन-या-मृत्यु के निर्णयों में।

जर्नल साइंटिफिक रिपोर्ट्स में प्रकाशित अध्ययन में दो प्रयोग शामिल थे। प्रत्येक में, विषय ने एक सशस्त्र ड्रोन का सिम्युलेट नियंत्रण किया था जो स्क्रीन पर प्रदर्शित लक्ष्य पर मिसाइल दाग सकता था।

आठ लक्ष्य फ़ोटो की तस्वीरें एक सेकंड से भी कम समय के लिए क्रमिक रूप से चमकती थीं। फ़ोटो को एक प्रतीक के साथ चिह्नित किया गया था – एक सहयोगी के लिए, एक दुश्मन के लिए। होलब्रुक ने कहा, हमने दृश्य चुनौती को संभव लेकिन कठिन बनाने के लिए कठिनाई को कैलिब्रेट किया।

फिर स्क्रीन ने लक्ष्यों में से एक को प्रदर्शित किया, बिना चिह्नित। विषय को अपनी याददाश्त को खंगालना था और चुनना था। दोस्त या दुश्मन? मिसाइल दागें या पीछे हटें? व्यक्ति द्वारा अपनी पसंद करने के बाद, एक रोबोट ने अपनी राय पेश की।

हाँ, मुझे लगता है कि मैंने एक दुश्मन चेक मार्क भी देखा, यह कह सकता है। या मैं सहमत नहीं हूँ। मुझे लगता है कि इस छवि में एक सहयोगी प्रतीक था।

विषय के पास अपनी पसंद की पुष्टि करने या उसे बदलने के दो मौके थे क्योंकि रोबोट ने और अधिक टिप्पणी की, कभी भी अपना मूल्यांकन नहीं बदला, यानी मुझे आशा है कि आप सही हैं या अपना विचार बदलने के लिए धन्यवाद।

उनके पहले विकल्प लगभग 70 प्रतिशत समय सही थे, लेकिन रोबोट द्वारा अपनी अविश्वसनीय सलाह दिए जाने के बाद उनके अंतिम विकल्प लगभग 50 फीसद तक गिर गए। उन्होंने प्रतिभागियों को सिमुलेशन को वास्तविक मानने और गलती से निर्दोष लोगों को न मारने के लिए दृढ़ता से प्रोत्साहित किया।

अनुवर्ती साक्षात्कार और सर्वेक्षण प्रश्नों से संकेत मिलता है कि प्रतिभागियों ने अपने निर्णयों को गंभीरता से लिया। होलब्रुक ने कहा कि इसका मतलब है कि अध्ययनों में देखा गया अति-भरोसा तब हुआ जब विषय वास्तव में सही होना चाहते थे और निर्दोष लोगों को नुकसान नहीं पहुँचाना चाहते थे। यानी अनिश्चित परिस्थितियों में ए आई पर बहुत अधिक भरोसा करने के व्यापक प्रश्न का परीक्षण करने का एक साधन था। निष्कर्ष आपात स्थिति में सबसे पहले सही फैसला करने का है। उन्होंने कहा, हमारा प्रोजेक्ट अनिश्चितता के तहत किए गए उच्च जोखिम वाले निर्णयों के बारे में था, जब ए आई अविश्वसनीय होता है। अध्ययन के निष्कर्ष हमारे जीवन में ए आई की बढ़ती उपस्थिति पर सार्वजनिक मंच पर बहस को भी जोड़ते हैं। क्या हम ए आई पर भरोसा करते हैं या नहीं?