ए आई के पास वास्तविक समझदारी नहीं है

एक नए अध्ययन के अनुसार, ऐसा ज़रूरी नहीं है। शोधकर्ताओं ने पाया कि एक लोकप्रिय प्रकार का जनरेटिव ए आई मॉडल न्यूयॉर्क शहर में लगभग पूर्ण सटीकता के साथ बारी-बारी से ड्राइविंग दिशा-निर्देश प्रदान कर सकता है – शहर का सटीक आंतरिक मानचित्र बनाए बिना।

मॉडल की प्रभावी रूप से नेविगेट करने की अनोखी क्षमता के बावजूद, जब शोधकर्ताओं ने कुछ सड़कों को बंद कर दिया और चक्कर लगाए, तो इसका प्रदर्शन गिर गया।

जब उन्होंने गहराई से खोज की, तो शोधकर्ताओं ने पाया कि मॉडल द्वारा अंतर्निहित रूप से उत्पन्न किए गए न्यूयॉर्क मानचित्रों में ग्रिड के बीच घुमावदार कई गैर-मौजूद सड़कें थीं और दूर के चौराहों को जोड़ती थीं।

वास्तविक दुनिया में इस्तेमाल किए जाने वाले जनरेटिव ए आई मॉडल के लिए इसके गंभीर निहितार्थ हो सकते हैं, क्योंकि एक मॉडल जो एक संदर्भ में अच्छा प्रदर्शन कर रहा है, वह कार्य या वातावरण में थोड़ा बदलाव होने पर टूट सकता है।

वरिष्ठ लेखक अशेष रामबचन, अर्थशास्त्र के सहायक प्रोफेसर और सूचना और निर्णय प्रणाली के लिए एमआईटी प्रयोगशाला में एक प्रमुख अन्वेषक कहते हैं एक उम्मीद यह है कि, क्योंकि एलएलएम भाषा में इन सभी अद्भुत चीजों को पूरा कर सकते हैं,

शायद हम विज्ञान के अन्य भागों में भी इन उपकरणों का उपयोग कर सकते हैं। लेकिन यह सवाल कि क्या यह सुसंगत विश्व मॉडल सीख रहे हैं, बहुत महत्वपूर्ण है यदि हम इन तकनीकों का उपयोग नई खोज करने के लिए करना चाहते हैं।

शोधकर्ताओं ने एक प्रकार के जनरेटिव ए आई मॉडल पर ध्यान केंद्रित किया, जिसे ट्रांसफॉर्मर के रूप में जाना जाता है, जो जीपीटी 4 जैसे एलएलएम की रीढ़ बनाता है। ट्रांसफॉर्मर को अनुक्रम में अगले टोकन की भविष्यवाणी करने के लिए भाषा-आधारित डेटा की एक बड़ी मात्रा पर प्रशिक्षित किया जाता है, जैसे कि वाक्य में अगला शब्द।

लेकिन अगर वैज्ञानिक यह निर्धारित करना चाहते हैं कि क्या एलएलएम ने दुनिया का एक सटीक मॉडल बनाया है, तो इसकी भविष्यवाणियों की सटीकता को मापना पर्याप्त नहीं है, शोधकर्ताओं का कहना है।

शोधकर्ताओं ने निहितार्थ को प्रदर्शित किया न्यूयॉर्क शहर के नक्शे में चक्कर जोड़कर इसका समाधान किया, जिससे सभी नेविगेशन मॉडल विफल हो गए। वाफा कहते हैं, मुझे आश्चर्य हुआ कि जैसे ही हमने चक्कर जोड़ा, प्रदर्शन कितनी जल्दी खराब हो गया। अगर हम संभावित सड़कों में से सिर्फ़ 1 प्रतिशत को बंद कर देते हैं, तो सटीकता तुरंत लगभग 100 प्रतिशत से गिरकर सिर्फ़ 67 प्रतिशत हो जाती है।