भावी ए आई अनंत लूप में फंस सकता है, देखें वीडियो

हमने ऑटोफैगस प्रशिक्षण की कमियों को बेहतर ढंग से उजागर करने के लिए विज़ुअल ए आई मॉडल पर काम करना चुना, लेकिन एसएसएम के साथ भी वही पागल गाय के मुद्दे होते हैं, जैसा कि अन्य समूहों ने बताया है, बरनियुक ने कहा।
इंटरनेट आमतौर पर जनरेटिव ए आई मॉडल के प्रशिक्षण डेटासेट का स्रोत होता है, इसलिए जैसे-जैसे सिंथेटिक डेटा ऑनलाइन बढ़ता है, मॉडल की प्रत्येक नई पीढ़ी के साथ स्व-उपभोग करने वाले लूप उभरने की संभावना होती है। यह कैसे हो सकता है, इसके विभिन्न परिदृश्यों में अंतर्दृष्टि प्राप्त करने के लिए, बरनियुक और उनकी टीम ने स्व-उपभोग करने वाले प्रशिक्षण लूप के तीन रूपों का अध्ययन किया, जो वास्तविक और सिंथेटिक डेटा को जनरेटिव मॉडल के लिए प्रशिक्षण डेटासेट में कैसे जोड़ा जाता है, इसका यथार्थवादी प्रतिनिधित्व प्रदान करने के लिए डिज़ाइन किए गए हैं।
एक जनरेटिव मॉडल की लगातार पीढ़ियों को पिछली पीढ़ियों के आउटपुट से सैंपल किए गए पूरी तरह से सिंथेटिक डेटा डाइट उपलब्ध कराया गया।

मॉडल की प्रत्येक पीढ़ी के लिए प्रशिक्षण डेटासेट में पिछली पीढ़ियों से सैंपल किए गए सिंथेटिक डेटा और वास्तविक प्रशिक्षण डेटा के एक निश्चित सेट का संयोजन शामिल था। मॉडल की प्रत्येक पीढ़ी को पिछली पीढ़ियों के सिंथेटिक डेटा और वास्तविक प्रशिक्षण डेटा के एक नए सेट के मिश्रण पर प्रशिक्षित किया जाता है।

लूप के प्रगतिशील पुनरावृत्तियों से पता चला कि, समय के साथ और पर्याप्त ताजा वास्तविक डेटा की अनुपस्थिति में, मॉडल गुणवत्ता, विविधता या दोनों की कमी वाले तेजी से विकृत आउटपुट उत्पन्न करेंगे। दूसरे शब्दों में, जितना अधिक ताजा डेटा होगा, ए आई उतना ही स्वस्थ होगा।

मॉडल की क्रमिक पीढ़ियों से उत्पन्न छवि डेटासेट की साथ-साथ तुलना संभावित ए आई भविष्य की एक भयावह तस्वीर पेश करती है।

मानव चेहरों वाले डेटासेट में ग्रिड जैसे निशान अधिकाधिक दिखाई देने लगते हैं — जिसे लेखक जनरेटिव आर्टिफैक्ट कहते हैं या वे अधिकाधिक एक ही व्यक्ति जैसे दिखाई देने लगते हैं।

संख्याओं वाले डेटासेट समझ से परे स्क्रिबल्स में बदल जाते हैं। इसे सुधारने और पूरी तरह दोषमुक्त कर लेने के बाद यह इंसान से शायद बेहतर तरीके से काम कर पायेगा। तब तक इसके पूरे इस्तेमाल से इंटरनेट पूरी तरह बाधित हो सकता है।

देखें इससे संबंधित वीडियो