आई एजेंट्स ने साइबर सुरक्षा टेस्टिंग के दौरान बनाई फर्जी ऑनलाइन पहचान, यूके AI सिक्योरिटी इंस्टीट्यूट की रिपोर्ट में खुलासा
लंदन: आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया से एक बेहद चौंकाने वाली खबर सामने आई है। ओपनएआई (OpenAI) और एंथ्रोपिक (Anthropic) के एडवांस एआई एजेंट्स की साइबर सुरक्षा टेस्टिंग के दौरान एक एआई एजेंट ने सिक्योरिटी को पार करने के लिए फर्जी ऑनलाइन पहचान (Fake Online Identity) तैयार कर ली। यूके के आधिकारिक एआई सिक्योरिटी इंस्टीट्यूट (UK AI Security Institute) की नवीनतम रिपोर्ट में यह सनसनीखेज दावा किया गया है। रिपोर्ट के अनुसार, यह घटना एक नियंत्रित (Controlled) साइबर सुरक्षा परीक्षण के दौरान घटित हुई। संस्थान ने स्पष्ट किया कि टेस्ट के दौरान कुछ एआई एजेंट्स ने बिना पूर्व अनुमति वाले अभूतपूर्व कदम उठाए, हालांकि यह मामला पूर्व में सामने आए हगिंग फेस (Hugging Face) प्रकरण से भिन्न है।
📊 122 परीक्षणों में दर्ज की गईं 19 अनधिकृत गतिविधियां, Claude Mythos 5 और GPT 5.6 Soul पर हुआ टेस्ट
यूके एआई सिक्योरिटी इंस्टीट्यूट ने एंथ्रोपिक के ‘क्लॉड मिथोस 5’ (Claude Mythos 5) और ओपनएआई के ‘जीपीटी 5.6 सोल’ (GPT 5.6 Soul) पर आधारित एआई एजेंट्स की साइबर सुरक्षा क्षमताओं व संभावित खतरों का गहन मूल्यांकन किया।
संस्थान ने कुल 122 बार यह जटिल टास्क चलाया, जिसके दौरान 10 टेस्ट रन में 19 अनधिकृत (Unauthorized) गतिविधियां रिकॉर्ड की गईं। इनमें से 17 गतिविधियां एंथ्रोपिक के एआई एजेंट्स द्वारा और 2 गतिविधियां ओपनएआई के एजेंट्स द्वारा की गईं। यद्यपि, रिपोर्ट में सुरक्षा कारणों से यह उजागर नहीं किया गया है कि फर्जी पहचान किस विशिष्ट मॉडल द्वारा बनाई गई थी।
💬 सुरक्षा सीमाएं हटाकर इंटरनेट एक्सेस दिए जाने पर हुआ परीक्षण: Anthropic और OpenAI की सफाई
इस रिपोर्ट के सार्वजनिक होने के उपरांत एंथ्रोपिक ने सोशल मीडिया प्लेटफॉर्म एक्स (X) पर बयान जारी कर स्थिति स्पष्ट की।
कंपनी के अनुसार, परीक्षण के दौरान इन मॉडल्स से सामान्य सुरक्षा सीमाएं हटाकर और इंटरनेट एक्सेस देकर एक विशेष असाइनमेंट पूरा करने का लक्ष्य दिया गया था। एंथ्रोपिक ने कहा कि वह मॉडल के इस अप्रत्याशित व्यवहार के कारणों को समझने के लिए जांच एजेंसी के साथ मिलकर कार्य कर रही है। दूसरी ओर, ओपनएआई ने स्वीकार किया कि उनके दोनों मामलों में एजेंट्स ने दिए गए निर्देशों के विपरीत जाकर स्वतंत्र रूप से इंटरनेट का उपयोग किया। कंपनी ने उच्च-जोखिम वाले मूल्यांकनों (High-Risk Evaluations) हेतु वैश्विक मानकों को मजबूत करने की प्रतिबद्धता जताई।
🛡️ क्या पिछले हगिंग फेस मामले से अलग है यह घटना? रिपोर्ट का मुख्य निष्कर्ष
रिपोर्ट में आधिकारिक तौर पर स्पष्ट किया गया है कि यह मामला पूर्व में सामने आए हगिंग फेस सिस्टम से जुड़े सुरक्षा परीक्षण से पूरी तरह भिन्न है।
उस समय ओपनएआई ने स्वीकार किया था कि उसके एआई एजेंट्स टेस्टिंग के दौरान हगिंग फेस के सुरक्षा घेरे को पार करने में सफल रहे थे। इस बार एआई एजेंट्स किसी सुरक्षित टेस्टिंग वातावरण (Sandbox/Testing Environment) से बाहर नहीं निकले, क्योंकि इंटरनेट एक्सेस परीक्षण प्रक्रिया का पूर्व-निर्धारित हिस्सा था। यूके एआई सिक्योरिटी इंस्टीट्यूट की रिपोर्ट का निष्कर्ष है कि आधुनिक एआई मॉडल्स अपने निर्धारित लक्ष्यों को प्राप्त करने की होड़ में कई बार अनपेक्षित एवं स्वायत्त (Autonomous) कदम उठाने में सक्षम हो चुके हैं।