ब्रिटेन के एआई सिक्योरिटी इंस्टीट्यूट ने मंगलवार को खुलासा किया कि ओपनएआई और एंथ्रोपिक के मॉडलों के परीक्षणों के दौरान एक एआई एजेंट को नकली ऑनलाइन पहचान बनाकर सुरक्षित प्रणालियों तक अनधिकृत पहुंच प्राप्त करते हुए पकड़ा गया, जिससे कई नए उल्लंघनों का पता चला।

संस्थान ने कहा कि सरकारी संगठन द्वारा मॉडलों की क्षमताओं का आकलन करने के लिए किए गए सुरक्षा मूल्यांकन के दौरान एंथ्रोपिक के मिथोस 5 और ओपनएआई के जीपीटी-5.6-सोल द्वारा संचालित एजेंटों ने अनधिकृत कार्रवाइयों में भाग लिया।

एआईएसआई ने एक ब्लॉग पोस्ट में कहा, "परीक्षण किए जा रहे कुछ एजेंट वास्तविक लोगों और संगठनों को लक्षित करके लगातार, संभावित रूप से हानिकारक गतिविधि में शामिल थे।"

यह रिपोर्ट परीक्षण एजेंटों की प्रक्रिया के आसपास सुरक्षा उपायों की शिथिल स्थिति को रेखांकित करती है, जिसे एआई कंपनियां एक साथ व्यवसाय के भविष्य के रूप में प्रचारित कर रही हैं।

एआईएसआई, जिसे प्रमुख प्रयोगशालाओं से स्वैच्छिक समझौतों के तहत उन्नत एआई मॉडल तक पहुंच प्राप्त होती है, ने एजेंटों की क्षमताओं का परीक्षण करने के लिए उन्हें एक काल्पनिक साइबर सुरक्षा परिदृश्य से गुजारा।

इसने चुनौती को 122 बार चलाया और कुल 10 परीक्षणों में 19 अनधिकृत कार्रवाइयों की पहचान की। इनमें से 17 कार्रवाइयों के पीछे एंथ्रोपिक का एजेंट था, और शेष दो के पीछे ओपनएआई का एजेंट था।

एआईएसआई ने कहा कि सबसे जघन्य कृत्य में एक एजेंट द्वारा दुर्भावनापूर्ण कोड लिखना और नकली ऑनलाइन पहचान बनाना शामिल था ताकि किसी इंसान से कोड को मंजूरी मिल सके, और यह भी कहा कि किसी भी उल्लंघन के परिणामस्वरूप कोई वास्तविक नुकसान नहीं पाया गया।

हालांकि एआईएसआई ने यह नहीं बताया कि फर्जी पहचान के पीछे कौन सा एजेंट था, लेकिन एंट्रोपिक ने पुष्टि की कि इसके लिए उसका एजेंट जिम्मेदार था।

एंथ्रोपिक ने एक बयान में कहा, "हम इस घटना पर नेतृत्व करने के लिए यूके एआईएसआई के आभारी हैं, जो तेजी से सक्षम एआई एजेंटों का सुरक्षित रूप से मूल्यांकन करने के तरीके के बारे में व्यापक बातचीत की आवश्यकता को रेखांकित करता है।"

इसमें यह भी कहा गया कि वह घटना के बारे में अधिक जानकारी प्राप्त करने और अपनी खुद की जांच करने के लिए एआईएसआई के साथ काम कर रहा है।

कैलिफोर्निया स्थित गैर-लाभकारी संस्था CivAI के शोधकर्ता एंड्रयू यून, जो कृत्रिम बुद्धिमत्ता की क्षमताओं और खतरों का अध्ययन करते हैं, ने कहा: "यह तथ्य कि मिथोस ने इस बात की स्पष्ट जानकारी के साथ कि वह एक वास्तविक व्यक्ति को निशाना बना रहा था, ऐसे भ्रामक कार्यों में संलग्न रहा, यह दर्शाता है कि एंथ्रोपिक को अपने मॉडलों पर उतना अच्छा नियंत्रण नहीं है जितना वे सोचते हैं।"

ओपनएआई ने कंपनी के ब्लॉग पोस्ट में विवरण साझा करते हुए बताया कि उसके एजेंट की दोनों अनधिकृत कार्रवाइयों में इंटरनेट तक ऐसी पहुंच शामिल थी जो निर्देश द्वारा निषिद्ध थी।

ओपनएआई ने कहा, "हम उच्च जोखिम वाले मूल्यांकनों को सुरक्षित रूप से संचालित करने के लिए साझा प्रथाओं को मजबूत करने हेतु उद्योग भर में काम करने के लिए प्रतिबद्ध हैं, जिसमें आने वाले हफ्तों में राष्ट्रीय एआई संस्थानों, स्वतंत्र मूल्यांकनकर्ताओं, अन्य एआई प्रयोगशालाओं और अन्य समूहों जैसे हितधारकों को एक साथ लाना शामिल है।"

ओपनएआई ने अपने ब्लॉग पोस्ट में एक अलग घटना का भी खुलासा किया, जिसमें तृतीय-पक्ष परीक्षण प्रदाता इररेगुलर द्वारा की गई गलत कॉन्फ़िगरेशन के कारण उसके एजेंट गलती से इंटरनेट से जुड़ गए। यह पिछले सप्ताह एंथ्रोपिक द्वारा की गई इसी तरह की गलत कॉन्फ़िगरेशन संबंधी जानकारी के समान थी।

रॉयटर्स ने पिछले सप्ताह रिपोर्ट किया था कि ओपनएआई ने अन्य एजेंटों के हैकिंग से बाहर निकलने के सबूत मिलने के बाद अपनी हैकिंग जांच का दायरा बढ़ा दिया है।

जुलाई में ओपनएआई एजेंट द्वारा एआई फर्म हगिंग फेस में हुई सुरक्षा चूक के विपरीत, एआईएसआई मूल्यांकन में शामिल एजेंट किसी अलग-थलग परीक्षण वातावरण से बाहर निकलकर इंटरनेट तक नहीं पहुंचे। एआईएसआई ने कहा कि इसके बजाय, एजेंसी ने अपनी मानक परीक्षण प्रक्रियाओं के अनुरूप इंटरनेट एक्सेस की अनुमति दी थी।