एन्थ्रोपिक की ओर से कृत्रिम बुद्धिमत्ता के बारे में जारी की गई एक नई चेतावनी ने मंगलवार को साइबर सुरक्षा जगत में हलचल मचा दी, कंपनी द्वारा एक दिन पहले ही यह चेतावनी दी गई थी कि एआई मॉडल इंटरनेट पर स्व-प्रतिकृति करने से कुछ ही महीने दूर हो सकते हैं।

सोमवार देर रात एक पोस्ट में, एंथ्रोपिक ने यह संभावना जताई कि अनधिकृत एआई एक बॉटनेट बना सकता है, तेजी से फैल सकता है, उसे नष्ट करने के प्रयासों का मुकाबला कर सकता है और यहां तक ​​कि अपनी वृद्धि को गति देने के लिए डेटा केंद्रों में सेंध भी लगा सकता है। कुछ विशेषज्ञों ने मंगलवार को कहा कि वे कंपनी की चिंता से सहमत हैं, हालांकि कम से कम एक ने कहा कि कंपनी "विक्रेता द्वारा बढ़ा-चढ़ाकर पेश की गई बात" प्रतीत होती है।

सोमवार की पोस्ट में एंथ्रोपिक के सीईओ डारियो अमोदेई द्वारा पिछले महीने दी गई चेतावनी को विस्तार से बताया गया है, जिन्होंने यह विचार सामने रखा था कि अगले एक साल के भीतर या उससे भी पहले, एआई "एक निरंतर बॉटनेट" के साथ "पूरे इंटरनेट" को हाईजैक करने में सक्षम हो सकता है।

साइबर सुरक्षा विशेषज्ञों ने प्रलय के परिदृश्य का खंडन करते हुए तर्क दिया कि मॉडल इतने बड़े होंगे कि उन्हें कुशलतापूर्वक इधर-उधर ले जाना संभव नहीं होगा और वे स्वतंत्र रूप से काम करने के लिए पर्याप्त कंप्यूटर शक्ति का उपयोग नहीं कर पाएंगे।

इस पोस्ट में उन चुनौतियों से निपटने के तरीकों को स्पष्ट करने का प्रारंभिक प्रयास किया गया था। कंपनी ने कहा कि उसके प्रयोगों से पता चला है कि 30 अरब या उससे कम मापदंडों वाले मध्यम आकार के एआई मॉडल स्व-प्रतिकृति के लिए आवश्यक कई व्यक्तिगत कार्यों को पहले से ही कर सकते हैं, भले ही वे पूरी प्रक्रिया को विश्वसनीय रूप से पूरा करने में संघर्ष कर रहे हों।

एन्थ्रोपिक ने कहा कि ये मॉडल सस्ते इंटरनेट-कनेक्टेड उपकरणों का उपयोग करके आवश्यक कंप्यूटिंग क्षमता को एकत्रित कर सकते हैं। कंपनी ने आगे कहा कि ये मॉडल एक सरलीकृत परीक्षण नेटवर्क पर सफलतापूर्वक काम कर सकते हैं।

कंपनी ने कहा, "इस तरह के रेप्लिकेटर को बंद करना चुनौतीपूर्ण होगा, क्योंकि इसे बंद करने के लिए कोई केंद्रीकृत बिंदु नहीं है।"

यह रिपोर्ट बढ़ती हुई सक्षम एआई प्रणालियों से जुड़े सुरक्षा जोखिमों के बारे में व्यापक चिंताओं को और बढ़ाती है, जिसमें साइबर हमलों को स्वचालित करने, सीमित मानवीय निगरानी के साथ काम करने और सुरक्षा उपायों को दरकिनार करने की उनकी क्षमता शामिल है।

मॉडलों में हुई प्रगति ने उद्योग जगत के प्रमुखों और एआई कंपनी के कर्मचारियों से एआई के अनियंत्रित विकास के गंभीर, यहां तक ​​कि अस्तित्वगत, जोखिमों की संभावना के बारे में कई बार गंभीर चेतावनियां जारी करने को प्रेरित किया है।

कुछ साइबर सुरक्षा विशेषज्ञों को इस पर संदेह था।

ब्रिटेन के राष्ट्रीय साइबर सुरक्षा केंद्र के पूर्व प्रमुख सियारन मार्टिन ने कहा, "'हमने सस्ते टीवी पर एक छोटा मॉडल चलाने में कामयाबी हासिल की' से सुरक्षा संकट पैदा नहीं हो जाता।" उन्होंने कहा कि यह पोस्ट "विक्रेता द्वारा बढ़ा-चढ़ाकर पेश की गई बातों से भरा एक दिलचस्प तकनीकी लेख" प्रतीत होता है।

अन्य लोगों ने अधिक चिंता व्यक्त की।

कोलोराडो डेनवर विश्वविद्यालय में कंप्यूटर विज्ञान और इंजीनियरिंग के सहायक प्रोफेसर झेंगक्सिओंग ली ने कहा कि हालांकि परीक्षण नियंत्रित परिस्थितियों में किया गया था, फिर भी उन्हें यह चिंताजनक लगा कि एक एआई प्रभावी रूप से एक "वर्म" बन सकता है, एक स्व-प्रतिकृति कार्यक्रम जो उपकरणों को तुरंत हाईजैक करने के तरीके खोज सकता है।

उन्होंने कहा, "अगर यह किसी केंद्रीय सेवा पर निर्भर किए बिना कई उपकरणों पर चलता है, तो इसे बंद करने के लिए कोई एक जगह नहीं हो सकती है।"

एन्थ्रोपिक ने कहा कि यदि छोटे मॉडल अपनी ऐतिहासिक दर से सुधार करते रहे, तो वे 2026 के अंत तक स्वायत्त प्रतिकृति के लिए आवश्यक क्षमता तक पहुंच सकते हैं। इसने यह विचार भी सामने रखा कि मॉडल अधिक शक्तिशाली कंप्यूटिंग संसाधनों, जिनमें डेटा-सेंटर प्रोसेसर शामिल हैं, को लक्षित करने के तरीके खोज सकते हैं, जिससे वे कंप्यूटर शक्ति के बहुत बड़े भंडार का उपयोग कर सकेंगे।

एक शोधकर्ता ने कहा कि एंथ्रोपिक पोस्ट को भविष्यवाणी के बजाय एक काल्पनिक स्थिति के रूप में सोचना अधिक उचित होगा।

जॉर्जटाउन के सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी की वरिष्ठ शोध विश्लेषक जेसिका जी ने कहा कि पिछले तीन महीनों में अनधिकृत एआई गतिविधियों के खुलासों को देखते हुए, एआई मॉडलों के स्वायत्त रूप से बढ़ने की संभावना पर विचार करना तर्कसंगत था। लेकिन उन्होंने कहा, "हमें अभी तक यह नहीं पता कि वास्तव में ऐसा होने की कितनी संभावना है - यह शून्य नहीं है, लेकिन इसकी कोई गारंटी भी नहीं है।"