एंथ्रोपिक द्वारा क्लॉड माइथोस के कड़ाई से नियंत्रित रोलआउट ने एक अजीब मोड़ ले लिया है। कई सप्ताह इस बात पर जोर देने के बाद कि एआई मॉडल साइबर सुरक्षा में इतना सक्षम है कि इसे सार्वजनिक रूप से जारी करना बहुत खतरनाक है, ऐसा प्रतीत होता है कि मॉडल वैसे भी गलत हाथों में पड़ गया है।
के अनुसार ब्लूमबर्ग“अनधिकृत उपयोगकर्ताओं के एक छोटे समूह” के पास माइथोस तक पहुंच है – जिसका अस्तित्व पहली बार एक लीक में सामने आया था – जिस दिन से एंथ्रोपिक ने इसे परीक्षण के लिए कंपनियों के एक चुनिंदा समूह को पेश करने की योजना की घोषणा की थी। एंथ्रोपिक का कहना है कि वह जांच कर रहा है। यह उस कंपनी के लिए एक कठिन नजरिया है जिसने अपने नवीनतम मॉडल की साइबर सुरक्षा क्षमता का प्रचार करते हुए एआई सुरक्षा को गंभीरता से लेते हुए अपना ब्रांड बनाया है।
तकनीकी दृष्टिकोण से, मिथोस उल्लंघन शर्मनाक रूप से अपरिष्कृत है। ब्लूमबर्ग रिपोर्ट में कहा गया है कि समूह ने “मॉडल के ऑनलाइन स्थान के बारे में एक शिक्षित अनुमान” बनाकर मिथोस तक पहुंच बनाई, जिसमें मर्कोर के उल्लंघन में उजागर एंथ्रोपिक के अन्य मॉडलों के बारे में जानकारी का उपयोग किया गया – एक कंपनी जो एआई प्रशिक्षण डेटा बनाती है – साथ ही एंथ्रोपिक मॉडल का मूल्यांकन करने वाले अनुबंध कार्य के माध्यम से एक सदस्य के पास पहुंच थी। समूह को आंतरिक ज्ञान और एक भाग्यशाली अनुमान के संयोजन के माध्यम से मिथोस तक अनधिकृत पहुंच प्राप्त हुई, न कि कुछ परिष्कृत तकनीकी शोषण या मॉडल की थोक चोरी के माध्यम से।
सुरक्षा कमजोरियाँ अपरिहार्य हैं, और एंथ्रोपिक नहीं, बल्कि मर्कोर ने उस जानकारी का खुलासा किया, जिसका उपयोग हैकर्स ने मिथोस के स्थान का अनुमान लगाने के लिए किया था। ब्रिटिश थिंक टैंक रॉयल यूनाइटेड सर्विसेज इंस्टीट्यूट (आरयूएसआई) की रिसर्च फेलो पिया हश ने मुझे बताया कि कोई भी कंपनी कभी भी पूरी तरह से सुरक्षित नहीं होती है और इंसान अक्सर सबसे कमजोर कड़ी होते हैं, हालांकि यह “शुरुआत में थोड़ा भाग्यशाली लगता है” कि कोई गंभीर परिणाम नहीं हुए।
एन्थ्रोपिक ‘पूरी तरह से कल्पनीय’ प्रकार की विफलता का अनुमान लगाने में विफल रहा
लेकिन यह पूरी तरह से दुर्भाग्य नहीं है. इस प्रकार के शिक्षित अनुमान एक बहुत ही मानक हैकिंग तकनीक हैं, और मर्कर उल्लंघन के बारे में मिथोस के रिलीज़ होने से पहले ही पता चल गया था। सुरक्षा शोधकर्ता लुकाज़ ओलेजनिक ने मुझे इसे “पूरी तरह से कल्पनीय” प्रकार की विफलता के रूप में वर्णित किया है, जिससे साइबर सुरक्षा उद्योग पिछले 20 वर्षों से नियमित रूप से निपट रहा है। इसलिए एंथ्रोपिक को इसका अनुमान लगाना चाहिए था और उसके अनुसार तैयारी करनी चाहिए थी, खासकर यह जानते हुए कि इसकी जानकारी से समझौता किया गया था।
ऐसा प्रतीत होता है कि एन्थ्रोपिक के पास उल्लंघन का पता लगाने के साधन भी थे। ओलेजनिक ने कहा, कंपनी “मॉडल उपयोग को लॉग और ट्रैक करने में सक्षम है”, जिससे अनधिकृत या दुर्भावनापूर्ण पहुंच को रोकना संभव हो जाएगा, खासकर जब से मिथोस रोलआउट को अत्यधिक सीमित माना जाता था। जाहिर है, एंथ्रोपिक पर्याप्त रूप से निगरानी नहीं कर रहा था – और यह देखते हुए कि यह मॉडल कितना खतरनाक है, यह पूछना उचित है कि क्यों।
द्वारा ब्लूमबर्ग का खाता, समूह साइबर सुरक्षा कार्यों के लिए माइथोस का उपयोग नहीं कर रहा था, आंशिक रूप से क्योंकि वे सिर्फ नए मॉडल के साथ खिलवाड़ करना चाहते थे और आंशिक रूप से क्योंकि ऐसा करने से एंथ्रोपिक को नुकसान हो सकता था। यदि मिथोस के इर्द-गिर्द एंथ्रोपिक के संदेश को गंभीरता से लिया जाए, तो यह एक भाग्यशाली अवसर है। कंपनी के पास है फंसाया मिथोस को “सुरक्षा के लिए वाटरशेड क्षण” के रूप में, यह दावा करते हुए कि उसने “हर प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र” में कमजोरियां पाईं, और कहा कि “दुनिया की साइबर सुरक्षा को मजबूत करने” के लिए समय देने के लिए इसकी रिलीज को समन्वित किया जाना चाहिए।
एंथ्रोपिक को नाटकीय, चिंताजनक लगने वाली भाषा का उपयोग करने की आदत है, जिससे सफाई से पूछताछ करना कठिन हो सकता है, जिसमें इस विचार के साथ छेड़खानी भी शामिल है कि इसका क्लाउड मॉडल सचेत हो सकता है। फिर भी, पहुंच वाले पक्षों की शुरुआती रिपोर्ट से पता चलता है कि माइथोस साइबर सुरक्षा में विशेष रूप से कुशल है। मोज़िला सीटीओ बॉबी होली ने कहा कि उसे फ़ायरफ़ॉक्स 150 में सैकड़ों बग मिले हैं और अंततः रक्षकों को हमलावरों पर पूरी जीत का मौका मिल सकता है। आश्चर्य की बात नहीं, सरकारें और वित्तीय संस्थानों दुनिया भर में इस पर अपना हाथ पाने के लिए उत्सुक हैं। एनएसए और अन्य अमेरिकी एजेंसियों के पास कथित तौर पर आपूर्ति श्रृंखला जोखिम के रूप में एंथ्रोपिक के पदनाम के बावजूद पहुंच है, हालांकि ऐसा प्रतीत होता है कि रोलआउट ने अब तक अमेरिकी साइबर सुरक्षा एजेंसी, सीआईएसए को नजरअंदाज कर दिया है।
“एंथ्रोपिक इन सभी तकनीकों में सबसे आगे होने का दावा करता है, लेकिन इन सभी में खुद को जिम्मेदार अभिनेता के रूप में भी रखता है।”
तथ्य यह है कि उल्लंघन का खुलासा एंथ्रोपिक के बजाय एक रिपोर्टर द्वारा किया गया था, यह भी स्पष्ट सवाल उठाता है कि क्या यह एक अलग घटना है। ह्युश ने कहा, “यह वास्तव में दर्शाता है कि ऐसा करने में सक्षम लोगों का दायरा कितना व्यापक है, भले ही उनके पास सुपर तकनीकी रूप से परिष्कृत साधन न हों।” एंथ्रोपिक संभवतः यह देखने के लिए अपनी आपूर्ति श्रृंखला की जांच करेगा कि यह कैसे हुआ और कमियों को दूर किया जाएगा, लेकिन उन्होंने कहा कि ऐसे अभिनेताओं की एक विस्तृत श्रृंखला है जो इस तरह के मॉडल तक पहुंच चाहते हैं, उनमें से कुछ के पास बहुत सारा पैसा है। यह मानने का कोई कारण नहीं है कि पहुंच प्राप्त करने वाला कोई भी व्यक्ति समूह जितना ही संयमित होगा ब्लूमबर्ग इस दिन रिपोर्ट किया गया।
एंथ्रोपिक ने कुछ हद तक अपने ही पैर पर कुल्हाड़ी मार ली है। कंपनी ने अपने प्रतिद्वंद्वियों की तुलना में एआई सुरक्षा को अधिक गंभीरता से लेने के लिए अपनी पहचान बनाई है, जिससे मॉडल सुरक्षा के लिए अत्यधिक उम्मीदें पैदा हो रही हैं जो इसकी स्पष्ट लापरवाही से परेशान करती हैं; यह तथ्य कि मिथोस को ऐसी बुनियादी और पूर्वानुमानित विफलता के माध्यम से उजागर किया गया था, केवल इस बात को रेखांकित करता है। इससे भी बदतर, मिथोस को एक असामान्य रूप से शक्तिशाली उपकरण के रूप में प्रचारित करके जो सार्वजनिक रिलीज के लिए बहुत खतरनाक है, एंथ्रोपिक ने इसे एक स्पष्ट लक्ष्य में बदल दिया, चाहे वह दुर्भावनापूर्ण अभिनेताओं या हैकर्स के लिए हो जो केवल एक चुनौती की तलाश में हों।
मिथोस के आसपास यह पहली अजीब सुरक्षा घटना भी नहीं है। मॉडल का अस्तित्व गलती से रिलीज़ होने से पहले ही प्रकट हो गया था “असुरक्षित डेटा भंडार“अपनी वेबसाइट के लिए सामग्री रखने वाले एक केंद्रीय सिस्टम पर। अब, उस मॉडल को पूरी तरह से पूर्वानुमानित भेद्यता के माध्यम से गुप्त रूप से एक्सेस किया गया है, जिसे एंथ्रोपिक ने पैच करने के बारे में नहीं सोचा था। पूर्णता असंभव है, लेकिन एक ऐसी कंपनी के लिए जिसने खुद को एआई सुरक्षा के अगुआ के रूप में नियुक्त किया है, इस तरह की बुनियादी गलती को उचित ठहराना मुश्किल है, यहां तक कि कुछ खराब किस्मत के साथ भी।
ह्यूश के लिए, पूरे प्रकरण को एक शब्द में संक्षेपित किया जा सकता है: अपमान। उन्होंने कहा, “एंथ्रोपिक इन सभी तकनीकों में सबसे आगे होने का दावा करता है, लेकिन खुद को इन सभी में जिम्मेदार अभिनेता के रूप में भी रखता है।” “तथ्य यह है कि अब इस तक अनधिकृत तरीकों से इतनी जल्दी और इतने अपरिष्कृत प्रयास के माध्यम से पहुंच बनाई गई है, यह वास्तव में उनके लिए अपमानजनक है।”
