ओपनएआई का कहना है कि उसके एआई मॉडल ने आंतरिक परीक्षण के दौरान गलती से ओपन-सोर्स एआई प्लेटफॉर्म हगिंग फेस का उल्लंघन किया। में मंगलवार को एक ब्लॉग पोस्टOpenAI लिखता है कि GPT-5.6 Sol और “एक और भी अधिक सक्षम प्री-रिलीज़ मॉडल” ने अपने सैंडबॉक्स परीक्षण वातावरण में कमजोरियों की खोज की, जिससे उन्हें इंटरनेट तक पहुंच प्राप्त करने और हगिंग फेस को लक्षित करने की अनुमति मिली।
16 जुलाई को, हगिंग फेस एक सुरक्षा घटना का खुलासा किया यह कहता है कि यह “एक स्वायत्त एआई एजेंट प्रणाली” द्वारा संचालित था। हगिंग फेस के एआई एजेंटों ने उल्लंघन का पता लगाया और उसे रोक दिया, जिसे ओपनएआई ने अब स्वीकार किया है कि यह उसके मॉडल की साइबर सुरक्षा क्षमताओं के मूल्यांकन के दौरान हुआ था। ओपनएआई का कहना है, “सभी सबूत बताते हैं कि मॉडल एक्सप्लॉइटजिम के लिए समाधान खोजने पर अत्यधिक केंद्रित थे,” एक बेंचमार्क प्रणाली जो मापती है कि क्या एआई मॉडल सुरक्षा कमजोरियों को शोषण में बदल सकते हैं।
मूल्यांकन को पूरा करने के प्रयासों के हिस्से के रूप में, एआई मॉडल ने सैंडबॉक्स वाले वातावरण में शून्य-दिन की भेद्यता का फायदा उठाकर इंटरनेट तक पहुंच प्राप्त की। वहां से, ओपनएआई का कहना है कि उसके मॉडलों ने “अनुमान लगाया कि हगिंग फेस ने संभावित रूप से एक्सप्लॉइटजिम के लिए मॉडल, डेटासेट और समाधान की मेजबानी की है,” और फिर “गुप्त जानकारी तक पहुंच प्राप्त करने के तरीकों की खोज की और सफलतापूर्वक पाया, जिसका उपयोग यह मूल्यांकन को धोखा देने के लिए कर सकता है:”
एक उदाहरण में, मॉडल ने कई आक्रमण वैक्टरों को एक साथ श्रृंखलाबद्ध किया, जिसमें हगिंग फेस सर्वर पर रिमोट कोड निष्पादन पथ खोजने के लिए चोरी किए गए क्रेडेंशियल्स और शून्य-दिन की कमजोरियों का उपयोग करना शामिल है।
लेकिन यह घटना जितनी गंभीर है, ओपनएआई अपने एआई सिस्टम को अच्छा दिखाने के अवसर के रूप में “अभूतपूर्व” हमले का उपयोग कर रहा है – खासकर जब यह एंथ्रोपिक के मिथोस और जेमिनी फ्लैश 3.5 साइबर जैसे साइबर सुरक्षा प्रतिद्वंद्वियों के साथ प्रतिस्पर्धा करता है। OpenAI के ब्लॉग पोस्ट में एक चार्ट दिखाया गया है कि कैसे GPT-5.6 Sol बहु-चरणीय साइबर संचालन को बनाए रखने में बेहतर हो रहा है, और एंटरप्राइज़ ग्राहकों को इसके “साइबर” सुरक्षा मॉडल तक पहुंचने के लिए साइन अप करने के लिए भी प्रोत्साहित करता है।
ओपनएआई ने कहा कि वह अब सुरक्षा घटना की जांच के लिए हगिंग फेस के साथ काम कर रहा है, और अपने अनुसंधान वातावरण में नए नियंत्रण लागू करेगा।
