पहली बार, Google का कहना है कि उसने AI के साथ विकसित शून्य-दिवसीय शोषण को देखा और रोका है। की एक रिपोर्ट के मुताबिक गूगल खतरा खुफिया समूह (जीटीआईजी), “प्रमुख साइबर अपराध खतरा अभिनेता” एक “सामूहिक शोषण घटना” के लिए भेद्यता का उपयोग करने की योजना बना रहे थे जो उन्हें एक अनाम “ओपन-सोर्स, वेब-आधारित सिस्टम प्रशासन टूल” पर दो-कारक प्रमाणीकरण को बायपास करने की अनुमति देता।
Google के शोधकर्ताओं ने शोषण के लिए उपयोग की जाने वाली पायथन स्क्रिप्ट में ऐसे संकेत पाए हैं जो एआई से मदद का संकेत देते हैं, जैसे “मतिभ्रम सीवीएसएस स्कोर” और एलएलएम प्रशिक्षण डेटा के अनुरूप “संरचित, पाठ्यपुस्तक” स्वरूपण। यह शोषण प्लेटफ़ॉर्म के 2FA सिस्टम में “एक उच्च-स्तरीय सिमेंटिक लॉजिक दोष जहां डेवलपर ने एक ट्रस्ट धारणा को हार्डकोड किया था” का लाभ उठाता है। यह एंथ्रोपिक के माइथोस जैसे साइबर सुरक्षा-केंद्रित एआई मॉडल की क्षमताओं और हाल ही में प्रकट लिनक्स भेद्यता पर हाथ-पैर मारने के बाद हुआ है जिसे एआई सहायता से खोजा गया था।
यह पहली बार है कि Google को इस बात के सबूत मिले हैं कि AI इस तरह के हमले में शामिल था, हालाँकि Google के शोधकर्ताओं का कहना है कि वे “विश्वास नहीं करते कि जेमिनी का इस्तेमाल किया गया था।” Google का कहना है कि वह इस विशेष शोषण को “बाधित” करने में सक्षम था, लेकिन यह भी कहता है कि हैकर्स सुरक्षा कमजोरियों को खोजने और उनका लाभ उठाने के लिए AI का तेजी से उपयोग कर रहे हैं। रिपोर्ट में एआई को हमलावरों के लक्ष्य के रूप में भी उल्लेख किया गया है, जिसमें कहा गया है, “जीटीआईजी ने देखा है कि प्रतिद्वंद्वी उन एकीकृत घटकों को तेजी से लक्षित कर रहे हैं जो एआई सिस्टम को उनकी उपयोगिता प्रदान करते हैं, जैसे स्वायत्त कौशल और तीसरे पक्ष के डेटा कनेक्टर।”
Google की रिपोर्ट में यह भी बताया गया है कि कैसे हैकर्स अपने लिए सुरक्षा कमजोरियों को खोजने के लिए AI प्राप्त करने के लिए “व्यक्तित्व-संचालित जेलब्रेकिंग” का उपयोग कर रहे हैं, जैसे एक उदाहरण संकेत जो AI को यह दिखावा करने का निर्देश देता है कि वह एक सुरक्षा विशेषज्ञ है। हैकर्स एआई मॉडल को भेद्यता डेटा के संपूर्ण रिपॉजिटरी भी खिला रहे हैं और ओपनक्लॉ का उपयोग उन तरीकों से कर रहे हैं जो “तैनाती से पहले शोषण की विश्वसनीयता बढ़ाने के लिए नियंत्रित सेटिंग्स के भीतर एआई-जनित पेलोड को परिष्कृत करने में रुचि” का सुझाव देते हैं।
