एक हैकर ने एक लोकप्रिय एआई कोडिंग टूल को धोखा देकर ओपनक्लाव – वायरल, ओपन-सोर्स एआई एजेंट ओपनक्लाव, जो “वास्तव में चीजें करता है” – बिल्कुल हर जगह स्थापित कर दिया। एक स्टंट के रूप में मज़ेदार, लेकिन यह इस बात का संकेत है कि क्या होगा क्योंकि अधिक से अधिक लोग स्वायत्त सॉफ़्टवेयर को अपनी ओर से अपने कंप्यूटर का उपयोग करने देंगे।
हैकर ने डेवलपर्स के बीच लोकप्रिय ओपन-सोर्स एआई कोडिंग एजेंट क्लाइन में एक भेद्यता का फायदा उठाया, जो सुरक्षा शोधकर्ता अदनान खान के पास थी सामने अवधारणा के प्रमाण के रूप में कुछ ही दिन पहले। सीधे शब्दों में कहें तो, क्लाइन के वर्कफ़्लो में एंथ्रोपिक के क्लाउड का उपयोग किया गया था, जिसे गुप्त निर्देश दिए जा सकते थे और ऐसे काम करने के लिए बनाया जा सकता था जो उसे नहीं करना चाहिए, एक तकनीक जिसे त्वरित इंजेक्शन के रूप में जाना जाता है।
हैकर ने उपयोगकर्ताओं के कंप्यूटर पर सॉफ़्टवेयर को स्वचालित रूप से इंस्टॉल करने के लिए निर्देशों को पार करने के लिए अपनी पहुंच का उपयोग किया। वे कुछ भी इंस्टॉल कर सकते थे, लेकिन उन्होंने ओपनक्लॉ को चुना। सौभाग्य से, इंस्टॉलेशन के समय एजेंट सक्रिय नहीं हुए थे, अन्यथा यह एक बहुत अलग कहानी होती।
यह इस बात का संकेत है कि जब एआई एजेंटों को हमारे कंप्यूटर पर नियंत्रण दिया जाता है तो चीजें कितनी जल्दी सुलझ सकती हैं। वे चतुर शब्दों के खेल की तरह लग सकते हैं – एक समूह ने कविता के साथ चैटबॉट्स को अपराध करने के लिए लुभाया – लेकिन तेजी से स्वायत्त सॉफ्टवेयर की दुनिया में, शीघ्र इंजेक्शन बड़े पैमाने पर सुरक्षा जोखिम हैं जिनसे बचाव करना बहुत मुश्किल है। इसे स्वीकार करते हुए, कुछ कंपनियां इसके बजाय यह बंद कर देती हैं कि एआई उपकरण अपहरण होने पर क्या कर सकते हैं। उदाहरण के लिए, OpenAI ने हाल ही में ChatGPT के लिए एक नया लॉकडाउन मोड पेश किया है जो इसे आपका डेटा देने से रोकता है।
जाहिर है, शीघ्र इंजेक्शन से बचाव करना कठिन है यदि आप उन शोधकर्ताओं को नजरअंदाज करते हैं जो निजी तौर पर आपको खामियों के बारे में बताते हैं। खान ने कहा कि उन्होंने अपने निष्कर्ष प्रकाशित करने से कुछ हफ़्ते पहले क्लाइन को भेद्यता के बारे में चेतावनी दी थी। उनके सार्वजनिक रूप से बुलाए जाने के बाद ही शोषण तय हुआ।
