जैसे-जैसे एआई एजेंटों को उड़ानें बुक करने, ईमेल प्रबंधित करने और डिजिटल वर्कफ़्लो को नियंत्रित करने की स्वायत्तता मिलती है, एक महत्वपूर्ण प्रश्न सामने आता है: उन्हें दुष्ट बनने से क्या रोकता है? आयरनकर्टेन दर्ज करें, एक नया ओपन सोर्स सुरक्षा ढांचा जो सहायक स्वचालन को डिजिटल विनाश में बदलने से पहले एआई सहायकों को प्रतिबंधित करने के लिए एक नया तरीका अपना रहा है। यह परियोजना एंटरप्राइज़ एआई की सबसे कठिन समस्याओं में से एक को संबोधित करती है – नियंत्रण खोए बिना स्वायत्त एजेंटों को कैसे तैनात किया जाए।
एआई एजेंट सुरक्षा के लिए दांव अब वास्तविक हो गए हैं। लौह पर्दा इस सप्ताह एक ओपन सोर्स प्रोजेक्ट के रूप में उभरा, जिसे उस समस्या को हल करने के लिए डिज़ाइन किया गया था जिसके बारे में सुरक्षा शोधकर्ता महीनों से चेतावनी दे रहे थे – बहुत अधिक पहुंच और बहुत कम निरीक्षण वाले स्वायत्त एआई एजेंट।
यह ढांचा पारंपरिक एआई सुरक्षा उपायों की तुलना में मौलिक रूप से अलग दृष्टिकोण अपनाता है। पूरी तरह से मॉडल-स्तरीय बाधाओं या त्वरित इंजीनियरिंग पर भरोसा करने के बजाय, आयरनकर्टन एआई एजेंटों के चारों ओर एक सुरक्षा परिधि बनाता है, जो आपके कैलेंडर, ईमेल या बैंक खाते को छूने से पहले सटीक रूप से परिभाषित करता है कि वे क्या कर सकते हैं और क्या नहीं। यह आपके डिजिटल सहायक को केवल अच्छे इरादों के साथ ही नहीं, बल्कि कठोर सीमाओं के साथ एक विस्तृत कार्य विवरण देने जैसा है।
समय इससे अधिक प्रासंगिक नहीं हो सकता। कंपनियां एआई एजेंटों को तैनात करने की होड़ में हैं जो जटिल कार्यों को स्वायत्त रूप से संभाल सकते हैं – यात्रा की बुकिंग करना, वर्कफ़्लो का प्रबंधन करना, यहां तक कि खरीदारी के निर्णय भी लेना। लेकिन प्रत्येक नई क्षमता संभावित आक्रमण वैक्टर खोलती है। क्या होता है जब कोई समझौता किया गया एजेंट धनराशि स्थानांतरित करना या महत्वपूर्ण फ़ाइलें हटाना शुरू कर देता है? क्या होगा यदि एक साधारण त्वरित इंजेक्शन आपके एआई सहायक को गोपनीय डेटा लीक करने के लिए प्रेरित करता है?
एंटरप्राइज़ आईटी टीमों को रात में जगाए रखना एक दुःस्वप्न जैसा है। हाल के घटनाक्रमों ने केवल चिंताओं को बढ़ाया है। कंपनियों को पसंद है anthropic और ओपनएआई कंप्यूटर-उपयोग सुविधाओं और स्वायत्त कार्य पूर्णता के साथ एजेंट क्षमताओं को आगे बढ़ाना जारी रखें। प्रौद्योगिकी आगे बढ़ती है जबकि सुरक्षा ढाँचे गति बनाए रखने के लिए संघर्ष करते हैं।
आयरनकर्टन का दृष्टिकोण स्पष्ट अनुमति प्रणालियों और व्यवहार संबंधी बाधाओं पर केंद्रित है। सुरक्षित निर्णय लेने के लिए एआई मॉडल पर भरोसा करने के बजाय, ढांचा बुनियादी ढांचे के स्तर पर नियमों को लागू करता है। इसे किसी को सावधान रहने के लिए कहने बनाम उसे खतरनाक क्षेत्रों में जाने से शारीरिक रूप से रोकने के बीच अंतर के रूप में सोचें।
