- ■
anthropic क्लाउड कोड के लिए ऑटो मोड लॉन्च किया गया, जिससे एआई जोखिम भरे कार्यों को रोकते हुए अनुमति-स्तर के निर्णय ले सके कंपनी की घोषणा
- ■
यह सुविधा क्लाउड कोड की स्वायत्तता समस्या का समाधान करती है – यह फ़ाइलों को हटा सकती है, संवेदनशील डेटा भेज सकती है, या स्पष्ट अनुमोदन के बिना दुर्भावनापूर्ण कोड निष्पादित कर सकती है
- ■
ऑटो मोड निरंतर उपयोगकर्ता हस्तक्षेप और एआई कोडिंग एजेंटों के लिए खतरनाक पूर्ण स्वायत्तता के बीच एक सुरक्षा परत बनाता है
- ■
यह उभरते एआई सुरक्षा क्षेत्र में एंथ्रोपिक को प्रतिस्पर्धियों से आगे रखता है क्योंकि स्वायत्त एजेंट मुख्यधारा के डेवलपर उपकरण बन जाते हैं
anthropic अभी-अभी ऑटो मोड शुरू किया गया है क्लाउड कोडएआई स्वायत्तता और डेवलपर सुरक्षा के बीच सुई पिरोना। नई सुविधा संभावित रूप से खतरनाक कार्रवाइयों – जैसे फ़ाइलों को हटाना या संवेदनशील डेटा को लीक करना – को निष्पादित करने से पहले चिह्नित करती है और ब्लॉक करती है, जिससे डेवलपर्स को प्रत्येक एआई निर्णय को माइक्रोमैनेज करने और पूर्ण नियंत्रण सौंपने के बीच एक बीच का रास्ता मिल जाता है। यह एक महत्वपूर्ण अद्यतन है क्योंकि एआई कोडिंग सहायकों को अधिक स्वतंत्रता मिलती है और उद्योग इससे जूझता है शीघ्र इंजेक्शन कमजोरियाँ जो सहायक उपकरणों को सुरक्षा संबंधी बुरे सपने में बदल सकता है।
anthropic यह शर्त लगाई जा रही है कि डेवलपर्स चाहते हैं कि उनके एआई कोडिंग सहायक यह सोचने के अस्तित्व संबंधी भय के बिना तेजी से काम करें कि बॉट गलती से क्या हटा सकता है। कंपनी का नया ऑटो मोड क्लाउड कोड एआई एजेंटों की सबसे गंभीर समस्याओं में से एक को संबोधित करता है: आपको फांसी देने से पहले उन्हें कितनी रस्सी देनी है।
क्लाउड कोड पहले से ही AI की सुविधा देता है उपयोगकर्ताओं की ओर से स्वतंत्र रूप से कार्य करेंलेखन कार्यों से लेकर कोडबेस को नेविगेट करने तक सब कुछ संभालना। लेकिन वह स्वायत्तता दोनों तरह से कटती है। वही AI जो आपके ऐप को रात 2 बजे डीबग कर सकता है, महत्वपूर्ण फ़ाइलों को भी मिटा सकता है, संवेदनशील API कुंजियों को किसी दूरस्थ सर्वर पर भेज सकता है, या निष्पादित कर सकता है एक समझौता किए गए पैकेज में छुपे हुए निर्देश दबे हुए हैं.
ऑटो मोड एक अनुमति परत के रूप में कदम रखता है जो कार्य करने से पहले सोचता है। के अनुसार एन्थ्रोपिक का ब्लॉग पोस्टयह सुविधा क्लाउड कोड द्वारा की जाने वाली प्रत्येक कार्रवाई का विश्लेषण करती है और पूर्वनिर्धारित जोखिम सीमा को पार करने वाली किसी भी चीज़ को चिह्नित करती है। फ़ाइलें हटाने का प्रयास कर रहे हैं? ध्वजांकित. किसी अपरिचित समापन बिंदु पर डेटा भेजने का प्रयास कर रहे हैं? अवरुद्ध. संदिग्ध पैटर्न के साथ कोड निष्पादित कर रहे हैं? समीक्षा हेतु रखा गया।
सिस्टम वह पेशकश करता है जिसे एंथ्रोपिक “निरंतर मदद करने या मॉडल को स्वायत्तता के खतरनाक स्तर देने के बीच सुरक्षित विकल्प” कहता है। इसे इस बात के लिए डिज़ाइन किया गया है कि कंपनी इसे “वाइब कोडर्स” के रूप में संदर्भित करती है – ऐसे डेवलपर्स जो एआई को ग्रंट कार्य को संभालना चाहते हैं लेकिन हर अर्धविराम को मंजूरी नहीं देना चाहते हैं।
