anthropic अभी-अभी अपने सबसे शक्तिशाली AI के द्वार खोले हैं। एआई सुरक्षा कंपनी ने आज क्लाउड फैबल 5 को जनता के लिए जारी किया, यह पहली बार है कि माइथोस-क्लास मॉडल लैब से बच निकला है। लेकिन यह सभी के लिए मुफ़्त नहीं है – साइबर सुरक्षा शोषण और बायोहथियार अनुसंधान जैसे उच्च जोखिम वाले डोमेन में प्रश्नों को बंद करने के लिए डिज़ाइन किए गए अंतर्निहित रेलिंग वाले मॉडल जहाज, एक ऐसा कदम जो उद्योग की क्षमता और सावधानी के बीच बढ़ते तनाव का संकेत देता है।
anthropic एक सुविचारित शर्त लगा रहा है कि जब शक्तिशाली एआई की बात आती है तो आप अपना केक ले सकते हैं और खा भी सकते हैं। कंपनी ने आज क्लाउड फैबल 5 जारी किया, जिससे उसकी माइथोस-श्रेणी की क्षमताएं पहली बार जनता के सामने आईं। के अनुसार टेकक्रंचयह सिर्फ एक और वृद्धिशील मॉडल अपडेट नहीं है – यह पहली बार है कि कंपनी ने माइथोस-स्तरीय सिस्टम को सामान्य रिलीज के लिए पर्याप्त सुरक्षित माना है।
समय अद्भुत है. कुछ ही दिन पहले, उद्योग के नेता एआई सिस्टम के बहुत तेजी से सक्षम होने के बारे में खतरे की घंटी बजा रहे थे। अब एंथ्रोपिक ठीक उसी तरह के शक्तिशाली मॉडल को जारी करके सुई में धागा डाल रहा है, लेकिन जिसे वह जमीन से ऊपर तक व्यापक सुरक्षा रेलिंग कहता है, उसके साथ।
वे रेलिंग सूक्ष्म नहीं हैं. क्लॉड फैबल 5 एंथ्रोपिक द्वारा उच्च जोखिम वाले क्षेत्र माने जाने वाले प्रश्नों से सीधे तौर पर इनकार कर देगा – साइबर सुरक्षा कारनामे जो हमलों को सक्षम कर सकते हैं, जैविक अनुसंधान जो रोगजनकों को हथियार बना सकते हैं, और इसी तरह के खतरे वाले क्षेत्र। यह एक जानबूझकर की गई बाधा है जो फैबल 5 को कच्चे क्षमता स्कोर दिखाने के लिए प्रतिस्पर्धा करने वाले प्रतिस्पर्धियों से अलग करती है।
यह दृष्टिकोण पूर्व द्वारा स्थापित कंपनी के रूप में एंथ्रोपिक की मूल कहानी को दर्शाता है ओपनएआई शोधकर्ता जो विशेष रूप से सुरक्षा चिंताओं पर अलग हो गए। वह डीएनए कंपनी द्वारा निर्मित हर चीज के माध्यम से चलता है, और फैबल 5 क्षमताओं की सीमा पर “सुरक्षा-प्रथम” एआई तैनाती की तरह दिखने वाली अब तक की सबसे दृश्यमान अभिव्यक्ति का प्रतिनिधित्व करता है।
लेकिन सुरक्षा उपाय अपना तनाव पैदा करते हैं। एंटरप्राइज़ ग्राहक शक्तिशाली मॉडल चाहते हैं जो सभी डोमेन में जटिल कार्यों को संभाल सकें। हार्ड-कोडित प्रतिबंध, चाहे कितने भी नेक इरादे से क्यों न हों, मॉडल को वैध उपयोग के मामलों के लिए कम उपयोगी बनाने का जोखिम उठाते हैं जो उन सीमाओं के विपरीत हैं। उदाहरण के लिए, अपने स्वयं के सिस्टम का परीक्षण करने वाले एक सुरक्षा शोधकर्ता को फ़ेबल 5 की साइबर सुरक्षा रेलिंग मददगार के बजाय निराशाजनक लग सकती है।
एंथ्रोपिक जुआ खेल रहा है कि बाजार कच्ची अश्वशक्ति पर जिम्मेदारी देगा। यह एक जुआ है जो कंपनी को एक दिलचस्प प्रतिस्पर्धी स्थिति में रखता है ओपनएआई, गूगलऔर मेटाजिनमें से सभी सुरक्षा के लिए अलग-अलग दृष्टिकोण के साथ अपने स्वयं के फ्रंटियर मॉडल को आगे बढ़ा रहे हैं।
मिथोस वर्ग पदनाम स्वयं मॉडल क्षमता में एक कदम परिवर्तन का संकेत देता है। हालांकि एंथ्रोपिक ने अभी तक विस्तृत बेंचमार्क जारी नहीं किया है, कंपनी का अपने पिछले क्लाउड मॉडल के ऊपर एक अलग स्तर बनाने का निर्णय तर्क, संदर्भ प्रबंधन और कार्य पूरा करने में सार्थक सुधार का सुझाव देता है। सवाल यह है कि क्या वे सुधार तब चमकते हैं जब सुरक्षा रेलिंग सक्रिय रूप से मॉडल की सीमा को सीमित कर रही है।
उद्यम ग्राहकों के लिए, वह व्यापार-बंद वास्तव में एक विक्रय बिंदु हो सकता है। एआई सिस्टम तैनात करने वाली कंपनियों को जिम्मेदार उपयोग प्रदर्शित करने के लिए नियामकों और बोर्डों के बढ़ते दबाव का सामना करना पड़ता है। एक मॉडल जो खतरनाक कार्यों में मदद करने से इनकार करता है वह अंतर्निहित अनुपालन प्रदान करता है, भले ही यह कभी-कभी बिजली उपयोगकर्ताओं को निराश करता हो।
यह रिलीज़ एंथ्रोपिक के प्रतिस्पर्धियों पर अपने स्वयं के सुरक्षा दृष्टिकोण को अधिक स्पष्ट रूप से व्यक्त करने का दबाव भी डालती है। यदि एक मिथोस-क्लास मॉडल व्यापक रेलिंग के साथ जहाज कर सकता है और अभी भी व्यावसायिक रूप से व्यवहार्य है, तो अन्य प्रयोगशालाओं के लिए यह तर्क देना कठिन हो जाता है कि सीमा पर सुरक्षा उपाय संभव नहीं हैं।
यह स्पष्ट नहीं है कि एंथ्रोपिक अपरिहार्य किनारे के मामलों को कैसे संभालेगा जहां वैध उपयोग सुरक्षा प्रतिबंधों में बाधा डालता है, या जहां बुरे अभिनेता त्वरित इंजीनियरिंग और सामाजिक हेरफेर के माध्यम से रेलिंग के आसपास काम करने के लिए रचनात्मक तरीके ढूंढते हैं। वास्तविक दुनिया में तैनात प्रत्येक सुरक्षा प्रणाली उन कमियों को उजागर करती है जो परीक्षण में दिखाई नहीं दे रही थीं।
एंथ्रोपिक की क्लाउड फैबल 5 रिलीज मॉडल के बारे में कम और उसके बयान के बारे में अधिक है। सुरक्षा बाधाओं में लिपटी हुई मिथोस-श्रेणी की क्षमताओं को जनता के सामने लाकर, कंपनी प्रभावी रूप से उद्योग को यह साबित करने का साहस दे रही है कि जिम्मेदार एआई और अत्याधुनिक प्रदर्शन असंगत हैं। विनियामक दबाव और एआई जोखिमों के बारे में वास्तविक चिंता से निपटने वाले उद्यमों के लिए, वह संयोजन बिल्कुल वही हो सकता है जिसकी वे प्रतीक्षा कर रहे थे। शोधकर्ताओं और बिजली उपयोगकर्ताओं के लिए जो प्रतिबंधों से घबराते हैं, यह एक शर्त है कि रेलिंग इतनी स्मार्ट हो सकती है कि जब यह मायने रखती है तो रास्ते से दूर रहें। असली परीक्षा आने वाले हफ्तों में होती है जब उपयोगकर्ता उन सीमाओं के खिलाफ आगे बढ़ते हैं और पता लगाते हैं कि सहायक सुरक्षा कहां निराशाजनक सीमा में बदल जाती है।
