ब्लॉक द्वारा साइबर सुरक्षा चिंताओं पर सिस्टम की जांच करने की अनुमति का अनुरोध करने के बाद एंथ्रोपिक यूरोपीय संघ के नियामकों के लिए अपने सबसे उन्नत एआई मॉडल मिथोस तक पहुंच खोल रहा है। यह कदम इस बात में एक महत्वपूर्ण बदलाव का प्रतीक है कि सीमांत एआई प्रयोगशालाएं नियामक निरीक्षण के साथ कैसे जुड़ रही हैं, क्योंकि यूरोपीय संघ के अधिकारी क्षेत्र के एआई अधिनियम ढांचे के तहत अत्याधुनिक भाषा मॉडल की क्षमताओं और जोखिमों में अधिक पारदर्शिता पर जोर दे रहे हैं।
यूरोपीय संघ के अधिकारियों द्वारा औपचारिक रूप से सिस्टम की क्षमताओं और संभावित सुरक्षा कमजोरियों के ऑडिट की अनुमति का अनुरोध करने के बाद, एंथ्रोपिक यूरोपीय संघ के नियामकों को अपने सबसे शक्तिशाली एआई मॉडल मिथोस तक अभूतपूर्व पहुंच प्रदान कर रहा है। यह निर्णय तब आया है जब ब्रुसेल्स ने नए लागू एआई अधिनियम के तहत फ्रंटियर एआई सिस्टम की जांच तेज कर दी है।
सैन फ्रांसिस्को स्थित एआई स्टार्टअप, जो Google द्वारा समर्थित है और जिसकी कीमत 18 बिलियन डॉलर है, ने पुष्टि की है कि यह यूरोपीय संघ के साइबर सुरक्षा विशेषज्ञों को तकनीकी दस्तावेज और मिथोस तक परीक्षण पहुंच प्रदान करेगा। मामले से परिचित सूत्रों के अनुसार, यूरोपीय नियामकों ने मॉडल की संभावित दोहरे उपयोग क्षमताओं के बारे में चिंता जताई, विशेष रूप से कोड पीढ़ी और साइबर सुरक्षा अनुप्रयोगों के बारे में जिनका दुर्भावनापूर्ण अभिनेताओं द्वारा शोषण किया जा सकता है।
एंथ्रोपिक के प्रवक्ता ने एक बयान में कहा, “हम वैश्विक स्तर पर नियामकों के साथ मिलकर काम करने के लिए प्रतिबद्ध हैं।” “हमारे सबसे उन्नत सिस्टम में पारदर्शिता प्रदान करना जिम्मेदार एआई विकास के प्रति हमारे दृष्टिकोण के अनुरूप है।” कंपनी ने यह बताने से इनकार कर दिया कि यूरोपीय संघ के अधिकारियों को किस स्तर की पहुंच प्राप्त होगी या क्या व्यवस्था में मॉडल वजन और प्रशिक्षण डेटा तक पहुंच शामिल है।
मिथोस तेजी से सक्षम बड़े भाषा मॉडल बनाने की दौड़ में एंथ्रोपिक के लिए एक बड़ी छलांग का प्रतिनिधित्व करता है। उद्योग के अंदरूनी सूत्रों का सुझाव है कि सिस्टम कई प्रमुख बेंचमार्क पर ओपनएआई के जीपीटी -5 और Google के जेमिनी अल्ट्रा के प्रतिद्वंद्वियों या संभावित रूप से बेहतर प्रदर्शन करता है, विशेष रूप से तर्क कार्यों और बहु-चरणीय समस्या समाधान में। मॉडल 2026 की शुरुआत से एंटरप्राइज़ ग्राहकों के साथ सीमित परीक्षण में है, लेकिन एंथ्रोपिक ने अब तक विवरणों को बारीकी से संरक्षित रखा है।
मॉडल पहुंच के लिए यूरोपीय संघ का अनुरोध पारदर्शिता के लिए व्यापक नियामक प्रयास को दर्शाता है क्योंकि एआई सिस्टम अधिक शक्तिशाली हो रहे हैं। एआई अधिनियम की उच्च-जोखिम वर्गीकरण प्रणाली के तहत, उन्नत सामान्य-उद्देश्य एआई मॉडल को अनुरूपता मूल्यांकन से गुजरना होगा और नियामकों को दस्तावेज प्रदान करना होगा। लेकिन कंपनियों को स्वामित्व प्रणालियों तक पहुंच कैसे देनी चाहिए, इसकी विशिष्टताएं विवादास्पद बनी हुई हैं, प्रयोगशालाओं का तर्क है कि पूर्ण पारदर्शिता व्यापार रहस्यों से समझौता कर सकती है जबकि नियामक सार्थक निरीक्षण पर जोर देते हैं।
यह व्यवस्था भविष्य के नियामक जुड़ाव के लिए एक खाका स्थापित कर सकती है। यदि यूरोपीय संघ के अधिकारी मॉडल की पूर्ण ओपन-सोर्सिंग की आवश्यकता के बिना संपूर्ण सुरक्षा और सुरक्षा मूल्यांकन कर सकते हैं, तो यह नवाचार और निरीक्षण के बीच तनाव को कम कर सकता है। ओपनएआई और डीपमाइंड सहित अन्य प्रमुख एआई प्रयोगशालाएं कथित तौर पर एंथ्रोपिक के दृष्टिकोण को करीब से देख रही हैं क्योंकि वे यूरोप में अपनी नियामक चर्चाओं को आगे बढ़ा रहे हैं।
साइबर सुरक्षा कोण समीक्षा में तात्कालिकता जोड़ता है। उन्नत एआई मॉडल ने शोषण खोज, मैलवेयर विश्लेषण और सोशल इंजीनियरिंग जैसे क्षेत्रों में तेजी से परिष्कृत क्षमताओं का प्रदर्शन किया है – ऐसे कौशल जिन्हें हथियार बनाया जा सकता है यदि सिस्टम गलत हाथों में पड़ जाए या उचित सुरक्षा उपायों के बिना पहुंच हो। यूरोपीय संघ के साइबर सुरक्षा अधिकारी विशेष रूप से यह सुनिश्चित करने पर ध्यान केंद्रित कर रहे हैं कि यूरोपीय बाजारों में तैनात फ्रंटियर मॉडल में मजबूत सुरक्षा उपाय और पहुंच नियंत्रण शामिल हैं।
एंथ्रोपिक के लिए, यह कदम नियामक दबाव के प्रति रियायत और संभावित प्रतिस्पर्धी लाभ दोनों का प्रतिनिधित्व करता है। अधिकारियों के साथ काम करने की इच्छा प्रदर्शित करके, कंपनी ऐसे समय में यूरोपीय बाजार के विस्तार के लिए अपना रास्ता आसान कर सकती है जब प्रतिद्वंद्वी प्रयोगशालाएं अपने प्रशासन और सुरक्षा प्रथाओं के बारे में कठिन सवालों का सामना कर रही हैं। कंपनी ने लंबे समय से खुद को एआई विकास में जिम्मेदार विकल्प के रूप में स्थापित किया है, अपने संवैधानिक एआई दृष्टिकोण और संरेखण अनुसंधान पर ध्यान केंद्रित किया है।
यह घोषणा एआई उद्योग में पारदर्शिता और निरीक्षण के बारे में व्यापक सोच के बीच आई है। प्रमुख मॉडलों के जेलब्रेक से जुड़ी हालिया घटनाओं और डीपफेक और दुष्प्रचार के बारे में चिंताओं ने उन्नत प्रणालियों की बाहरी ऑडिटिंग की मांग तेज कर दी है। कुछ शोधकर्ताओं का तर्क है कि सिस्टम की व्यापक तैनाती तक पहुंचने से पहले उभरते जोखिमों को समझने के लिए फ्रंटियर मॉडल तक नियामक पहुंच आवश्यक है।
यह स्पष्ट नहीं है कि क्या सहयोग का यह स्तर यूरोपीय संघ के नियामकों को संतुष्ट करेगा या क्या वे और भी अधिक पारदर्शिता आवश्यकताओं पर जोर देंगे। एआई अधिनियम में उच्च-जोखिम प्रणालियों की निरंतर निगरानी के प्रावधान शामिल हैं, जिसका अर्थ बार-बार ऑडिट हो सकता है क्योंकि एंथ्रोपिक मिथोस में सुधार जारी रखता है। कंपनी को एंटरप्राइज एआई सेवाओं के लिए तेजी से भीड़ भरे बाजार में अपनी प्रतिस्पर्धी स्थिति की रक्षा के साथ नियामक अनुपालन को संतुलित करने की आवश्यकता होगी।
उद्योग पर्यवेक्षकों का कहना है कि एंथ्रोपिक का निर्णय अन्य एआई प्रयोगशालाओं पर समान पहुंच प्रदान करने या वे क्या छिपा रहे हैं, इसके बारे में सवालों का सामना करने का दबाव बना सकता है। जैसे-जैसे फ्रंटियर मॉडल अधिक सक्षम होते जा रहे हैं और उनके संभावित प्रभावों की भविष्यवाणी करना कठिन होता जा रहा है, ब्लैक-बॉक्स एआई विकास के दिन ख़त्म होते दिख रहे हैं – चाहे कंपनियां इसे पसंद करें या नहीं।
यूरोपीय संघ के नियामकों को मिथोस तक पहुंच प्रदान करने का एंथ्रोपिक का निर्णय यह बदल सकता है कि अग्रणी एआई प्रयोगशालाएं विश्व स्तर पर निगरानी के साथ कैसे जुड़ती हैं। जैसे-जैसे उन्नत मॉडल अधिक सक्षम होते जा रहे हैं और उनके सामाजिक निहितार्थों की भविष्यवाणी करना कठिन होता जा रहा है, मालिकाना विकास और सार्वजनिक जवाबदेही के बीच तनाव चरम पर पहुंच रहा है। क्या यह व्यवस्था दोनों पक्षों के लिए व्यावहारिक साबित होती है – नवाचार से समझौता किए बिना सार्थक सुरक्षा मूल्यांकन की अनुमति देती है – संभवतः यूरोप से परे नियामक ढांचे को प्रभावित करेगी। अभी के लिए, एंथ्रोपिक यह शर्त लगा रहा है कि पारदर्शिता एक ऐसे उद्योग में प्रतिस्पर्धात्मक लाभ हो सकती है जो अपनी ख़तरनाक गति और अस्पष्टता पर बढ़ती जांच का सामना कर रहा है।
