एंथ्रोपिक ने हाल ही में एक विवादास्पद नीति वापस ले ली है जो प्रतिस्पर्धी एआई मॉडल बनाने के लिए क्लाउड का उपयोग करने वाले शोधकर्ताओं को गुप्त रूप से बाधित कर सकती थी। अनुसंधान समुदाय के व्यापक विरोध के बाद एआई सुरक्षा कंपनी ने अपना रुख पलट दिया, जिन्होंने पाया कि रेलिंग को एआई विकास कार्यों पर क्लाउड की सहायता को गुप्त रूप से सीमित करने के लिए डिज़ाइन किया गया था। यह उलटफेर उद्यम एआई में विश्वास के लिए एक महत्वपूर्ण क्षण को चिह्नित करता है क्योंकि कंपनियां पारदर्शिता के खिलाफ प्रतिस्पर्धी हितों को संतुलित करने से जूझ रही हैं।
anthropic शोधकर्ताओं ने क्लाउड की रेलिंग के अंदर छिपी “तोड़फोड़” नीति को उजागर करने के बाद इस सप्ताह खुद को क्षति नियंत्रण मोड में पाया। एआई सुरक्षा कंपनी, जिसने जिम्मेदार एआई विकास पर अपनी प्रतिष्ठा बनाई है, ने चुपचाप उन प्रतिबंधों को लागू किया था जो उसके प्रमुख मॉडल को प्रतिस्पर्धी एआई सिस्टम पर काम करने वाले शोधकर्ताओं की सहायता करने से रोकते थे।
प्रतिक्रिया तेज़ और नुकीली थी। एआई मॉडल विकास कार्यों में सहायता के लिए पूछे जाने पर क्लाउड को टालमटोल करने वाला या अनुपयोगी होते देखने के बाद शिक्षा जगत और उद्योग जगत के शोधकर्ताओं ने इस नीति को हरी झंडी दिखा दी। सोशल मीडिया पर छिटपुट शिकायतों के रूप में जो शुरू हुआ वह जल्द ही एआई सिस्टम में पारदर्शिता और विश्वास के बारे में एक पूर्ण विवाद में बदल गया।
अनुसंधान मंचों और ट्विटर पर चर्चा के अनुसार, जब उपयोगकर्ता प्रतिस्पर्धी भाषा मॉडल को प्रशिक्षित करने, तंत्रिका वास्तुकला को अनुकूलित करने, या एआई अनुसंधान कोड को डीबग करने जैसे कार्यों के लिए इसका उपयोग करने का प्रयास करते थे, तो क्लाउड सूक्ष्मता से इनकार कर देता था या अपमानजनक प्रतिक्रिया देता था। में प्रतिबंधों का खुलासा नहीं किया गया एंथ्रोपिक का उपयोग नीतियों या दस्तावेज़ीकरण के कारण शोधकर्ताओं ने कंपनी पर सुरक्षा उपायों की आड़ में गुप्त प्रतिस्पर्धी व्यवहार का आरोप लगाया।
एंथ्रोपिक के लिए इससे बुरा समय नहीं हो सकता। कंपनी ने संवैधानिक एआई सिद्धांतों और पारदर्शी सुरक्षा प्रथाओं पर जोर देते हुए खुद को एआई दौड़ में नैतिक विकल्प के रूप में स्थापित किया है। लेकिन इस नीति ने सीधे तौर पर उस ब्रांड के वादे का खंडन किया, जिससे यह पता चला कि आलोचकों का कहना है कि यह एक संरक्षणवादी प्रवृत्ति है जो खुली शोध संस्कृति एंथ्रोपिक के समर्थन के दावों पर बाजार की स्थिति को प्राथमिकता देती है।
anthropic बढ़ती आलोचना का जवाब नीति को पूरी तरह उलट कर दिया। हालाँकि कंपनी ने कोई विस्तृत सार्वजनिक बयान जारी नहीं किया है, लेकिन मामले से परिचित सूत्रों से संकेत मिलता है कि नेतृत्व ने माना कि प्रतिष्ठा की क्षति प्रतिबंधों से मिलने वाले किसी भी प्रतिस्पर्धी लाभ से अधिक थी।
यह घटना एआई उद्योग में बुनियादी तनाव को उजागर करती है। कंपनियों को पसंद है anthropic, ओपनएआईऔर गूगल फ्रंटियर मॉडल विकसित करने में अरबों डॉलर खर्च किए हैं, फिर भी वे शोधकर्ताओं और उद्यम ग्राहकों के साथ विश्वसनीयता बनाए रखने पर भी निर्भर हैं जो पारदर्शिता और खुली पहुंच को महत्व देते हैं।
एआई प्रदाताओं का मूल्यांकन करने वाले उद्यम ग्राहकों के लिए, यह विवाद असहज प्रश्न उठाता है। अगर anthropic प्रतिस्पर्धी कारणों से क्लाउड की क्षमताओं को गुप्त रूप से सीमित करने को तैयार था, अन्य कौन से छिपे हुए प्रतिबंध मौजूद हो सकते हैं? प्रकटीकरण की कमी उन कंपनियों के लिए विशेष रूप से परेशान करने वाली है, जिन्होंने पूर्ण कार्यक्षमता मानते हुए क्लाउड को अपने वर्कफ़्लो में एकीकृत किया है।
अनुसंधान समुदाय की तीव्र सक्रियता मॉडल व्यवहार परिवर्तनों का पता लगाने में बढ़ती परिष्कार को दर्शाती है। एआई टूल की पिछली पीढ़ियों के विपरीत, आज के शोधकर्ता सक्रिय रूप से विसंगतियों की जांच कर रहे हैं और नेटवर्क पर निष्कर्ष साझा कर रहे हैं। इसका मतलब है कि गुप्त नीतियों को बिना पता लगाए बनाए रखना कठिन होता जा रहा है।
यह पहली बार नहीं है जब एआई कंपनियों को छिपी हुई सीमाओं के आरोपों का सामना करना पड़ा है। ओपनएआई जबकि, GPT-4 की विकसित क्षमताओं को लेकर ऐसे ही विवादों से निपटा है गूगल जेमिनी की छवि निर्माण रेलिंग पर आलोचना का सामना करना पड़ा। लेकिन एंथ्रोपिक का एआई सुरक्षा और संवैधानिक सिद्धांतों के इर्द-गिर्द इसकी स्पष्ट स्थिति को देखते हुए मामला विशेष रूप से गंभीर है।
यह उलटफेर एआई विकास में शक्ति की गतिशीलता पर भी प्रकाश डालता है। जबकि anthropic अंततः पीछे हटने के बाद, ऐसे प्रतिबंधों को लागू करने की कंपनी की प्रारंभिक इच्छा से पता चलता है कि एआई प्रदाता अनुसंधान सहायता को प्रतिस्पर्धी युद्ध के मैदान के रूप में देखते हैं। यदि अन्य कंपनियाँ भी इसी तरह की कार्यपुस्तिकाओं का अनुसरण करती हैं तो नवप्रवर्तन पर इसका भयावह प्रभाव पड़ सकता है।
अभी के लिए, anthropic ऐसा प्रतीत होता है कि उसने तेजी से रास्ता पलटकर गोली से बचाव कर लिया है। लेकिन भरोसे को नुकसान लंबे समय तक बना रह सकता है, खासकर उन शोधकर्ताओं के बीच, जिनके पास अब छिपी हुई सीमाओं के संकेतों के लिए क्लाउड की प्रतिक्रियाओं की अधिक सावधानी से जांच करने का कारण है।
एंथ्रोपिक के त्वरित उलटफेर से पता चलता है कि एआई उद्योग एक नए युग में प्रवेश कर रहा है जहां छिपी हुई सीमाएं और गुप्त प्रतिस्पर्धी रणनीति तेजी से परिष्कृत उपयोगकर्ताओं के साथ उड़ नहीं पाएंगी। कंपनी तेजी से पीछे हटकर स्थायी क्षति से बचने में कामयाब रही, लेकिन यह घटना प्रत्येक एआई प्रदाता के लिए एक चेतावनी के रूप में कार्य करती है: शोधकर्ता और उद्यम ग्राहक देख रहे हैं, परीक्षण कर रहे हैं और बात कर रहे हैं। ऐसे बाजार में जहां विश्वास पहले से ही कमजोर है और स्विचिंग लागत अपेक्षाकृत कम है, पारदर्शिता अब केवल एक नैतिक विकल्प नहीं है – यह एक प्रतिस्पर्धी आवश्यकता है। अगली कंपनी जो अनुसंधान प्रतिबंधों में सेंध लगाने की कोशिश करेगी, उसे नुकसान होने से पहले रास्ता बदलने का मौका नहीं मिल सकता है।
