- ■
- ■
यह विवाद पूरे उद्योग में एआई सुरक्षा सिद्धांतों और आकर्षक रक्षा अनुबंधों के बीच बढ़ते तनाव को उजागर करता है
- ■
प्रतिस्पर्धियों के विपरीत, एंथ्रोपिक सख्त नैतिक नक्काशी बनाए रखता है जो स्वायत्त लक्ष्यीकरण या सामूहिक निगरानी से जुड़े सैन्य अनुप्रयोगों को स्पष्ट रूप से प्रतिबंधित करता है
- ■
गतिरोध अन्य एआई कंपनियों को उनके घोषित सुरक्षा सिद्धांतों और अरबों डॉलर के सरकारी अवसरों के बीच चयन करने के लिए मजबूर कर सकता है
anthropic एक ऐसे चौराहे पर खड़ा है जो एआई सुरक्षा सिद्धांतों के भविष्य को परिभाषित कर सकता है। एक के अनुसार, अपने एआई पावर स्वायत्त हथियारों या सरकारी निगरानी प्रणालियों को अनुमति देने के खिलाफ कंपनी की सख्त नीति के कारण अब उसे पेंटागन का एक बड़ा अनुबंध खोने का खतरा है। वायर्ड में रिपोर्ट. यह इस बात की कड़ी परीक्षा है कि क्या एआई सुरक्षा प्रतिबद्धताएं रक्षा क्षेत्र की गहरी जेबों के संपर्क में रह सकती हैं – और नैतिकता और अर्थशास्त्र के बीच तेजी से उलझे उद्योग के लिए एक संकेत क्षण है।
anthropic एआई को अलग तरीके से करने पर अपनी प्रतिष्ठा बनाई। पूर्व द्वारा स्थापित ओपनएआई जिन अधिकारियों ने सुरक्षा चिंताओं को छोड़ दिया, कंपनी ने लंबे समय से खुद को उद्योग की अंतरात्मा के रूप में स्थापित किया है – जो मेज पर पैसा छोड़ने को तैयार है अगर इसका मतलब अपनी तकनीक को हानिकारक अनुप्रयोगों से दूर रखना है। अब उस प्रतिबद्धता का यथासंभव शाब्दिक तरीके से परीक्षण किया जा रहा है।
सैन फ्रांसिस्को स्थित एआई प्रयोगशाला एक परिवर्तनकारी अनुबंध क्या हो सकता है, इस पर पेंटागन के साथ सक्रिय बातचीत कर रही है, लेकिन एंथ्रोपिक की स्वीकार्य उपयोग नीति पर बातचीत में बाधा आ गई है। कंपनी स्पष्ट रूप से अपने क्लाउड एआई सिस्टम को स्वायत्त हथियार प्रणालियों या बड़े पैमाने पर सरकारी निगरानी कार्यों में उपयोग करने से रोकती है। रक्षा विभाग के लिए, वे तराशें न केवल असुविधाजनक हैं – वे डील-ब्रेकर भी हो सकते हैं।
समय इससे अधिक कठिन नहीं हो सकता। एआई कंपनियां सरकारी अनुबंधों को सुरक्षित करने के लिए दौड़ रही हैं क्योंकि एआई क्षमताओं के लिए रक्षा बजट अरबों में पहुंच गया है। ओपनएआई जबकि, पहले ही सैन्य अनुप्रयोगों के लिए खुलेपन का संकेत दे चुका है गूगल कर्मचारियों के विरोध के बाद 2018 में प्रोजेक्ट मावेन से पीछे हट गए, बाद में Google क्लाउड के माध्यम से रक्षा कार्य में फिर से शामिल हो गए। माइक्रोसॉफ्ट खुलेआम पेंटागन के सैकड़ों करोड़ के सौदों को आगे बढ़ाने में ऐसी किसी झिझक का सामना नहीं करना पड़ा है।
एंथ्रोपिसिस एक अलग रास्ते पर चल रहा है। कंपनी की स्वीकार्य उपयोग नीति “हथियार विकास और सैन्य या युद्ध” अनुप्रयोगों के चारों ओर चमकदार लाल रेखाएं खींचती है, विशेष रूप से स्वायत्त हथियारों को बुलाती है जो मानव निरीक्षण के बिना लक्ष्य का चयन और हमला कर सकते हैं। यह नीति “निगरानी और गोपनीयता उल्लंघन” में उपयोग को भी रोकती है, जिसमें “लोगों की सहमति के बिना उन्हें ट्रैक करना या निगरानी करना” भी शामिल है।
