यह एंथ्रोपिक के लिए पेंटागन के आसन्न अल्टीमेटम का दिन है: अमेरिकी सेना को बड़े पैमाने पर निगरानी और पूरी तरह से स्वायत्त घातक हथियारों सहित अपनी प्रौद्योगिकी तक अनियंत्रित पहुंच की अनुमति दें, या संभावित रूप से “आपूर्ति श्रृंखला जोखिम” नामित किया जाएगा और संभावित रूप से अनुबंधों में सैकड़ों अरब डॉलर खो देंगे। बढ़ते सार्वजनिक बयानों और धमकियों के बीच, उद्योग भर के तकनीकी कर्मचारी अपनी कंपनियों के सरकारी और सैन्य अनुबंधों को देख रहे हैं, सोच रहे हैं कि वे किस तरह के भविष्य के निर्माण में मदद कर रहे हैं।
जबकि रक्षा विभाग ने एंथ्रोपिक के साथ इसकी रेलिंग को हटाने पर बातचीत करने में कई सप्ताह बिताए हैं, जिसमें अमेरिकी सेना को मानव निरीक्षण के बिना एंथ्रोपिक के एआई मार लक्ष्यों का उपयोग करने की अनुमति देना भी शामिल है, ओपनएआई और एक्सएआई ने ऐसा किया है। कथित तौर पर ऐसी शर्तों पर पहले ही सहमति हो चुकी है, हालाँकि OpenAI है कथित तौर पर एंथ्रोपिक के समान समझौतों में समान लाल रेखाओं को अपनाने का प्रयास किया जा रहा है। समग्र स्थिति ने रक्षा अनुबंध वाली कुछ कंपनियों के कर्मचारियों को ठगा हुआ महसूस कराया है। अमेज़ॅन वेब सर्विसेज के एक कर्मचारी ने बताया, “जब मैं टेक उद्योग में शामिल हुआ, तो मैंने सोचा कि तकनीक लोगों के जीवन को आसान बनाने के बारे में है।” द वर्ज“लेकिन अब ऐसा लगता है कि यह सब निगरानी करना, निर्वासित करना और लोगों को मारना आसान बनाने के बारे में है।”
के साथ बातचीत में द वर्जOpenAI, xAI, Amazon, Microsoft और Google के वर्तमान और पूर्व कर्मचारियों ने अपनी कंपनियों के बदलते नैतिक परिदृश्य के बारे में समान भावनाएं व्यक्त कीं। अमेज़ॅन, गूगल, माइक्रोसॉफ्ट और अन्य कंपनियों के 700,000 तकनीकी कर्मचारियों का प्रतिनिधित्व करने वाले संगठित समूह हैं एक पत्र पर हस्ताक्षर किये मांग की गई कि कंपनियां पेंटागन की मांगों को खारिज कर दें। लेकिन कई लोगों को अपने नियोक्ताओं द्वारा – चाहे वे सीधे तौर पर इस संघर्ष में शामिल हों या नहीं – सरकार से सवाल पूछने या पीछे धकेलने की बहुत कम संभावना दिखी।
माइक्रोसॉफ्ट के एक सॉफ्टवेयर इंजीनियर ने कहा, “उनके दृष्टिकोण से, वे पैसा कमाना पसंद करेंगे और इसके बारे में बात नहीं करना चाहेंगे।”
अब तक, एंथ्रोपिक अपनी बात पर कायम है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने एक प्रस्ताव रखा कथन गुरुवार को कि पेंटागन की धमकियों से हमारी स्थिति नहीं बदलती: हम अच्छे विवेक से उनके अनुरोध को स्वीकार नहीं कर सकते। लेकिन उन्होंने कहा है कि वह भविष्य में कभी भी घातक स्वायत्त हथियारों के विरोध में नहीं हैं, बस यह कि तकनीक “आज” पर्याप्त विश्वसनीय नहीं थी। अमोदेई ने इन प्रणालियों की विश्वसनीयता में सुधार के लिए “आर एंड डी” पर डीओडी के साथ साझेदारी करने की भी पेशकश की, लेकिन उन्होंने इस प्रस्ताव को स्वीकार नहीं किया, उन्होंने बयान में लिखा।
हालाँकि, पिछले कुछ वर्षों में, प्रमुख तकनीकी कंपनियों ने आकर्षक सरकारी या सैन्य अनुबंधों में विस्तार करने के लिए अपने नियमों को ढीला कर दिया है या अपने मिशन वक्तव्यों को बदल दिया है। 2024 में, OpenAI ने अपनी सेवा की शर्तों से “सैन्य और युद्ध” उपयोग के मामलों पर प्रतिबंध हटा दिया; उसके बाद, इसने स्वायत्त हथियार निर्माता एंडुरिल के साथ एक समझौते पर हस्ताक्षर किए और फिर इसके DoD अनुबंध पर, और अभी इसी सप्ताह, एंथ्रोपिक पर हस्ताक्षर किए। अपनी अक्सर कही जाने वाली जिम्मेदार स्केलिंग नीति को बदल दियाएआई दौड़ में प्रतिस्पर्धी बने रहने को सुनिश्चित करने के लिए अपनी दीर्घकालिक सुरक्षा प्रतिज्ञा को छोड़ दिया। अमेज़ॅन, गूगल और माइक्रोसॉफ्ट जैसे बड़े तकनीकी खिलाड़ियों ने भी रक्षा और खुफिया एजेंसियों को अपने एआई उत्पादों का उपयोग करने की अनुमति दी है, जिसमें जनता और कर्मचारियों के बढ़ते विरोध के बावजूद आईसीई के साथ काम करने पर सहमति भी शामिल है।
पिछले वर्षों में, तकनीकी कर्मचारियों द्वारा बड़े पैमाने पर समाज के लिए हानिकारक समझी जाने वाली साझेदारियों और सौदों के प्रतिरोध के कारण कभी-कभी बड़े बदलाव हुए। उदाहरण के लिए, 2018 में, हजारों Google कर्मचारियों ने सफलतापूर्वक कंपनी पर अपना काम समाप्त करने का दबाव डाला।प्रोजेक्ट मावेनपेंटागन के साथ साझेदारी और माइक्रोसॉफ्ट के कर्मचारियों ने आईसीई विरोधी नेतृत्व प्रस्तुत किया याचिका द्वारा हस्ताक्षर किए लगभग 500 Microsoft कर्मचारी, हालाँकि Microsoft अभी भी साथ काम करता है अभिकरण। 2020 में, जॉर्ज फ्लॉयड की हत्या के बाद, टेक कंपनियों ने ब्लैक लाइव्स मैटर आंदोलन के समर्थन में वित्तीय प्रतिबद्धताओं के बारे में सार्वजनिक बयान दिए। लेकिन हाल के महीनों में, उद्योग ने एक बहुत अलग वास्तविकता देखी है: भय और चुप्पी की संस्कृति, विशेष रूप से ट्रम्प प्रशासन और आईसीई के साथ सहयोग के बीच, तकनीकी कर्मचारियों ने हाल ही में बताया द वर्ज.
कंपनियां लंबे समय से निगरानी और सैन्य तकनीक साझेदारी के नक्शेकदम पर चल रही हैं, जो और अधिक आक्रामक हो गई हैं। इसमें पीटर थिएल द्वारा स्थापित पलान्टिर भी शामिल है, जिसके सीईओ एलेक्स कार्प ने हाल ही में काम किया है कहा गया शेयरधारकों से कहा कि “पलान्टिर उन संस्थानों को बाधित करने और उनके साथ साझेदारी करने वाले संस्थानों को दुनिया में सर्वश्रेष्ठ बनाने के लिए यहां है, और, जब आवश्यक हो, दुश्मनों को डराने और अवसर पर उन्हें मारने के लिए है। और हमें उम्मीद है कि आप इसके पक्ष में हैं।” (प्रोटेक्ट डेमोक्रेसी, एक गैर-लाभकारी संस्था, ने हाल ही में एक पोस्ट किया है खुला पत्र एआई के अप्रतिबंधित उपयोग के लिए रक्षा विभाग की मांगों पर कांग्रेस की निगरानी का आह्वान। )
OpenAI, Google, Microsoft, xAI और Amazon ने टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया।
एक पूर्व एक्सएआई कर्मचारी ने बताया द वर्ज“हर कोई वास्तव में इस बिंदु पर हत्यारे रोबोटों पर काम कर रहा है,” उनका मानना है कि हर कोई पलान्टिर, एंडुरिल और एक्सएआई के नक्शेकदम पर चलेगा, क्योंकि सरकार की भावना यह है कि यदि कोई कंपनी सहमत नहीं होती है, तो यह “एक तरह से देश के लाभ के खिलाफ है।” उन्होंने कहा, “सेना के साथ काम करने पर बहुत जोर दिया जा रहा है और चलन यह है कि ऐसा करना अच्छा है… अगर आप ऐसा करते हैं तो आप देशभक्त हैं।”
एक Google कर्मचारी ने इस स्थिति को “हेगसेथ का प्रभुत्व प्रदर्शन जो घृणित है” कहा। उन्होंने आगे कहा, “बार-बार एआई हमें यह विकल्प दे रहा है कि हम कौन बनना चाहते हैं और हम किस तरह का समाज और भविष्य चाहते हैं। और वे तेजी से और वास्तव में, सत्ता में सबसे कम विचारशील और सबसे कम सिद्धांत वाले नेताओं के साथ आ रहे हैं जिनकी हम कल्पना कर सकते हैं। मैं सभ्य रास्ते पर जोर देने और उनके उत्तोलन का उपयोग करने के लिए केवल एंथ्रोपिक को धन्यवाद दे सकता हूं – कि वे अपरिहार्य हैं – एक मानवीय दुनिया और एक मानवीय भविष्य की दिशा में एक पाठ्यक्रम तैयार करने के लिए।”
AWS कर्मचारी ने बताया द वर्ज कि “ग्राहकों के संदर्भ में सीमाएं निश्चित रूप से खत्म हो गई हैं, बड़ी तकनीकें अदालत में जाने को तैयार हैं” और यह कि “नए आकर्षक सौदों के निहितार्थों को जानबूझकर सफेद किया जा रहा है।” उन्होंने हाल ही में एक AWS कार्यकारी से एक ईमेल प्राप्त करना याद किया, जिसमें अन्य साझेदारियों के अलावा, अमेरिकी वायु सेना के साथ 580 मिलियन डॉलर से अधिक के अनुबंध को अमेज़ॅन की AI सफलताओं के संकेत के रूप में बताया गया था, जिसमें व्यापक दायरे या इसमें शामिल नुकसान की कोई स्वीकृति नहीं थी।
उन्होंने कहा, “अगर सरकार इस तरह की प्रौद्योगिकियों को आगे बढ़ाने पर तुली हुई है, तो उन्हें उन्हें स्वयं बनाना होगा और उन निर्णयों के लिए जवाबदेह होना होगा।”
यह क्षरण आंतरिक संस्कृति तक भी फैल सकता है – इस विचार को सामान्य बनाते हुए कि कंपनियों को हमेशा निगरानी रखनी चाहिए। AWS कर्मचारी ने कहा कि उस पर और उसके सहकर्मियों पर नज़र रखी जाती है कि वे अपनी नौकरियों के लिए AI का कितना उपयोग कर रहे हैं, कितनी बार वे कार्यालय से काम कर रहे हैं, और भी बहुत कुछ। उन्होंने कहा, “मैं खुद को और अपने सहकर्मियों को काम के दौरान खुद पर निगरानी रखने के प्रति अधिक असंवेदनशील होते हुए देख रही हूं, और मुझे चिंता है कि इसका मतलब है कि हम आज्ञा का पालन कर रहे हैं, अनुपालन कर रहे हैं और पहले से ही बहुत कुछ छोड़ रहे हैं।”
ओपनएआई के एक कर्मचारी ने कहा कि पिछले कुछ हफ्तों में एआई उद्योग के भीतर सामान्य भावना ने “प्रौद्योगिकी के मूल्यों और भविष्य के बारे में अधिक चर्चा के द्वार फिर से खोल दिए हैं।” कर्मचारी ने कहा कि पेंटागन-एंथ्रोपिक स्थिति, हालिया आईसीई सुर्खियाँ और एआई की तेजी से प्रगति उन चर्चाओं को आंतरिक रूप से खोलने वाले कुछ मुख्य कारक रहे हैं।
ओपनएआई कर्मचारी ने कहा, फिर भी, जो लोग अप्रवासी हैं या अधिक कमजोर स्थिति में हैं, वे बोलने से अधिक डरते हैं।
एक्सएआई के पूर्व कर्मचारी एंथ्रोपिक ने कहा, ऐसा लगता है कि यह ऐसी स्थिति में है जहां यह ना कह सकता है और फिर भी बचा रह सकता है। उपभोक्ता एआई व्यवसाय के बजाय उद्यम पर इसका ध्यान सरकारी अनुबंधों के बिना भी इसे और अधिक टिकाऊ बना सकता है, जिससे इसे कुछ लाभ मिलेगा। माइक्रोसॉफ्ट के एक सॉफ्टवेयर इंजीनियर ने आम तौर पर एंथ्रोपिक के बारे में कहा, “मैं उन्हें किसी प्रकार के सिद्धांत पर खड़ा देखकर आश्चर्यचकित था। मुझे नहीं पता कि यह कितने समय तक चलेगा।”
“क्या यह चलेगा?” हर किसी की जुबान पर यही सवाल है. पेंटागन पहले ही कर चुका है कथित तौर पर दो प्रमुख रक्षा ठेकेदारों, बोइंग और लॉकहीड मार्टिन से, एंथ्रोपिक के क्लाउड पर उनकी निर्भरता के बारे में जानकारी प्रदान करने के लिए कहा, क्योंकि यह संभावित रूप से एंथ्रोपिक को “आपूर्ति श्रृंखला जोखिम” के रूप में नामित करने के लिए आगे बढ़ता है, एक वर्गीकरण आमतौर पर राष्ट्रीय सुरक्षा के लिए खतरों के लिए आरक्षित होता है और शायद ही कभी, यदि कभी, किसी अमेरिकी कंपनी को सौंपा जाता है। यह भी कथित तौर पर एंथ्रोपिक को अपने अनुरोध का अनुपालन करने के लिए मजबूर करने के प्रयास के लिए रक्षा उत्पादन अधिनियम लागू करने पर विचार किया जा सकता है।
किसी भी अन्य एआई कंपनी की तरह, अगर एंथ्रोपिक फोल्ड होता है, तो माइक्रोसॉफ्ट कर्मचारी ने कहा, इसकी बहुत कम संभावना है कि यह या अन्य लोग हत्यारे रोबोट और निगरानी पर वापस आ जाएंगे। “एक बार जब आप रक्षा विभाग या जो कुछ भी हम इसे अब कहते हैं, के साथ संपर्क में हैं… मुझे लगता है कि उनके लिए वास्तव में वह निरीक्षण करना कठिन है जिसका वे दावा करते हैं। मूल रूप से खुद को वह काम करने की अनुमति देना लाभदायक होगा जो सबसे अधिक पैसा कमाता है।”
माइक्रोसॉफ्ट के अपने मामले में, उन्होंने कहा कि उन्हें उम्मीद नहीं है कि कंपनी किसी भी तरह के नैतिक सिद्धांतों का पालन करेगी। कंपनी ने कर्मचारियों के विरोध के बावजूद, फिलिस्तीनियों और असंतुष्टों की बड़े पैमाने पर निगरानी सहित इजरायली रक्षा बलों के साथ बड़े पैमाने पर काम किया है। (यह कहा कुछ भागों को समाप्त किया पिछले वर्ष की साझेदारी।)
माइक्रोसॉफ्ट के एक अन्य कर्मचारी ने बताया द वर्ज यद्यपि “माइक्रोसॉफ्ट एक जिम्मेदार एआई ‘प्रतिबद्धता रखता है,’… वे वर्तमान में जिम्मेदार एआई के प्रति सार्थक प्रतिबद्धता के बजाय लाभ के लिए दोनों पक्षों को खेलने का प्रयास कर रहे हैं।”
लेकिन यह कोई नई बात नहीं है, एक एआई स्टार्टअप कर्मचारी ने कहा। उनकी नज़र में, सीमाएँ अक्सर “अस्पष्ट होती हैं, विशेष रूप से एआई के भीतर,” इस बारे में कि कंपनियाँ किस प्रकार की चीज़ों को अपनी प्रौद्योगिकी को शक्ति देने के लिए तैयार हैं। “जब से एआई अस्तित्व में है, इसमें से बहुत कुछ सतह के नीचे चल रहा है।”
एडब्ल्यूएस कर्मचारी ने इस बात पर जोर दिया कि “हमें एआई के लिए अब पहले से कहीं अधिक क्रॉस-टेक एकजुटता और एक सुसंगत, कार्यकर्ता-नेतृत्व वाली दृष्टि की आवश्यकता है।”
उन्होंने कहा, “एंथ्रोपिक जिन सुरक्षा उपायों को लागू करने की कोशिश कर रहा है, उनमें अमेरिकियों की कोई व्यापक निगरानी नहीं है और न ही पूरी तरह से स्वायत्त हथियार हैं, जिसका मतलब है कि अगर मशीन किसी को मारने जा रही है तो वे लूप में एक इंसान चाहते हैं।” “भले ही यह तकनीक एकदम सही थी – जो कि यह नहीं है – मुझे लगता है कि अधिकांश अमेरिकी ऐसी मशीनें नहीं चाहते हैं जो अमेरिका में बिना मानव निरीक्षण के लोगों को मारें, जो एआई-संचालित जन निगरानी राज्य बन गया है।”
