- ■
- ■
मुख्य मुद्दे: क्या क्लाउड को बड़े पैमाने पर घरेलू निगरानी और स्वायत्त हथियार प्रणालियों के लिए तैनात किया जा सकता है
- ■
यह संघर्ष एआई सुरक्षा प्रतिबद्धताओं और रक्षा अनुबंध राजस्व के बीच तनाव को उजागर करता है क्योंकि सैन्य एआई अपनाने में तेजी आती है
- ■
संकल्प सरकारी भागीदारी में एआई कंपनियों की नैतिक सीमाओं के लिए उद्योग में मिसाल कायम कर सकता है
anthropic और यह रक्षा विभाग एक के अनुसार, पेंटागन क्लाउड एआई का उपयोग कैसे कर सकता है, इस पर तनावपूर्ण गतिरोध में बंद हैं नई टेकक्रंच रिपोर्ट. विवाद दो विस्फोटक मुद्दों के इर्द-गिर्द घूमता है: क्या क्लाउड बड़े पैमाने पर घरेलू निगरानी प्रणालियों और स्वायत्त हथियार प्लेटफार्मों को शक्ति प्रदान कर सकता है। यह एक संघर्ष है जो एआई सुरक्षा बहस के केंद्र में है और यह इस बात के लिए मिसाल कायम कर सकता है कि एआई कंपनियां नैतिक सुरक्षा बनाए रखते हुए आकर्षक सरकारी अनुबंधों को कैसे पूरा करती हैं। यह टकराव तब हुआ है जब रक्षा एजेंसियां खुफिया और सैन्य अभियानों में बड़े भाषा मॉडल को एकीकृत करने की होड़ में हैं।
anthropicक्लाउड के पीछे एआई सुरक्षा-केंद्रित स्टार्टअप खुद को असहज स्थिति में पाता है। कंपनी ने अपने ब्रांड को जिम्मेदार एआई विकास पर बनाया है, लेकिन अब दुनिया के सबसे शक्तिशाली संगठनों में से एक के दबाव का सामना करना पड़ रहा है कि नैतिक रेखाएं कहां खींची जाएं।
के अनुसार टेकक्रंच से रिपोर्टिंगअसहमति दो विशिष्ट उपयोग के मामलों पर केन्द्रित है रक्षा विभाग जाहिर तौर पर आगे बढ़ना चाहता है: बड़े पैमाने पर घरेलू निगरानी अभियान और स्वायत्त हथियार प्रणाली। दोनों बिल्कुल उसी प्रकार के उच्च जोखिम वाले अनुप्रयोगों का प्रतिनिधित्व करते हैं जिनके बारे में एआई सुरक्षा अधिवक्ताओं ने वर्षों से चेतावनी दी है।
एंथ्रोपिक ने खुद को प्रतिस्पर्धियों के मुकाबले अधिक सतर्क विकल्प के रूप में स्थापित किया है ओपनएआई और गूगल का मिथुन. कंपनी ने हानिरहितता और पारदर्शिता पर जोर देते हुए अपना “संवैधानिक एआई” ढांचा प्रकाशित किया, और सीईओ डारियो अमोदेई ने बार-बार एआई सुरक्षा अनुसंधान के महत्व पर जोर दिया है। लेकिन जब सरकारी अनुबंध सामने आते हैं तो सिद्धांत वास्तविकता से मिलते हैं।
बड़े भाषा मॉडलों में पेंटागन की रुचि आश्चर्यजनक नहीं है। रक्षा एजेंसियां खुफिया विश्लेषण से लेकर लॉजिस्टिक्स तक हर चीज के लिए एआई को महत्वपूर्ण बुनियादी ढांचे के रूप में देखती हैं। जबकि, पहले से ही अपने एज़्योर गवर्नमेंट क्लाउड के माध्यम से सेना को एआई सेवाएं प्रदान करता है रक्षा और ख़ुफ़िया अनुबंधों पर एक साम्राज्य खड़ा किया है। सवाल यह नहीं है कि क्या सेना एआई का उपयोग करेगी, बल्कि सवाल यह है कि किन बाधाओं के तहत।
