अमेज़ॅन के सीईओ ने शटडाउन से पहले मानव सुरक्षा जोखिमों को चिह्नित किया

कॉर्पोरेट प्रशासन के निहितार्थ गहरे हैं। एंथ्रोपिक में अमेज़ॅन के बड़े निवेश से ई-कॉमर्स दिग्गज और एआई की सबसे प्रमुख सुरक्षा-केंद्रित कंपनियों में से एक के बीच रणनीतिक गठबंधन को मजबूत किया जाना था। इसके बजाय, मॉडल सुरक्षा पर मूलभूत असहमति के कारण संबंध अब तनावपूर्ण दिखाई दे रहे हैं। उद्योग पर्यवेक्षकों का कहना है कि बेडरॉक और क्यू जैसी सेवाओं के माध्यम से अमेज़ॅन की अपनी एआई महत्वाकांक्षाएं हैं, जिससे यह सवाल उठता है कि क्या प्रतिस्पर्धी विचारों ने जेसी के चिंताओं को दूर करने के निर्णय में कोई भूमिका निभाई है।

anthropic यह सुनिश्चित किया गया है कि वह सभी सुरक्षा चिंताओं को उनके स्रोत की परवाह किए बिना गंभीरता से लेता है। संस्थापक डारियो और डेनिएला अमोदेई के चले जाने के बाद से एआई सुरक्षा के प्रति कंपनी की प्रतिबद्धता उसके ब्रांड के केंद्र में रही है ओपनएआई 2021 में उद्यम शुरू करने के लिए। लेकिन दो प्रमुख मॉडलों को जबरन बंद करना उस कंपनी के लिए एक अभूतपूर्व झटका दर्शाता है जिसने खुद को एआई विकास में जिम्मेदार विकल्प के रूप में स्थापित किया है।

यह घटना इस बात को लेकर बढ़ते तनाव को उजागर करती है कि एआई सुरक्षा निर्णय कौन लेगा। क्या अमेज़न जैसे निवेशकों को अपनी पोर्टफोलियो कंपनियों के बारे में चिंताएँ उठाने के लिए सरकारी अधिकारियों से सीधी बातचीत करनी चाहिए? क्या क्लाउड इन्फ्रास्ट्रक्चर प्रदाता की विशेष जिम्मेदारियां होती हैं जब वह संभावित जोखिम भरे एआई सिस्टम को होस्ट करता है? ये प्रश्न अब वाशिंगटन में नीतिगत बहस के केंद्र में हैं।

प्रतिस्पर्धी बारीकी से देख रहे हैं। ओपनएआई और गूगल दोनों को अपने-अपने सुरक्षा विवादों का सामना करना पड़ा है, लेकिन किसी को भी सरकार द्वारा आदेशित मॉडल शटडाउन का अनुभव नहीं हुआ है। यह मिसाल भविष्य में एआई कंपनियों द्वारा अपने प्रमुख निवेशकों और क्लाउड प्रदाताओं के साथ बातचीत करने के तरीके को नया रूप दे सकती है। कुछ उद्योग के अंदरूनी सूत्रों की चिंता है कि यह कंपनियों के लिए अपने स्वयं के समर्थकों के साथ पारदर्शिता को सीमित करने के लिए विकृत प्रोत्साहन पैदा करता है।

जस्सी की चिंताओं की तकनीकी प्रकृति अस्पष्ट बनी हुई है। एन्थ्रोपिक ने कल्पित 5 या मिथोस 5 में विशिष्ट कमजोरियों का खुलासा नहीं किया है, और सरकारी अधिकारी भी समान रूप से चुप्पी साधे हुए हैं। यह अस्पष्टता एआई शोधकर्ताओं को निराश करती है जो तर्क देते हैं कि समुदाय को यह आकलन करने के लिए अधिक जानकारी की आवश्यकता है कि क्या शटडाउन उचित था या नियामक अतिरेक का प्रतिनिधित्व करता है।

आगे जो होगा वह महत्वपूर्ण मिसाल कायम करेगा। एंथ्रोपिक को सरकारी समीक्षकों को संतुष्ट करना होगा कि जेस्सी ने जो भी सुरक्षा मुद्दे पहचाने थे, उसका समाधान कर दिया है। अमेज़ॅन को एक पोर्टफोलियो कंपनी के साथ अपने संबंधों को आगे बढ़ाना चाहिए जिसका नेतृत्व अब निवेशक को संदेह की दृष्टि से देख सकता है। और नियामकों को यह तय करना होगा कि जेसी प्लेबुक – प्रमुख निवेशक सीधे सरकार को चिंताएं व्यक्त करते हैं – एआई सुरक्षा प्रशासन के लिए नया सामान्य बन जाता है।

सिरी एक अंतिम समस्या है, मुझे एक बड़ी समस्या का सामना करना पड़ा

हिस्सेदारी एक कंपनी या मॉडलों के एक समूह से आगे तक फैली हुई है। जैसे-जैसे एआई सिस्टम अधिक शक्तिशाली होते जा रहे हैं और महत्वपूर्ण बुनियादी ढांचे में अधिक गहराई से अंतर्निहित होते जा रहे हैं, आपातकालीन ब्रेक कौन खींच सकता है, यह सवाल अस्तित्व में आ गया है। शुक्रवार के शटडाउन से पता चलता है कि प्रमुख क्लाउड प्रदाताओं और निवेशकों का भी उतना ही अधिकार हो सकता है जितना कि वास्तव में मॉडल बनाने वाली कंपनियों का।

अमेज़ॅन-एंथ्रोपिक गाथा से पता चलता है कि एआई सुरक्षा निर्णयों में अब प्रतिस्पर्धी हितों वाली कंपनियों, निवेशकों और सरकारी अधिकारियों का एक जटिल वेब शामिल है। एंथ्रोपिक शटडाउन को शुरू करने में जेसी की कथित भूमिका एआई विकास में कॉर्पोरेट प्रशासन के बारे में बुनियादी सवालों को उजागर करती है जिसका जवाब उद्योग ने मुश्किल से देना शुरू किया है। जैसे-जैसे मॉडल अधिक शक्तिशाली होते जाएंगे और निवेश बड़ा होता जाएगा, ये तनाव और भी तीव्र होते जाएंगे। अगले कुछ सप्ताह दिखाएंगे कि क्या अमेज़ॅन और एंथ्रोपिक अपने रिश्ते को सुधार सकते हैं, लेकिन बड़ा सवाल यह है कि क्या एआई विकास की वर्तमान संरचना – जहां क्लाउड प्रदाता, निवेशक, बिल्डर और नियामक सभी सुरक्षा पहेली के टुकड़े रखते हैं – बिल्कुल टिकाऊ है।