एंथ्रोपिक का स्व-नियमन जाल: जब वादे पर्याप्त नहीं होते

anthropic कठोर स्व-शासन का वादा करते हुए, जिम्मेदार एआई विकास पर अपना ब्रांड बनाया ओपनएआई और गूगल डीपमाइंड इसी तरह की प्रतिज्ञाएँ कीं। लेकिन वह रणनीति शानदार ढंग से उलटी पड़ गई। कोई संघीय एआई नियम लागू नहीं होने और पेंटागन अनुबंधों से लेकर वाणिज्यिक तैनाती निर्णयों तक दबाव बढ़ने के कारण, ये कंपनियां अब अपने समर्थन के लिए शून्य कानूनी ढांचे के साथ खुद को नैतिक रुख का बचाव करती हुई पाती हैं। जिन नियमों की उन्होंने कभी वकालत की थी उनकी अनुपस्थिति उनकी सबसे बड़ी कमजोरी बन गई है।

anthropic सह-संस्थापक डेरियो और डेनिएला अमोदेई अलग हो गए ओपनएआई 2021 में एक मिशन के साथ जो बुलेटप्रूफ लगता है: स्वैच्छिक प्रतिबद्धताओं और पारदर्शी शासन के माध्यम से सुरक्षित एआई का निर्माण करना। वे अकेले नहीं थे. गूगल डीपमाइंड, ओपनएआईऔर यहां तक ​​कि एक्सएआई एआई सुरक्षा चिंताओं के उत्तर के रूप में सार्वजनिक रूप से स्व-नियमन को अपनाया, यह तर्क देते हुए कि फुर्तीली आंतरिक नीतियां अनाड़ी सरकारी आदेशों से आगे निकल जाएंगी।

सैमसंग ने 2030 तक वैश्विक कारखानों को बदलने के लिए एजेंटिक एआई पर दांव लगाया है

वह दांव तेजी से सुलझ रहा है. रक्षा अनुबंधों और वाणिज्यिक साझेदारियों पर हालिया प्रतिक्रिया से पता चलता है कि क्या होता है जब कंपनियां नियामकीय शक्तियों के बिना अपनी स्वयं की नैतिक लाल रेखाओं को लागू करने की कोशिश करती हैं। के अनुसार टेकक्रंच की रिपोर्टिंगउद्योग को अब अपने ही बनाए जाल का सामना करना पड़ रहा है – ऐसे वादे जो धन जुटाने में अच्छे लगते हैं लेकिन निवेशकों, ग्राहकों और प्रतिस्पर्धियों के वास्तविक दुनिया के दबाव में टूट जाते हैं।

पेंटागन विवाद ने समस्या को और स्पष्ट कर दिया है। कब anthropic कथित तौर पर कुछ सैन्य एआई परियोजनाओं को अस्वीकार करने के लिए रक्षा ब्लैकलिस्ट पर उतरा, इसने इस बात पर तीखी बहस छेड़ दी कि क्या एआई कंपनियां ऐसे बाजार में सिद्धांतों को बर्दाश्त कर सकती हैं जहां ओपनएआई और अन्य लोग सरकारी ठेकों की ओर दौड़ते हैं। एमआईटी भौतिक विज्ञानी मैक्स टेगमार्क, जो एक मुखर एआई सुरक्षा समर्थक हैं, ने बार-बार चेतावनी दी है कि स्वैच्छिक प्रतिबद्धताएं उस क्षण समाप्त हो जाती हैं जब वे राजस्व के साथ संघर्ष करती हैं। भविष्यवाणी वास्तविक समय में चल रही है।