एआई के नकारात्मक प्रभावों का अध्ययन करने की एंथ्रोपिक की खोज दबाव में है

आज मैं बात कर रहा हूं कगार वरिष्ठ एआई रिपोर्टर हेडन फील्ड ने एआई का अध्ययन करने और यह निर्णय लेने के लिए जिम्मेदार कुछ लोगों के बारे में बताया कि यह किस तरह से दुनिया को बर्बाद कर सकता है। वे लोग एंथ्रोपिक में सोशल इम्पैक्ट्स टीम नामक एक समूह के हिस्से के रूप में काम करते हैं, जिसके साथ हेडन ने इस सप्ताह प्रकाशित एक प्रोफ़ाइल के लिए समय बिताया था।

टीम में एंथ्रोपिक में काम करने वाले 2,000 से अधिक लोगों में से केवल नौ लोग हैं। उनका एकमात्र काम, जैसा कि टीम के सदस्य स्वयं कहते हैं, “असुविधाजनक सत्य” की जांच करना और उद्धरण प्रकाशित करना है कि लोग एआई टूल का उपयोग कैसे कर रहे हैं, चैटबॉट हमारे मानसिक स्वास्थ्य के लिए क्या कर रहे हैं, और यह सब श्रम बाजार, अर्थव्यवस्था और यहां तक ​​​​कि हमारे चुनावों पर कैसे व्यापक प्रभाव डाल सकता है।

निःसंदेह यह अनेक समस्याओं को जन्म देता है। सबसे महत्वपूर्ण यह है कि क्या यह टीम स्वतंत्र रह सकती है, या अस्तित्व में भी रह सकती है, क्योंकि यह एंथ्रोपिक के अपने उत्पादों के बारे में उन निष्कर्षों का प्रचार करती है जो अप्रिय या राजनीतिक रूप से खतरनाक हो सकते हैं। आख़िरकार, सामान्य रूप से एआई उद्योग और विशेष रूप से एंथ्रोपिक पर ट्रम्प प्रशासन के अनुरूप होने का बहुत दबाव है, जिसने जुलाई में तथाकथित “वोक एआई” पर प्रतिबंध लगाने के लिए एक कार्यकारी आदेश दिया था।

यदि आप तकनीकी उद्योग का अनुसरण कर रहे हैं, तो इस कहानी की रूपरेखा परिचित लगेगी। हमने इसे हाल ही में सोशल मीडिया कंपनियों और सामग्री मॉडरेशन के लिए जिम्मेदार ट्रस्ट और सुरक्षा टीमों के साथ देखा है। मेटा इसके अनगिनत चक्रों से गुज़रा, जहां इसने अपने पैमाने और फेसबुक और इंस्टाग्राम जैसे उत्पादों की अप्रत्याशित प्रकृति द्वारा बनाई गई समस्याओं को हल करने के लिए संसाधन समर्पित किए। और फिर, थोड़ी देर के बाद, ऐसा लगता है जैसे संसाधन सूख गए, या मार्क जुकरबर्ग ऊब गए या एमएमए में अधिक दिलचस्पी लेने लगे या बस ट्रम्प के साथ तालमेल बिठाने लगे, और शोध ने जो दिखाया उसे प्रतिबिंबित करने के लिए उत्पाद वास्तव में नहीं बदले।

हम अभी उन क्षणों में से एक से गुजर रहे हैं। सोशल प्लेटफ़ॉर्म ने चुनावी अखंडता और सामग्री मॉडरेशन के अन्य रूपों में निवेश कम कर दिया है। इस बीच, सिलिकॉन वैली ट्रंप व्हाइट हाउस के साथ मिलकर काम कर रही है एआई को विनियमित करने के सार्थक प्रयासों का विरोध करें. तो जैसा कि आप सुनेंगे, इसीलिए हेडन को एंथ्रोपिक की इस टीम में इतनी दिलचस्पी थी। यह इस समय उद्योग में मौलिक रूप से अद्वितीय है।

वास्तव में, सीईओ डारियो अमोदेई कितने आज्ञाकारी रहे हैं, इसकी वजह से एंथ्रोपिक एक असाधारण फिल्म है एआई विनियमन की मांग करता हैराज्य और संघीय दोनों स्तरों पर। एंथ्रोपिक को अग्रणी एआई प्रयोगशालाओं में सबसे अधिक सुरक्षा-प्रथम के रूप में भी देखा जाता है, क्योंकि इसका गठन ओपनएआई के पूर्व अनुसंधान अधिकारियों द्वारा किया गया था जो चिंतित थे कि एआई सुरक्षा के बारे में उनकी चिंताओं को गंभीरता से नहीं लिया जा रहा था। वास्तव में वहाँ है पूर्व OpenAI लोगों द्वारा गठित कई कंपनियाँ कंपनी, सैम ऑल्टमैन और एआई सुरक्षा को लेकर चिंतित हैं। यह उद्योग का एक वास्तविक विषय है जिसे एंथ्रोपिक अगले स्तर पर ले जाता दिख रहा है।

इसलिए मैंने हेडन से इन सभी दबावों के बारे में पूछा, और उद्योग के भीतर एंथ्रोपिक की प्रतिष्ठा कैसे प्रभावित कर सकती है कि सामाजिक प्रभाव टीम के कार्यों पर कैसे पड़ता है – और क्या यह वास्तव में सार्थक अध्ययन कर सकता है और शायद एआई उत्पाद विकास को भी प्रभावित कर सकता है। या, जैसा कि इतिहास से पता चलता है, यह केवल कागज़ पर अच्छा लगेगा, जब तक कि टीम चुपचाप चली न जाए। यहां बहुत कुछ है, खासकर यदि आप इस बात में रुचि रखते हैं कि एआई कंपनियां सांस्कृतिक, नैतिक और व्यावसायिक दृष्टिकोण से सुरक्षा के बारे में कैसे सोचती हैं।

एक त्वरित घोषणा: हम इस महीने के अंत में डिकोडर का साल के अंत का एक विशेष मेलबैग एपिसोड चला रहे हैं, जहां हम शो के बारे में आपके सवालों के जवाब देते हैं: हमें किससे बात करनी चाहिए, हम 2026 में किन विषयों को कवर करेंगे, आपको क्या पसंद है, आपको क्या नफरत है। यह सब। कृपया अपने प्रश्न decoder@theverge पर भेजें और हम यथासंभव अधिक से अधिक लोगों को शामिल करने की पूरी कोशिश करेंगे।

यदि आप इस एपिसोड में हमने जो चर्चा की उसके बारे में और अधिक पढ़ना चाहते हैं, तो इन लिंक को देखें:

_{इस प्रकरण के बारे में प्रश्न या टिप्पणियाँ? हमें decoder@theverge.com पर संपर्क करें। हम सचमुच हर ईमेल पढ़ते हैं!}