एआई आपको क्या बताता है इसका निर्णय कौन करता है? कैम्पबेल ब्राउन, जो कभी मेटा के समाचार प्रमुख थे, के विचार हैं

अब से संचालित हो रहा है लेरर हिप्पोन्यूयॉर्क स्थित उद्यम फर्म, और के साथ काम कर रहे हैं फोरम ए.आईब्राउन कड़ी मेहनत से हासिल किए गए उन सबक को एआई गवर्नेंस क्षेत्र में लागू कर रहा है। समय इससे अधिक महत्वपूर्ण नहीं हो सकता। सूचना खोज के लिए एआई सिस्टम तेजी से प्रायोगिक उपकरणों से डिफ़ॉल्ट इंटरफेस की ओर बढ़ रहे हैं, और उद्योग सोशल मीडिया की कई शुरुआती गलतियों को दोहरा रहा है।

मेटा के प्रक्षेपवक्र के समानांतर हड़ताली है। सामग्री मॉडरेशन की ज़िम्मेदारी अनिच्छा से स्वीकार करने से पहले, फेसबुक ने वर्षों तक इस बात पर जोर दिया कि वह एक मीडिया कंपनी नहीं, बल्कि एक तटस्थ प्रौद्योगिकी मंच है। एआई कंपनियां अब दावा कर रही हैं कि उनके मॉडल तटस्थ सूचना सिंथेसाइज़र हैं, साथ ही प्रशिक्षण डेटा, स्रोत प्राथमिकताकरण और आउटपुट फ़िल्टरिंग के बारे में अनगिनत संपादकीय निर्णय ले रहे हैं। ब्राउन ने पहले भी यह फिल्म देखी है, और वह जानती है कि इसका अंत कैसे होता है।

अंदरूनी ज्ञान और बाहरी आलोचना का संयोजन उनके दृष्टिकोण को विशेष रूप से मूल्यवान बनाता है। वह इन प्रणालियों को आकार देने वाली तकनीकी बाधाओं और व्यावसायिक दबावों को समझती है, लेकिन उसने यह भी प्रत्यक्ष रूप से देखा है कि कैसे सिलिकॉन वैली की प्राथमिकताओं और सार्वजनिक चिंताओं के बीच का अंतर संकट में बदल सकता है। गलत सूचना संबंधी चिंताओं पर मेटा की धीमी प्रतिक्रिया से कंपनी को अरबों बाजार पूंजीकरण का नुकसान हुआ और इसकी प्रतिष्ठा को स्थायी रूप से नुकसान पहुंचा।

उद्यम के निहितार्थ बड़े पैमाने पर हैं। ग्राहक सेवा, आंतरिक ज्ञान प्रबंधन और निर्णय समर्थन प्रणालियों में एआई को एकीकृत करने वाली कंपनियों को ये सभी अनसुलझे शासन प्रश्न विरासत में मिल रहे हैं। यदि कोई एआई सहायक कर्मचारियों को कंपनी की नीति के बारे में गलत जानकारी देता है या कोई चैटबॉट ग्राहकों को खराब चिकित्सा सलाह प्रदान करता है, तो कौन उत्तरदायी है? कौन से ऑडिट ट्रेल्स मौजूद हैं? आप एक बड़े भाषा मॉडल की तर्क प्रक्रिया को कैसे डिबग करते हैं?

ब्राउन का ध्यान किस पर है? फोरम ए.आई सुझाव है कि वह इसे एक समाधान योग्य बुनियादी ढांचे की समस्या के रूप में देखती है, न कि एक अघुलनशील दार्शनिक समस्या के रूप में। कंपनी एआई गवर्नेंस और सामग्री सत्यापन के लिए उपकरण बना रही है, इस तरह की पाइपलाइन जो सिलिकॉन वैली की क्षमताओं और उपभोक्ताओं की अपेक्षाओं के बीच अंतर को पाटने में मदद कर सकती है। नवीनतम फ्रंटियर मॉडल घोषणा की तुलना में यह निश्चित रूप से असेक्सी है, लेकिन यह अधिक महत्वपूर्ण हो सकता है।

निवेश समुदाय ध्यान देना शुरू कर रहा है। लेरर हिप्पो एआई बुनियादी ढांचे और शासन क्षेत्र में कई कंपनियों का समर्थन किया है, यह शर्त लगाते हुए कि एआई तैनाती पैमाने के रूप में अनुपालन, सत्यापन और जवाबदेही बड़े बाजार होंगे। वे शायद सही हैं – प्रत्येक उद्यम सीआईओ अभी ये प्रश्न पूछ रहा है, और किसी के पास अभी तक अच्छे उत्तर नहीं हैं।

Apple ने अमेरिकी सरकार से CXMT DRAM खरीदने की अनुमति मांगी

दिलचस्प बात यह है कि ब्राउन की समाचार पृष्ठभूमि उसे इस क्षण के लिए किस प्रकार बिल्कुल उपयुक्त बनाती है। बड़े पैमाने पर सामग्री मॉडरेशन, स्रोत सत्यापन, संपादकीय मानक, जवाबदेही ढांचे – ये पत्रकारिता की समस्याएं हैं जो मंच की समस्याएं बन गईं जो अब एआई समस्याएं बन रही हैं। तकनीकी उद्योग यह पुनः खोजता रहता है कि आप तटस्थ सूचना प्रणाली का निर्माण नहीं कर सकते क्योंकि सभी सूचना प्रणालियाँ इस बारे में विकल्प निर्धारित करती हैं कि क्या मायने रखता है, क्या सच है और किसे सुना जाता है।

सिलिकॉन वैली का वर्तमान दृष्टिकोण तकनीकी क्षमताओं पर ध्यान केंद्रित करना है – बेहतर मॉडल, तेज़ अनुमान, अधिक पैरामीटर – जबकि शासन को बाद में हल किए जाने वाले विचार के रूप में माना जाता है। लेकिन जैसा कि ब्राउन ने बताया, उपभोक्ता पहले से ही शासन व्यवस्था को लेकर चिंतित हैं। वे जानना चाहते हैं कि उनके एआई की प्रोग्रामिंग कौन कर रहा है, इसमें क्या पूर्वाग्रह हैं और क्या वे इस पर भरोसा कर सकते हैं। वियोग कम नहीं हो रहा है; यह चौड़ा हो रहा है.

ब्राउन की चेतावनी एक महत्वपूर्ण मोड़ पर पहुँची है। एआई सिस्टम खोज, ग्राहक सेवा, शिक्षा और उद्यम ज्ञान प्रबंधन में जानकारी के लिए डिफ़ॉल्ट इंटरफ़ेस बन रहे हैं। एआई हमें जो बताता है, उसका निर्णय कौन करता है, यह सवाल अब सैद्धांतिक नहीं रह गया है – यह प्रतिदिन लाखों इंटरैक्शन में चल रहा है। जो कंपनियाँ पारदर्शी, जवाबदेह शासन ढाँचे का पता लगाती हैं, उन्हें उन कंपनियों की तुलना में भारी लाभ होगा जो इसे बाद में प्रबंधित की जाने वाली पीआर समस्या के रूप में मानती हैं। ब्राउन ने अपने पोस्ट-मेटा करियर पर दांव लगाया है, और सोशल मीडिया दिग्गज के अंदर उसने जो देखा, उसे देखते हुए यह ध्यान देने योग्य संकेत है। सिलिकॉन वैली और उपभोक्ताओं के बीच बातचीत का अंतर अपने आप खत्म नहीं होगा, और यह जितना लंबे समय तक बना रहेगा, उतनी अधिक संभावना है कि हम एआई को उसी नियामक और प्रतिष्ठित प्रतिक्रिया का सामना करते हुए देखेंगे जिसने सोशल मीडिया को नया रूप दिया है।