कैम्पबेल ब्राउन कमरे में उस हाथी के बारे में बात करना चाहते हैं जिसे सिलिकॉन वैली नजरअंदाज करती रहती है। पूर्व मेटा समाचार प्रमुख से निवेशक बने एक बुनियादी डिस्कनेक्ट पर अलार्म बजा रहे हैं – जबकि तकनीकी कंपनियां अधिक शक्तिशाली एआई सिस्टम बनाने की होड़ में हैं, उपभोक्ता एक पूरी तरह से अलग सवाल पूछ रहे हैं: कौन तय करता है कि ये सिस्टम हमें क्या बताते हैं? ब्राउन अब एक तनावग्रस्त स्थिति में है लेरर हिप्पोप्लेटफ़ॉर्म की सबसे अशांत सामग्री मॉडरेशन लड़ाइयों के दौरान मेटा की समाचार साझेदारी को प्रबंधित करने के अपने वर्षों से गहराई से जानती है।
कैंपबेल ब्राउन ने सामग्री मॉडरेशन की सबसे खराब लड़ाई की खाइयों में वर्षों बिताए। जैसा मेटा2017 से 2021 तक समाचार साझेदारी के प्रमुख के रूप में, उन्होंने फर्जी समाचार विवादों, प्रकाशक संबंधों और इस अंतहीन बहस को सुलझाया कि अरबों लोग अपने फ़ीड में क्या देखते हैं, इसका निर्णय कौन करेगा। अब वह सिलिकॉन वैली को एआई के साथ उसी बहस में उलझते हुए देख रही है, और उसे एक चेतावनी मिली है जिसे कोई भी नहीं सुन रहा है।
ब्राउन ने बताया, “सिलिकॉन वैली में एक चीज़ को लेकर बातचीत हो रही है और उपभोक्ताओं के बीच बिल्कुल अलग बातचीत हो रही है।” टेकक्रंच एक नये साक्षात्कार में. यह उन लोगों के लिए एक परिचित पैटर्न है जो फेसबुक समाचार फ़ीड युद्धों से गुज़रे हैं, लेकिन अब जोखिम तेजी से बढ़ गए हैं।
जबकि कंपनियां पसंद करती हैं ओपनएआई, anthropicऔर गूगल तेज़, स्मार्ट, अधिक सक्षम मॉडल बनाने की होड़ में, रोज़मर्रा के उपयोगकर्ता विश्वास और नियंत्रण के बारे में अधिक बुनियादी प्रश्न पूछ रहे हैं। यह कौन तय करता है कि एआई चैटबॉट किन स्रोतों को उद्धृत करता है? एआई-जनरेटेड सारांशों को कौन से संपादकीय मानक नियंत्रित करते हैं? जब चैटजीपीटी या जेमिनी राजनीति, स्वास्थ्य, या ब्रेकिंग न्यूज के बारे में किसी प्रश्न का उत्तर देते हैं, तो गलत होने पर कौन जिम्मेदार है?
ब्राउन इन सवालों को गहराई से जानती है क्योंकि वह पहले ही ये लड़ाई एक अलग क्षेत्र में लड़ चुकी है। मेटा में उनका कार्यकाल 2016 के चुनावी नतीजों, कैम्ब्रिज एनालिटिका घोटाले और समाचार प्रकाशकों के साथ मंच के चट्टानी संबंधों के साथ मेल खाता था, जो एक साथ फेसबुक के एल्गोरिदम पर निर्भर और शोषण महसूस करते थे। उन्होंने फेसबुक न्यूज़ लॉन्च किया, न्यूयॉर्क टाइम्स से लेकर स्थानीय न्यूज़रूम तक के आउटलेट्स के साथ साझेदारी की, और ट्रैफ़िक की मांग करने वाले प्रकाशकों और भरोसेमंद जानकारी की मांग करने वाले उपयोगकर्ताओं दोनों को संतुष्ट करने के असंभव कार्य से जूझती रहीं।
अब से संचालित हो रहा है लेरर हिप्पोन्यूयॉर्क स्थित उद्यम फर्म, और के साथ काम कर रहे हैं फोरम ए.आईब्राउन कड़ी मेहनत से हासिल किए गए उन सबक को एआई गवर्नेंस क्षेत्र में लागू कर रहा है। समय इससे अधिक महत्वपूर्ण नहीं हो सकता। सूचना खोज के लिए एआई सिस्टम तेजी से प्रायोगिक उपकरणों से डिफ़ॉल्ट इंटरफेस की ओर बढ़ रहे हैं, और उद्योग सोशल मीडिया की कई शुरुआती गलतियों को दोहरा रहा है।
मेटा के प्रक्षेपवक्र के समानांतर हड़ताली है। सामग्री मॉडरेशन की ज़िम्मेदारी अनिच्छा से स्वीकार करने से पहले, फेसबुक ने वर्षों तक इस बात पर जोर दिया कि वह एक मीडिया कंपनी नहीं, बल्कि एक तटस्थ प्रौद्योगिकी मंच है। एआई कंपनियां अब दावा कर रही हैं कि उनके मॉडल तटस्थ सूचना सिंथेसाइज़र हैं, साथ ही प्रशिक्षण डेटा, स्रोत प्राथमिकताकरण और आउटपुट फ़िल्टरिंग के बारे में अनगिनत संपादकीय निर्णय ले रहे हैं। ब्राउन ने पहले भी यह फिल्म देखी है, और वह जानती है कि इसका अंत कैसे होता है।
अंदरूनी ज्ञान और बाहरी आलोचना का संयोजन उनके दृष्टिकोण को विशेष रूप से मूल्यवान बनाता है। वह इन प्रणालियों को आकार देने वाली तकनीकी बाधाओं और व्यावसायिक दबावों को समझती है, लेकिन उसने यह भी प्रत्यक्ष रूप से देखा है कि कैसे सिलिकॉन वैली की प्राथमिकताओं और सार्वजनिक चिंताओं के बीच का अंतर संकट में बदल सकता है। गलत सूचना संबंधी चिंताओं पर मेटा की धीमी प्रतिक्रिया से कंपनी को अरबों बाजार पूंजीकरण का नुकसान हुआ और इसकी प्रतिष्ठा को स्थायी रूप से नुकसान पहुंचा।
उद्यम के निहितार्थ बड़े पैमाने पर हैं। ग्राहक सेवा, आंतरिक ज्ञान प्रबंधन और निर्णय समर्थन प्रणालियों में एआई को एकीकृत करने वाली कंपनियों को ये सभी अनसुलझे शासन प्रश्न विरासत में मिल रहे हैं। यदि कोई एआई सहायक कर्मचारियों को कंपनी की नीति के बारे में गलत जानकारी देता है या कोई चैटबॉट ग्राहकों को खराब चिकित्सा सलाह प्रदान करता है, तो कौन उत्तरदायी है? कौन से ऑडिट ट्रेल्स मौजूद हैं? आप एक बड़े भाषा मॉडल की तर्क प्रक्रिया को कैसे डिबग करते हैं?
ब्राउन का ध्यान किस पर है? फोरम ए.आई सुझाव है कि वह इसे एक समाधान योग्य बुनियादी ढांचे की समस्या के रूप में देखती है, न कि एक अघुलनशील दार्शनिक समस्या के रूप में। कंपनी एआई गवर्नेंस और सामग्री सत्यापन के लिए उपकरण बना रही है, इस तरह की पाइपलाइन जो सिलिकॉन वैली की क्षमताओं और उपभोक्ताओं की अपेक्षाओं के बीच अंतर को पाटने में मदद कर सकती है। नवीनतम फ्रंटियर मॉडल घोषणा की तुलना में यह निश्चित रूप से असेक्सी है, लेकिन यह अधिक महत्वपूर्ण हो सकता है।
निवेश समुदाय ध्यान देना शुरू कर रहा है। लेरर हिप्पो एआई बुनियादी ढांचे और शासन क्षेत्र में कई कंपनियों का समर्थन किया है, यह शर्त लगाते हुए कि एआई तैनाती पैमाने के रूप में अनुपालन, सत्यापन और जवाबदेही बड़े बाजार होंगे। वे शायद सही हैं – प्रत्येक उद्यम सीआईओ अभी ये प्रश्न पूछ रहा है, और किसी के पास अभी तक अच्छे उत्तर नहीं हैं।
दिलचस्प बात यह है कि ब्राउन की समाचार पृष्ठभूमि उसे इस क्षण के लिए किस प्रकार बिल्कुल उपयुक्त बनाती है। बड़े पैमाने पर सामग्री मॉडरेशन, स्रोत सत्यापन, संपादकीय मानक, जवाबदेही ढांचे – ये पत्रकारिता की समस्याएं हैं जो मंच की समस्याएं बन गईं जो अब एआई समस्याएं बन रही हैं। तकनीकी उद्योग यह पुनः खोजता रहता है कि आप तटस्थ सूचना प्रणाली का निर्माण नहीं कर सकते क्योंकि सभी सूचना प्रणालियाँ इस बारे में विकल्प निर्धारित करती हैं कि क्या मायने रखता है, क्या सच है और किसे सुना जाता है।
सिलिकॉन वैली का वर्तमान दृष्टिकोण तकनीकी क्षमताओं पर ध्यान केंद्रित करना है – बेहतर मॉडल, तेज़ अनुमान, अधिक पैरामीटर – जबकि शासन को बाद में हल किए जाने वाले विचार के रूप में माना जाता है। लेकिन जैसा कि ब्राउन ने बताया, उपभोक्ता पहले से ही शासन व्यवस्था को लेकर चिंतित हैं। वे जानना चाहते हैं कि उनके एआई की प्रोग्रामिंग कौन कर रहा है, इसमें क्या पूर्वाग्रह हैं और क्या वे इस पर भरोसा कर सकते हैं। वियोग कम नहीं हो रहा है; यह चौड़ा हो रहा है.
ब्राउन की चेतावनी एक महत्वपूर्ण मोड़ पर पहुँची है। एआई सिस्टम खोज, ग्राहक सेवा, शिक्षा और उद्यम ज्ञान प्रबंधन में जानकारी के लिए डिफ़ॉल्ट इंटरफ़ेस बन रहे हैं। एआई हमें जो बताता है, उसका निर्णय कौन करता है, यह सवाल अब सैद्धांतिक नहीं रह गया है – यह प्रतिदिन लाखों इंटरैक्शन में चल रहा है। जो कंपनियाँ पारदर्शी, जवाबदेह शासन ढाँचे का पता लगाती हैं, उन्हें उन कंपनियों की तुलना में भारी लाभ होगा जो इसे बाद में प्रबंधित की जाने वाली पीआर समस्या के रूप में मानती हैं। ब्राउन ने अपने पोस्ट-मेटा करियर पर दांव लगाया है, और सोशल मीडिया दिग्गज के अंदर उसने जो देखा, उसे देखते हुए यह ध्यान देने योग्य संकेत है। सिलिकॉन वैली और उपभोक्ताओं के बीच बातचीत का अंतर अपने आप खत्म नहीं होगा, और यह जितना लंबे समय तक बना रहेगा, उतनी अधिक संभावना है कि हम एआई को उसी नियामक और प्रतिष्ठित प्रतिक्रिया का सामना करते हुए देखेंगे जिसने सोशल मीडिया को नया रूप दिया है।
