फेसबुक का एक पूर्व अंदरूनी सूत्र एआई युग में मेटा-ग्रेड सामग्री मॉडरेशन ला रहा है। मूनबाउंस ने अपने एआई नियंत्रण इंजन को स्केल करने के लिए 12 मिलियन डॉलर का फंडिंग राउंड बंद कर दिया है जो पारंपरिक सामग्री नीतियों को पूर्वानुमानित, स्वचालित एआई रेलिंग में बदल देता है। जैसे-जैसे कंपनियां एआई सहायकों और चैटबॉट्स को तैनात करने में जल्दबाजी कर रही हैं, स्टार्टअप यह शर्त लगा रहा है कि उद्यम विश्वास और सुरक्षा बुनियादी ढांचा स्वयं मॉडल जितना ही महत्वपूर्ण हो जाएगा।
मून बाउंस सोशल मीडिया दिग्गजों से कंटेंट मॉडरेशन प्लेबुक को जेनेरिक एआई युग में ला रहा है, और निवेशकों ने सिर्फ 12 मिलियन डॉलर की शर्त लगाई है कि यह काम करेगा। स्टार्टअप ने अपने सीरीज़ ए राउंड की घोषणा की, क्योंकि एआई सहायक, चैटबॉट और स्वचालित सिस्टम तैनात करने वाली कंपनियां एक गड़बड़ वास्तविकता से जूझ रही हैं – उनके एआई मॉडल सामग्री नीतियों का पालन नहीं करते हैं जिस तरह से मनुष्य करते हैं।
समय इससे अधिक तीव्र नहीं हो सका. जबकि मेटा, गूगलऔर अन्य तकनीकी दिग्गजों ने उपयोगकर्ता-जनित सामग्री के लिए परिष्कृत विश्वास और सुरक्षा प्रणालियों के निर्माण में दशकों बिताए, वर्तमान एआई बूम ने अधिकांश उद्यमों को निराश कर दिया। स्टार्टअप और स्थापित कंपनियां समान रूप से अल्पविकसित रेलिंग के साथ एआई उत्पादों की शिपिंग कर रही हैं, उम्मीद है कि कुछ भी भयावह रूप से गलत नहीं होगा।
मूनबाउंस के संस्थापक, जो पहले अंदर काम करते थे मेटा का सामग्री मॉडरेशन अवसंरचना ने इस अंतर को प्रत्यक्ष रूप से देखा। कंपनी की मूल अंतर्दृष्टि भ्रामक रूप से सरल है – सोशल मीडिया को नियंत्रित करने वाले जटिल नीति ढांचे को मशीन-पठनीय नियमों में अनुवाद करें जिन्हें एआई सिस्टम लगातार लागू कर सकते हैं। यह 50-पृष्ठ सामग्री नीति दस्तावेज़ लिखने और वास्तव में लाखों इंटरैक्शन में वास्तविक समय में इसका पालन करने के लिए एआई प्राप्त करने के बीच का अंतर है।
प्लेटफ़ॉर्म एक नियंत्रण परत के रूप में काम करता है जो कंपनियों के एआई मॉडल और उनके अंतिम उपयोगकर्ताओं के बीच बैठता है। जब कोई व्यवसाय परिभाषित करता है कि कौन सी सामग्री स्वीकार्य है – चाहे वह वित्तीय सलाह को फ़िल्टर करना हो, कुछ राजनीतिक विषयों को अवरुद्ध करना हो, या एआई को वास्तविक लोगों के रूप में भूमिका निभाने से रोकना हो – मूनबाउंस उन नीतियों को तकनीकी रेलिंग में बदल देता है। इसके बाद सिस्टम वास्तविक समय में एआई आउटपुट की निगरानी करता है और उपयोगकर्ताओं तक पहुंचने से पहले उल्लंघन को पकड़ लेता है।
यह मायने रखता है क्योंकि वर्तमान एआई मॉडल बेहद असंगत हैं। पूछना एक ही संवेदनशील प्रश्न तीन अलग-अलग तरीकों से होता है और आपको तीन अलग-अलग प्रतिक्रियाएँ मिल सकती हैं – एक आज्ञाकारी, एक सीमा रेखा, एक पूरी तरह से पटरी से उतरना। ग्राहक-सामना वाले एआई को तैनात करने वाले उद्यमों के लिए, यह असंगतता कानूनी दायित्व, ब्रांड जोखिम और नियामक सिरदर्द का प्रतिनिधित्व करती है।
