टम्बलर का एआई मॉडरेशन दुष्ट हो गया, बड़े पैमाने पर उपयोगकर्ताओं पर प्रतिबंध लगा दिया गया

टम्बलर की स्वचालित मॉडरेशन प्रणाली बुधवार को खराब हो गई, जिससे बिना स्पष्ट स्पष्टीकरण के एक ही दोपहर में दर्जनों उपयोगकर्ता खातों पर प्रतिबंध लगा दिया गया। कई उपयोगकर्ताओं द्वारा ट्रांस महिलाओं को असमान रूप से लक्षित करने वाले प्रतिबंधों की रिपोर्ट करने के बाद इस घटना ने एल्गोरिथम पूर्वाग्रह के बारे में तत्काल चिंताएं पैदा कर दी हैं। यह स्वचालित सामग्री मॉडरेशन की नवीनतम हाई-प्रोफाइल विफलता है, जिससे यह सवाल उठता है कि प्लेटफ़ॉर्म पर्याप्त मानवीय निरीक्षण के बिना अपने समुदायों पर निगरानी रखने के लिए एआई सिस्टम कैसे तैनात करते हैं।

Tumblr बुधवार को यह संकट की स्थिति में आ गया जब इसकी स्वचालित मॉडरेशन प्रणाली पटरी से उतर गई और कुछ ही घंटों में दर्जनों उपयोगकर्ता खातों पर प्रतिबंध लगा दिया गया। 2019 से ऑटोमैटिक के स्वामित्व वाला सोशल प्लेटफॉर्म, पुलिस सामग्री के लिए स्वचालित टूल पर बहुत अधिक निर्भर करता है – लेकिन इस सप्ताह की घटना से पता चला कि ये सिस्टम कितनी जल्दी नियंत्रण से बाहर हो सकते हैं।

पेंटागन ने एंथ्रोपिक पर युद्धकालीन एआई तोड़फोड़ जोखिम का आरोप लगाया

अनेक उपयोगकर्ताओं ने संपर्क किया द वर्ज अचानक खाता समाप्ति के बारे में, जो संक्षिप्त ईमेल सूचनाओं के माध्यम से आया। संदेशों के स्क्रीनशॉट से विशिष्टता की एक परेशान करने वाली कमी का पता चलता है: “यह कार्रवाई आंतरिक रूप से तैयार की गई रिपोर्ट के परिणामस्वरूप की गई थी। समस्याग्रस्त सामग्री की पहचान करने के लिए स्वचालित साधनों का उपयोग किया जा सकता है।” कोई और स्पष्टीकरण नहीं. कोई अपील प्रक्रिया स्पष्ट रूप से उल्लिखित नहीं है। वर्षों की पोस्ट, फॉलोअर्स और समुदाय से बस अचानक कटऑफ।

प्रतिबंधों के पीछे का पैटर्न जल्द ही कहानी बन गया। प्रभावित उपयोगकर्ताओं ने एक परेशान करने वाली प्रवृत्ति की सूचना दी – स्वचालित प्रणाली उन लोगों द्वारा चलाए जा रहे खातों को असमान रूप से लक्षित करती है जो ट्रांस महिलाओं के रूप में पहचान करते हैं। क्या यह एआई के प्रशिक्षण डेटा में किसी दोष का प्रतिनिधित्व करता है, सिस्टम सामग्री को चिह्नित करने के तरीके में एक अनपेक्षित पूर्वाग्रह, या कुछ और पूरी तरह से अस्पष्ट है। चेंडा नगाक के नेतृत्व में टम्बलर की संचार टीम ने घटना या रिपोर्ट किए गए जनसांख्यिकीय विषमता को संबोधित करते हुए कोई सार्वजनिक बयान जारी नहीं किया है।

यह टम्बलर का मॉडरेशन विवादों वाला पहला रोडियो नहीं है। प्लेटफ़ॉर्म ने 2018 में कुख्यात रूप से वयस्क सामग्री पर प्रतिबंध लगा दिया, एक ऐसा निर्णय जिसने बड़े पैमाने पर उपयोगकर्ताओं के पलायन को गति दी और इसके मूल्यांकन में योगदान दिया, जो $ 1.1 बिलियन से घटकर केवल $ 3 मिलियन रह गया जब ऑटोमैटिक ने इसे एक साल बाद अधिग्रहण कर लिया। लेकिन बुधवार की घटना अलग लगती है – यह नीति के बारे में नहीं है, यह कार्यान्वयन के बारे में है। एक स्वचालित प्रणाली जो स्पष्ट सुरक्षा उपायों या पारदर्शिता के बिना लोगों के डिजिटल जीवन के बारे में परिणामी निर्णय लेती है।