- ■
वायरल एआई-जनरेटेड फ्रूट वीडियो में स्त्री द्वेष के परेशान करने वाले पैटर्न शामिल हैं, जिसमें महिला पात्रों को उत्पीड़न और हमले का शिकार होना पड़ता है। वायर्ड की जांच
- ■
सामग्री एआई वीडियो जेनरेशन टूल और उनके प्रशिक्षण डेटा में निहित समस्याग्रस्त लिंग पूर्वाग्रह को प्रकट करती है
- ■
स्पष्ट नीति उल्लंघनों के बावजूद सोशल मीडिया प्लेटफ़ॉर्म इस AI-जनित सामग्री को मॉडरेट करने में विफल हो रहे हैं
- ■
वीडियो वास्तविक प्रशंसक आधार तैयार कर रहे हैं, प्रतीत होता है कि निर्दोष एनिमेटेड सामग्री के माध्यम से हानिकारक रूढ़िवादिता को सामान्य कर रहे हैं
सोशल मीडिया फ़ीड्स में एआई-जनित सामग्री की बाढ़ की नवीनतम लहर पहली नज़र में काफी मासूम लगती है – एनिमेटेड फल पात्र सोप ओपेरा-शैली के नाटकों का अभिनय करते हैं। लेकिन स्ट्रॉबेरी और एंथ्रोपोमोर्फाइज्ड केले के बारे में बात करने के मनमौजी आवरण के नीचे एक परेशान करने वाला पैटर्न छिपा है जो जेनेरिक एआई टूल और कंटेंट मॉडरेशन सिस्टम में पूर्वाग्रह के बारे में लाल झंडे उठा रहा है जो उन्हें अनियंत्रित रूप से फैलने की अनुमति देता है। के एक नये विश्लेषण के अनुसार तारयुक्तये प्रतीत होता है कि हानिरहित “फ्रूट स्लॉप माइक्रोड्रामा” स्त्री-द्वेषी विषयों से भरा हुआ है, जिसमें महिला फल पात्रों को पाद-शर्मिंदा, यौन उत्पीड़न और हमला करते हुए दर्शाया गया है।
सोशल मीडिया का नवीनतम जुनून भ्रामक रूप से अच्छा लगता है। टिकटॉक या इंस्टाग्राम रील्स के माध्यम से स्क्रॉल करें और आप अनिवार्य रूप से उनका सामना करेंगे – एआई-जनरेटेड वीडियो जिसमें बड़ी आंखों और अतिरंजित अभिव्यक्तियों के साथ फलों के पात्रों की विशेषता है, जो मेलोड्रामैटिक परिदृश्यों का अभिनय करते हैं। वे हर जगह हैं, लाखों व्यूज बटोर रहे हैं और समर्पित प्रशंसक खाते बना रहे हैं। लेकिन इन छोटी-छोटी कहानियों में वास्तव में क्या हो रहा है, इसे करीब से देखें, और तस्वीर काफी गहरी हो जाती है।
परेशान करने वाले पैटर्न को सबसे पहले चिह्नित किया गया था तारयुक्त रिपोर्टर कैट टेनबर्ज, जिन्होंने फल सामग्री पारिस्थितिकी तंत्र के माध्यम से चलने वाली एक परेशान करने वाली अंतर्धारा को देखा। महिला फलों के पात्र – जो आम तौर पर पलकों, धनुषों या अन्य स्त्रैण विशेषताओं द्वारा पहचाने जाते हैं – को असमान रूप से उत्पीड़न, सार्वजनिक अपमान और यहां तक कि यौन उत्पीड़न के शिकार के रूप में चित्रित किया गया है। इस बीच, पुरुष फल पात्र आक्रामकों, धमकाने वालों या “नायकों” की भूमिका निभाते हैं जो संकट में युवतियों को बचाते हैं।
यह केवल यादृच्छिक सामग्री निर्माण नहीं है. पैटर्न से कुछ मौलिक पता चलता है कि कैसे एआई वीडियो जेनरेशन टूल ने अपने प्रशिक्षण डेटा से लिंग पूर्वाग्रह को अवशोषित और बढ़ाया है। जब निर्माता इन प्रणालियों को नाटकीय परिदृश्य उत्पन्न करने के लिए प्रेरित करते हैं, तो एआई गहराई से समस्याग्रस्त ट्रॉप्स पर डिफ़ॉल्ट हो जाता है जो मानव-निर्मित सामग्री में तुरंत पहचानने योग्य होंगे – लेकिन एनिमेटेड उत्पादन की असली पैकेजिंग में लपेटे जाने पर किसी तरह रडार के नीचे उड़ जाते हैं।
