फैनफिक्शन समुदाय एआई – और स्वयं के साथ युद्ध में है

पिछले सप्ताह में, एक नया फैनवर्क्स आंदोलन शुरू हो गया है, जिसका उद्देश्य जेनरेटिव एआई का उपयोग करने वाले लेखकों को जड़ से खत्म करना है। लेकिन लागू किए जा रहे पता लगाने के तरीके संदिग्ध हैं, और कोई भी कट्टर लेखक आलोचना में फंस सकता है।

क्लाउड, चैटजीपीटी और अन्य एआई उपकरणों के उपयोग को लेकर व्यापक नापसंदगी लंबे समय से रही है एक बात रचनात्मक समुदायों में, जिसमें फैनफिक्शन की दुनिया भी शामिल है। पाठकों और लेखकों ने कथित तौर पर एआई-जनरेटेड कार्यों को खोजने के लिए सुझाव दिए हैं, जिसमें ईएम डैश से लेकर कुछ भी उद्धृत किया गया है व्यापक अवधारणा बैंगनी गद्य का. लेकिन 29 जून को एक गुमनाम एक्स अकाउंट से कॉल आई @heatedrivalryai एक अधिक विश्वसनीय समाधान का वादा किया। इसने एक स्किन पोस्ट की – एक एक्सटेंशन के समान – लोकप्रिय फैनफिक रिपोजिटरी आर्काइव ऑफ अवर ओन (एओ 3) के लिए जो कथित तौर पर एंथ्रोपिक के क्लाउड बॉट द्वारा छोड़ी गई कोडिंग कलाकृतियों की पहचान करेगी।

@heatedrivalryai खाते ने कहा, “जब क्लाउड-जनरेटेड प्रतिक्रिया को क्लाउड से सीधे AO3 में चिपकाया जाता है, तो टेक्स्ट को क्लाउड-इंजेक्टेड कोड ‘फॉन्ट-क्लाउड-रेस्पॉन्स-बॉडी’ द्वारा लपेटा जाता है।” “इसकी उपस्थिति निश्चित रूप से क्लाउड के उपयोग को इंगित करती है।” जब कोई उपयोगकर्ता इस कोड के साथ किसी पृष्ठ (फैनफिक के काम की तरह) पर जाता है, तो त्वचा पूरी पृष्ठभूमि को लाल कर देती है।

अनेक परीक्षण पोस्ट AO3 पर प्रकाशित किया गया है जो उपयोगकर्ताओं को यह जांचने की अनुमति देता है कि यह काम करता है या नहीं। जब मैंने स्वयं इन उदाहरणों के विरुद्ध त्वचा का परीक्षण किया तो स्क्रीन तुरंत लाल हो गई, और मैंने अपना स्वयं का प्रयोग चलाने के लिए क्लाउड-जनरेटेड लघु कहानी प्रकाशित की। लाल स्क्रीन तब दिखाई देती है जब मैं सीधे चैटबॉट से संपादक में पेस्ट करता हूं और यदि मैं टेक्स्ट (बिल्कुल उसी उत्पन्न कहानी सहित) पेस्ट करता हूं तो गायब हो जाता है जो सीधे क्लाउड से नहीं आया था।

क्लाउड डिटेक्टर पोस्ट के साथ फैनफ़िक के उदाहरण भी थे जहां कलाकृतियों को देखा गया था, जिसके बारे में अज्ञात निर्माता ने कहा था कि इसका उद्देश्य सिस्टम के कार्यों को प्रदर्शित करना था, न कि “अविश्वास का माहौल बनाना या विशेष उपयोगकर्ताओं पर आरोप लगाना।” लेकिन फैनफ़िक समुदाय तेजी से उन लेखकों को सार्वजनिक रूप से नाम देने और शर्मिंदा करने के लिए जुट गए हैं जिनके प्रकाशित कार्यों को टूल द्वारा चिह्नित किया गया था, और इसके निर्माता निश्चित रूप से एआई को एक सकारात्मक चीज़ नहीं मानते हैं। उन्होंने कहा, “फ़ैंडम एक विशिष्ट रूप से संयोजी, सहयोगात्मक स्थान है। यह मानवीय तत्व और रचनात्मक चिंगारी पर पनपता है जो इसे संचालित करता है और इसे पोषित करता है।” “अगर हम अनजाने में एआई को इन स्थानों को भ्रष्ट करने की अनुमति देते हैं, तो उनमें क्या बचेगा?”

एंथ्रोपिक ने यह सत्यापित करने के मेरे अनुरोध का जवाब नहीं दिया कि प्रशंसक-निर्मित क्लाउड डिटेक्टर वर्णित के अनुसार काम करता है या नहीं। हालाँकि, यहाँ की कार्यप्रणाली अच्छी लगती है, और हमारा अपना परीक्षण इसका समर्थन करता है। यदि बॉट का किसी तरह उपयोग नहीं किया गया तो क्लॉड कोड के कहानी में मौजूद होने का कोई स्पष्ट कारण नहीं है। लेकिन झूठी नकारात्मकता और अतिसामान्यीकरण दोनों का स्पष्ट जोखिम है।

कोड रैपिंग को केवल तभी संरक्षित किया जाता है जब टेक्स्ट को सीधे क्लाउड से AO3 के संपादक में कॉपी किया जाता है, इसलिए यह Google डॉक्स या Microsoft Word में संपादित कुछ भी नहीं पकड़ पाएगा और फिर AO3 में चला जाएगा – और एक ऐसे व्यक्ति के रूप में जो आजीविका के लिए लिखता है, मैं इस बात की गवाही दे सकता हूं कि सीधे CMS में लिखना कितना जोखिम भरा है। जिन लेखकों को चिह्नित किया गया है, उन्होंने पहले ही कलाकृतियों को हटाने के लिए अपने कार्यों को अपडेट कर दिया है, और भविष्य के कार्य आसानी से टूल से बच सकते हैं।

इसके विपरीत, टैग यह नहीं दर्शाता है कि किसी दिए गए कार्य में क्लाउड का कितना भारी उपयोग किया गया था। उस फ्लैशबैंग्ड स्कार्लेट स्क्रीन का मतलब यह हो सकता है कि पूरी कहानी पूरी तरह से एआई-जनरेटेड थी, या कि एक लेखक ने वर्तनी-जांच या अनुवाद के लिए कुछ मानव-लिखित वाक्यों को क्लाउड में चिपकाया, फिर उन्हें एओ 3 में वापस ले जाया।

देखने वाले कुछ प्रशंसक सदस्यों के लिए इससे कोई फर्क नहीं पड़ता कोई व्यापक रचनात्मक समुदाय के लिए एक अक्षम्य विश्वासघात के रूप में जेनरेटिव एआई का उपयोग। बहुत से लोग प्रौद्योगिकी के पर्यावरणीय प्रभाव और खुले वेब को स्क्रैप करके इसे कैसे प्रशिक्षित किया जाता है, इस पर चिंताओं का हवाला देते हैं, जिसमें संभवतः AO3 जैसे प्लेटफार्मों पर अपलोड किए गए फैनवर्क भी शामिल हैं।

इस विशेष उपकरण की प्रयोज्यता सीमित है – AO3 फैनवर्क प्रकाशित करने का एकमात्र मंच नहीं है, और क्लाउड कई AI मॉडलों में से एक है। कम से कम एक व्यक्ति का दावा है उन्होंने अलग कोड लिखा है जो “क्लाउड, डीपसीक और कुछ चैटजीपीटी” के उपयोग का पता लगा सकता है, लेकिन उन्होंने उस समाधान को जनता के लिए जारी नहीं किया है या यह नहीं बताया है कि यह कैसे काम करता है। मैंने Google और OpenAI से पूछा कि क्या उनके मॉडल टेक्स्ट जेनरेशन में कोई ट्रेस करने योग्य कलाकृतियाँ छोड़ते हैं जिन्हें समान माध्यमों से पता लगाया जा सकता है, लेकिन उन्होंने कोई जवाब नहीं दिया।

वास्तव में, यह अत्यधिक आश्चर्य की बात होगी यदि कोई सार्वभौमिक रूप से विश्वसनीय प्रणाली अस्तित्व में हो। मैं पिछले कुछ वर्षों से और जहां तक ​​मेरी जानकारी है, एआई पहचान से जुड़े मुद्दों पर रिपोर्टिंग कर रहा हूं नहीं है वर्तमान में उत्पन्न पाठ को मानव हाथों से टाइप किए गए पाठ से अलग करने के लिए एक विश्वसनीय तकनीकी समाधान है। C2PA कंटेंट क्रेडेंशियल्स और Google के SynthID जैसे सिस्टम छवियों, वीडियो और यहां तक ​​कि ऑडियो में जेनरेटिव AI की पहचान करने की दिशा में कुछ प्रगति कर रहे हैं, लेकिन ये अदृश्य वॉटरमार्क और मेटाडेटा पर निर्भर करते हैं जो कॉपी-पेस्ट किए गए टेक्स्ट के लिए काम नहीं करते हैं।

यह भविष्य में बदल सकता है, और एआई कंपनियों के पास कम से कम आंतरिक रूप से समस्या को हल करने के लिए हर प्रोत्साहन है। प्रारंभिक मॉडलों को इंटरनेट से अंधाधुंध तरीके से निकाले गए पाठ पर प्रशिक्षित किया गया था, और चूंकि मानव लेखन अपने सिंथेटिक समकक्षों से भरा हुआ है, इसलिए वे जोखिम उठा सकते हैं।मॉडल पतन” ऐसा परिदृश्य जो आउटपुट की सटीकता को ख़राब कर देगा।

हालाँकि, फ़िलहाल, प्रशंसक समुदाय अभी भी ज़्यादातर वाइब्स पर निर्भर हैं। अधिकांश फ़ैनफ़िक्स का मूल्यांकन AO3 स्किन जैसे टूल द्वारा नहीं किया जाता है, बल्कि “बताता है” द्वारा किया जाता है, जिसमें विशिष्ट वाक्य संरचनाओं से कुछ भी शामिल हो सकता है – जैसे कि कुख्यात “यह एक्स नहीं है, यह वाई है” – फूलदार रूपकों का अति प्रयोग। (कम से कम प्रशंसकों में से किसी ने भी अब तक ऐसा नहीं किया है बेंच पुरुष बन रहे हैं.) लेकिन हमें यह याद रखना होगा एआई अक्सर ऐसा ही लिखता है क्योंकि इसे उन चीज़ों पर प्रशिक्षित किया गया था जो वास्तविक लोगों ने लिखी हैं। यह हमारी नकल करने की कोशिश कर रहा है। मैं अपने स्वयं के AO3 बुकमार्क साझा करने के लिए पर्याप्त साहसी नहीं हूं, लेकिन मैंने निश्चित रूप से प्री-चैटजीपीटी इंटरनेट दिनों में कुछ अत्यधिक भव्य फैनफिक्स पढ़े हैं जो इस संदिग्ध सूंघ परीक्षण को पास नहीं करेंगे।

AO3 पर AI कार्यों को अलग करने का सबसे अच्छा समाधान पहले से ही उपलब्ध है: साइट की मजबूत टैगिंग प्रणाली। ए “जेनरेटिव एआई का उपयोग करके बनाया गया“टैग मौजूद है, और कई लेखक क्लाउड जैसे उपकरणों के उपयोग का खुलासा करने के लिए इसे शामिल करते हैं। हालांकि, इसके लिए ईमानदार पारदर्शिता की आवश्यकता है, और प्रतिक्रिया को देखते हुए ईमानदारी के लिए बहुत कम प्रोत्साहन है। यह भी याद रखने योग्य है कि फैनफिक्शन को एक शौक माना जाता है, न कि एक विनियमित उद्योग।

एआई को वास्तविक मानव-संचालित रचनात्मकता से ध्यान हटाने से रोकने के इन प्रयासों के साथ, जो लेखक लेखन की स्वीकार्य गुणवत्ता के अनुरूप नहीं हैं, वे चल रहे डायन शिकार के निर्दोष शिकार बन सकते हैं। कम से कम एक लेखक पहले ही इसमें फंस चुका है क्योंकि किसी दूसरे व्यक्ति पर उन्हें भरोसा था उनके चित्र को संपादित करने के लिए क्लाउड का उपयोग करके ऐसा किया। इसलिए यदि आप जो अगला फैनफ़िक पढ़ते हैं वह थोड़ा रोबोटिक लगता है, तो बस ध्यान रखें कि ऐसा नहीं हो सकता है वास्तव में एक रोबोट का उत्पाद बनें.