टिकटॉक एक एआई-संचालित टूल ला रहा है जो डीपफेक और अनधिकृत डिजिटल समानताओं के लिए वीडियो को स्कैन करता है, जिससे रचनाकारों को उनकी नकल करने वाली सिंथेटिक सामग्री को चिह्नित करने और रिपोर्ट करने की सुविधा मिलती है। ऑप्ट-इन सुविधा इस सप्ताह चुनिंदा अमेरिकी रचनाकारों के लिए चुपचाप लॉन्च की गई, जिसने टिकटॉक को यूट्यूब के साथ सीधे प्रतिस्पर्धा में डाल दिया, जिसने कुछ महीने पहले ही सभी वयस्कों के लिए समान सुरक्षा का विस्तार किया था। चूंकि जेनरेटिव एआई चेहरों और आवाजों को क्लोन करना मामूली रूप से आसान बनाता है, इसलिए समस्या बढ़ने से पहले प्लेटफॉर्म रचनाकारों को उनकी डिजिटल पहचान पर नियंत्रण देने के लिए संघर्ष कर रहे हैं।
टिकटोक डीपफेक युद्धों में बस एक गोली चलाई। प्लेटफ़ॉर्म ने पुष्टि की कि वह एआई-संचालित समानता पहचान प्रणाली का परीक्षण कर रहा है जो सिंथेटिक प्रतिरूपण के लिए वीडियो को स्कैन करता है, जिससे रचनाकारों को ऐसी सामग्री की रिपोर्ट करने में मदद मिलती है जो बिना अनुमति के उनके चेहरे या आवाज का उपयोग करती है। टिकटॉक के प्रवक्ता ज़ाचरी किज़र ने बताया कि यह सुविधा इस सप्ताह अमेरिकी रचनाकारों के एक सीमित समूह के लिए शुरू की गई है द वर्ज यह परीक्षण एआई-जनित दुरुपयोग से निपटने के व्यापक प्रयासों का हिस्सा है।
समय संयोग नहीं है. यूट्यूब चुनिंदा साझेदारों के साथ महीनों के परीक्षण के बाद, कुछ ही सप्ताह पहले सभी वयस्क उपयोगकर्ताओं के लिए अपने स्वयं के समानता पहचान उपकरण का विस्तार किया गया। सोशल मीडिया सलाहकार मैट नवारा ने टिकटॉक फीचर को देखा रचनाकारों के बीच घूम रहा है, एक सत्यापन प्रवाह का खुलासा कर रहा है जिसके लिए उपयोगकर्ताओं को डीपफेक को चिह्नित करने से पहले वास्तविक समय की पहचान जांच की आवश्यकता होती है। यह एक स्पष्ट संकेत है कि प्लेटफ़ॉर्म सिंथेटिक मीडिया को एक दूर के खतरे के रूप में नहीं बल्कि तकनीकी जवाबी उपायों की मांग करने वाले तत्काल संकट के रूप में देखते हैं।
यह ऐसे काम करता है। जिन क्रिएटर्स को एक्सेस मिलता है, उन्हें पहले अपनी पहचान सत्यापित करनी होगी जुमियोएक तृतीय-पक्ष पहचान सत्यापन सेवा। इसका मतलब है लाइव सेल्फी स्कैन सबमिट करना और सरकार द्वारा जारी आईडी अपलोड करना। टिकटॉक इस बात पर जोर देता है कि वह इन दस्तावेज़ों की प्रतियां नहीं रखता है या चेहरे के बायोमेट्रिक्स को स्थायी रूप से संग्रहीत नहीं करता है, इसके बजाय जुमियो के सिस्टम के माध्यम से सत्यापन करता है। एक बार सत्यापित होने के बाद, निर्माता उन वीडियो को चिह्नित कर सकते हैं जिनके बारे में उनका मानना है कि उनमें स्वयं की एआई-जनित समानताएं हैं, जिससे समीक्षा प्रक्रिया शुरू हो जाती है।
स्कैनर के पीछे की तकनीक अपारदर्शी रहती है। टिकटोक ने यह खुलासा नहीं किया है कि क्या यह सीधे निर्माता समानता पर मॉडल का प्रशिक्षण कर रहा है या सिंथेटिक कलाकृतियों का पता लगाने के लिए पैटर्न-मिलान एल्गोरिदम का उपयोग कर रहा है। लेकिन सत्यापन चरण से पता चलता है कि प्लेटफ़ॉर्म पर तैर रहे संदिग्ध डीपफेक से तुलना करने के लिए सिस्टम को बेसलाइन संदर्भ डेटा – आपका असली चेहरा – की आवश्यकता है। यह कैसे के समान है यूट्यूब का टूल काम करता हैचयन करने वाले प्रत्येक निर्माता के लिए बायोमेट्रिक हस्ताक्षर बनाना।
यह मायने रखता है क्योंकि डीपफेक तकनीक चिंताजनक रूप से अच्छी हो गई है। ओपन-सोर्स मॉडल अब कुछ सेकंड के ऑडियो से आवाज़ों को क्लोन कर सकते हैं और न्यूनतम कंप्यूटिंग शक्ति के साथ वास्तविक समय के वीडियो में चेहरे की अदला-बदली कर सकते हैं। क्रिएटर्स ने फर्जी समर्थन घोटालों से लेकर सोशल प्लेटफॉर्म पर फैल रहे यौन रूप से स्पष्ट डीपफेक तक हर चीज की रिपोर्ट की है, जो अक्सर हटाए जाने से पहले लाखों बार देखी जाती है। पारंपरिक सामग्री मॉडरेशन यहां संघर्ष करता है क्योंकि डीपफेक हमेशा प्लेटफ़ॉर्म नीतियों का उल्लंघन नहीं करते हैं जब तक कि कोई प्रतिष्ठित व्यक्ति – जिस व्यक्ति का प्रतिरूपण किया जा रहा है – शिकायत दर्ज नहीं करता है।
टिकटॉक का दृष्टिकोण उस शक्ति को सीधे रचनाकारों के हाथों में रखता है, लेकिन यह पैमाने के बारे में सवाल भी उठाता है। क्या होता है जब लाखों निर्माता सत्यापन चाहते हैं? जब AI प्रति घंटे हजारों डीपफेक उत्पन्न कर सकता है तो मानव मॉडरेटर कितनी जल्दी ध्वजांकित सामग्री की समीक्षा कर सकते हैं? और गंभीर रूप से, उन खातों के लिए क्या दंड है जो बार-बार सिंथेटिक समानताएं पोस्ट करते हैं? कंपनी ने मानक सामग्री निष्कासन से परे प्रवर्तन कार्रवाइयों का विवरण नहीं दिया है।
प्रतिस्पर्धी दबाव वास्तविक है. मेटा जबकि, डीपफेक लेबल और उद्गम ट्रैकिंग के साथ प्रयोग कर रहा है गूगल हाल ही में अपने टूल से सभी एआई-जनित छवियों को वॉटरमार्क करने की योजना की घोषणा की। लेकिन पता लगाना चूहे-बिल्ली का खेल बना हुआ है। जैसे प्लेटफ़ॉर्म बेहतर स्कैनर बनाते हैं, मॉडल डेवलपर बेहतर नकली बनाते हैं। कुछ शोधकर्ताओं का तर्क है कि एकमात्र दीर्घकालिक समाधान क्रिप्टोग्राफ़िक प्रमाणीकरण है जो कैमरों और कैप्चर उपकरणों में बेक किया गया है, जो अनिवार्य रूप से “वास्तविक” मीडिया के लिए हिरासत की एक श्रृंखला बनाता है।
अभी के लिए, टिकटोक का परीक्षण एक व्यावहारिक मध्य मार्ग का प्रतिनिधित्व करता है – रचनाकारों को एक पैनिक बटन देता है जबकि प्लेटफ़ॉर्म यह पता लगाता है कि बड़े पैमाने पर पहचान को स्वचालित कैसे किया जाए। किज़र ने पुष्टि की कि कंपनी प्रारंभिक समूह से मिले फीडबैक के आधार पर पहुंच का विस्तार करने की योजना बना रही है, हालांकि पूर्ण रोलआउट के लिए कोई समयरेखा मौजूद नहीं है। वह सावधानी समझ में आती है। बहुत तेजी से रोल आउट होता है और सिस्टम झूठी सकारात्मकताओं से भर जाता है। बहुत धीमी गति से आगे बढ़ें और प्लेटफ़ॉर्म सभी के लिए डीपफेक मुक्त बन जाता है।
जुमियो साझेदारी विशेष रूप से दिलचस्प है। पहचान सत्यापन कंपनी पहले से ही वित्तीय संस्थानों और क्रिप्टो एक्सचेंजों के साथ काम करती है, जो अनिवार्य रूप से उपभोक्ता ऐप की समस्या के लिए एंटरप्राइज़-ग्रेड सुरक्षा लाती है। यह संकेत देता है कि टिकटॉक इसे काफी गंभीरता से ले रहा है और संवेदनशील पहचान दस्तावेजों को संभालने की जिम्मेदारी को आउटसोर्स कर रहा है। लेकिन इससे घर्षण भी बढ़ता है – रचनाकारों को सामाजिक मंच पर अपनी समानता की रक्षा के लिए अपने बायोमेट्रिक्स के मामले में किसी तीसरे पक्ष पर भरोसा करना पड़ता है।
यह स्पष्ट है कि हर प्रमुख मंच अब सिंथेटिक मीडिया को निर्माता के विश्वास के लिए एक संभावित खतरे के रूप में मानता है। यदि उपयोगकर्ता यह नहीं बता पाते कि वास्तविक क्या है, तो जुड़ाव कम हो जाता है और निर्माता वहां भाग जाते हैं जहां प्रामाणिकता सुरक्षित हो जाती है। समानता का पता लगाने वाले गेम में टिकटॉक की देर से एंट्री दबाव डालती है मेटा अपने स्वयं के टूल में तेजी लाने के लिए, विशेष रूप से एआई-संचालित संपादन सुविधाएं इंस्टाग्राम और फेसबुक पर टेबल स्टेक बन जाती हैं। जो प्लेटफ़ॉर्म स्केलेबल, सटीक डीपफेक डिटेक्शन को क्रैक करता है, वह क्रिएटर अर्थव्यवस्था में बड़े पैमाने पर प्रतिस्पर्धात्मक लाभ जीतता है।
टिकटॉक का समानता पहचान उपकरण पूरी तरह से डीपफेक को रोकने के बारे में कम है और रचनाकारों को हथियारों की दौड़ में लड़ने का मौका देने के बारे में अधिक है, जिसमें उन्होंने शामिल होने के लिए नहीं कहा था। प्लेटफ़ॉर्म का दावा है कि ऑप्ट-इन सत्यापन और मानव समीक्षा काफी तेजी से बढ़ सकती है, लेकिन असली परीक्षा तब होती है जब लाखों निर्माता पहुंच की मांग करते हैं और एआई-जनित नकली विकसित होते रहते हैं। हम जो देख रहे हैं वह सोशल मीडिया के लिए एक नई बुनियादी ढांचे की शुरुआत है – जहां यह साबित करना कि आप वास्तविक हैं उतना ही महत्वपूर्ण हो जाता है जितना कि सम्मोहक सामग्री पोस्ट करना। उम्मीद करें कि हर प्रमुख मंच अगले साल इसी तरह के सिस्टम का निर्माण करेगा, क्योंकि विकल्प यह है कि सिंथेटिक मीडिया निर्माता अर्थव्यवस्था को पूरी तरह से नष्ट कर दे।
