YouTube अपने एआई-संचालित डीपफेक डिटेक्शन टूल को 18 वर्ष से अधिक उम्र के प्रत्येक उपयोगकर्ता के लिए पेश कर रहा है, जो सिंथेटिक मीडिया से निपटने के लिए प्लेटफ़ॉर्म के प्रयासों के एक बड़े विस्तार को दर्शाता है। यह सुविधा, जो अनधिकृत एआई-जनित समानताओं के लिए अपलोड की गई सामग्री को स्कैन करती है, रचनाकारों और चुनिंदा सार्वजनिक हस्तियों के साथ एक सीमित परीक्षण के रूप में शुरू हुई थी, लेकिन अब YouTube के संपूर्ण वयस्क उपयोगकर्ता आधार के लिए खुल गई है। प्लेटफ़ॉर्म डीपफेक सामग्री को कैसे संभालते हैं, इसमें यह एक महत्वपूर्ण बदलाव है – पूरी तरह से स्वचालित मॉडरेशन सिस्टम पर निर्भर रहने के बजाय उपयोगकर्ताओं के हाथों में सीधे पहचान शक्ति प्रदान करना।
यूट्यूब अभी-अभी अपना डीपफेक डिटेक्शन सिस्टम सभी के लिए उपलब्ध कराया है। आज से, 18 वर्ष से अधिक उम्र का कोई भी उपयोगकर्ता सेल्फी-शैली का फेशियल स्कैन अपलोड कर सकता है और प्लेटफ़ॉर्म बिना अनुमति के उनकी समानता का उपयोग करके एआई-जनित वीडियो की लगातार निगरानी कर सकता है। यह किसी टूल का अब तक का सबसे व्यापक रोलआउट है जो केवल निर्माता के प्रयोग के रूप में शुरू हुआ और धीरे-धीरे राजनेताओं और पत्रकारों तक विस्तारित हुआ।
समय संयोग नहीं है. पिछले एक साल में डीपफेक तकनीक चिंताजनक रूप से सुलभ हो गई है, जिसमें चेहरे की अदला-बदली करने में सक्षम उपकरण अब लैपटॉप वाले किसी भी व्यक्ति के लिए उपलब्ध हैं। गूगल-स्वामित्व वाला YouTube चरणों में अपनी पहचान प्रणाली का परीक्षण कर रहा है, शुरुआत उन सामग्री निर्माताओं से हुई जिन्होंने अनधिकृत डीपफेक की शुरुआती लहरों का सामना किया, फिर उन सार्वजनिक हस्तियों तक विस्तार किया जो राजनीतिक हेरफेर और गलत सूचना अभियानों के लिए प्रमुख लक्ष्य बन गए।
यहां बताया गया है कि यह कैसे काम करता है: उपयोगकर्ता सेल्फी लेने के समान, YouTube के इंटरफ़ेस के माध्यम से चेहरे का स्कैन सबमिट करते हैं। प्लेटफ़ॉर्म के AI सिस्टम फिर पूरे प्लेटफ़ॉर्म पर नई अपलोड की गई सामग्री को स्कैन करते हैं, जो उपयोगकर्ता के चेहरे की विशेषताओं से मेल खाने वाले वीडियो को चिह्नित करते हैं। जब कोई संभावित मिलान सामने आता है, तो YouTube एक अलर्ट भेजता है। उपयोगकर्ता ध्वजांकित सामग्री की समीक्षा करता है और यदि यह वास्तव में एक अनधिकृत डीपफेक है तो उसे हटाने का अनुरोध कर सकता है। के अनुसार द वर्जयूट्यूब ने नोट किया है कि पहले परीक्षण चरणों के दौरान निष्कासन अनुरोधों की संख्या “बहुत कम” रही है।
निष्कासन की कम दर उपकरण की प्रभावशीलता और प्लेटफ़ॉर्म पर हानिकारक डीपफेक की वास्तविक व्यापकता के बारे में दिलचस्प सवाल उठाती है। इसका मतलब यह हो सकता है कि YouTube की पहचान अधिकतर सौम्य सामग्री को पकड़ रही है, या प्लेटफ़ॉर्म की विशाल अपलोड मात्रा की तुलना में डीपफेक अपेक्षाकृत दुर्लभ है। इससे यह भी संकेत मिल सकता है कि अधिकांश लोगों को पता ही नहीं है कि उनके साथ डीपफेक किया गया है, जो इस व्यापक रोलआउट को संभावित रूप से अधिक प्रभावशाली बनाता है।
चरणबद्ध दृष्टिकोण ने YouTube को बहुमूल्य डेटा दिया। बाद सामग्री निर्माताओं के साथ प्रारंभिक परीक्षणकंपनी सरकारी अधिकारियों, राजनेताओं और पत्रकारों तक विस्तारित – ऐसे समूह जो बढ़े हुए डीपफेक जोखिमों का सामना कर रहे हैं। उन नियंत्रित रोलआउट से प्लेटफ़ॉर्म को अपने चेहरे की पहचान एल्गोरिदम को परिष्कृत करने और सभी के लिए द्वार खोलने से पहले उपयोगकर्ता चेतावनी प्रणाली में गड़बड़ी को दूर करने में मदद मिलती है।
लेकिन इसमें एक दिक्कत है: यह व्यक्तिगत उपयोगकर्ताओं पर पता लगाने और लागू करने का बोझ डालता है। स्वचालित सामग्री मॉडरेशन के विपरीत, जो नीति-उल्लंघन करने वाली सामग्री को सक्रिय रूप से हटा देता है, YouTube का डीपफेक टूल ऑप्ट-इन और प्रतिक्रियाशील है। उपयोगकर्ताओं को पता होना चाहिए कि सुविधा मौजूद है, उन्हें अपने चेहरे का डेटा सबमिट करने, अलर्ट की निगरानी करने और मैन्युअल रूप से निष्कासन का अनुरोध करने के लिए समय निकालना चाहिए। यह औसत व्यक्ति के लिए बहुत परेशानी की बात है, जिसे शायद यह एहसास भी नहीं होगा कि वे जोखिम में हैं।
यह दृष्टिकोण सिंथेटिक मीडिया को संभालने के तरीके के बारे में व्यापक उद्योग अनिश्चितता को भी दर्शाता है। प्लेटफ़ॉर्म स्वतंत्र अभिव्यक्ति की चिंताओं और डीपफेक से होने वाले वास्तविक नुकसान के बीच फंसे हुए हैं – रिवेंज पोर्न से लेकर वित्तीय घोटालों से लेकर राजनीतिक दुष्प्रचार तक। पहचान को उपयोगकर्ता-संचालित बनाकर, YouTube एक सुई में धागा डालता है: यह हानिकारक सिंथेटिक सामग्री के बारे में संपादकीय निर्णय किए बिना सुरक्षा प्रदान करता है।
प्रतिस्पर्धी बारीकी से देख रहे हैं। मेटा ने फेसबुक और इंस्टाग्राम पर डीपफेक लेबलिंग का प्रयोग किया है, लेकिन इस पैमाने पर उपयोगकर्ता-नियंत्रित पहचान को तैनात नहीं किया है। टिकटोक डीपफेक प्रसार के लिए आलोचना का सामना करना पड़ा है लेकिन यह मुख्य रूप से स्वचालित पहचान पर निर्भर करता है। यदि YouTube का मॉडल प्रभावी साबित होता है तो यह एक टेम्पलेट बन सकता है, या यदि यह उपयोगकर्ताओं को गलत सकारात्मक बातों से अभिभूत कर देता है तो यह एक चेतावनी देने वाली कहानी बन सकता है।
पर्दे के पीछे की तकनीक सामग्री फ़िंगरप्रिंटिंग के साथ जोड़ी गई परिष्कृत चेहरे की पहचान है। YouTube के सिस्टम को किसी की समानता के वैध उपयोग – जैसे समाचार कवरेज या अधिकृत प्रशंसक सामग्री – और दुर्भावनापूर्ण डीपफेक के बीच अंतर करने की आवश्यकता है। जब आप मेकअप, प्रकाश व्यवस्था, कोण और जानबूझकर विरूपण तकनीकों का ध्यान रखते हैं तो यह जितना लगता है उससे कहीं अधिक कठिन है, डीपफेक निर्माता पहचान से बचने के लिए उपयोग करते हैं।
गोपनीयता की वकालत करने वालों को भी चिंता होगी। उपयोगकर्ता अनिवार्य रूप से YouTube को एक बायोमेट्रिक पहचानकर्ता सौंप रहे हैं जिसे प्लेटफ़ॉर्म संग्रहीत करता है और हर नए अपलोड के विरुद्ध चलाता है। हालाँकि YouTube ने इन चेहरे के स्कैन के लिए विस्तृत डेटा अवधारण नीतियां नहीं बनाई हैं, लेकिन दुरुपयोग या उल्लंघन की संभावना वास्तविक है। कंपनी को इस बारे में पारदर्शी होने की आवश्यकता होगी कि वह इस संवेदनशील डेटा की सुरक्षा कैसे करती है और क्या इसका उपयोग डीपफेक का पता लगाने से परे किसी भी उद्देश्य के लिए किया जाता है।
रोजमर्रा के उपयोगकर्ताओं के लिए, गणना सरल है: क्या डीपफेक होने का जोखिम आपके चेहरे के बायोमेट्रिक्स को YouTube पर सबमिट करने लायक है? सार्वजनिक हस्तियों, प्रभावशाली व्यक्तियों या सार्थक ऑनलाइन उपस्थिति वाले किसी भी व्यक्ति के लिए, उत्तर संभवतः हाँ है। 200 फ़ॉलोअर्स वाले औसत व्यक्ति के लिए, यह कम स्पष्ट है। इससे गोद लेने के पैटर्न को बढ़ावा मिल सकता है जहां उपकरण मुख्य रूप से उन लोगों की रक्षा करता है जो पहले से ही लोगों की नज़र में हैं – सुरक्षा के लोकतंत्रीकरण के विपरीत।
डीपफेक डिटेक्शन को सभी वयस्कों के लिए खोलने का YouTube का निर्णय उपयोगकर्ता-संचालित सामग्री मॉडरेशन में एक प्रमुख प्रयोग है। यह स्वीकार करता है कि सिंथेटिक मीडिया अब केवल एक सेलिब्रिटी की समस्या नहीं है, साथ ही यह भी स्वीकार करता है कि प्लेटफ़ॉर्म अकेले इस पर निगरानी नहीं रख सकते हैं। क्या यह दृष्टिकोण वास्तव में लोगों की सुरक्षा करता है या सिर्फ सुरक्षा थिएटर बनाता है, यह पूरी तरह से गोद लेने की दर और पता लगाने की सटीकता पर निर्भर करता है। परीक्षण के दौरान हटाने के अनुरोध कम रहने के साथ, बड़ा सवाल यह है कि क्या रोजमर्रा के उपयोगकर्ता भी परेशान होंगे – या क्या उन्हें केवल यह एहसास होगा कि क्षति होने के बाद उन्हें सुरक्षा की आवश्यकता है। किसी भी तरह से, यूट्यूब की शर्त यह है कि उपयोगकर्ताओं के हाथों में उपकरण देने से एक आदर्श एल्गोरिदमिक समाधान की प्रतीक्षा होगी जो शायद कभी नहीं आएगा।
