YouTube अपने AI-संचालित डीपफेक डिटेक्शन सिस्टम को उपयोगकर्ताओं के एक नए वर्ग – राजनेताओं और पत्रकारों – के लिए खोल रहा है, जिन्हें इसकी सबसे अधिक आवश्यकता है। मंगलवार से, प्लेटफ़ॉर्म की समानता पहचान सुविधा, जो पहले से ही लाखों सामग्री निर्माताओं की सुरक्षा करती है, सरकारी अधिकारियों, राजनीतिक उम्मीदवारों और पत्रकारों के एक पायलट समूह तक विस्तारित होगी। यह कदम तब उठाया गया है जब एआई-जनित डीपफेक तेजी से सार्वजनिक चर्चा और चुनावी अखंडता के लिए खतरा पैदा कर रहा है, हालांकि यूट्यूब ने इस बारे में चुप्पी साध रखी है कि शुरुआती पहुंच के लिए किसने कटौती की है।
यूट्यूब यह शर्त लगाई जा रही है कि इसकी एआई डिटेक्शन तकनीक सार्वजनिक हस्तियों को सिंथेटिक मीडिया हेरफेर के बढ़ते खतरे से बचाने में मदद कर सकती है। प्लेटफ़ॉर्म ने घोषणा की कि वह इस सप्ताह से सामग्री निर्माताओं से परे पत्रकारों, सरकारी अधिकारियों और राजनीतिक उम्मीदवारों को शामिल करने के लिए अपनी समानता पहचान सुविधा तक पहुंच का विस्तार कर रहा है।
उपकरण दर्शाता है गूगल का गलत सूचना संकट में फंसने से पहले एआई-जनित डीपफेक से निपटने का नवीनतम प्रयास। के अनुसार यूट्यूब की आधिकारिक घोषणासिस्टम प्लेटफ़ॉर्म की मौजूदा कंटेंट आईडी तकनीक के समान काम करता है – लेकिन कॉपीराइट किए गए संगीत या वीडियो क्लिप को स्कैन करने के बजाय, यह लोगों के चेहरों की अनधिकृत एआई-जनरेटेड प्रतिकृतियों की तलाश करता है।
राजनेताओं और पत्रकारों के लिए, दांव सामान्य रचनाकारों की तुलना में काफी अधिक है। किसी उम्मीदवार द्वारा भड़काऊ बयान देने का विश्वसनीय डीपफेक चुनाव को प्रभावित कर सकता है। झूठी सूचना देने वाले पत्रकारों के मनगढ़ंत फुटेज मीडिया संस्थानों में विश्वास को कम कर सकते हैं। YouTube का कदम इन उच्च जोखिम वाले उपयोगकर्ताओं को शीघ्र पहुंच के लिए प्राथमिकता देकर इस वास्तविकता को स्वीकार करता है।
लेकिन कंपनी ने अपने पत्ते बंद रखे हुए हैं. पत्रकारों के साथ एक ब्रीफिंग के दौरान, YouTube प्रतिनिधियों ने यह खुलासा करने से इनकार कर दिया कि वास्तव में पायलट कार्यक्रम में कौन है। वे इस बात की भी पुष्टि नहीं करेंगे कि क्या डोनाल्ड ट्रम्प – यकीनन विश्व स्तर पर सबसे डीपफेक राजनीतिक शख्सियतों में से एक – ने सूची बनाई है। गोपनीयता से पता चलता है कि YouTube संवेदनशील राजनीतिक क्षेत्र में नेविगेट कर रहा है, एआई हेरफेर के प्रति सबसे संवेदनशील लोगों की रक्षा करते हुए तटस्थ दिखने की कोशिश कर रहा है।
प्रौद्योगिकी स्वयं समानता पहचान प्रणाली पर आधारित है जो अब लाखों उपयोगकर्ताओं को कवर करता है। जब सिस्टम किसी संभावित मेल की पहचान करता है, तो यह उस व्यक्ति को सचेत करता है जिसकी समानता वीडियो में दिखाई देती है। फिर वे सामग्री की समीक्षा कर सकते हैं और हटाने का अनुरोध कर सकते हैं यदि यह सिंथेटिक मीडिया या प्रतिरूपण पर YouTube की नीतियों का उल्लंघन करता है।
