मेटा अभी-अभी कंटेंट सील जारी की गई है, यह एआई-जनरेटेड कंटेंट डिटेक्शन का जवाब है, लेकिन समय और निष्पादन ने उद्योग पर्यवेक्षकों को अपना सिर खुजलाने पर मजबूर कर दिया है। कंपनी के ओवरसाइट बोर्ड द्वारा भ्रामक एआई सामग्री से निपटने के लिए बेहतर उपकरणों पर जोर देने के चार महीने बाद, मेटा ने चुपचाप अपनी जुलाई की घोषणा को दफन कर दिया। म्यूज़ियम एआई लॉन्च. माना जाता है कि अदृश्य वॉटरमार्किंग तकनीक एआई-जनित छवियों को चिह्नित करती है, लेकिन यह ऐसे बाजार में आ रही है गूगलSynthID पहले से ही एक अधिक स्थापित, ओपन-सोर्स विकल्प के रूप में मौजूद है।
मेटा एआई-जनित सामग्री के साथ विश्वसनीयता की समस्या है, और कंटेंट सील इसे हल नहीं कर सकता है। कंपनी के ओवरसाइट बोर्ड ने मार्च में एक स्पष्ट निर्देश जारी किया: भ्रामक एआई सामग्री के प्रसार को रोकने के बारे में गंभीर हों। मेटा की प्रतिक्रिया जुलाई में आई, लेकिन उस धूमधाम के साथ नहीं, जिसकी आप सोशल मीडिया की सबसे गंभीर समस्याओं में से एक के समाधान के लिए उम्मीद करेंगे।
कंटेंट सील एक अदृश्य वॉटरमार्किंग तकनीक है जिसे मेटा के नए म्यूज़ एआई मॉडल द्वारा बनाई गई छवियों की पहचान करने के लिए डिज़ाइन किया गया है। लेकिन बात यह है – कंपनी की घोषणा में इसका बमुश्किल उल्लेख किया गया था। जबकि मेटा ने अपनी नई छवि और वीडियो निर्माण क्षमताओं का प्रचार किया, वास्तविक पहचान उपकरण फाइन प्रिंट में दब गया। यह वास्तव में गेम-चेंजिंग पारदर्शिता सुविधा का विश्वसनीय रोलआउट नहीं है।
संदेह निराधार नहीं है. गूगल SynthID के साथ इस समस्या को पहले ही हल कर लिया गया है, एक वॉटरमार्किंग प्रणाली जो न केवल अधिक स्थापित है बल्कि ओपन-सोर्स और उद्योग मानकों के अनुकूल भी है। SynthID C2PA कंटेंट क्रेडेंशियल्स के साथ काम करता है, यह गठबंधन जिसमें Adobe, Microsoft और BBC शामिल हैं, सभी डिजिटल सामग्री को प्रमाणित करने के लिए सार्वभौमिक मानकों की दिशा में काम कर रहे हैं। मेटा जानता है कि यह मौजूद है। उन्होंने वैसे भी कुछ और बनाने का फैसला किया।
“एक ऐसे व्यक्ति के रूप में जो एआई लेबलिंग सिस्टम की जांच करने में बहुत समय बिताता है, कंटेंट सील मुझे आत्मविश्वास से नहीं भरता है,” द वर्ज की जेस वेदरबेड ने लिखा. यह अवलोकन मुद्दे के मूल को उजागर करता है – जब बेहतर पहिये पहले से ही मौजूद हैं तो पहिए का फिर से आविष्कार क्यों किया जाए?
यहां समय मायने रखता है. सामग्री मॉडरेशन विफलताओं को लेकर मेटा पर वर्षों से आलोचना हो रही है, जिसमें चुनावी गलत सूचना से लेकर डीपफेक तक शामिल है। जब ओवरसाइट बोर्ड आपको विशेष रूप से बुलाता है और आपको अपने स्वयं के टूल का उपयोग करने के लिए कहता है, तो उम्मीद यह होती है कि आप कुछ मजबूत लेकर वापस आएंगे और जोर से इसकी घोषणा करके दिखाएंगे कि आप गंभीर हैं। इसके बजाय, मेटा ने एक स्वामित्व प्रणाली प्रदान की जो केवल अपने स्वयं के एआई मॉडल के साथ काम करती है और इसे एक सॉफ्टवेयर पैच नोट के विपणन पर ध्यान दिया।
यह विखंडन उद्योग के लिए एक वास्तविक समस्या बनता जा रहा है। प्रत्येक प्रमुख तकनीकी कंपनी अपनी स्वयं की पहचान प्रणाली का निर्माण कर रही है, इसका मतलब है कि सभी प्लेटफार्मों पर एआई सामग्री की पहचान के लिए कोई सार्वभौमिक मानक नहीं है। पर एक छवि उत्पन्न हुई मेटायदि इसे एक्स पर साझा किया जाता है या विभिन्न सत्यापन टूल का उपयोग करके किसी समाचार साइट पर अपलोड किया जाता है, तो सामग्री सील के साथ म्यूज़ियम और वॉटरमार्क का पता नहीं लगाया जा सकता है। SynthID के साथ Google का दृष्टिकोण कम से कम C2PA मानकों के माध्यम से अंतरसंचालनीयता का प्रयास करता है।
मेटा का फैसला प्राथमिकताओं पर भी सवाल उठाता है. शुरुआत से वॉटरमार्किंग तकनीक के निर्माण के लिए महत्वपूर्ण इंजीनियरिंग संसाधनों की आवश्यकता होती है जो मौजूदा समाधानों को तेजी से और अधिक व्यापक रूप से लागू करने की दिशा में काम कर सकते थे। कंपनी सार्वजनिक बयानों में एआई सुरक्षा और पारदर्शिता के बारे में मुखर रही है, लेकिन जब उत्पाद घोषणाओं में वास्तविक उपकरणों को बाद के विचारों के रूप में माना जाता है तो ये प्रतिबद्धताएं खोखली हो जाती हैं।
कंटेंट सील की मालिकाना प्रकृति उन शोधकर्ताओं और तथ्य-जाँचकर्ताओं के लिए विशेष रूप से निराशाजनक है जो क्रॉस-प्लेटफ़ॉर्म पहचान पर भरोसा करते हैं। यदि प्रत्येक कंपनी अपना स्वयं का वॉटरमार्किंग मानक लागू करती है, तो एआई-जनित गलत सूचना की पहचान करने की कोशिश करने वाले लोगों को कई प्रणालियों को सीखना और उनका उपयोग करना होगा। यह सिर्फ अप्रभावी नहीं है – यह अंतराल पैदा करता है जहां भ्रामक सामग्री फिसल सकती है।
उद्योग पर्यवेक्षक इसे एक व्यापक पैटर्न के हिस्से के रूप में देखते हैं मेटा जिम्मेदारी के बारे में बात करता है लेकिन सहयोगात्मक समाधानों का विरोध करता है जो इसकी स्वायत्तता को सीमित कर सकता है। C2PA में शामिल होने या SynthID को अपनाने का मतलब उन नियमों के अनुसार खेलना होगा जो मेटा ने नहीं लिखे हैं। बिल्डिंग कंटेंट सील सब कुछ घर में ही रखता है, भले ही इसका मतलब समग्र रूप से कम प्रभावी प्रणाली हो।
महत्वपूर्ण क्षण में हथियारों की होड़ तेज हो रही है। चुनावों, संघर्षों और प्रमुख समाचार घटनाओं के लगातार सामने आने के साथ, यह सत्यापित करने की क्षमता कि कोई छवि वास्तविक है या एआई-जनित है, कभी भी अधिक महत्वपूर्ण नहीं रही है। कंटेंट सील के प्रति मेटा के ढुलमुल रवैये से पता चलता है कि कंपनी ने अभी भी तात्कालिकता को पूरी तरह से नहीं समझा है, या यह निर्णय लिया गया है कि मालिकाना नियंत्रण प्रभावशीलता से अधिक मायने रखता है।
मेटा का कंटेंट सील लॉन्च आधे-अधूरे अनुपालन में लिपटे हुए एक चूके हुए अवसर जैसा लगता है। कंपनी के पास मौजूदा मानकों को अपनाकर और डिटेक्शन को अपनी एआई रणनीति की आधारशिला बनाकर एआई पारदर्शिता का नेतृत्व करने का मौका था। इसके बजाय, उसने सहयोग के स्थान पर विखंडन को चुना और घोषणा को ऐसे दबा दिया जैसे वह इससे शर्मिंदा हो। जैसे-जैसे एआई-जनित सामग्री सोशल प्लेटफ़ॉर्म पर बाढ़ लाती है, उपयोगकर्ता वॉटरमार्किंग सिस्टम से बेहतर के पात्र होते हैं जो केवल चारदीवारी के भीतर काम करते हैं। अब सवाल यह है कि क्या नियामकों, विज्ञापनदाताओं, या स्वयं उपयोगकर्ताओं का दबाव मेटा को अधिक गंभीर समाधानों की ओर धकेल देगा – या यदि कंटेंट सील न्यूनतम प्रतिनिधित्व करता है तो कंपनी को लगता है कि वह बच सकती है।
