एआई लेबलिंग सिस्टम के लिए यह बनने या बिगड़ने का समय है

हम यह पता लगाने वाले हैं कि क्या डीपफेक और एआई-जनित सामग्री को आसानी से पहचानने के लिए डिज़ाइन किए गए सिस्टम वास्तव में ठीक हैं। SynthID और C2PA कंटेंट क्रेडेंशियल, छवि, वीडियो और ऑडियो फ़ाइलों को उनके मूल के बारे में जानकारी के साथ अदृश्य रूप से टैग करने के लिए दो अलग-अलग प्रौद्योगिकियां, आज तक का सबसे बड़ा विस्तार प्राप्त कर रही हैं, और इसके साथ, लोगों को ऑनलाइन धोखा देने वाले गैर-लेबल वाले एआई फर्जीवाड़े के खिलाफ लड़ाई को मोड़ने का अवसर मिल रहा है।

कल अपने I/O सम्मेलन के दौरान, Google ने घोषणा की कि छवियों में SynthID मार्कर हैं या नहीं, यह सत्यापित करने की क्षमता – अदृश्य वॉटरमार्किंग प्रणाली जो Google AI मॉडल द्वारा उत्पन्न सामग्री पर लागू होती है – क्रोम और सर्च पर आ रही है। यह महत्वपूर्ण है क्योंकि क्रोम बिल्कुल हावी वेब ब्राउज़र और खोज इंजन के लिए वैश्विक बाजार हिस्सेदारी, इसलिए एआई सत्यापन उपकरण को अधिक लोगों के सामने लाया जा रहा है। यह जाँच प्रक्रिया को भी सुव्यवस्थित करता है; यदि आप वर्तमान में सिंथआईडी मार्करों के लिए एक छवि की जांच करना चाहते हैं, तो आपसे इसे जेमिनी ऐप पर अपलोड करने की अपेक्षा की जाती है।

इतना ही नहीं, अब Google का सत्यापन इंटरफ़ेस भी ऐसा करेगा भी जांचें कि क्या इन फ़ाइलों में C2PA जानकारी है – उत्पत्ति मेटाडेटा जो निर्माण के बिंदु पर सामग्री में एम्बेडेड है, हमें यह बताने के लिए कि इसे कैसे बनाया गया या हेरफेर किया गया और क्या प्रक्रिया के दौरान AI उपकरण का उपयोग किया गया था। यह C2PA अपनाने से उपयोगकर्ताओं को जेमिनी ऐप और समर्पित C2PA सत्यापन पोर्टल के बीच कूदने के बजाय एकल इंटरफ़ेस से संदिग्ध छवियों की जांच करने की अनुमति मिलती है क्योंकि फ़ाइलों में केवल एक प्रकार का लेबल हो सकता है या कोई भी नहीं।

यह उस प्रकार का सहयोगात्मक प्रयास है जिसका हम इंतजार कर रहे थे। जबकि दोनों प्रणालियाँ अलग-अलग काम करती हैं, Google और कंटेंट ऑथेंटिसिटी इनिशिएटिव (जो C2PA मानक को बढ़ावा देने के लिए मौजूद है) दोनों ने समान दावे किए हैं कि उनके काम करने के लिए क्या आवश्यक है: सभी को शामिल करना। इसका मतलब है कि अधिक एआई मॉडल को इस डेटा को एम्बेड करने की आवश्यकता है, और ऑनलाइन प्लेटफ़ॉर्म जहां एआई फ़ेकरी को सबसे अधिक बार साझा किया जाता है, उस जानकारी को स्पष्ट रूप से प्रदर्शित करने की आवश्यकता है। बाद के लिए, वेब ब्राउज़र में निर्मित सत्यापन उपकरण उन वेबसाइटों पर एक समाधान के रूप में काम कर सकते हैं जो अपने उपयोगकर्ताओं के लिए एआई मेटाडेटा की जांच या प्रस्तुत नहीं करते हैं।

ओपनएआई भी इस विस्तार में शामिल हो रहा है, उसने कल घोषणा की कि वह अब सिंथआईडी को चैटजीपीटी, कोडेक्स और ओपनएआई एपीआई द्वारा उत्पन्न छवियों में एम्बेड करेगा। कंपनी पहले से ही जेनरेट की गई सामग्री में C2PA मेटाडेटा शामिल करती है, लेकिन मैंने पाया है कि अन्य प्लेटफ़ॉर्म पर पोस्ट करते समय इसे अक्सर हटा दिया जाता है। C2PA का स्टीयरिंग सदस्य होने और अब मानक के प्रति अपनी प्रतिबद्धता की पुष्टि करने के बावजूद, OpenAI स्वयं भी C2PA के बारे में अपेक्षाओं को कम करना चाहता है। ओपनएआई ने यही कहा है इसका C2PA सहायता पृष्ठइसके होने से पहले SynthID को शामिल करने के लिए अद्यतन किया गया कल:

“C2PA जैसा मेटाडेटा उद्गम के मुद्दों को संबोधित करने के लिए कोई सिल्वर बुलेट नहीं है। इसे गलती से या जानबूझकर आसानी से हटाया जा सकता है। उदाहरण के लिए, अधिकांश सोशल मीडिया प्लेटफ़ॉर्म आज अपलोड की गई छवियों से मेटाडेटा हटा देते हैं, और स्क्रीनशॉट लेने जैसी क्रियाएं भी इसे हटा सकती हैं। इसलिए, इस मेटाडेटा की कमी वाली छवि चैटजीपीटी या हमारे एपीआई के साथ उत्पन्न हो भी सकती है और नहीं भी।”

किसी ऐसी चीज़ के लिए जिसे सामग्री प्रामाणिकता तकनीक में सबसे अच्छा माना जाता है, वह अविश्वसनीय रूप से कमज़ोर लगती है। यहां तक ​​कि Google भी C2PA का वर्णन करता है उद्योग मानक, और यह हो रहा है वैश्विक सरकारों के सामने पेश किया गया एआई पारदर्शिता और लेबलिंग आवश्यकताओं को पूरा करने के समाधान के रूप में। लेकिन बढ़ते हुए भी एआई, हार्डवेयर और सॉफ्टवेयर प्रदाताओं द्वारा अपनाया गयामैंने शायद ही कभी इसे जंगल में एआई फ़ेकरी को सत्यापित करने के लिए सफलतापूर्वक उपयोग करते देखा हो। तुलनात्मक रूप से SynthID अधिक मजबूत लगता है क्योंकि इसे आसानी से हटाया नहीं जा सकता है – C2PA की तुलना में इसकी पहुंच कितनी सीमित है, मैं कई उदाहरणों को याद कर सकता हूं जहां तथ्य-जांचकर्ताओं और मीडिया एजेंसियों ने ऑनलाइन डीपफेक को डिबंक करने में इसके उपयोग का हवाला दिया है।

C2PA और SynthID दोनों व्यापक सुरक्षा जाल बिछाने के लिए सहयोगात्मक रूप से काम कर सकते हैं। यह कोई ऐसा उद्योग नहीं है जो सत्यापन मानकों के युद्ध से लाभान्वित होगा, लेकिन Google के पास यह साबित करने का स्पष्ट अवसर है कि क्या उसकी प्रणाली अधिक विश्वसनीय है और C2PA ने अपने लिए जो कुछ सुर्खियां बटोरी हैं, उनमें से कुछ को हासिल कर सकता है। ऐसा होने से रोकने के लिए, C2PA को यह साबित करने की आवश्यकता है कि इसका उपयोग वास्तव में यह जानने के लिए किया जा सकता है कि जो सामग्री हम ऑनलाइन देखते हैं वह कहाँ से आ रही है।

ऐसा अवसर पहले ही प्रस्तुत किया जा चुका है: Google ने कल घोषणा की कि मेटा इंस्टाग्राम पर कैमरे द्वारा कैप्चर की गई छवियों को टैग करने के लिए C2PA मेटाडेटा का उपयोग करना शुरू कर देगा। मेटा ने हमारे सवालों का जवाब नहीं दिया है कि यह कैसा दिखेगा या कौन से कैमरे समर्थित होंगे, हालांकि मुझे लगता है कि इसमें ऐसे लेबल शामिल होंगे जो ईमेल पर लागू “मेरे आईफोन से भेजे गए” नोट्स के समान “पिक्सेल 10 पर कैप्चर किया गया” जैसा कुछ कहेंगे। यह प्रभावी रूप से इंस्टाग्राम उपयोगकर्ताओं को “वास्तविक” तस्वीरों को एआई फेकरी से अलग करने में मदद करेगा, जो भविष्य में इंस्टाग्राम प्रमुख एडम मोसेरी द्वारा भविष्यवाणी की गई है कि “हम जो देखते हैं उसे डिफ़ॉल्ट रूप से वास्तविक मानने से दूर जाने की आवश्यकता है।”

यदि लेबलिंग काम करती है, तो वह है। इंस्टाग्राम पहले से ही C2PA जानकारी के लिए छवियों की जाँच करता है, और AI-जनित सामग्री को लेबल करने के उसके प्रयासों ने पहले प्लेटफ़ॉर्म को गर्म पानी में ला दिया है जब उसने उन छवियों पर AI लेबल लागू किया था जो फोटोग्राफरों ने जोर देकर कहा था कि उन्होंने खुद ली थी।

मैं इस टीम के लिए Google की प्रशंसा करने में भी जल्दबाजी नहीं करूंगा। कंपनी एआई पारदर्शिता के महत्व और डिजिटल डीपफेक से निपटने के बारे में प्रचार करती है, साथ ही वह वही तकनीक विकसित कर रही है जिसका उपयोग लोगों को गुमराह करने के लिए किया जा रहा है। इसने स्वयं को आपूर्तिकर्ता और समाधान दोनों के रूप में स्थापित किया है। अगर सिंथआईडी डीपफेक के खिलाफ लड़ाई में कोई उल्लेखनीय बदलाव लाता है तो मैं उसे माफ कर सकता हूं, लेकिन मुद्दे के पैमाने को देखते हुए मुझे कोई उम्मीद नहीं है।

मजबूत हों या न हों, SynthID और C2PA केवल वॉटरमार्क का पता लगा सकते हैं यदि उन्हें पहले स्थान पर जोड़ा गया हो, और मुझे संदेह है कि वास्तव में नापाक डीपफेक सामग्री उत्पन्न करने के लिए उपयोग किए जाने वाले कई ओपन-सोर्स मॉडल इन प्रणालियों को अपनाने के लिए कतार में हैं। प्रोवेंस कभी भी एक सही समाधान नहीं होने वाला था, लेकिन अब Google और C2PA के पास यह साबित करने का अवसर है कि यह पूरी तरह से समय की बर्बादी नहीं है।