ईरान युद्ध जैसे सशस्त्र संघर्षों के दौरान गलत सूचना कितनी तेजी से फैलती है, इसे संभालने के लिए डीपफेक की पहचान करने के मेटा के तरीके “पर्याप्त मजबूत या व्यापक नहीं” हैं। यह मेटा ओवरसाइट बोर्ड के अनुसार है – एक अर्ध-स्वतंत्र निकाय जो कंपनी की सामग्री मॉडरेशन प्रथाओं का मार्गदर्शन करता है – जो अब मेटा को ओवरहाल करने के लिए कह रहा है कि वह फेसबुक, इंस्टाग्राम और थ्रेड्स पर एआई-जनरेटेड सामग्री को कैसे प्रदर्शित और लेबल करता है।
कार्रवाई का आह्वान यहीं से होता है फर्जी एआई वीडियो की जांच इज़राइल में इमारतों को हुए कथित नुकसान को पिछले साल मेटा के सोशल प्लेटफ़ॉर्म पर साझा किया गया था, लेकिन बोर्ड का कहना है कि इस सप्ताह पूरे मध्य पूर्व में “बड़े पैमाने पर सैन्य वृद्धि” को देखते हुए इसकी सिफारिशें विशेष रूप से प्रासंगिक हैं। अपनी घोषणा में, बोर्ड का कहना है कि गलत सूचना फैलाने के लिए एआई उपकरणों के बढ़ते जोखिम के बीच लोगों की सुरक्षा के लिए सटीक, विश्वसनीय जानकारी तक पहुंच महत्वपूर्ण है।
मेटा ओवरसाइट बोर्ड ने कहा, “बोर्ड के निष्कर्ष इस बात पर प्रकाश डालते हैं कि एआई सामग्री को उचित रूप से लेबल करने के लिए मेटा की वर्तमान प्रणाली एआई उपयोग के स्व-प्रकटीकरण और बढ़ी हुई समीक्षा पर अत्यधिक निर्भर है और आज के ऑनलाइन वातावरण की वास्तविकताओं को पूरा नहीं करती है।” “मामला ऐसी सामग्री के क्रॉस-प्लेटफॉर्म प्रसार की चुनौतियों पर भी प्रकाश डालता है, ऐसा प्रतीत होता है कि सामग्री फेसबुक, इंस्टाग्राम और एक्स पर प्रदर्शित होने से पहले टिकटॉक पर उत्पन्न हुई थी।”
बोर्ड द्वारा जारी किए गए अनुशंसित कदमों में भ्रामक डीपफेक को संबोधित करने के लिए गलत सूचना पर अपने मौजूदा नियमों में सुधार करने के लिए मेटा पर दबाव डालना और एआई-जनित सामग्री के लिए एक नया, अलग सामुदायिक मानक स्थापित करना शामिल है। मेटा को बेहतर एआई डिटेक्शन टूल विकसित करने, एआई नीति उल्लंघनों के लिए दंड के बारे में पारदर्शी होने और एआई सामग्री लेबलिंग प्रयासों को बढ़ाने के लिए भी कहा जा रहा है। उत्तरार्द्ध में यह सुनिश्चित करना शामिल है कि सिंथेटिक छवियों और वीडियो में “हाई-रिस्क एआई” लेबल अधिक बार जोड़े जाएं, और सी2पीए (जिसे कंटेंट क्रेडेंशियल के रूप में जाना जाता है) को अपनाने में सुधार किया जाए ताकि एआई-जनरेटेड सामग्री पर जानकारी “स्पष्ट रूप से दिखाई दे और उपयोगकर्ताओं के लिए पहुंच योग्य हो।”
