मेटा कंपनी का नेमटैग फेस रिकग्निशन सिस्टम वास्तव में मौजूद है या नहीं, इस बारे में अधिकारी अलग-अलग जवाब दे रहे हैं। तब से वायर्ड विवादास्पद एआई निगरानी तकनीक पर कहानी तोड़ते हुए, कंपनी के नेताओं ने विरोधाभासी बयानों की एक श्रृंखला जारी की है जो एआई विकास और तैनाती में पारदर्शिता के बारे में गंभीर सवाल उठाते हैं। यह भ्रम तब पैदा होता है जब दुनिया भर के नियामक एआई क्षेत्र में चेहरे की पहचान तकनीक और कॉर्पोरेट जवाबदेही की जांच कर रहे हैं।
मेटा ऐसा प्रतीत होता है कि इसकी कहानी सीधे तौर पर समझ में नहीं आ रही है। अगले WIRED की जांच कंपनी के नेमटैग फेस रिकग्निशन सिस्टम में, अलग-अलग अधिकारियों ने पूरी तरह से विरोधाभासी विवरण दिए हैं कि क्या तकनीक मौजूद है – इस बात की तो बात ही छोड़ दें कि इसे सक्रिय रूप से विकसित या तैनात किया जा रहा है या नहीं।
भ्रम तब शुरू हुआ जब WIRED ने पहली बार नेमटैग का वर्णन करने वाले आंतरिक दस्तावेजों पर रिपोर्ट की, जो एक एआई-संचालित चेहरे की पहचान प्रणाली है जो संभावित रूप से मेटा के ऐप्स के परिवार में व्यक्तियों की पहचान कर सकती है। प्रारंभिक रिपोर्टिंग से पता चला कि मेटा द्वारा सार्वजनिक रूप से स्वीकार किए जाने की तुलना में सिस्टम विकास में आगे था, जिससे तत्काल गोपनीयता संबंधी लाल झंडे उठ गए।
लेकिन यहीं पर मामला गड़बड़ हो जाता है। मामले से परिचित सूत्रों के अनुसार, मेटा के एक प्रवक्ता ने शुरू में संवाददाताओं से कहा कि यह प्रणाली “विशुद्ध रूप से प्रायोगिक अनुसंधान” थी, जिसमें तैनाती की कोई योजना नहीं थी। कुछ दिनों बाद, एक अलग कंपनी के कार्यकारी ने नेमटैग को “हमारे द्वारा खोजी गई कई अवधारणाओं में से एक के रूप में वर्णित किया जो कभी भी विचार के चरण से आगे नहीं बढ़ पाती है।” फिर एक तीसरा बयान सामने आया जिसमें सुझाव दिया गया कि प्रौद्योगिकी “किसी भी कार्यात्मक रूप में मौजूद नहीं है।”
विरोधाभास केवल शब्दार्थ की दृष्टि से भिन्न नहीं हैं – वे मौलिक रूप से भिन्न वास्तविकताओं का वर्णन कर रहे हैं। या तो मेटा ने एक कार्यशील चेहरे की पहचान प्रणाली बनाई, या नहीं बनाई। या तो कंपनी सक्रिय रूप से इसका परीक्षण कर रही है, या यह कहीं स्लाइड डेक में बस एक अवधारणा है। यह तथ्य कि अधिकारी बुनियादी तथ्यों पर सहमत नहीं हो सकते हैं, तकनीकी उद्योग और नियामक हलकों में भौंहें चढ़ रही हैं।
एक पूर्व मेटा इंजीनियर ने नाम न छापने की शर्त पर द टेक बज़ को बताया, “इस तरह की मैसेजिंग अराजकता का आमतौर पर दो चीजों में से एक मतलब होता है।” “या तो बायां हाथ नहीं जानता कि दाहिना हाथ क्या कर रहा है, या कोई जानबूझकर पानी गंदा कर रहा है।” कोई भी परिदृश्य आत्मविश्वास को प्रेरित नहीं करता है, खासकर जब उपयोगकर्ता की गोपनीयता और निगरानी पर गंभीर प्रभाव डालने वाली प्रौद्योगिकी की बात आती है।
इससे बुरा समय नहीं हो सकता मेटा. कंपनी पहले से ही अपनी एआई प्रथाओं पर गहन जांच का सामना कर रही है, खासकर सीईओ मार्क जुकरबर्ग के सभी मेटा उत्पादों में एआई को एकीकृत करने के हालिया दबाव के बाद। यूरोपीय नियामक यह सवाल करने में विशेष रूप से आक्रामक रहे हैं कि मेटा अपने एआई मॉडल को कैसे प्रशिक्षित करता है और कंपनी कौन सा डेटा एकत्र करती है। चेहरे की पहचान तकनीक इन चिंताओं के चौराहे पर बैठती है – यह एक शक्तिशाली एआई एप्लिकेशन और बड़े पैमाने पर गोपनीयता जोखिम दोनों है।
गोपनीयता के समर्थक स्पष्टता की मांग कर रहे हैं। डिजिटल अधिकार वकील सारा चेन ने संवाददाताओं को दिए एक बयान में कहा, “कंपनियां इसे दोनों तरीकों से नहीं अपना सकतीं।” “आप एक साथ यह दावा नहीं कर सकते कि निगरानी तकनीक मौजूद नहीं है, साथ ही उस पर शोध करने के अपने अधिकार का बचाव भी कर सकते हैं। उपयोगकर्ताओं को यह जानने का हक है कि उनके डेटा और उनके चेहरों के साथ क्या हो रहा है।”
नेमटैग विवाद एआई विकास में एक व्यापक समस्या को भी उजागर करता है – कंपनियां वास्तव में बंद दरवाजों के पीछे क्या निर्माण कर रही हैं, इसके बारे में पारदर्शिता की कमी। पारंपरिक सॉफ्टवेयर उत्पादों के विपरीत, जो अंततः सार्वजनिक रूप से शिप किए जाते हैं, एआई अनुसंधान परियोजनाएं वर्षों तक ग्रे जोन में मौजूद रह सकती हैं। कंपनियां सार्वजनिक ज्ञान या नियामक निरीक्षण के बिना आंतरिक रूप से एआई सिस्टम का परीक्षण, परिशोधन और यहां तक कि तैनात भी कर सकती हैं।
मेटा का भ्रमित संदेश प्रोजेक्ट के बारे में आंतरिक असहमति को भी दर्शा सकता है। सूत्रों का सुझाव है कि जहां मेटा की कुछ टीमें संवर्धित वास्तविकता चश्मे जैसे भविष्य के उत्पादों के लिए चेहरे की पहचान को आवश्यक मानती हैं, वहीं अन्य इस तरह की तकनीक से पैदा होने वाले नियामक और जनसंपर्क दुःस्वप्न के बारे में चिंतित हैं। नतीजा यह है कि एक कंपनी यह तय नहीं कर पा रही है कि वह प्रौद्योगिकी का मालिक बने या खुद को इससे दूर रखे।
प्रतिस्पर्धी बारीकी से देख रहे हैं। दोनों सेब और गूगल उनकी अपनी चेहरे की पहचान करने की क्षमताएं हैं लेकिन गोपनीयता संबंधी चिंताओं के बीच वे तैनाती के बारे में अधिक सतर्क हैं। उदाहरण के लिए, ऐप्पल की फेस आईडी स्पष्ट रूप से क्लाउड के बजाय स्थानीय रूप से डिवाइस पर काम करने के लिए डिज़ाइन की गई है। कर्मचारी प्रतिक्रिया के बाद Google ने चेहरे की पहचान संबंधी कुछ सुविधाओं को वापस ले लिया है।
आगे क्या होगा यह संभवतः नियामकों पर निर्भर करता है। यूरोपीय संघ का एआई अधिनियम विशेष रूप से चेहरे की पहचान सहित उच्च जोखिम वाले एआई अनुप्रयोगों को लक्षित करता है। यदि मेटा इस बारे में लगातार उत्तर नहीं दे पाता है कि वह क्या बना रहा है, तो नियामक स्वयं पता लगाने के लिए आंतरिक प्रणालियों और दस्तावेज़ों तक पहुंच की मांग कर सकते हैं। अमेरिकी सांसद भी चक्कर लगा रहे हैं, कई कांग्रेस समितियां पहले से ही मेटा की एआई प्रथाओं की जांच कर रही हैं।
अभी के लिए, मेटा उपयोगकर्ताओं के पास उत्तर से अधिक प्रश्न बचे हैं। क्या कंपनी के पास एक कार्यशील चेहरे की पहचान प्रणाली है जो उसके सभी प्लेटफार्मों पर लोगों की पहचान करने में सक्षम है? क्या इसका परीक्षण किया जा रहा है? क्या अंततः इसे तैनात किया जाएगा? तथ्य यह है कि मेटा के स्वयं के अधिकारी उत्तरों पर सहमत नहीं हो सकते हैं, यह शायद सभी का सबसे परेशान करने वाला रहस्योद्घाटन है।
नेमटैग विवाद तकनीकी कंपनियों द्वारा एआई विकास के बारे में संवाद करने के तरीके में एक महत्वपूर्ण अंतर को उजागर करता है, खासकर जब इसमें चेहरे की पहचान जैसी संवेदनशील तकनीक शामिल होती है। यह प्रणाली मौजूद है या नहीं, इसके बारे में लगातार उत्तर देने में मेटा की असमर्थता सिर्फ एक संदेश विफलता नहीं है – यह एक पारदर्शिता संकट है जो उस समय विश्वास को कमजोर कर देता है जब उद्योग को इसकी सख्त जरूरत होती है। जैसे-जैसे नियामक एआई विकास पर सख्त नियम लागू करने जा रहे हैं, जो कंपनियां स्पष्ट रूप से यह नहीं बता सकतीं कि वे क्या बना रही हैं, उन्हें बातचीत के बजाय जांच का सामना करना पड़ सकता है। मेटा के लिए, नेमटैग के बारे में कहानी को सीधे तौर पर समझना अब केवल क्षति नियंत्रण के बारे में नहीं है। यह साबित करने के बारे में है कि कंपनी पर सबसे पहले जिम्मेदारी से एआई विकसित करने के लिए भरोसा किया जा सकता है।
