गले मिलते चेहरे वाले मॉडल आसानी से स्पष्ट डीपफेक बनाते हैं

जो बात इसे विशेष रूप से चिंताजनक बनाती है वह है सामग्री की गैर-सहमति वाली प्रकृति। सामान्य स्पष्ट सामग्री के विपरीत, डीपफेक न्यूड अक्सर बिना अनुमति के उनकी समानताओं का उपयोग करके विशिष्ट व्यक्तियों को लक्षित करते हैं। ब्रिटेन सहित कई अमेरिकी राज्यों और देशों ने इसे छवि-आधारित यौन शोषण के एक रूप के रूप में मान्यता देते हुए, गैर-सहमति वाली डीपफेक पोर्नोग्राफ़ी को अपराध घोषित कर दिया है। शोध से पता चलता है कि मुख्यधारा के एआई प्लेटफार्मों पर होस्ट किए गए टूल के माध्यम से इन कानूनों का बड़े पैमाने पर उल्लंघन किया जा रहा है।

मेटा और अन्य तकनीकी दिग्गजों को रिवेंज पोर्न और गैर-सहमति वाली इमेजरी पर वर्षों के दबाव का सामना करना पड़ा है। उन्होंने समस्या से निपटने के लिए परिष्कृत पहचान प्रणाली और मॉडरेशन टीमें बनाई हैं। लेकिन खुले एआई मॉडल की विकेंद्रीकृत प्रकृति एक अलग चुनौती पैदा करती है। जब कोई किसी मॉडल को डाउनलोड करता है आलिंगन करता हुआ चेहरा और इसे अपने हार्डवेयर पर चलाते हैं, इसमें कोई सामग्री मॉडरेशन परत नहीं है, कोई अपील प्रक्रिया नहीं है, कोई निरीक्षण नहीं है।

प्लेटफ़ॉर्म में हानिकारक सामग्री को प्रतिबंधित करने वाली नीतियां हैं और सेवा की शर्तों का उल्लंघन करने वाले मॉडल को हटाया जा सकता है। लेकिन प्रवर्तन उपयोगकर्ता रिपोर्ट और मैन्युअल समीक्षा पर बहुत अधिक निर्भर करता है। सैकड़ों-हजारों मॉडलों और निरंतर अपलोड के साथ, वह प्रतिक्रियाशील दृष्टिकोण गति बनाए रखने के लिए संघर्ष करता है। किसी भी हस्तक्षेप को ट्रिगर किए बिना लोकप्रिय मॉडलों तक आसानी से पहुंचने और परीक्षण करने की शोधकर्ताओं की क्षमता प्रवर्तन अंतराल के पैमाने को दर्शाती है।

यह सिर्फ हगिंग फेस की समस्या नहीं है – यह एआई समुदाय में खुलेपन और सुरक्षा के बीच व्यापक तनाव को दर्शाता है। ओपन-सोर्स अधिवक्ताओं का तर्क है कि मॉडल एक्सेस को प्रतिबंधित करने से वैध अनुसंधान को सीमित करते हुए भूमिगत रूप से हानिकारक उपयोग को बढ़ावा मिलता है। आलोचकों का कहना है कि कुछ प्रौद्योगिकियां इतनी खतरनाक हैं कि बिना रेलिंग के वितरित करना बेहद खतरनाक है। डीपफेक निष्कर्ष दोनों पक्षों के लिए गोला-बारूद हैं।

यह समय विशेष रूप से संवेदनशील है क्योंकि दुनिया भर के कानून निर्माता एआई नियमों का मसौदा तैयार कर रहे हैं। यूरोपीय संघ के एआई अधिनियम में उच्च जोखिम वाले एआई सिस्टम से संबंधित प्रावधान शामिल हैं। अमेरिकी विधायक प्लेटफ़ॉर्म दायित्व और एआई सुरक्षा के सवालों को घेर रहे हैं। आसानी से सुलभ डीपफेक टूल के दस्तावेजीकरण पर शोध करने से मॉडल वितरण पर सख्त नियंत्रण की मांग तेज हो सकती है, जिससे ओपन-सोर्स एआई इकोसिस्टम को नुकसान हो सकता है, जिसे कंपनियां पसंद करती हैं। आलिंगन करता हुआ चेहरा का निर्माण किया है।

कुछ एआई कंपनियां पहले से ही पूर्ण खुलेपन से पीछे हट रही हैं। ओपनएआई दुरुपयोग की चिंताओं के कारण 2019 में GPT-2 के पूर्ण संस्करण को जारी नहीं करने का प्रसिद्ध निर्णय लिया गया, हालांकि बाद में यह पलट गया। मेटा वज़न को सार्वजनिक रूप से उपलब्ध कराने के बावजूद उपयोग प्रतिबंधों के साथ अपने लामा मॉडल जारी किए हैं। सवाल यह है कि क्या छवि निर्माण मॉडल को वितरण को सीमित करने के लिए समान दबाव का सामना करना पड़ेगा।

सैमसंग पर अपडेट-एंड: वीयर स्मार्टफोन खराब हो गए

गैर-सहमति वाले डीपफेक के पीड़ितों के लिए, खुले बनाम बंद एआई मॉडल के आसपास तकनीकी बहस मुद्दे से परे है। नुकसान वास्तविक और तत्काल है, चाहे उपकरण एपीआई कुंजियों के पीछे बंद हों या स्वतंत्र रूप से डाउनलोड करने योग्य हों। वकालत समूहों ने मनोवैज्ञानिक आघात, प्रतिष्ठा क्षति और यहां तक ​​कि शारीरिक खतरे का दस्तावेजीकरण किया है जो डीपफेक पीड़ितों को अनुभव होता है। शोध से पता चलता है कि ये उपकरण कितनी आसानी से सुरक्षा उपायों को दरकिनार कर देते हैं, केवल उन चिंताओं को बढ़ाता है।

आलिंगन करता हुआ चेहरा विशिष्ट शोध निष्कर्षों पर सार्वजनिक रूप से प्रतिक्रिया नहीं दी है, लेकिन कंपनी ने पहले जिम्मेदार एआई विकास और पहचाने जाने पर हानिकारक सामग्री को हटाने के लिए अपनी प्रतिबद्धता बताई है। चुनौती ऐसी प्रणालियों का निर्माण करना है जो आधुनिक एआई विकास के पैमाने और गति पर उन प्रतिबद्धताओं को लागू कर सकें, बिना उस खुले लोकाचार को छोड़े जिसने प्लेटफ़ॉर्म को पहले स्थान पर मूल्यवान बनाया।

हगिंग फेस डीपफेक अनुसंधान एआई के परिभाषित तनावों में से एक को स्पष्ट करता है: दुरुपयोग से सुरक्षा के साथ खुलेपन के माध्यम से नवाचार को कैसे संतुलित किया जाए। जैसे-जैसे छवि निर्माण मॉडल अधिक शक्तिशाली और सुलभ होते जाते हैं, तकनीकी रूप से जो संभव है और जो नैतिक रूप से स्वीकार्य है, उसके बीच का अंतर बढ़ता जाता है। प्लेटफ़ॉर्म नीतियां और स्वैच्छिक सुरक्षा उपाय स्पष्ट रूप से पर्याप्त नहीं हैं जब निर्धारित उपयोगकर्ता उन्हें आसानी से बायपास कर सकते हैं। चाहे समाधान बेहतर तकनीकी नियंत्रण, सख्त प्लेटफ़ॉर्म प्रवर्तन, या नए नियमों के माध्यम से आता है, यथास्थिति अस्थिर होती जा रही है। हगिंग फेस और व्यापक खुले एआई समुदाय के लिए, सवाल यह नहीं है कि क्या बदलाव आ रहा है – सवाल यह है कि क्या वे उस बदलाव को सक्रिय रूप से आकार देंगे या इस तरह के शोध का जवाब देने वाले नियामकों द्वारा इसे उन पर थोप दिया जाएगा।