सैन फ़्रांसिस्को ने हाल ही में एआई-जनरेटेड डीपफेक पर कड़ा प्रहार किया है। सिटी अटॉर्नी डेविड चिउ ने दोनों को औपचारिक पत्र भेजे सेब और गूगल मांग करते हुए कि वे अपने ऐप स्टोर से तथाकथित ‘न्यूडिफाई’ ऐप्स को तुरंत हटा दें, यह तर्क देते हुए कि कंपनियों ने जानबूझकर गैर-सहमति वाली अंतरंग छवियां उत्पन्न करने वाले ऐप्स की मेजबानी करके कैलिफोर्निया कानून का उल्लंघन किया है। यह कदम एआई-संचालित डीपफेक टूल के खिलाफ अब तक की सबसे आक्रामक नियामक कार्रवाइयों में से एक है, जो संभावित रूप से एक मिसाल कायम कर रहा है कि कैसे तकनीकी प्लेटफॉर्म हानिकारक एआई अनुप्रयोगों पर पुलिस लगाते हैं।
एआई डीपफेक पर युद्ध अभी शुरू हुआ है सेब और गूगल का दरवाज़ा सैन फ्रांसिस्को सिटी अटॉर्नी डेविड चिउ अब ठीक से नहीं पूछ रहे हैं – वह दोनों तकनीकी दिग्गजों से मांग कर रहे हैं कि वे तुरंत अपने ऐप स्टोरों को न्यूडिफाई अनुप्रयोगों से साफ़ करें जो सहमति के बिना लोगों की नकली नग्न छवियां उत्पन्न करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करते हैं।
दोनों कंपनियों को भेजे गए औपचारिक पत्रों में, चिउ ने स्पष्ट आरोप लगाया: सेब और गूगल वे महीनों, संभवतः वर्षों से जानते हैं कि वे कैलिफ़ोर्निया राज्य के कानून का सीधा उल्लंघन करते हुए ऐप्स होस्ट कर रहे हैं। विचाराधीन ऐप्स तस्वीरों से कपड़ों को डिजिटल रूप से हटाने के लिए एआई का उपयोग करते हैं, यथार्थवादी लेकिन मनगढ़ंत अंतरंग छवियां बनाते हैं जिन्हें उत्पीड़न, बदला लेने वाले अश्लील और दुर्व्यवहार के लिए हथियार बनाया गया है।
समय संयोग नहीं है. गैर-सहमति वाली अंतरंग तस्वीरों के बारे में कैलिफोर्निया के कानून किताबों में हैं, लेकिन टूल होस्ट करने वाले प्लेटफार्मों के खिलाफ प्रवर्तन अब तक लगभग न के बराबर है। सैन फ़्रांसिस्को का कदम व्यक्तिगत बुरे कर्ताओं को लक्षित करने से लेकर बुनियादी ढाँचा प्रदाताओं को जवाबदेह ठहराने की ओर एक बदलाव का संकेत देता है।
यह किसके लिए विशेष रूप से कांटेदार है? सेब और गूगल यह दावा है कि वे समस्या के बारे में जानते हैं। दोनों कंपनियां व्यापक ऐप समीक्षा प्रक्रियाएं संचालित करती हैं – सेब का बेहद सख्त ऐप स्टोर दिशानिर्देश और गूगल का Play Store की नीतियां उपयोगकर्ताओं को नुकसान पहुंचाने या परेशान करने के लिए डिज़ाइन किए गए ऐप्स पर स्पष्ट रूप से प्रतिबंध लगाती हैं। फिर भी दोनों प्लेटफार्मों पर न्यूडिफाई ऐप्स का प्रसार हो गया है, जो अक्सर सहज नामों के साथ प्रच्छन्न होते हैं या फोटो संपादन टूल के रूप में तैनात होते हैं।
ऐप्स स्वयं डीपफेक तकनीक के एक अंधेरे विकास का प्रतिनिधित्व करते हैं। जबकि शुरुआती डीपफेक के लिए तकनीकी विशेषज्ञता और महत्वपूर्ण कंप्यूटिंग शक्ति की आवश्यकता थी, इन मोबाइल एप्लिकेशन ने गैर-सहमति वाली अंतरंग इमेजरी के निर्माण को लोकतांत्रिक बना दिया। स्मार्टफोन और इन-ऐप खरीदारी के लिए कुछ डॉलर वाला कोई भी व्यक्ति दोस्तों, सहपाठियों या अजनबियों की नकली तस्वीरें तैयार कर सकता है।
की रिपोर्ट के अनुसार टेकक्रंचचिउ के पत्र केवल हटाने की मांग नहीं करते हैं – यदि कंपनियां अनुपालन नहीं करती हैं तो वे संभावित रूप से कानूनी कार्रवाई करने के लिए सैन फ्रांसिस्को को तैनात कर रहे हैं। इससे दांव काफी बढ़ जाता है। सेब और गूगल कैलिफ़ोर्निया के उपभोक्ता संरक्षण कानूनों के तहत दंड का सामना करना पड़ सकता है, यौन शोषण की कल्पना को सुविधाजनक बनाने के लिए औपचारिक रूप से आरोपी होने के जनसंपर्क दुःस्वप्न का उल्लेख नहीं किया जा सकता है।
व्यापक निहितार्थ एआई उद्योग में व्याप्त हैं। जैसे-जैसे जेनेरिक एआई उपकरण अधिक परिष्कृत और सुलभ होते जाते हैं, वैध रचनात्मक अनुप्रयोगों और हानिकारक दुरुपयोग के बीच की रेखा धुंधली होती जाती है। मेटा जबकि, अपने प्लेटफार्मों पर एआई-जनित सामग्री पर इसी तरह की जांच का सामना करना पड़ा है माइक्रोसॉफ्ट और ओपनएआई स्पष्ट सामग्री के निर्माण को रोकने के लिए अपने छवि निर्माण उपकरणों में सुरक्षा उपाय लागू किए हैं।
लेकिन मोबाइल ऐप स्टोर एक अलग चुनौती पेश करते हैं। वेब-आधारित एआई टूल के विपरीत, जिनके माध्यम से कंपनियां सीधे वितरित ऐप्स की निगरानी और नियंत्रण कर सकती हैं सेब का ऐप स्टोर और गूगल का Play Store अर्ध-स्वतंत्र रूप से संचालित होता है। एक बार डाउनलोड होने के बाद, ये ऐप्स न्यूनतम निरीक्षण के साथ कार्य कर सकते हैं, जिससे प्रवर्तन सक्रिय होने के बजाय प्रतिक्रियाशील हो जाता है।
टेक दिग्गजों को अब दुविधा का सामना करना पड़ रहा है। एक व्यापक शुद्धिकरण के लिए नग्नीकरण क्षमताओं वाले लोगों की पहचान करने के लिए संभावित रूप से हजारों फोटो संपादन और एआई ऐप्स की समीक्षा करने की आवश्यकता होगी। कई ऐप चुपचाप स्पष्ट सामग्री उत्पन्न करने की क्षमता प्रदान करते हुए खुद को कलात्मक उपकरण या फैशन विज़ुअलाइज़र के रूप में विपणन करते हैं। सेब और गूगल यह तय करने की आवश्यकता होगी कि क्या व्यापक जाल बिछाना है, झूठी सकारात्मकता का जोखिम उठाना है, या सर्जिकल होना है और अपराधियों के लापता होने का जोखिम उठाना है।
इससे अन्य न्यायक्षेत्रों पर भी सैन फ्रांसिस्को का अनुसरण करने का दबाव पड़ता है। यदि कैलिफ़ोर्निया का दृष्टिकोण प्रभावी साबित होता है, तो न्यूयॉर्क से वाशिंगटन तक अटॉर्नी जनरल से इसी तरह की मांग जारी करने की अपेक्षा करें। ऐप स्टोर डुओपोली का मतलब है सेब और गूगल वैश्विक स्तर पर अरबों उपयोगकर्ताओं के लिए मोबाइल सॉफ़्टवेयर तक पहुंच को नियंत्रित करें – एक प्रमुख बाज़ार में नियामक कार्रवाई दुनिया भर में नीतिगत बदलावों को गति दे सकती है।
प्रेस समय में किसी भी कंपनी ने सार्वजनिक प्रतिक्रिया जारी नहीं की थी, लेकिन प्रमुख न्यायालयों से औपचारिक कानूनी मांगों का सामना करने पर दोनों ने ऐतिहासिक रूप से तेजी से कदम उठाया है। सवाल यह है कि क्या वे भविष्य में उल्लंघनों को रोकने के लिए सबसे स्पष्ट अपराधियों को हटा देंगे या अपनी संपूर्ण एआई ऐप समीक्षा प्रक्रिया में सुधार करेंगे।
सैन फ्रांसिस्को की मांग है कि सेब और गूगल न्यूडिफाई ऐप्स को पर्ज करना सिर्फ ऐप स्टोर्स को साफ करने के बारे में नहीं है – यह एक परीक्षण मामला है कि समाज एआई टूल को कैसे विनियमित करेगा जिन्हें नुकसान के लिए हथियार बनाया जा सकता है। यदि कंपनियां जल्दी और व्यापक रूप से अनुपालन करती हैं, तो यह दर्शाता है कि लक्षित नियामक दबाव संघीय कानून के बिना प्लेटफ़ॉर्म जवाबदेही को मजबूर कर सकता है। यदि वे विरोध करते हैं या प्रतिक्रिया को आधा-अधूरा करते हैं, तो तनाव बढ़ने की उम्मीद है। किसी भी तरह, प्रमुख ऐप स्टोरों पर सादे दृष्टि से छुपे एआई डीपफेक ऐप्स के दिन अब गिने-चुने नजर आ रहे हैं। असली सवाल यह है कि क्या यह एआई-संचालित दुरुपयोग के लिए प्लेटफ़ॉर्म की ज़िम्मेदारी के बारे में व्यापक गणना की शुरुआत है, या विनियामक व्हेक-ए-मोल का एक और दौर है।
