एक्सएआईएलन मस्क की कृत्रिम बुद्धिमत्ता कंपनी, चार कथित डीपफेक पीड़ितों को अदालत में अपनी वास्तविक पहचान प्रकट करने या अपना मुकदमा पूरी तरह से छोड़ने के लिए मजबूर करने पर जोर दे रही है। यह कदम इस बात पर एक उच्च-स्तरीय कानूनी लड़ाई को बढ़ाता है कि क्या xAI के ग्रोक चैटबॉट ने एआई दुरुपयोग के मामलों में पीड़ित की गुमनामी सुरक्षा की सीमाओं का परीक्षण करते हुए, गैर-सहमति वाली नग्न छवियों के निर्माण को सक्षम किया है। वादी, जो वर्तमान में छद्म नामों के तहत मुकदमा कर रहे हैं, का दावा है कि यदि सार्वजनिक रूप से डीपफेक लक्ष्य के रूप में पहचान की जाती है तो उन्हें गंभीर जोखिम का सामना करना पड़ता है।
एक्सएआई बस एक कानूनी चुनौती पेश की गई है जो यह बदल सकती है कि डीपफर्जी पीड़ित कैसे न्याय चाहते हैं। के अनुसार वायर्ड द्वारा रिपोर्ट किए गए अदालती दस्तावेज़कंपनी मांग कर रही है कि उसके ग्रोक एआई सिस्टम का उपयोग करके बनाई गई कथित गैर-सहमति वाली डीपफेक छवियों पर मुकदमा करने वाले चार लोग या तो अपनी असली पहचान उजागर करें या अपने दावे वापस लें। यह एक बड़ा दांव है जो कथित पीड़ितों को एक असंभव स्थिति में डाल देता है: अपने आप को संभावित उत्पीड़न और आगे के दुर्व्यवहार के लिए उजागर करें, या अदालत में अपना दिन बर्बाद कर दें।
चार वादी ने छद्म नामों के तहत अपना मुकदमा दायर किया, जो यौन शोषण, उत्पीड़न या गोपनीयता उल्लंघन से जुड़े मामलों में एक आम बात है। उनका दावा है एक्सएआईग्रोक चैटबॉट का उपयोग उनकी सहमति के बिना उनकी यथार्थवादी नग्न छवियां उत्पन्न करने के लिए किया गया, जिससे भावनात्मक संकट और प्रतिष्ठा को नुकसान पहुंचा। लेकिन एक्सएआई तर्क है कि यह जाने बिना कि वास्तव में मुकदमा कौन कर रहा है, वह अपना बचाव ठीक से नहीं कर सकता – एक ऐसी स्थिति जो कागज पर कानूनी रूप से सही है लेकिन व्यवहार में पीड़ितों के लिए संभावित रूप से विनाशकारी है।
यह सिर्फ एक मुकदमे के बारे में नहीं है. यह मामला इस बात के लिए मिसाल कायम कर सकता है कि जब एआई कंपनियां उत्पीड़न के लिए हथियार का इस्तेमाल करती हैं तो एआई कंपनियां कैसे दायित्व संभालती हैं। पिछले दो वर्षों में डीपफेक तकनीक की पहुंच में विस्फोट हुआ है, एआई छवि जनरेटर तेजी से परिष्कृत होते जा रहे हैं और वास्तविक तस्वीरों से अंतर करना कठिन हो गया है। जबकि कंपनियां पसंद करती हैं ओपनएआई और स्थिरता ए.आई विभिन्न सुरक्षा उपायों को लागू किया है, लेकिन उद्योग भर में प्रवर्तन असंगत बना हुआ है।
एक्सएआई 2023 के अंत में ग्रोक को प्रतिस्पर्धियों के लिए अधिक फ्रीव्हीलिंग विकल्प के रूप में लॉन्च किया गया चैटजीपीटीइसे कम सामग्री प्रतिबंध वाले स्थान पर रखा गया है। उस दृष्टिकोण को मुक्त भाषण समर्थकों की प्रशंसा और सुरक्षा शोधकर्ताओं की आलोचना दोनों मिली है जिन्होंने चेतावनी दी थी कि यह दुरुपयोग को सक्षम कर सकता है। कंपनी ने कुछ सामग्री नीतियां लागू की हैं, लेकिन मुकदमे में आरोप लगाया गया है कि ये सुरक्षा गैर-सहमति वाली अंतरंग छवियों के निर्माण को रोकने में विफल रही हैं।
दीवानी मामलों में गुमनाम वादी पर कानूनी मिसाल मिश्रित है। अदालतें आम तौर पर छद्मनाम दाखिल करने की अनुमति देती हैं जब वादी को नुकसान, उत्पीड़न, या गोपनीयता के उल्लंघन के वैध जोखिम का सामना करना पड़ता है – बिल्कुल वही चिंताएं जो डीपफेक पीड़ित उद्धृत करते हैं। लेकिन प्रतिवादियों को अपने आरोप लगाने वालों का सामना करने का संवैधानिक अधिकार है, जिससे तनाव पैदा होता है कि न्यायाधीशों को मामले-दर-मामले में संतुलन बनाना चाहिए। हाई-प्रोफाइल तकनीकी मामलों में, अदालतें कभी-कभी आंशिक गुमनामी की अनुमति देती हैं, जहां वादी सार्वजनिक फाइलिंग में गुमनाम रहते हुए प्रतिवादियों और अदालत को अपनी पहचान बताते हैं।
दांव बहुत आगे तक फैला हुआ है एक्सएआई. यदि अदालत इन वादियों को सार्वजनिक होने के लिए मजबूर करती है, तो एआई कंपनियों के खिलाफ कानूनी कार्रवाई पर विचार करने वाले अन्य पीड़ितों पर इसका नकारात्मक प्रभाव पड़ सकता है। डीपफेक दुरुपयोग महिलाओं और सार्वजनिक हस्तियों को असमान रूप से लक्षित करता है, पीड़ितों को अक्सर तब द्वितीयक आघात का सामना करना पड़ता है जब उनके मामले सार्वजनिक हो जाते हैं। से अनुसंधान संवेदनशीलता ए.आई पाया गया कि ऑनलाइन 96% डीपफेक वीडियो गैर-सहमति वाली अश्लील सामग्री हैं, जिनमें अधिकतर महिलाएं शामिल हैं।
एक्सएआईकी कानूनी रणनीति एआई जवाबदेही के बारे में व्यापक बहस को भी दर्शाती है। जैसे-जैसे जेनरेटिव एआई उपकरण अधिक शक्तिशाली और सुलभ होते जा रहे हैं, प्लेटफ़ॉर्म दायित्व के बारे में प्रश्न तीव्र होते जा रहे हैं। क्या एआई कंपनियों को धारा 230 सुरक्षा के साथ सोशल मीडिया प्लेटफॉर्म की तरह माना जाना चाहिए, या जब उनके उपकरण हानिकारक सामग्री बनाते हैं तो क्या वे अधिक प्रत्यक्ष जिम्मेदारी लेते हैं? उत्तर यह निर्धारित कर सकता है कि पीड़ितों के पास न्याय के लिए कोई यथार्थवादी रास्ता है या नहीं।
उद्योग पर्यवेक्षकों का कहना है कि एक्सएआईका आक्रामक रुख इसके विपरीत है कि कैसे कुछ प्रतिस्पर्धियों ने समान स्थितियों को संभाला है। जब दुर्व्यवहार संबंधी चिंताओं का सामना करना पड़ा, ओपनएआई और गूगल आम तौर पर उन्होंने अपने सुरक्षा उपायों और प्रभावित पक्षों के साथ सहयोग पर जोर दिया है, हालांकि उन्होंने अदालत में भी अपने उत्पादों का जोरदार बचाव किया है। एक्सएआईपीड़ितों को सुर्खियों में आने के लिए मजबूर करने की इच्छा मुकदमेबाजी के प्रति अधिक जुझारू दृष्टिकोण का संकेत दे सकती है।
यह मामला मौजूदा कानून की खामियों को भी उजागर करता है। अधिकांश राज्यों में एआई-जनरेटेड गैर-सहमति वाली अंतरंग छवियों को संबोधित करने के लिए विशिष्ट कानून का अभाव है, जिससे पीड़ितों को पारंपरिक बदला लेने वाले पोर्न या मानहानि के लिए डिज़ाइन किए गए पुराने कानूनों पर भरोसा करना पड़ता है। संघीय कानून प्रस्तावित किया गया है लेकिन रुका हुआ है। स्पष्ट कानूनी ढांचे के बिना, जैसे-जैसे ये मामले सामने आते हैं, अदालतें अनिवार्य रूप से नियम लिख रही हैं।
चार गुमनाम वादियों के लिए, विकल्प क्रूर है: न्याय पाने के लिए अपनी गोपनीयता और सुरक्षा का त्याग करें, या कथित नुकसान को अनुत्तरित छोड़ दें। वे जो भी निर्णय लें, और अदालत चाहे जो भी नियम बनाए, यह मामला संभवतः अनगिनत अन्य लोगों को प्रभावित करेगा जो एआई-सक्षम दुरुपयोग के बारे में आगे आएंगे या नहीं।
यह मामला एआई के सबसे परेशान करने वाले विरोधाभासों में से एक को स्पष्ट करता है: वही प्रौद्योगिकियां जो रचनात्मकता को लोकतांत्रिक बनाती हैं, बड़े पैमाने पर उत्पीड़न को भी हथियार बनाती हैं। एक्सएआईयह मांग कि पीड़ित गुमनामी और जवाबदेही के बीच चयन करें, केवल एक कानूनी रणनीति नहीं है – यह इस बात का परीक्षण है कि क्या हमारी न्याय प्रणाली एआई-युग के नुकसान के अनुकूल हो सकती है। यदि अदालतें आगे आने वाले पीड़ितों की रक्षा नहीं कर सकती हैं, और यदि एआई कंपनियों को उनके उपकरणों के दुरुपयोग को सक्षम करने पर कोई परिणाम नहीं भुगतना पड़ता है, तो हम अनिवार्य रूप से डिजिटल हिंसा के लिए परिणाम-मुक्त क्षेत्र बना रहे हैं। यहां का निर्णय या तो पीड़ितों के लिए सुरक्षित न्याय पाने का दरवाजा खोल देगा, या समान नुकसान का सामना करने वाले हजारों लोगों के लिए इसे बंद कर देगा। जेनरेटिव एआई की विस्फोटक वृद्धि को देखने वाले हर किसी के लिए, सवाल सरल है: जब प्रौद्योगिकी कानून से आगे निकल जाती है तो किसके अधिकार अधिक मायने रखते हैं?
