यह है स्टेपबैकएक साप्ताहिक समाचार पत्र जो तकनीकी जगत से एक आवश्यक कहानी प्रस्तुत करता है। एआई की कानूनी स्थिति के बारे में अधिक जानकारी के लिए आदि रॉबर्टसन को फॉलो करें. स्टेपबैक हमारे ग्राहकों के इनबॉक्स में सुबह 8 बजे ईटी पर आता है। के लिए ऑप्ट इन करें स्टेपबैक यहाँ।
गाने का नाम “हार्ट ऑन माई स्लीव” था और यदि आप बेहतर नहीं जानते, तो आप अनुमान लगा सकते हैं कि आप ड्रेक को सुन रहे थे। अगर आप किया बेहतर जानते हैं, आप एक नई कानूनी और सांस्कृतिक लड़ाई की शुरुआती घंटी सुन रहे थे: इस बात पर लड़ाई कि एआई सेवाओं को लोगों के चेहरे और आवाज का उपयोग करने में कैसे सक्षम होना चाहिए, और प्लेटफार्मों को कैसे प्रतिक्रिया देनी चाहिए।
2023 में, एआई-जनरेटेड फॉक्स-ड्रेक ट्रैक “हार्ट ऑन माई स्लीव” एक नवीनता थी; फिर भी, इसके द्वारा प्रस्तुत समस्याएँ स्पष्ट थीं। गीत में एक प्रमुख कलाकार की करीबी नकल ने संगीतकारों को चौंका दिया। स्ट्रीमिंग सेवाओं ने कॉपीराइट कानूनी तकनीकी आधार पर इसे हटा दिया। लेकिन निर्माता प्रत्यक्ष नहीं बना रहा था कॉपी किसी भी चीज़ की – बस एक बहुत करीबी नकल। इसलिए ध्यान तुरंत समानता कानून के अलग क्षेत्र की ओर गया। यह एक ऐसा क्षेत्र है जो कभी अनधिकृत समर्थन और पैरोडी के बाद मशहूर हस्तियों का पर्याय बन गया था, और जैसे ही ऑडियो और वीडियो डीपफेक का प्रसार हुआ, यह उन्हें विनियमित करने के लिए उपलब्ध कुछ उपकरणों में से एक जैसा महसूस हुआ।
कॉपीराइट के विपरीत, जो डिजिटल मिलेनियम कॉपीराइट एक्ट और कई अंतरराष्ट्रीय संधियों द्वारा शासित होता है, समानता के आसपास कोई संघीय कानून नहीं है। यह अलग-अलग राज्य कानूनों का एक मिश्रण है, जिनमें से कोई भी मूल रूप से एआई को ध्यान में रखकर डिजाइन नहीं किया गया था। लेकिन पिछले कुछ वर्षों में इसे बदलने के प्रयासों में तेजी देखी गई है। 2024 में, टेनेसी गवर्नर बिल ली और कैलिफोर्निया के गवर्नर गेविन न्यूसोम – जिनके दोनों राज्य अपने मीडिया उद्योगों पर बहुत अधिक निर्भर हैं – ने ऐसे विधेयकों पर हस्ताक्षर किए, जो मनोरंजनकर्ताओं की अनधिकृत प्रतिकृतियों के खिलाफ सुरक्षा का विस्तार करते हैं।
लेकिन तकनीक की तुलना में कानून अनुमानतः अधिक धीमी गति से आगे बढ़ा है। पिछले महीने ओपनएआई ने सोरा लॉन्च किया, जो एक एआई वीडियो जेनरेशन प्लेटफॉर्म है जिसका उद्देश्य विशेष रूप से वास्तविक लोगों की समानता को कैप्चर करना और रीमिक्स करना है। इसने अक्सर आश्चर्यजनक रूप से यथार्थवादी डीपफेक की बाढ़ के द्वार खोल दिए, जिनमें वे लोग भी शामिल थे जो उनकी रचना से सहमत नहीं थे। ओपनएआई और अन्य कंपनियां अपनी स्वयं की समानता नीतियों को लागू करके प्रतिक्रिया दे रही हैं – जो किसी और चीज के अभाव में, इंटरनेट के लिए सड़क के नए नियमों में बदल सकती हैं।
ओपनएआई ने इस बात से इनकार किया है कि उसने सोरा को लापरवाही से लॉन्च किया है, सीईओ सैम ऑल्टमैन ने दावा किया है कि अगर कुछ भी हो, तो यह रेलिंग के साथ “बहुत अधिक प्रतिबंधात्मक” था। फिर भी सेवा ने अभी भी बहुत सारी शिकायतें उत्पन्न की हैं। इसे केवल ऐतिहासिक शख्सियतों की समानता पर न्यूनतम प्रतिबंधों के साथ लॉन्च किया गया उलटा कोर्स मार्टिन लूथर किंग जूनियर की संपत्ति ने मारे गए नागरिक अधिकार नेता के “अपमानजनक चित्रण” के बारे में शिकायत की थी नस्लवाद फैलाना या अपराध करना. इसने जीवित लोगों की समानताओं के अनधिकृत उपयोग पर सावधानीपूर्वक प्रतिबंध लगाने की बात कही, लेकिन उपयोगकर्ताओं ने ब्रायन क्रैंस्टन जैसी मशहूर हस्तियों को सोरा वीडियो में डालने के तरीके ढूंढ लिए। सेल्फी लेना माइकल जैक्सन के साथ, SAG-AFTRA की ओर से शिकायतें आईं, जिसने OpenAI को अनिर्दिष्ट तरीकों से रेलिंग को मजबूत करने के लिए प्रेरित किया।
यहां तक कि कुछ लोग जो किया सोरा कैमियो को अधिकृत करें (किसी व्यक्ति की समानता का उपयोग करने वाले वीडियो के लिए इसका शब्द) परिणामों से अस्थिर थे, जिनमें महिलाएं भी शामिल थीं, सभी प्रकार के कामोत्तेजक आउटपुट. ऑल्टमैन ने कहा कि उन्हें इस बात का एहसास नहीं था कि लोगों के मन में अधिकृत समानता के बारे में “बीच में” भावनाएं हो सकती हैं, जैसे कि वे सार्वजनिक रूप से “अपमानजनक बातें या ऐसी चीजें कहना नहीं चाहते जो उन्हें गहरी समस्याग्रस्त लगती हैं।”
सोरा ऐतिहासिक आंकड़ों की नीति में बदलाव जैसे परिवर्तनों के साथ समस्याओं का समाधान कर रहा है, लेकिन यह एकमात्र एआई वीडियो सेवा नहीं है, और चीजें – सामान्य तौर पर – बहुत अजीब होती जा रही हैं। राष्ट्रपति डोनाल्ड ट्रम्प के प्रशासन और कुछ अन्य राजनेताओं के लिए एआई की लापरवाही एक समस्या बन गई है, जिसमें विशिष्ट राजनीतिक दुश्मनों के घोर या स्पष्ट नस्लवादी चित्रण शामिल हैं: ट्रम्प ने पिछले सप्ताह के नो किंग्स विरोध प्रदर्शन का जवाब एक वीडियो के साथ दिया जिसमें उन्हें एक व्यक्ति पर गंदगी छोड़ते हुए दिखाया गया था। उदारवादी प्रभावक हैरी सिसन से मिलता जुलता थाजबकि न्यूयॉर्क शहर के मेयर पद के उम्मीदवार एंड्रयू कुओमो ने पोस्ट किया (और तुरंत हटा दिया गया) एक “ज़ोहरान ममदानी के लिए अपराधी” वीडियो जिसमें उनके डेमोक्रेटिक प्रतिद्वंद्वी को मुट्ठी भर चावल खाते हुए दिखाया गया था। जैसा कैट टेनबर्ज ने लिपिबद्ध किया स्पिटफ़ायर न्यूज़ इस महीने की शुरुआत में, एआई वीडियो प्रभावशाली नाटक में भी गोला बारूद बन रहे हैं।
अनधिकृत वीडियो को लेकर कानूनी कार्रवाई का खतरा लगभग लगातार बना रहता है, क्योंकि स्कारलेट जोहानसन जैसी मशहूर हस्तियों ने अपनी समानता के उपयोग पर वकालत की है। लेकिन एआई कॉपीराइट उल्लंघन के आरोपों के विपरीत, जिसने नियामक एजेंसियों के अंदर कई हाई-प्रोफाइल मुकदमों और लगभग निरंतर विचार-विमर्श को जन्म दिया है, कुछ समानता की घटनाएं उस स्तर तक बढ़ गई हैं – शायद आंशिक रूप से क्योंकि कानूनी परिदृश्य अभी भी प्रवाह में है।
जब SAG-AFTRA ने सोरा की रेलिंग को बदलने के लिए OpenAI को धन्यवाद दिया, तो उसने इस अवसर का उपयोग नर्चर ओरिजिनल्स, फोस्टर आर्ट और कीप एंटरटेनमेंट सेफ (NO FAKES) एक्ट को बढ़ावा देने के लिए किया, जो “अनधिकृत डिजिटल प्रतिकृतियों” के खिलाफ सुरक्षा को संहिताबद्ध करने का एक वर्षों पुराना प्रयास था। कोई नकली अधिनियम नहींजिसने YouTube से भी समर्थन प्राप्त किया है, किसी जीवित या मृत व्यक्ति की आवाज़ या दृश्य समानता के “कंप्यूटर-जनित, अत्यधिक यथार्थवादी इलेक्ट्रॉनिक प्रतिनिधित्व” के उपयोग को नियंत्रित करने के लिए राष्ट्रव्यापी अधिकार पेश करता है। इसमें उन ऑनलाइन सेवाओं के लिए दायित्व शामिल है जो जानबूझकर अनधिकृत डिजिटल प्रतिकृतियों को भी अनुमति देते हैं।
नो फेक्स एक्ट ने ऑनलाइन मुक्त भाषण समूहों से गंभीर आलोचना उत्पन्न की है। ईएफएफ ने इसे डब किया एक “नया सेंसरशिप बुनियादी ढांचा” जनादेश जो प्लेटफार्मों को सामग्री को इतने व्यापक रूप से फ़िल्टर करने के लिए मजबूर करता है कि यह लगभग अनिवार्य रूप से अनजाने में निष्कासन और ऑनलाइन “हेकलर के वीटो” को जन्म देगा। संगठन ने चेतावनी दी कि बिल में पैरोडी, व्यंग्य और टिप्पणी के लिए प्रावधान शामिल हैं जिन्हें प्राधिकरण के बिना भी अनुमति दी जानी चाहिए, लेकिन वे “उन लोगों के लिए ठंडे आराम होंगे जो प्रश्न पर मुकदमा चलाने का जोखिम नहीं उठा सकते”।
नो फेक्स एक्ट के विरोधियों को इस बात से सांत्वना मिल सकती है कि कांग्रेस इन दिनों कितना कम कानून पारित कर पाती है – हम वर्तमान में इसी दौर से गुजर रहे हैं। इतिहास में दूसरा सबसे लंबा संघीय सरकारी शटडाउनऔर राज्य एआई विनियमन को अवरुद्ध करने के लिए एक अलग दबाव भी है जो नए समानता कानूनों को रद्द कर सकता है। लेकिन व्यावहारिक रूप से, समानता नियम अभी भी आ रहे हैं। इस सप्ताह की शुरुआत में YouTube ने घोषणा की कि वह पार्टनर प्रोग्राम रचनाकारों को उनकी समानता का उपयोग करके अनधिकृत अपलोड की खोज करने और उन्हें हटाने का अनुरोध करने देगा। यह कदम मौजूदा नीतियों पर विस्तार करता है, जो अन्य बातों के अलावा, संगीत उद्योग के भागीदारों को ऐसी सामग्री को हटाने देती है जो “एक कलाकार की अनूठी गायन या रैपिंग आवाज़ की नकल करती है।”
और इस सब के दौरान, सामाजिक मानदंड अभी भी विकसित हो रहे हैं। हम एक ऐसी दुनिया में प्रवेश कर रहे हैं जहां आप आसानी से लगभग किसी भी व्यक्ति का कुछ भी करते हुए वीडियो बना सकते हैं – लेकिन कब चाहिए आप? कई मामलों में, वे उम्मीदें धरी की धरी रह जाती हैं।
- इस हालिया बातचीत का अधिकांश हिस्सा अजीब या मूर्खतापूर्ण चीजें करने वाले लोगों के एआई वीडियो के बारे में है, लेकिन ऐतिहासिक रूप से, शोध से संकेत मिलता है डीपफेक का भारी बहुमत महिलाओं की अश्लील तस्वीरें अक्सर उनकी सहमति के बिना बनाई जाती हैं। सोरा से परे जैसी चीजों के बारे में एक पूरी तरह से अलग बातचीत है एआई न्यूडिफाई सेवाओं का आउटपुटऔर यह कानूनी मुद्दों अन्य गैर-सहमति वाली यौन कल्पनाओं के समान हैं।
- किसी समानता के अनधिकृत होने के मूल कानूनी मुद्दे के अलावा, ऐसे प्रश्न भी हैं जैसे कि कोई वीडियो कब मानहानिकारक हो सकता है (यदि यह पर्याप्त रूप से यथार्थवादी है) या परेशान करने वाला हो सकता है (यदि यह पीछा करने और धमकियों के एक बड़े पैटर्न का हिस्सा है), जो व्यक्तिगत स्थितियों को और भी जटिल बना सकता है।
- सोशल प्लेटफ़ॉर्म को लगभग हमेशा धारा 230 के माध्यम से दायित्व से बचाया जाता है, जो कहता है कि उन्हें तीसरे पक्ष की सामग्री के प्रकाशक या वक्ता के रूप में नहीं माना जा सकता है। जैसे-जैसे अधिक से अधिक सेवाएँ उपयोगकर्ताओं को सामग्री तैयार करने में मदद करने के लिए सक्रिय कदम उठा रही हैं, धारा 230 परिणामी छवियों और वीडियो को कितनी दूर तक सुरक्षित रखेगी, यह एक दिलचस्प प्रश्न जैसा लगता है।
- लंबे समय से चली आ रही इस आशंका के बावजूद कि एआई के कारण भ्रम को वास्तविकता से अलग करना वास्तव में असंभव हो जाएगा, संदर्भ और “बताता है” (विशिष्ट संपादन टिक्स से लेकर) का उपयोग करना अभी भी अक्सर सरल है स्पष्ट वॉटरमार्क) यह पता लगाने के लिए कि क्या कोई वीडियो AI-जनरेटेड था। समस्या यह है कि बहुत से लोग पर्याप्त बारीकी से नहीं देखते हैं या इसकी परवाह नहीं करते हैं कि यह नकली है या नहीं।
- निर्बाध रूप से छेड़छाड़ की गई तस्वीरों के बारे में सारा जियोंग की चेतावनी अब और भी अधिक प्रासंगिक है, जब उन्होंने इसे 2024 में प्रकाशित किया था।
- दी न्यू यौर्क टाइम्स एक व्यापक रूप है एआई-जनित सामग्री के प्रति ट्रम्प की विशेष रुचि।
- मैक्स रीड का विश्लेषण एक सामाजिक मंच के रूप में सोरा का और क्या यह “काम करेगा।”
