आठ अमेरिकी सीनेटर प्रमुख तकनीकी प्लेटफार्मों को नोटिस पर रख रहे हैं। टेकक्रंच द्वारा प्राप्त एक धमाकेदार पत्र में, वे सबूत की मांग कर रहे हैं कि एक्स, मेटा, अल्फाबेट, स्नैप, रेडिट और टिकटॉक जैसी कंपनियों के पास वास्तव में “मजबूत सुरक्षा और नीतियां” हैं जो वे यौन डीपफेक के खिलाफ लागू करने का दावा करते हैं। यह कदम बढ़ते सबूतों के बीच आया है कि गैर-सहमति वाली अंतरंग तस्वीरों को रोकने के लिए डिज़ाइन की गई रेलिंग भयावह रूप से विफल हो रही है।
तकनीकी दुनिया की गैर-सहमति वाली, कामुक डीपफेक समस्या अब और अधिक आधिकारिक हो गई है। आठ अमेरिकी सीनेटरों ने नेतृत्व को एक पत्र लिखा एक्स, मेटा, वर्णमाला, स्नैप, redditऔर टिकटोक उनसे यह समझाने की मांग की जा रही है कि वे वास्तव में अपने प्लेटफार्मों पर कामुक डीपफेक के निर्माण और प्रसार को कैसे रोक रहे हैं। सीनेटर लिसा ब्लंट रोचेस्टर, टैमी बाल्डविन, रिचर्ड ब्लूमेंथल, कर्स्टन गिलिब्रैंड, मार्क केली, बेन रे लुजान, ब्रायन शेट्ज़ और एडम शिफ़ द्वारा हस्ताक्षरित पत्र एक ऐसे संकट की जड़ तक जाता है जिसे अनदेखा करना किसी की भी क्षमता से परे है।
एक्स और उसकी एआई कंपनी एक्सएआई के लिए समय क्रूर है। सीनेटरों द्वारा अपनी माँगें भेजने से कुछ ही घंटे पहले, एक्स ने घोषणा की कि उसने ग्रोक को प्रतिबंधित कर दिया हैइसकी छवि निर्माण एआई, इसे उजागर कपड़ों में वास्तविक लोगों के संपादन करने से रोकने के लिए। कंपनी ने प्रीमियम ग्राहकों के लिए पेवॉल के पीछे टूल को भी लॉक कर दिया है। लेकिन वह कदम, जिसे “सुरक्षा सुधार” कहा गया है, केवल इस बात को रेखांकित करता है कि रेलिंग पहले स्थान पर कितनी बुरी तरह विफल रही। की रिपोर्ट के अनुसार बीबीसी और ब्लूमबर्गग्रोक ने महीनों तक प्रति घंटे हजारों नग्न छवियां तैयार कीं, जिससे महिलाओं और बच्चों की सिंथेटिक नग्न छवियां खतरनाक आसानी से तैयार हो गईं।
सीनेट का पत्र कोई प्रभाव नहीं डालता। सीनेटरों ने लिखा, “हम मानते हैं कि कई कंपनियां गैर-सहमति वाली अंतरंग तस्वीरों और यौन शोषण के खिलाफ नीतियां बनाए रखती हैं और कई एआई सिस्टम स्पष्ट अश्लीलता को रोकने का दावा करते हैं।” “हालांकि, व्यवहार में, जैसा कि ऊपर दिए गए उदाहरणों में देखा गया है, उपयोगकर्ता इन रेलिंगों के आसपास रास्ते ढूंढ रहे हैं। या ये रेलिंगें विफल हो रही हैं।” यह उतना ही करीब है जितना कि कानून निर्माता मंचों को झूठा कहने के करीब हैं, और इसका वास्तविक महत्व है।
जो चीज़ इस क्रिया को सामान्य प्रदर्शनात्मक हाथ से लिखने से अलग बनाती है, वह है मांगों की विशिष्टता। सीनेटर नीति परिभाषाएँ, प्रवर्तन दृष्टिकोण, आंतरिक मॉडरेशन मार्गदर्शन, फ़िल्टर विवरण, पहचान तंत्र, लाभ-साझाकरण विवरण, प्लेटफ़ॉर्म मुद्रीकरण प्रथाएँ, सेवा प्रावधानों की शर्तें और पीड़ित अधिसूचना प्रक्रियाएँ जानना चाहते हैं। वे यह भी मांग कर रहे हैं कि कंपनियां कामुक एआई-जनित छवियों के निर्माण, पता लगाने, मॉडरेशन और मुद्रीकरण से संबंधित सभी दस्तावेजों को संरक्षित करें। यह एक खोज आदेश है जो घटित होने की प्रतीक्षा कर रहा है।
