कई वर्षों से, क्रेडिट कार्ड कंपनियां और अन्य भुगतान विधियां बाल यौन शोषण सामग्री पर निगरानी रखने को लेकर आक्रामक थीं। फिर, एलोन मस्क के ग्रोक ने एक्स पर बच्चों के कपड़े उतारना शुरू कर दिया।
सेंटर फॉर काउंटरिंग डिजिटल हेट को अपने हिस्से के रूप में बच्चों की 101 कामुक छवियां मिलीं ग्रोक द्वारा बनाई गई 20,000 छवियों का नमूना 29 दिसंबर से 8 जनवरी तक. उस नमूने का उपयोग करते हुए, समूह ने अनुमान लगाया कि उस समय सीमा में बच्चों की 23,000 कामुक छवियां तैयार की गई थीं। उस 11-दिन की अवधि में, उन्होंने अनुमान लगाया कि औसतन, हर 41 सेकंड में एक बच्चे की कामुक छवि बनाई गई थी। ग्रोक द्वारा निर्मित सभी कामुक छवियाँ अवैध प्रतीत नहीं होती हैं, लेकिन रिपोर्टों से संकेत मिलता है कि कम से कम कुछ संभवतः सीमा पार करती हैं।
किसी भी समय ग्रोक पर क्या सच होता है, इसके बारे में जबरदस्त भ्रम है। ग्रोक ने भ्रामक विवरण के साथ प्रतिक्रियाएं पेश की हैं, उदाहरण के लिए, एक बिंदु पर दावा करते हुए, कि इसने एक्स ग्राहकों को भुगतान करने के लिए छवि निर्माण को प्रतिबंधित कर दिया है, जबकि अभी भी मुफ्त उपयोगकर्ताओं को एक्स पर सीधी पहुंच की अनुमति है। हालांकि मस्क ने दावा किया है कि नई रेलिंग ग्रोक को लोगों के कपड़े उतारने से रोकती है, लेकिन हमारे परीक्षण से पता चला है कि यह जरूरी नहीं कि सच हो। ग्रोक पर एक निःशुल्क खाते का उपयोग करना, द वर्ज नए नियम कथित रूप से प्रभावी होने के बाद, कम कपड़ों में, यौन रूप से विचारोत्तेजक स्थितियों में वास्तविक लोगों की गहरी नकली छवियां उत्पन्न करने में सक्षम था। इस लेखन के समय, कुछ गंभीर संकेतों को अवरुद्ध किया गया प्रतीत होता है, लेकिन लोग नियम-आधारित प्रतिबंधों से बचने में उल्लेखनीय रूप से चतुर हैं।
अतीत में, भुगतान प्रदाता सीएसएएम की महत्वपूर्ण उपस्थिति वाली वेबसाइटों तक पहुंच में कटौती करने के बारे में आक्रामक रहे हैं
हालाँकि, ऐसा लगता है कि एक्स ने ग्रोक की छवि संपादन सुविधाओं को कम से कम आंशिक रूप से भुगतान किए गए ग्राहकों तक सीमित कर दिया है – जिससे यह बहुत संभावना है कि इनमें से कम से कम कुछ आपत्तिजनक छवियों के लिए, पैसा वास्तव में हाथ बदल रहा है। आप अपने क्रेडिट कार्ड का उपयोग करके स्ट्राइप पर या ऐप्पल और Google ऐप स्टोर के माध्यम से एक्स की सदस्यता खरीद सकते हैं। मस्क के पास है भी सुझाव दिया के माध्यम से उसकी पोस्ट उन्हें नहीं लगता कि लोगों के कपड़े उतारना कोई समस्या है। यह एआई पोर्न के साथ एक्स का पहला प्रयास नहीं है – इसमें बार-बार टेलर स्विफ्ट के नग्न डीपफेक को मॉडरेट करने में समस्या आई है, चाहे वे ग्रोक द्वारा उत्पन्न हुए हों या नहीं।
अतीत में, भुगतान प्रदाता उन वेबसाइटों तक पहुंच में कटौती करने के बारे में आक्रामक रहे हैं जिनके बारे में सोचा जाता है कि उनमें सीएसएएम की महत्वपूर्ण उपस्थिति है – या यहां तक कि कानूनी, सहमति से उत्पादित यौन सामग्री भी। 2020 में, मास्टरकार्ड और वीज़ा ने पोर्नहब पर प्रतिबंध लगा दिया बाद ए न्यूयॉर्क टाइम्स लेख में मंच पर सीएसएएम की व्यापकता का उल्लेख किया गया है. मई 2025 में, सिविटाई थी इसके क्रेडिट कार्ड प्रोसेसर द्वारा काट दिया गया क्योंकि “वे उन प्लेटफार्मों का समर्थन नहीं करना चाहते हैं जो एआई-जनित स्पष्ट सामग्री की अनुमति देते हैं,” सिविटाई के सीईओ जस्टिन मैयर ने बताया 404 मीडिया. जुलाई 2025 में, भुगतान प्रोसेसरों ने वयस्क गेम हटाने के लिए वाल्व पर दबाव डाला.
वास्तव में, कई बार वित्तीय संस्थानों ने लोगों और प्लेटफार्मों को धमकी दी है क्योंकि ऐसा लगता है जैसे वे प्रतिष्ठा जोखिम नहीं चाहते थे। 2014 में, अस्पताल में रहने के लिए वयस्क कलाकार ईडन अलेक्जेंडर के धन संचय को भुगतान कंपनी WePay ने एक रीट्वीट के कारण बंद कर दिया था। इसके अलावा 2014 में, जेपी मॉर्गनचेज़ अचानक कई पॉर्न स्टार्स के बैंक खाते बंद कर दिए. 2021 में, ओनलीफैन्स ने कुछ समय के लिए स्पष्ट यौन सामग्री पर प्रतिबंध लगाने की कोशिश की क्योंकि बैंकों को यह पसंद नहीं आया। (इस कदम पर व्यापक प्रतिक्रिया हुई जल्दी ही ओनलीफैन्स को ही उल्टा कर दिया।) यह है कानूनी, सह संवेदी यौन सामग्री – और इसे संभालना बहुत गर्म समझा गया।
“उद्योग अब किसी ऐसी चीज़ के लिए स्व-विनियमन करने को तैयार नहीं है जिस पर सार्वभौमिक रूप से सहमति है क्योंकि यह सबसे घृणित चीज़ है।”
लेकिन मस्क का बुटीक रिवेंज पोर्न और सीएसएएम जनरेटर, जाहिरा तौर पर, बिल्कुल ठीक है।
यह एक आश्चर्यजनक उलटफेर है. “उद्योग अब किसी ऐसी चीज़ के लिए स्व-विनियमन करने को तैयार नहीं है जिस पर सार्वभौमिक रूप से सहमति है, जो कि सबसे घृणित चीज़ है,” जो कि सीएसएएम है, लेखक लाना स्वार्ट्ज का कहना है। नया पैसा: भुगतान कैसे सोशल मीडिया बन गयास्ट्राइप और क्रेडिट कार्ड कंपनियों द्वारा निष्क्रियता के कारण।
वीज़ा, मास्टरकार्ड, अमेरिकन एक्सप्रेस, स्ट्राइप और डिस्कवर ने टिप्पणी के अनुरोधों का जवाब नहीं दिया। बाल यौन शोषण के खिलाफ अमेरिकी वित्तीय गठबंधन – भुगतान प्रोसेसर, बैंकों और क्रेडिट कार्ड कंपनियों से बना एक उद्योग समूह – ने भी टिप्पणी के लिए अनुरोध वापस नहीं किया। अपनी वेबसाइट पर, एफसीएसीएसई ने दावा किया है कि “उसके प्रयासों के परिणामस्वरूप, बाल यौन शोषण सामग्री को ऑनलाइन खरीदने के लिए क्रेडिट कार्ड का उपयोग विश्व स्तर पर लगभग समाप्त हो गया है।”
ग्रोक की छवि निर्माण में बच्चों की कामुक छवियां ही एकमात्र समस्या नहीं हैं
स्टैनफोर्ड इंस्टीट्यूट फॉर ह्यूमन-सेंटर्ड आर्टिफिशियल इंटेलिजेंस में पॉलिसी फेलो रियाना फ़ेफ़रकोर्न कहती हैं, “अतीत में, जो लोग पूरी तरह से कानूनी काम करते थे, उन्हें बैंकों से काट दिया जाता था।” संदिग्ध छवियों के आसपास सीमाओं को अत्यधिक लागू करने के लिए प्रोत्साहन हैं – और परंपरागत रूप से, वित्तीय उद्योग ने यही किया है। तो फिर X अलग क्यों है? इसे एलन मस्क चलाते हैं. फ़ेफ़रकोर्न कहते हैं, “वह दुनिया का सबसे अमीर आदमी है, उसके अमेरिकी सरकार के साथ घनिष्ठ संबंध हैं, और वह अविश्वसनीय रूप से मुकदमेबाज़ है।” वास्तव में, मस्क ने पहले सेंटर फॉर काउंटरिंग डिजिटल हेट के खिलाफ मुकदमा दायर किया है; अब खारिज हो चुके मुकदमे में, उन्होंने दावा किया कि उन्होंने अवैध रूप से डेटा एकत्र किया है, जो पहले ट्विटर के नाम से जाने जाने वाले प्लेटफॉर्म को खरीदने के बाद घृणास्पद भाषण में वृद्धि दर्शाता है।
ग्रोक की छवि निर्माण में बच्चों की कामुक छवियां ही एकमात्र समस्या नहीं हैं। दी न्यू यौर्क टाइम्स अनुमान लगाया गया है कि नौ दिनों की समयावधि में एआई द्वारा उत्पन्न की गई 1.8 मिलियन छवियां, या लगभग 44 प्रतिशत पोस्ट, वयस्क महिलाओं की कामुक छवियां थीं – जो कि वे कितनी स्पष्ट हैं, इस पर निर्भर करते हुए, फैलाना भी अवैध हो सकता है। विभिन्न उपकरणों का उपयोग करते हुए, सेंटर फॉर काउंटरिंग डिजिटल हेट ने अनुमान लगाया कि ग्रोक की आधी से अधिक छवियों में पुरुषों, महिलाओं और बच्चों की कामुक छवियां शामिल थीं।
कामुक छवियों का विस्फोट तब हुआ जब मस्क ने 31 दिसंबर को बिकनी में अपनी एआई-संपादित छवि पोस्ट की। एक सप्ताह बाद में, एक्स के उत्पाद प्रमुख, निकिता बियर ने पोस्ट किया पिछले चार दिन भी एक्स पर अब तक के सबसे अधिक जुड़ाव वाले दिन थे।
वकील कैरी गोल्डबर्ग, जिनके इतिहास में धारा 230 को चुनौती देना शामिल है ग्रिंडर के विरुद्ध पीछा करने का मुकदमा और दूसरा अंततः उस पर सूट करता है चैट क्लाइंट ओमेगल को बंद करेंएक्स के खिलाफ एक मामले में मस्क के बच्चों में से एक की मां एशले सेंट क्लेयर का प्रतिनिधित्व कर रही है। सेंट क्लेयर कई ग्रोक महिलाओं में से एक है – और अब वह मंच पर मुकदमा कर रही है, यह तर्क देते हुए कि एक्स ने सार्वजनिक उपद्रव पैदा किया है। उन्होंने एक ईमेल में कहा, “सेंट क्लेयर मामले में हम केवल एक्सएआई और ग्रोक पर ध्यान केंद्रित कर रहे हैं क्योंकि वे हमारे दृष्टिकोण से सीधे तौर पर उत्तरदायी हैं।” “लेकिन मैं दायित्व के अन्य स्रोतों की कल्पना कर सकता हूं।” उन्होंने विशेष रूप से Apple और Google के ऐप स्टोर जैसे वितरकों को रुचि के क्षेत्रों के रूप में उद्धृत किया।
“इसमें से बहुत कुछ अदालत में जा सकता है, और ‘यौन रूप से स्पष्ट’ के बारे में निर्णय लेना न्यायाधीशों पर निर्भर करेगा।”
अन्य संभावित कानूनी उलझनें भी हैं। 2022 में, वीज़ा पर पोर्नहब को भुगतान सेवाएं प्रदान करने के लिए मुकदमा दायर किया गया था, क्योंकि कथित तौर पर वीज़ा को पता था कि पोर्नहब सीएसएएम को पर्याप्त रूप से मॉडरेट नहीं कर रहा था। अन्य मुकदमों का पालन किया गया. जबकि वीज़ा मामले में न्यायाधीश ने इस दावे को खारिज कर दिया कि धारा 230 के कारण पोर्नहब उत्तरदायी नहीं था, उन्होंने यह भी कहा 2025 में वीज़ा के ख़िलाफ़ दावों को अस्थायी रूप से ख़ारिज कर दियाहालांकि जिस महिला ने मुकदमा दायर किया है संशोधित शिकायत दर्ज कर सकता है.
कैलिफोर्निया विश्वविद्यालय, बर्कले के एक सार्वजनिक विद्वान डेविड इवान हैरिस कहते हैं, “इसमें से बहुत कुछ अदालत में जा सकता है, और ‘यौन रूप से स्पष्ट’ क्या है, इसके बारे में निर्णय लेना न्यायाधीशों पर निर्भर है।” फिर भी, 45 राज्यों ने AI-जनित CSAM को अपराध घोषित कर दिया है. संघीय टेक इट डाउन अधिनियम डीपफेक न्यूड्स को अपराध घोषित करता है. कैलिफ़ोर्निया राज्य में है मस्क और एक्स को संघर्ष विराम जारी कियाग्रोक की छवियों की जांच की घोषणा के बाद। ग्रोक हो सकता है कैलिफोर्निया के डीपफेक पोर्न प्रतिबंध का उल्लंघन – और कैलिफ़ोर्निया कम से कम इनमें से एक है 23 राज्य जिन्होंने ऐसे कानून पारित किए हैं.
यह भुगतान प्रोसेसरों के लिए मायने रखना चाहिए, क्योंकि यदि वे जानबूझकर धन हस्तांतरित कर रहे हैं जो किसी अपराध की आय है, तो वे मनी लॉन्ड्रिंग में लगे हुए हैं – जिसके गंभीर परिणाम हो सकते हैं। कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा के कार्यालय ने चल रही जांच का हवाला देते हुए इस पर टिप्पणी करने से इनकार कर दिया कि स्ट्राइप, क्रेडिट कार्ड या ऐप स्टोर भी ग्रोक जांच का हिस्सा थे या नहीं। मनी लॉन्ड्रिंग कानून उस कारण का हिस्सा है जिसके कारण वित्तीय संस्थान किसी भी वेबसाइट पर सीएसएएम युक्त होने का आरोप लगाते हैं।
लेकिन एक्स ने ऐसी स्थिति पैदा कर दी है जहां भुगतान प्रोसेसर कानून को गंभीरता से लेने के लिए बेहद हतोत्साहित हैं। ऐसा इसलिए है क्योंकि कोई भी राज्य जो एक्स से अधिक प्रोसेसर के खिलाफ मुकदमा दायर करता है, उस पर एक्स के दक्षिणपंथी आधार को “सेंसर” करने के लिए मस्क द्वारा हमला किए जाने की संभावना है। इसके अलावा, मस्क – और संभवतः उनके दोस्त, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प – भुगतान प्रोसेसर को हुक से हटाने के पीछे बहुत सारे संसाधन लगा सकते हैं।
ऐसा लगता है कि जब सीएसएएम और डीपफेक की बात आती है, तो वित्तीय उद्योग अब खुद को विनियमित करने के लिए तैयार नहीं है। तो फिर इसका नियमन कौन करेगा?
