वादी में दो नाबालिग और एक वयस्क शामिल हैं जो मुकदमे की घटनाओं के समय कम उम्र के थे। पीड़ितों में से एक, जिसकी पहचान “जेन डो 1” के रूप में की गई है, का आरोप है कि पिछले दिसंबर में, उसे पता चला कि उसकी और कम से कम 18 अन्य नाबालिगों की स्पष्ट, एआई-जनित छवियां डिस्कॉर्ड पर उपलब्ध थीं। मुकदमे में दावा किया गया है, “इनमें से कम से कम पांच फाइलों, एक वीडियो और चार छवियों में उसके वास्तविक चेहरे और शरीर को उन सेटिंग्स में दर्शाया गया है जिनसे वह परिचित थी, लेकिन यौन रूप से स्पष्ट मुद्रा में बदल दी गई।”
अपराधी, जिसे तब से गिरफ्तार कर लिया गया है, ने कथित तौर पर जेन डो 1 के एआई-जनरेटेड सीएसएएम का इस्तेमाल “सैकड़ों अन्य उपयोगकर्ताओं के साथ टेलीग्राम समूह चैट में एक वस्तु विनिमय उपकरण के रूप में किया, अन्य नाबालिगों की स्पष्ट यौन सामग्री के लिए अपनी सीएसएएम फ़ाइलों का व्यापार किया।” मुकदमे में दावा किया गया है कि अपराधी ने ग्रोक का उपयोग करके जेन डो 1 और दो अन्य पीड़ितों की स्पष्ट छवियां बनाईं। इसमें यह भी आरोप लगाया गया है कि xAI “अपने द्वारा विकसित सुविधाओं की सुरक्षा का परीक्षण करने में विफल रहा” और ग्रोक “डिज़ाइन में दोषपूर्ण” है।
हालाँकि X ने उपयोगकर्ताओं के लिए ग्रोक के साथ छवियों को संपादित करना कठिन बनाने का प्रयास किया है, द वर्ज ने पाया है कि प्लेटफ़ॉर्म पर अपलोड की गई छवियों में हेरफेर करना अभी भी संभव है। एक्स ने कहा है कि “ग्रोक का उपयोग करने वाले या अवैध सामग्री बनाने के लिए प्रेरित करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।” एक्स ने तुरंत कोई प्रतिक्रिया नहीं दी द वर्जटिप्पणी के लिए अनुरोध.
“ये वे बच्चे हैं जिनकी स्कूल की तस्वीरों और पारिवारिक तस्वीरों को एक अरब डॉलर की कंपनी के एआई टूल द्वारा बाल यौन शोषण सामग्री में बदल दिया गया था और फिर शिकारियों के बीच व्यापार किया गया था,” पीड़ितों के वकीलों में से एक, लिफ़ कैब्रेसर के अनिका के. मार्टिन ने एक बयान में कहा। “हम इस तरह से नुकसान पहुंचाने वाले प्रत्येक बच्चे के लिए xAI को जिम्मेदार ठहराने का इरादा रखते हैं।”
मुकदमे में ग्रोक की “अवैध छवियों” से प्रभावित पीड़ितों के लिए क्षतिपूर्ति की मांग की गई है। यह अदालत से एक्सएआई को कथित एआई-जनित सीएसएएम उत्पन्न करने और फैलाने से रोकने के लिए भी कहता है।
