एलोन मस्क के स्वामित्व वाली xAI दक्षिण कैरोलिना के एक व्यक्ति पर मुकदमा कर रही है जिसने कथित तौर पर बाल यौन शोषण सामग्री (CSAM) उत्पन्न करने के लिए कंपनी के ग्रोक AI चैटबॉट का उपयोग किया था। में मुकदमा सूचना दी इससे पहले रॉयटर्सएक्सएआई का दावा है कि टेरी वेन हारवुड ने कंपनी की नीतियों का उल्लंघन करते हुए “जानबूझकर और जानबूझकर सुरक्षा उपायों को दरकिनार करने, गैर-सहमति वाली छवियों को बदलने और सीएसएएम उत्पन्न करने और वितरित करने के लिए ग्रोक का इस्तेमाल किया”।
हारवुड गिरफ्तार किया गया फरवरी में कथित तौर पर सीएसएएम रखने और वितरित करने के लिए और आठ गंभीर आरोपों का सामना करना पड़ रहा है। मुकदमे में दावा किया गया है कि हरवुड के आपराधिक आरोपों से संबंधित छवियों में से “कम से कम कुछ” ग्रोक के साथ “उत्पन्न या परिवर्तित” की गईं, और हारवुड ने ग्रोक के सुरक्षा उपायों को दरकिनार कर दिया और विषयों की सहमति के बिना “गैर-यौन तस्वीरों को स्पष्ट यौन छवियों में बदलने के लिए उपकरण का दुरुपयोग किया”।
एक्सएआई का दावा है कि हारवुड की कथित कार्रवाइयों ने कंपनी को “महत्वपूर्ण कानूनी जोखिम और प्रतिष्ठा क्षति” के लिए उजागर किया। इसने अदालत से हारवुड को किसी भी नुकसान के लिए एक्सएआई का भुगतान करने का आदेश देने के लिए कहा है, साथ ही “प्रतिवादी के आचरण के पीड़ित द्वारा दायर किसी भी कानूनी कार्रवाई में खुद का बचाव करने के लिए किए गए उचित खर्च” का भी भुगतान करने का आदेश दिया है। xAI यह भी चाहता है कि न्यायाधीश हारवुड को xAI खाता बनाने या ग्रोक का उपयोग करने से रोकें।
