इस सप्ताह के रोलआउट के बाद xAI का ग्रोक लोगों की सहमति के बिना उनकी तस्वीरों से कपड़े हटा रहा है एक विशेषता जो एक्स उपयोगकर्ताओं को मूल पोस्टर की अनुमति के बिना बॉट का उपयोग करके किसी भी छवि को तुरंत संपादित करने की अनुमति देता है। यदि उनकी तस्वीर संपादित की गई थी तो न केवल मूल पोस्टर को सूचित नहीं किया जाता है, बल्कि ऐसा प्रतीत होता है कि ग्रोक में पूर्ण स्पष्ट नग्नता से कुछ भी कम होने से रोकने के लिए कुछ रेलिंग हैं। पिछले कुछ दिनों में, एक्स में महिलाओं और बच्चों की गर्भवती, स्कर्टलेस, बिकनी पहने हुए या अन्य कामुक स्थितियों में दिखाई देने वाली तस्वीरों की भरमार हो गई है। विश्व नेताओं और मशहूर हस्तियों की भी ग्रोक द्वारा बनाई गई छवियों में उनकी समानता का उपयोग किया गया है।
एआई प्रमाणीकरण कंपनी कॉपीलीक्स की सूचना दी गई छवियों से कपड़े हटाने का चलन तब शुरू हुआ जब वयस्क-सामग्री रचनाकारों ने नई छवि संपादन सुविधा के जारी होने के बाद ग्रोक से खुद की सेक्सी छवियां मांगीं। उपयोगकर्ताओं ने फिर अन्य उपयोगकर्ताओं, मुख्य रूप से महिलाओं, की तस्वीरों पर समान संकेत लागू करना शुरू कर दिया, जिन्होंने संपादन के लिए सहमति नहीं दी थी। महिलाओं ने एक्स सहित विभिन्न समाचार आउटलेट्स पर डीपफेक निर्माण में तेजी से वृद्धि देखी मेट्रो और पेटापिक्सेल. ग्रोक था पहले से ही सक्षम एक्स पर किसी पोस्ट में टैग किए जाने पर छवियों को यौन तरीके से संशोधित करने के लिए, लेकिन ऐसा प्रतीत होता है कि नए “छवि संपादित करें” टूल ने लोकप्रियता में हालिया उछाल को बढ़ावा दिया है।
एक एक्स पोस्ट में, जिसे अब प्लेटफ़ॉर्म से हटा दिया गया है, ग्रोक ने दो युवा लड़कियों की एक तस्वीर संपादित की है जिसमें छोटे कपड़े और यौन रूप से उत्तेजक मुद्राएँ हैं। एक और एक्स उपयोगकर्ता ग्रोक को माफ़ी मांगने के लिए प्रेरित किया “घटना” के लिए “कामोत्तेजक पोशाक में दो युवा लड़कियों (अनुमानित आयु 12-16 वर्ष) की एआई छवि” शामिल है, इसे “सुरक्षा उपायों में विफलता” कहते हुए कहा कि इसने एक्सएआई की नीतियों और अमेरिकी कानून का उल्लंघन किया हो सकता है। (हालांकि यह स्पष्ट नहीं है कि ग्रोक द्वारा बनाई गई छवियां इस मानक को पूरा करेंगी या नहीं, पहचानने योग्य वयस्कों या बच्चों की यथार्थवादी एआई-जनित यौन रूप से स्पष्ट छवि अमेरिकी कानून के तहत अवैध हो सकती है।) एक उपयोगकर्ता के साथ एक और आगे-पीछे में, ग्रोक ने सुझाव दिया कि उपयोगकर्ता इसे एफबीआई को रिपोर्ट करें सीएसएएम के लिए, यह देखते हुए कि यह “सुरक्षा उपायों में खामियों” को “तत्काल ठीक” कर रहा है।
लेकिन ग्रोक का शब्द “हार्दिक माफी नोट” मांगने वाले उपयोगकर्ता के लिए एआई-जनित प्रतिक्रिया से ज्यादा कुछ नहीं है – यह इंगित नहीं करता है कि ग्रोक “समझता है” कि वह क्या कर रहा है या आवश्यक रूप से ऑपरेटर एक्सएआई की वास्तविक राय और नीतियों को प्रतिबिंबित करता है। इसके बजाय, xAI ने जवाब दिया रॉयटर्स‘ टिप्पणी के लिए अनुरोध स्थिति पर केवल तीन शब्दों में: “विरासत मीडिया झूठ बोलता है।” एक्सएआई ने कोई जवाब नहीं दिया द वर्जप्रकाशन हेतु समय पर टिप्पणी हेतु अनुरोध।
ऐसा लगता है कि एलोन मस्क ने खुद ग्रोक से अभिनेता बेन एफ्लेक की एक यादगार छवि को खुद से बदलने के लिए कहने के बाद बिकनी संपादन की लहर को जन्म दिया है। बिकिनी पहने हुए. कुछ दिनों बाद, उत्तर कोरिया के किम जोंग उन की चमड़े की जैकेट को बहुरंगी स्पेगेटी से बदल दिया गया बिकिनी; अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप मैचिंग स्विमसूट में पास ही खड़े थे. (परमाणु युद्ध के बारे में चुटकुले।) ब्रिटिश की एक तस्वीर राजनीतिक प्रीति पटेल को 2022 में एक उपयोगकर्ता द्वारा यौन विचारोत्तेजक संदेश के साथ पोस्ट किया गया था, जो 2 जनवरी को बिकनी तस्वीर में बदल गया। अपने प्लेटफॉर्म पर बिकनी तस्वीरों की लहर के जवाब में, मस्क ने मजाक में एक रीपोस्ट किया चित्र बिकनी में एक टोस्टर का शीर्षक है “ग्रोक हर चीज़ पर बिकनी लगा सकता है।”
जबकि कुछ छवियां – जैसे टोस्टर – स्पष्ट रूप से चुटकुले के रूप में थीं, अन्य स्पष्ट रूप से बॉर्डरलाइन-अश्लील कल्पना उत्पन्न करने के लिए डिज़ाइन की गई थीं, जिसमें ग्रोक के लिए छोटी बिकनी शैलियों का उपयोग करने या स्कर्ट को पूरी तरह से हटाने के लिए विशिष्ट निर्देश शामिल थे। (चैटबॉट ने स्कर्ट हटा दी, लेकिन उसने प्रतिक्रियाओं में पूर्ण, बिना सेंसर की नग्नता को चित्रित नहीं किया द वर्ज देखा।) ग्रोक ने ए के कपड़े बदलने के अनुरोध का भी अनुपालन किया बिकनी वाला बच्चा.
मस्क के एआई उत्पादों को प्रमुखता से अत्यधिक कामुक और न्यूनतम सुरक्षा के रूप में विपणन किया जाता है। xAI के AI साथी अनी के साथ छेड़खानी कगार रिपोर्टर विक्टोरिया सॉन्ग और जेस वेदरबेड ने पाया कि एक्सएआई की स्वीकार्यता के बावजूद, ग्रोक के वीडियो जनरेटर ने आसानी से टेलर स्विफ्ट के टॉपलेस डीपफेक बनाए। नीति का उपयोग करें “अश्लील तरीके से व्यक्तियों की समानता” के चित्रण पर प्रतिबंध लगाना। इसके विपरीत, Google के Veo और OpenAI के सोरा वीडियो जनरेटर में NSFW सामग्री के निर्माण के लिए रेलिंग होती है, हालाँकि सोरा का उपयोग वीडियो बनाने के लिए भी किया गया है। यौन सन्दर्भों में बच्चे और कामोत्तेजक वीडियो. साइबर सुरक्षा फर्म की एक रिपोर्ट के अनुसार, डीपफेक छवियों का प्रचलन तेजी से बढ़ रहा है डीपस्ट्राइकऔर इनमें से कई छवियों में गैर-सहमति वाली कामुक छवियां शामिल हैं; ए 2024 सर्वेक्षण अमेरिकी छात्रों में से 40 प्रतिशत को अपने किसी जानने वाले के डीपफेक के बारे में पता था, जबकि 15 प्रतिशत को गैर-सहमति वाले स्पष्ट या अंतरंग डीपफेक के बारे में पता था।
यह पूछे जाने पर कि यह महिलाओं की छवियों को बिकनी तस्वीरों में क्यों बदल रहा है, ग्रोक अस्वीकृत बिना सहमति के तस्वीरें पोस्ट करते हुए कहा: “ये अनुरोधों पर आधारित एआई रचनाएं हैं, सहमति के बिना वास्तविक फोटो संपादन नहीं।”
अपनी इच्छानुसार एआई बॉट का खंडन लें।
