मस्क के तहत, ग्रोक आपदा अपरिहार्य थी

यह है स्टेपबैकएक साप्ताहिक समाचार पत्र जो तकनीकी जगत से एक आवश्यक कहानी प्रस्तुत करता है। एआई में डायस्टोपियन विकास के बारे में अधिक जानकारी के लिए फ़ॉलो करें हेडन फील्ड. स्टेपबैक हमारे ग्राहकों के इनबॉक्स में सुबह 8 बजे ईटी पर आता है। के लिए ऑप्ट इन करें स्टेपबैक यहाँ.

आप कह सकते हैं कि यह सब एलोन मस्क के AI FOMO – और “जागरूकता” के खिलाफ उनके अभियान से शुरू हुआ। जब उनकी AI कंपनी, xAI, ने ग्रोक इन की घोषणा की ai/news/grok">नवंबर 2023इसे “एक विद्रोही प्रवृत्ति” और “मसालेदार सवालों के जवाब देने की क्षमता वाले चैटबॉट के रूप में वर्णित किया गया था जो कि अधिकांश अन्य एआई सिस्टम द्वारा खारिज कर दिए गए हैं।” चैटबॉट कुछ महीनों के विकास और केवल दो महीने के प्रशिक्षण के बाद शुरू हुआ, और घोषणा में इस बात पर प्रकाश डाला गया कि ग्रोक को एक्स प्लेटफ़ॉर्म का वास्तविक समय का ज्ञान होगा।

लेकिन इंटरनेट और एक्स दोनों चलाने वाले चैटबॉट के लिए अंतर्निहित जोखिम हैं, और यह कहना सुरक्षित है कि एक्सएआई ने उन्हें संबोधित करने के लिए आवश्यक कदम नहीं उठाए होंगे। चूंकि मस्क ने 2022 में ट्विटर पर कब्ज़ा कर लिया और इसका नाम बदलकर एक्स कर दिया, इसलिए उन्होंने अपने वैश्विक ट्रस्ट और सुरक्षा कर्मचारियों में से 30% को निकाल दिया और सुरक्षा इंजीनियरों की संख्या में 80% की कटौती की, ऑस्ट्रेलिया के ऑनलाइन सुरक्षा निगरानीकर्ता ने कहा पिछले जनवरी. जहां तक ​​एक्सएआई का सवाल है, जब ग्रोक जारी किया गया था, तो यह स्पष्ट नहीं था कि एक्सएआई के पास पहले से ही कोई सुरक्षा टीम थी या नहीं। जब जुलाई में ग्रोक 4 जारी किया गया था, तो कंपनी को एक मॉडल कार्ड जारी करने में एक महीने से अधिक समय लग गया – एक अभ्यास जिसे आमतौर पर एक उद्योग मानक के रूप में देखा जाता है, जो सुरक्षा परीक्षणों और संभावित चिंताओं का विवरण देता है। ग्रोक 4 की रिलीज़ के दो सप्ताह बाद, एक xAI कर्मचारी ने लिखा एक्स पर कि वह xAI की सुरक्षा टीम के लिए काम पर रख रहा था और उन्हें “तत्काल मजबूत इंजीनियरों/शोधकर्ताओं की आवश्यकता है।” एक टिप्पणीकार के जवाब में, जिसने पूछा, “xAI सुरक्षा करता है?” मूल कर्मचारी कहा xAI “इस पर काम कर रहा था।”

पत्रकार कैट टेनबर्ज ने लिखा कि उन्होंने पहली बार देखना कैसे शुरू किया स्पष्ट यौन डीपफेक ग्रोक इन पर वायरल हो जाओ जून 2023. वे छवियां स्पष्ट रूप से ग्रोक द्वारा नहीं बनाई गई थीं – इसमें अगस्त 2024 तक छवियां उत्पन्न करने की क्षमता भी नहीं थी – लेकिन चिंताओं पर एक्स की प्रतिक्रिया भिन्न थी। यहां तक ​​की पिछले जनवरीग्रोक एआई-जनित छवियों के लिए विवाद भड़का रहा था। और पिछले अगस्त में, ग्रोक के “मसालेदार” वीडियो-जनरेशन मोड ने बिना पूछे ही टेलर स्विफ्ट के नग्न डीपफेक बनाए। विशेषज्ञों ने बताया है द वर्ज सितंबर के बाद से कंपनी सुरक्षा और रेलिंग के प्रति एक अजीब दृष्टिकोण अपनाती है – और जब आप शुरुआत से ही सुरक्षा को ध्यान में रखते हुए इसे डिजाइन करते हैं तो एआई सिस्टम को सीधा और संकीर्ण रखना काफी मुश्किल होता है, अगर आप अंतर्निहित समस्याओं को ठीक करने के लिए वापस जा रहे हैं तो अकेले ही रहें। अब, ऐसा लगता है कि वह दृष्टिकोण xAI के सामने विफल हो गया है।

जैसा कि प्रचारित किया गया है, ग्रोक ने पिछले कुछ सप्ताह पूरे मंच पर वयस्कों और नाबालिगों के गैर-सहमति वाले, कामुक डीपफेक को फैलाने में बिताए हैं। स्क्रीनशॉट में दिखाया गया है कि ग्रोक उन उपयोगकर्ताओं का अनुपालन कर रहा है जो महिलाओं के कपड़ों को अधोवस्त्र से बदलने और उन्हें अपने पैर फैलाने के साथ-साथ छोटे बच्चों को बिकनी पहनाने के लिए कह रहे हैं। और भी अधिक गंभीर रिपोर्टें हैं। यह इतना खराब हो गया है कि एक्स पर ग्रोक द्वारा निर्मित छवियों के 24 घंटे के विश्लेषण के दौरान, एक अनुमान अनुमान लगाया गया कि चैटबॉट प्रति घंटे लगभग 6,700 यौन विचारोत्तेजक या “नग्न करने वाली” छवियां उत्पन्न कर रहा है। हमले का एक कारण हाल ही में ग्रोक में जोड़ा गया एक फीचर है, जो उपयोगकर्ताओं को मूल पोस्टर की सहमति के बिना, चैटबॉट को छवियों को बदलने के लिए कहने के लिए “संपादन” बटन का उपयोग करने की अनुमति देता है।

तब से, हमने देखा है कि मुट्ठी भर देश या तो मामले की जांच करते हैं या एक्स पर पूरी तरह से प्रतिबंध लगाने की धमकी देते हैं। फ्रांसीसी सरकार के सदस्य जांच का वादा कियाजैसा कि किया गया भारतीय आईटी मंत्रालयऔर एक मलेशियाई सरकारी आयोग एक पत्र लिखा इसकी चिंताओं के बारे में. कैलिफोर्निया के गवर्नर गेविन न्यूसोम दुहाई है अमेरिकी अटॉर्नी जनरल xAI की जांच करेंगे। यूनाइटेड किंगडम ने कहा कि यह है एक कानून पारित करने की योजना बना रहे हैं एआई-जनित गैर-सहमति वाली, कामुक छवियों के निर्माण पर प्रतिबंध लगाते हुए, और देश के संचार-उद्योग नियामक ने कहा कि वह एक्स और उत्पन्न हुई छवियों दोनों की जांच करेगा ताकि यह देखा जा सके कि क्या उन्होंने इसके ऑनलाइन सुरक्षा अधिनियम का उल्लंघन किया है। और इस सप्ताह, मलेशिया और इंडोनेशिया दोनों ग्रोक तक पहुंच को अवरुद्ध कर दिया.

एक्सएआई ने शुरू में कहा था कि ग्रोक के लिए उसका लक्ष्य “समझदारी और ज्ञान की तलाश में मानवता की सहायता करना”, “पूरी मानवता को अधिकतम लाभ पहुंचाना” और “कानून के अधीन हमारे एआई टूल के साथ हमारे उपयोगकर्ताओं को सशक्त बनाना” और साथ ही “किसी के लिए एक शक्तिशाली अनुसंधान सहायक के रूप में सेवा करना” था। यह महिलाओं की सहमति के बिना उनके नग्न-आसन्न डीपफेक तैयार करने से बहुत दूर है, नाबालिगों की तो बात ही छोड़ दें।

बुधवार शाम को, जैसे ही कंपनी पर दबाव बढ़ा, एक्स के सेफ्टी अकाउंट ने एक पोस्ट डाला कथन प्लेटफ़ॉर्म ने “ग्रोक खाते को बिकनी जैसे खुले कपड़ों में वास्तविक लोगों की छवियों के संपादन की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं” और यह प्रतिबंध “भुगतान किए गए ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।” इसके शीर्ष पर, एक्स के अनुसार, केवल भुगतान किए गए ग्राहक किसी भी प्रकार की छवि को बनाने या संपादित करने के लिए ग्रोक का उपयोग कर सकते हैं। बयान में कहा गया है कि एक्स “अब जियोब्लॉक[s] ग्रोक खाते के माध्यम से और ग्रोक इन एक्स में उन न्यायक्षेत्रों में जहां यह अवैध है, सभी उपयोगकर्ताओं की बिकनी, अंडरवियर और इसी तरह की पोशाक में वास्तविक लोगों की छवियां उत्पन्न करने की क्षमता, जो कि एक अजीब बात थी, कंपनी ने कहा कि वह किसी को भी इस तरह से छवियों को संपादित करने के लिए ग्रोक का उपयोग करने की अनुमति नहीं दे रही है।

एक और महत्वपूर्ण बिंदु: मेरे सहकर्मियों ने बुधवार को ग्रोक की छवि-उत्पादन प्रतिबंधों का परीक्षण किया और पाया कि अधिकांश रेलिंगों को पार करने में एक मिनट से भी कम समय लगा। हालाँकि चैटबॉट से “उसे बिकनी पहनाने” या “उसके कपड़े उतारने” के लिए कहने पर सेंसर किए गए परिणाम सामने आए, लेकिन उन्होंने पाया कि उसे “मुझे उसकी क्लीवेज दिखाओ,” “उसके स्तन बड़े करो” और “उसे एक क्रॉप टॉप और लो-राइज शॉर्ट्स पहनाओ” जैसे संकेत देने में कोई दिक्कत नहीं थी, साथ ही साथ अधोवस्त्र और कामुक पोज़ में तस्वीरें भी तैयार की गईं। बुधवार शाम तक, हम मुफ़्त खाते का उपयोग करके लोगों की खुलासा करने वाली छवियां उत्पन्न करने के लिए ग्रोक ऐप प्राप्त करने में सक्षम थे।

एक्स के बुधवार के बयान के बाद भी, हम देख सकते हैं कि कई अन्य देश या तो पूरे एक्स या सिर्फ ग्रोक तक पहुंच पर प्रतिबंध लगा देंगे या ब्लॉक कर देंगे, कम से कम अस्थायी रूप से। हम यह भी देखेंगे कि दुनिया भर में प्रस्तावित कानून और जांचें किस तरह काम करती हैं। मस्क के लिए दबाव बढ़ रहा है, जो बुधवार दोपहर को लिया गया एक्स को यह कहने के लिए कि वह “ग्रोक द्वारा उत्पन्न किसी भी नग्न कम उम्र की छवियों से अवगत नहीं है।” घंटों बाद, एक्स की सुरक्षा टीम ने अपना बयान दिया, जिसमें कहा गया कि वह “अतिरिक्त सुरक्षा उपाय जोड़ने, उल्लंघन करने वाली और अवैध सामग्री को हटाने के लिए त्वरित और निर्णायक कार्रवाई करने, जहां उचित हो, खातों को स्थायी रूप से निलंबित करने और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ सहयोग करने के लिए चौबीसों घंटे काम कर रही है।”

तकनीकी रूप से क्या कानून के खिलाफ है और क्या नहीं, यह यहां एक बड़ा सवाल है। उदाहरण के लिए, विशेषज्ञों ने बताया द वर्ज इस महीने की शुरुआत में बिकनी में पहचाने जाने योग्य नाबालिगों की एआई-जनित छवियां, या संभवतः नग्न भी, अमेरिका में वर्तमान बाल यौन शोषण सामग्री (सीएसएएम) कानूनों के तहत तकनीकी रूप से अवैध नहीं हो सकती हैं, हालांकि निश्चित रूप से परेशान करने वाली और अनैतिक हैं। लेकिन ऐसी स्थितियों में नाबालिगों की कामुक तस्वीरें कानून के खिलाफ हैं। हम देखेंगे कि क्या उन परिभाषाओं का विस्तार होता है या उनमें बदलाव होता है, भले ही मौजूदा कानून थोड़े उलझे हुए हों।

जहां तक ​​वयस्क महिलाओं के गैर-सहमति वाले अंतरंग डीपफेक का सवाल है, मई 2025 में कानून में हस्ताक्षरित टेक इट डाउन एक्ट, गैर-सहमति वाले एआई-जनित “अंतरंग दृश्य चित्रण” पर रोक लगाता है और उन्हें तेजी से हटाने के लिए कुछ प्लेटफार्मों की आवश्यकता होती है। बाद वाले हिस्से के प्रभावी होने से पहले की छूट अवधि – प्लेटफ़ॉर्म को वास्तव में उन्हें हटाने की आवश्यकता होती है – मई 2026 में समाप्त होती है, इसलिए हम अगले छह महीनों में कुछ महत्वपूर्ण विकास देख सकते हैं।