- ■
- ■
एक्सएआई कहा कि विफलताएं “सुरक्षा उपायों में चूक” का प्रतिनिधित्व करती हैं और पुष्टि की है कि ऐसी सामग्री की अनुमति देने के लिए उसे संभावित आपराधिक और नागरिक दंड का सामना करना पड़ सकता है
- ■
आठ महीनों में ग्रोक के लिए यह तीसरी बड़ी सुरक्षा विफलता है – मई में ‘श्वेत नरसंहार’ टिप्पणियों और जुलाई में हिटलर की प्रशंसा करने वाली यहूदी विरोधी सामग्री के बाद
- ■
ठोकरें खाने के बावजूद, ग्रोक रक्षा विभाग और भविष्यवाणी बाजारों पॉलीमार्केट और कलशी सहित प्रमुख साझेदारियां जारी रखी हैं
एलोन मस्क का ग्रोक उपयोगकर्ताओं द्वारा यह पता चलने के बाद कि यह बच्चों की यौन रूप से स्पष्ट छवियां उत्पन्न कर रहा है, चैटबॉट क्षति नियंत्रण मोड में है। एआई टूल ने शुक्रवार को “सुरक्षा उपायों में चूक” को स्वीकार किया और कहा कि वह इस मुद्दे को “तत्काल ठीक” कर रहा है, जो उस प्लेटफॉर्म के लिए एक और गंभीर सुरक्षा विफलता को चिह्नित करता है जो पहले से ही एक साल से भी कम समय में बार-बार दुरुपयोग की समस्याओं का सामना कर रहा है।
सुरक्षा कवच का पतन चिंताजनक आसानी से हुआ। उपयोगकर्ता चालू एक्स पिछले कुछ दिनों से इसे चिह्नित करना शुरू कर दिया है ग्रोक एआई जनरेशन टूल का उपयोग करके बच्चों की स्पष्ट यौन छवि तैयार की जा रही थी – ऐसी सामग्री जिसमें नाबालिगों को न्यूनतम कपड़ों में बेहद अनुचित संदर्भों में दर्शाया गया था। उल्लेखनीय बात यह नहीं है कि यह घटित हुआ, बल्कि यह कितनी जल्दी हुआ ग्रोक इसे स्वीकार किया. चैटबॉट ने शुक्रवार को पोस्ट किया कि वह इस मुद्दे को “तत्काल ठीक” कर रहा है और बाल यौन शोषण सामग्री को “अवैध और निषिद्ध” कहा। इसने एक गंभीर कानूनी वास्तविकता को भी स्वीकार किया: कंपनियों को एक बार सूचित किया जाता है कि उनके प्लेटफ़ॉर्म पर ऐसी सामग्री मौजूद है, तो उन्हें संभावित आपराधिक या नागरिक दायित्व का सामना करना पड़ता है।
परसा ताजिकएक तकनीकी कर्मचारी एक्सएआईविनम्रतापूर्वक स्वीकारोक्ति के साथ बातचीत में कूद पड़ा: “अरे! ध्वजांकित करने के लिए धन्यवाद। टीम हमारी निगरानी को और मजबूत करने पर विचार कर रही है।” किसी संकट से निपटने के लिए संघर्ष कर रही कंपनी के लिए “गार्डरेल्स” की गलत वर्तनी किसी तरह उपयुक्त लगती है। एक्सएआई स्वयं ने अधिक विस्तार से नहीं बताया – मीडिया पूछताछ के प्रति इसकी प्रतिक्रिया केवल “विरासत मीडिया झूठ” पढ़ने वाला एक ऑटोरिप्लाई था।
लेकिन यहाँ वह बात है जो इसे विशेष रूप से हानिकारक बनाती है: यह कोई अकेली घटना नहीं है। यह तीसरी बड़ी सुरक्षा विफलता है ग्रोक लगभग आठ महीनों में, एक ऐसे पैटर्न का खुलासा हुआ जो साधारण तकनीकी निरीक्षणों से परे है। मई में, उपयोगकर्ताओं ने खोजा ग्रोक असंबद्ध वार्तालापों में दक्षिण अफ्रीका में “श्वेत नरसंहार” के बारे में बिना किसी संकेत के टिप्पणी सम्मिलित कर दी गई। दो महीने बाद सार्वजनिक आलोचना की एक और लहर आई जब चैटबॉट ने खुले तौर पर यहूदी विरोधी सामग्री पोस्ट की और एडॉल्फ हिटलर की प्रशंसा की। हर बार, एक्सएआई मुद्दों को स्वीकार किया और समाधान का वादा किया। हर बार, स्पष्टतः सुधार पर्याप्त नहीं थे।
यहां व्यापक संदर्भ मायने रखता है। तब से चैटजीपीटी 2022 के अंत में लॉन्च किए गए, एआई इमेज जेनरेशन टूल के प्रसार ने पूरे तकनीकी पारिस्थितिकी तंत्र में वास्तविक सुरक्षा खतरे पैदा कर दिए हैं। प्लेटफ़ॉर्म वास्तविक लोगों की डीपफ़ेक नग्नता के निर्माण को रोकने के लिए संघर्ष कर रहे हैं, और यह हिमशैल का टिप मात्र है। जेनरेटिव एआई सिस्टम में प्रभावी सुरक्षा उपाय बनाने की चुनौती उद्योग की सबसे कठिन समस्याओं में से एक बनी हुई है – और ऐसा प्रतीत होता है कि अधिकांश प्रतिस्पर्धियों की तुलना में यह इसे बदतर तरीके से संभाल रहा है।
