कैलिफ़ोर्निया के अटॉर्नी जनरल ने अभी-अभी एक संघीय जाँच शुरू की है एक्सएआई, एलोन मस्क का एआई कंपनी, ग्रोक चैटबॉट के बाद नाबालिगों सहित वास्तविक लोगों के बड़े पैमाने पर गैर-सहमति वाले स्पष्ट डीपफेक बनाने का एक उपकरण बन गई। यह कदम तब उठाया गया है जब सात देश और यूरोपीय आयोग एक ही समस्या की समानांतर जांच कर रहे हैं। यह एआई विनियमन के लिए एक महत्वपूर्ण क्षण है।
कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने शब्दों में कोई कमी नहीं की। एक्सएआई उन्होंने बुधवार को एक बयान में कहा, “ऐसा प्रतीत होता है कि यह डीपफेक गैर-सहमति वाली अंतरंग छवियों के बड़े पैमाने पर उत्पादन की सुविधा प्रदान कर रहा है, जिनका इस्तेमाल इंटरनेट पर महिलाओं और लड़कियों को परेशान करने के लिए किया जा रहा है।” यह एआई टूल पर अब तक की सबसे आक्रामक नियामक कार्रवाई का शुरुआती हमला है- और यह तेजी से हो रहा है।
कैलिफोर्निया जांच लक्ष्य ग्रोक, एलोन मस्क का एआई छवि जनरेटर को एक चैटबॉट के साथ जोड़ा गया है, जिसने सहमति के बिना वास्तविक लोगों की नकली स्पष्ट छवियों के व्यापक निर्माण को सक्षम किया है। कुछ प्रलेखित मामलों में, इंटरनेट वॉच फ़ाउंडेशन के शोध के अनुसार, टूल ने ऐसी छवियां उत्पन्न कीं जो वस्तुतः नाबालिगों को निर्वस्त्र कर देती थीं। वह विवरण मायने रखता है। यह केवल सामग्री मॉडरेशन विफलता नहीं है – यह संभावित रूप से बाल यौन शोषण सामग्री को सुविधाजनक बना रहा है।
इस क्षण में जो बात आश्चर्यजनक है वह है गति और वैश्विक समन्वय। बोंटा की जाँच अंतरराष्ट्रीय कार्रवाई की भगदड़ के बाद होती है। भारत, मलेशिया, इंडोनेशिया, आयरलैंड, ऑस्ट्रेलिया, यूके, फ्रांस और यूरोपीय आयोग सभी ने ग्रोक की क्षमताओं की अपनी-अपनी जांच शुरू कर दी है। मलेशिया और इंडोनेशिया ने जांच पूरी होने का इंतजार नहीं किया – उन्होंने पहले ही ग्रोक तक पहुंच निलंबित कर दी है एक्सएआई यह प्रदर्शित कर सकता है कि इसने डीपफेक समस्या का समाधान कर दिया है। वह कड़े शब्दों में लिखा गया पत्र नहीं है. वह एक ऐसा देश है जो किसी उत्पाद को ऑफ़लाइन ले जा रहा है।
कस्तूरी बुधवार शाम को पोस्ट करके जवाब दिया एक्स-सोशल मीडिया प्लेटफ़ॉर्म जहां अधिकांश स्पष्ट डीपफेक सामग्री साझा की जा रही थी – वह “ग्रोक द्वारा उत्पन्न किसी भी नग्न कम उम्र की छवियों से अवगत नहीं था।” फिर वह उपयोगकर्ताओं पर दोषारोपण करने लगा। उन्होंने सुझाव दिया कि सामग्री निर्माण “उपयोगकर्ता अनुरोधों” और संभवतः सिस्टम में एक “बग” से उत्पन्न हुआ है। यह एक परिचित विचलन है: उपयोगकर्ता को दोष दें, उपकरण को नहीं।
लेकिन अब हर तरफ से दबाव बढ़ रहा है. तीन डेमोक्रेटिक सीनेटरों ने मुलाकात की सेब और गूगल एक्स ऐप और ग्रोक को उनके ऐप स्टोर से हटाने तक एक्सएआई इसे हल करता है. वकालत समूह-अल्ट्रावायलेट, महिलाओं के लिए राष्ट्रीय संगठन, और पेरेंट्सटुगेदर एक्शन-एक ही मांग के साथ आगे बढ़ रहे हैं। और सार्वजनिक रूप से प्रतिक्रिया नहीं दी है, लेकिन अगर जांच शुरू होने के दौरान वे ऐप को लाइव रखते हैं तो दोनों कंपनियों के लिए स्थिति क्रूर होगी।
