- ■
टेक ट्रांसपेरेंसी प्रोजेक्ट ने Google Play पर 55 और Apple के ऐप स्टोर पर 47 न्यूडिफाई ऐप्स की खोज की। संयुक्त डाउनलोड 700 मिलियन से अधिक
- ■
सीएनबीसी द्वारा उनसे संपर्क करने के बाद, ऐप्पल ने 28 ऐप्स हटा दिए, जबकि Google ने कई को निलंबित कर दिया, हालांकि किसी ने भी उल्लंघनों पर पूरी तरह से ध्यान नहीं दिया
- ■
ऐप्स ने $117 मिलियन का राजस्व अर्जित किया, गैर-सहमति वाली अंतरंग तस्वीरों पर प्रतिबंध लगाने वाली नीतियों के बावजूद Apple और Google ने कटौती की
- ■
चीन में खोजे गए 14 ऐप्स ने डेटा सुरक्षा संबंधी चिंताएँ पैदा कर दी हैं क्योंकि बीजिंग के अवधारण कानून सरकार को उपयोगकर्ता सामग्री तक पहुँच प्रदान करते हैं
टेक ट्रांसपेरेंसी प्रोजेक्ट द्वारा मंगलवार को जारी एक खतरनाक रिपोर्ट के अनुसार, दुनिया के दो सबसे बड़े ऐप स्टोर 100 से अधिक एआई-संचालित ऐप्स की मेजबानी कर रहे हैं, जो गैर-सहमति वाली नग्न छवियां बनाने के लिए डिज़ाइन किए गए हैं। जांच में Google Play पर 55 और Apple App Store में 47 ऐप्स पाए गए – ऐसे ऐप्स जिन्होंने सामूहिक रूप से 700 मिलियन डाउनलोड हासिल किए और दोनों प्लेटफार्मों की घोषित सुरक्षा नीतियों का उल्लंघन करते हुए 117 मिलियन डॉलर का राजस्व अर्जित किया। यह खोज एलोन मस्क के ग्रोक एआई को समान क्षमताओं के लिए आलोचना का सामना करने के कुछ सप्ताह बाद आई है, जिससे तकनीकी दिग्गज एआई-जनित सामग्री की निगरानी करने के तरीके के बारे में तत्काल सवाल उठा रहे हैं।
सेब और गूगल दर्जनों एआई-संचालित ऐप्स को हटाने के लिए संघर्ष कर रहे हैं जो बिना सहमति के नग्न तस्वीरें बनाते हैं, लेकिन विश्वसनीय प्लेटफॉर्म के रूप में उनकी प्रतिष्ठा को नुकसान पहले ही हो चुका है। टेक ट्रांसपेरेंसी प्रोजेक्ट द्वारा मंगलवार को जारी एक रिपोर्ट में सामग्री मॉडरेशन में एक आश्चर्यजनक चूक का खुलासा हुआ, जिससे पता चला कि दोनों ऐप स्टोर ऐसी सामग्री के खिलाफ स्पष्ट नीतियों के बावजूद परिष्कृत न्यूडिफाई ऐप्स की मेजबानी कर रहे हैं।
संख्याएं चौंका देने वाली हैं. टीटीपी की जनवरी की जांच में Google Play पर 55 और Apple ऐप स्टोर में 47 ऐप्स की पहचान की गई, जो सामान्य तस्वीरों से लोगों को डिजिटल रूप से कपड़े उतारने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करते हैं। ऐप एनालिटिक्स फर्म AppMagic के अनुसार, इन ऐप्स को दुनिया भर में 700 मिलियन से अधिक बार डाउनलोड किया गया है और इनसे 117 मिलियन डॉलर का राजस्व प्राप्त हुआ है। दोनों सेब और गूगल अपने मानक कमीशन संरचनाओं के माध्यम से उस राजस्व में कटौती करें।
टीटीपी ने अपने पत्र में लिखा है, “दोनों कंपनियां कहती हैं कि वे उपयोगकर्ताओं की सुरक्षा के लिए समर्पित हैं, लेकिन वे ऐसे ऐप्स का संग्रह होस्ट करते हैं जो किसी महिला की अहानिकर तस्वीर को अपमानजनक, कामुक छवि में बदल सकते हैं।” रिपोर्ट विशेष रूप से सीएनबीसी के साथ साझा की गई.
टीटीपी और सीएनबीसी ने पिछले सप्ताह कंपनियों से संपर्क करने के बाद, सेब सोमवार को 28 ऐप्स हटा दिए और अन्य डेवलपर्स को चेतावनी दी कि यदि दिशानिर्देशों का उल्लंघन ठीक नहीं किया गया तो उन्हें हटाने का जोखिम उठाया जा सकता है। लेकिन टीटीपी की अनुवर्ती समीक्षा में पाया गया कि स्टोर से वास्तव में केवल 24 ऐप्स गायब हुए। डेवलपर्स द्वारा उन संस्करणों को दोबारा सबमिट करने के बाद भी दो ऐप्स को पुनर्स्थापित किया गया था, जो कथित तौर पर ऐप्पल की चिंताओं को संबोधित करते थे। ए प्रवक्ता ने कहा कि कंपनी ने नीति उल्लंघन के लिए कई ऐप्स को निलंबित कर दिया है, लेकिन कितने ऐप्स को निलंबित कर दिया है, उन्होंने कहा कि इसकी जांच जारी है।
