स्कैमर्स टिकटॉक पर फर्जी विज्ञापनों की बाढ़ लाने के लिए एआई-जनरेटेड सेलिब्रिटी डीपफेक को हथियार बना रहे हैं और टेलर स्विफ्ट का चेहरा इस आरोप का नेतृत्व कर रहा है। प्रमाणीकरण कंपनी कॉपीलीक्स के अनुसार, स्विफ्ट, रिहाना और अन्य ए-लिस्टर्स वाले परिष्कृत एआई वीडियो संदिग्ध इनाम कार्यक्रमों को बढ़ावा दे रहे हैं जो बिना सोचे-समझे उपयोगकर्ताओं से व्यक्तिगत डेटा एकत्र करते हैं। घोटाले वाले विज्ञापन एआई वॉयस क्लोनिंग और फेस-स्वैपिंग तकनीक के साथ वास्तविक साक्षात्कार फुटेज में हेरफेर करते हैं, जिससे वे वैध सेलिब्रिटी विज्ञापनों से लगभग अप्रभेद्य हो जाते हैं – और वे बड़े पैमाने पर टिकटोक की सामग्री मॉडरेशन से आगे निकल रहे हैं।
टिकटोक इसमें एक डीपफेक समस्या है, और इसमें टेलर स्विफ्ट का चेहरा लगा हुआ है। स्कैमर्स प्लेटफॉर्म पर एआई-जनरेटेड सेलेब्रिटी वीडियो की भरमार कर रहे हैं, जो कैजुअल स्क्रॉलर्स को बेवकूफ बनाने के लिए काफी विश्वसनीय लगते हैं, फर्जी इनाम योजनाओं को आगे बढ़ा रहे हैं जो आसान पैसे का वादा करते हैं लेकिन इसके बजाय डेटा हार्वेस्टिंग प्रदान करते हैं।
प्रमाणीकरण कंपनी कॉपीलीक्स एक हालिया रिपोर्ट में घोटाला अभियान को चिह्नित किया गया, जिसमें स्विफ्ट, रिहाना और संदिग्ध सेवाओं को बढ़ावा देने वाली अन्य हस्तियों के डीपफेक की पहचान की गई। वीडियो आम तौर पर परिचित सेटिंग्स में सितारों को दिखाते हैं – रेड कार्पेट साक्षात्कार, पॉडकास्ट उपस्थिति, टॉक शो सेगमेंट – एआई के साथ नए ऑडियो और चेहरे की गतिविधियों को सम्मिलित करने के लिए वास्तविक फुटेज में हेरफेर किया जाता है। के अनुसार द वर्ज की रिपोर्टिंगडीपफेक इतने परिष्कृत हैं कि अधिकांश उपयोगकर्ता बारीकी से निरीक्षण किए बिना हेरफेर को नहीं पकड़ पाएंगे।
घोटाला एक परिचित प्लेबुक का अनुसरण करता है। एआई-जनरेटेड स्विफ्ट दर्शकों को बताती है कि वे केवल टिकटॉक वीडियो देखकर और फीडबैक देकर पैसा कमा सकते हैं। विज्ञापनों में अक्सर टिकटॉक की आधिकारिक ब्रांडिंग और लोगो दिखाया जाता है, जो वास्तव में डेटा फ़िशिंग ऑपरेशन को वैधता प्रदान करता है। जो उपयोगकर्ता क्लिक करते हैं वे तीसरे पक्ष की वेबसाइटों पर पुनर्निर्देशित हो जाते हैं जो व्यक्तिगत जानकारी का अनुरोध करते हैं – पूरी योजना का वास्तविक लक्ष्य।
जो चीज़ इन डीपफेक को विशेष रूप से प्रभावी बनाती है वह है उनकी गुणवत्ता। एआई सेलेब्रिटी घोटालों की पिछली पीढ़ियाँ स्पष्ट रूप से नकली थीं, जिनमें अलौकिक चेहरे और रोबोटिक आवाज़ें थीं, जिससे तुरंत संदेह पैदा हो गया। लेकिन आज के उपकरण भयावह सटीकता के साथ आवाजों को क्लोन कर सकते हैं और मौजूदा वीडियो फुटेज पर चेहरों को निर्बाध रूप से बदल सकते हैं। घोटालेबाज मूल रूप से वास्तविक सेलिब्रिटी साक्षात्कार ले रहे हैं और उनके मुंह में नए शब्द डाल रहे हैं, जो वास्तविक समर्थन जैसा दिखता है।
टिकटॉक का मॉडरेशन सिस्टम स्पष्ट रूप से बनाए रखने के लिए संघर्ष कर रहा है। प्लेटफ़ॉर्म में सिंथेटिक मीडिया और घोटालों के खिलाफ नीतियां हैं, लेकिन हर मिनट अपलोड की जाने वाली सामग्री की भारी मात्रा व्यापक स्क्रीनिंग को लगभग असंभव बना देती है। और जैसे-जैसे एआई पीढ़ी के उपकरण अधिक सुलभ और शक्तिशाली होते जा रहे हैं, विश्वसनीय डीपफेक बनाने की लागत में गिरावट जारी है। एक समय हॉलीवुड स्तर के दृश्य प्रभावों की जो आवश्यकता थी वह अब उपभोक्ता सॉफ्टवेयर और एक अच्छे जीपीयू के साथ किया जा सकता है।
स्विफ्ट पिछले वर्ष में एआई हेरफेर के लिए एक विशेष लक्ष्य रही है। इस साल की शुरुआत में, गायक की स्पष्ट डीपफेक छवियां सोशल मीडिया प्लेटफार्मों पर फैल गईं, जिससे एआई-जनरेटेड सामग्री के आसपास मजबूत नियमों की मांग बढ़ गई। इस घटना के कारण कांग्रेस में संघीय डीपफेक कानून के बारे में चर्चा हुई, हालांकि अभी तक कोई ठोस कार्रवाई नहीं हुई है।
इनाम कार्यक्रम का दृष्टिकोण चतुर है क्योंकि यह टिकटोक की मौजूदा निर्माता अर्थव्यवस्था का शोषण करता है। प्लेटफ़ॉर्म में वैध कार्यक्रम हैं जहां उपयोगकर्ता सामग्री निर्माण और सहभागिता के माध्यम से पैसा कमा सकते हैं। घोटालेबाज उस परिचितता का फायदा उठा रहे हैं, जिससे उनके नकली कार्यक्रम टिकटॉक की वास्तविक विशेषताओं के स्वाभाविक विस्तार की तरह प्रतीत होते हैं। जब एक डीपफेक सेलिब्रिटी कहता है कि आपको वीडियो देखने के लिए भुगतान मिल सकता है, तो यह उन उपयोगकर्ताओं के लिए तुरंत बेतुका नहीं लगता है जो जानते हैं कि निर्माता मंच पर वास्तविक पैसा कमाते हैं।
कॉपीलीक्स एआई-जनित सामग्री और साहित्यिक चोरी का पता लगाने में माहिर है, जो कंपनी को प्रामाणिकता युद्ध की अग्रिम पंक्ति में खड़ा करता है। उनके पहचान उपकरण एआई हेरफेर के स्पष्ट संकेतों को स्कैन करते हैं – वीडियो संपीड़न में सूक्ष्म कलाकृतियां, अप्राकृतिक आंदोलन पैटर्न, प्रकाश और छाया में विसंगतियां। लेकिन यह हथियारों की होड़ है. जैसे-जैसे पहचान उपकरण बेहतर होते जाते हैं, पीढ़ी उपकरण स्वच्छ आउटपुट उत्पन्न करने के लिए विकसित होते जाते हैं।
इन घोटालों द्वारा एकत्रित की गई व्यक्तिगत जानकारी को पहचान की चोरी के लिए हथियार बनाया जा सकता है, डार्क वेब मार्केटप्लेस पर बेचा जा सकता है, या अनुवर्ती फ़िशिंग हमलों के लिए उपयोग किया जा सकता है। जो उपयोगकर्ता ईमेल पते, फोन नंबर, या इससे भी बदतर – “सक्रियण शुल्क” के लिए भुगतान जानकारी सौंपते हैं – वे खुद को व्यापक धोखाधड़ी के प्रयासों के लिए खोल रहे हैं।
प्लेटफ़ॉर्म मुश्किल स्थिति में फंस गए हैं. आक्रामक सामग्री फ़िल्टरिंग वैध सामग्री को सेंसर करने और उपयोगकर्ताओं को निराश करने का जोखिम उठाती है। लेकिन ढीला संयम घोटालेबाजों को स्वतंत्र रूप से काम करने की इजाजत देता है, जिससे विश्वास खत्म हो जाता है और संभावित रूप से लाखों लोग धोखाधड़ी के शिकार हो जाते हैं। टिकटॉक ने इस विशिष्ट डीपफेक अभियान पर सार्वजनिक रूप से कोई टिप्पणी नहीं की है या एआई-जनित घोटाला सामग्री से निपटने के लिए नए उपायों की रूपरेखा नहीं दी है।
हम जो देख रहे हैं वह तो बस शुरुआत है। जैसे-जैसे एआई वीडियो जेनरेशन टूल में सुधार और प्रसार जारी है, उम्मीद है कि सभी सोशल प्लेटफॉर्म पर डीपफेक घोटाले अधिक प्रचलित हो जाएंगे। वह तकनीक जो कभी विज्ञान कथा जैसी लगती थी, अब घोटालेबाजों के टूलकिट में एक कमोडिटी टूल है, और बड़े पैमाने पर फॉलोअर्स वाली मशहूर हस्तियां अपने प्रशंसकों को लक्षित करने वाले धोखाधड़ी कार्यों के लिए अनूठा चारा बनाती हैं।
टिकटॉक पर टेलर स्विफ्ट डीपफेक घोटाले की लहर सोशल मीडिया धोखाधड़ी में एक नई सीमा का प्रतिनिधित्व करती है – जहां उपकरण इतने अच्छे हो गए हैं कि आकस्मिक उपयोगकर्ता असली और नकली के बीच अंतर नहीं कर सकते हैं। जैसे-जैसे एआई पीढ़ी की तकनीक अधिक सुलभ होती जा रही है, प्लेटफार्मों को पहचान प्रणालियों में भारी निवेश करने की आवश्यकता होगी या तेजी से परिष्कृत घोटालों के लिए प्रजनन आधार बनने का जोखिम उठाना होगा। उपयोगकर्ताओं के लिए, पुरानी सलाह यह है: यदि कोई सेलिब्रिटी आपको आसान पैसा देने का वादा कर रहा है, तो शायद यह सच होने के लिए बहुत अच्छा है, खासकर जब उस सेलिब्रिटी के होंठ उनके शब्दों के साथ बिल्कुल मेल नहीं खाते हैं।
