- ■
- ■
अटैक वेक्टर इस बात का फायदा उठाता है कि एआई सिस्टम कैसे जानकारी का स्रोत और रैंक करता है, जिससे उपयोगकर्ताओं को फ़िशिंग साइटों और धोखाधड़ी वाली योजनाओं की ओर धकेल दिया जाता है
- ■
यह मुद्दा तथ्यात्मक त्रुटियों और मतिभ्रम के साथ जानबूझकर सुरक्षा खतरों के लिए एआई ओवरव्यू की पिछली समस्याओं के बढ़ने का प्रतीक है।
- ■
उपयोगकर्ताओं को कई विश्वसनीय स्रोतों के विरुद्ध एआई-जनित सारांशों को सत्यापित करने की आवश्यकता है और एआई प्रतिक्रियाओं में अपरिचित लिंक पर संदेह करना चाहिए
Google के AI ओवरव्यू फीचर को स्कैमर्स द्वारा हथियार बनाया जा रहा है, जिन्होंने यह पता लगा लिया है कि AI-जनित खोज सारांशों में जानबूझकर हानिकारक जानकारी कैसे डाली जाए जो अब अरबों प्रश्नों के शीर्ष पर दिखाई देती है। एक के अनुसार तारयुक्त जांच से पता चलता है कि समस्या फीचर की मतिभ्रम या बकवास उत्पन्न करने की अच्छी तरह से प्रलेखित प्रवृत्ति से परे है – बुरे अभिनेता सक्रिय रूप से उपयोगकर्ताओं को घोटाले वाली साइटों, फ़िशिंग योजनाओं और धोखाधड़ी वाले उत्पादों की ओर धकेलने के लिए सिस्टम में गेम खेल रहे हैं। भेद्यता कैसे एक गंभीर कमजोरी को प्रकट करती है गूगल अपने AI-संचालित खोज अनुभव के लिए स्रोतों को मान्य करता है।
गूगल तेज़, अधिक सहज खोज अनुभव का वादा करते हुए, पिछले साल लाखों उपयोगकर्ताओं के लिए AI ओवरव्यू लॉन्च किया गया था। लेकिन जिस सुविधा से जानकारी ढूंढना आसान हो जाना चाहिए था, वह अब लोगों को सीधे घोटालेबाजों के जाल में फंसा रही है।
समस्या सिर्फ यह नहीं है कि एआई ओवरव्यू में कभी-कभार चीजें गलत हो जाती हैं – यह लॉन्च के बाद से ही हो रहा है, जब फीचर ने कुख्यात रूप से उपयोगकर्ताओं को पिज्जा पर गोंद लगाने और चट्टानें खाने के लिए कहा था। अब जो हो रहा है वह अलग और ज्यादा खतरनाक है. बुरे कलाकारों ने Google के AI द्वारा जानकारी प्राप्त करने के तरीके को उलट दिया है और वे पारंपरिक खोज परिणामों से पहले दिखाई देने वाले सारांशों में सीधे दुर्भावनापूर्ण सामग्री डालने के लिए उस ज्ञान का उपयोग कर रहे हैं।
के अनुसार तारयुक्त रिपोर्ट के अनुसार, ये हेरफेर किए गए एआई ओवरव्यू उपयोगकर्ताओं को ग्राहक सेवा पोर्टल के रूप में छिपी हुई फ़िशिंग साइटों पर निर्देशित कर रहे हैं, नकली उत्पादों को वैध सिफारिशों के रूप में बढ़ावा दे रहे हैं, और वित्तीय घोटालों के साथ पीड़ितों को मारने से पहले विश्वास बनाने के लिए डिज़ाइन की गई गलत सूचना फैला रहे हैं। एआई आधिकारिक स्रोतों और सामग्री फार्मों के बीच अंतर नहीं करता है जिन्हें विशेष रूप से मशीन लर्निंग सिस्टम को ट्रिक करने के लिए अनुकूलित किया गया है।
भेद्यता इस बात से उत्पन्न होती है कि कैसे बड़े भाषा मॉडल जानकारी को प्राथमिकता देते हैं और उसका संश्लेषण करते हैं। पारंपरिक खोज रैंकिंग के विपरीत, जो बैकलिंक्स और डोमेन आयु जैसे स्थापित प्राधिकारी संकेतों पर बहुत अधिक निर्भर करती है, एआई ओवरव्यू नई सामग्री से प्रभावित हो सकता है जो कई निम्न-गुणवत्ता वाली साइटों पर अक्सर दिखाई देती है। घोटालेबाजों ने यह पता लगा लिया है कि वे ऐसी साइटों का नेटवर्क बना सकते हैं जो एक ही तरह की गलत जानकारी देती हैं, अनिवार्य रूप से अपने झूठ के लिए वोट करते हैं जब तक कि एआई उन्हें आम सहमति के रूप में स्वीकार नहीं कर लेता।
