गूगल सार्वजनिक रोलआउट से पहले क्रोम के आगामी एआई एजेंटों में कई सुरक्षा परतें बना रहा है, इस चिंता को संबोधित करते हुए कि स्वायत्त ब्राउज़िंग सुविधाएं उपयोगकर्ताओं को डेटा चोरी और वित्तीय धोखाधड़ी के लिए उजागर कर सकती हैं। कंपनी ने बैंकिंग और खरीदारी जैसे संवेदनशील कार्यों के लिए पर्यवेक्षक मॉडल और सख्त उपयोगकर्ता सहमति प्रोटोकॉल का उपयोग करके एक परिष्कृत रक्षा प्रणाली का खुलासा किया।
गूगल अभी इस बात से पर्दा उठा दिया है कि आने वाले महीनों में लॉन्च होने पर क्रोम के एआई एजेंटों को दुष्ट होने से कैसे रोका जाएगा। टेक दिग्गज ने एक व्यापक सुरक्षा ढांचे का विवरण दिया है जो एक-दूसरे की निगरानी करने के लिए कई एआई मॉडल रखता है – एक आवश्यक सावधानी क्योंकि ब्राउज़र स्वायत्त एजेंटों को तैनात करने की दौड़ में हैं जो आपकी ओर से खरीदारी कर सकते हैं, टिकट बुक कर सकते हैं और वेबसाइटों को नेविगेट कर सकते हैं।
दांव अधिक बड़ा नहीं हो सका. ये एजेंटिक ब्राउज़िंग सुविधाएँ वेब के साथ हमारे इंटरैक्ट करने के तरीके में क्रांतिकारी बदलाव लाने का वादा करती हैं, लेकिन वे नए आक्रमण वैक्टर भी खोलते हैं जो एक ही दुर्भावनापूर्ण संकेत के साथ बैंक खातों को ख़त्म कर सकते हैं या संवेदनशील डेटा चुरा सकते हैं। गूगल पहला सितंबर में इन क्षमताओं का पूर्वावलोकन किया गयालेकिन सुरक्षा विवरण अब तक गुप्त रखा गया था।
Google की रक्षा रणनीति के केंद्र में वह चीज़ है जिसे कंपनी उपयोगकर्ता संरेखण आलोचक कहती है – अनिवार्य रूप से एक AI रेफरी जिसका उपयोग करके बनाया गया है मिथुन जो किसी अन्य एआई मॉडल द्वारा की जाने वाली हर कार्रवाई की जांच करता है। जब मुख्य योजनाकार मॉडल एक बटन क्लिक करने या एक फॉर्म भरने का निर्णय लेता है, तो आलोचक मेटाडेटा की समीक्षा करता है और एक महत्वपूर्ण प्रश्न पूछता है: क्या यह वास्तव में वही प्रदान करता है जो उपयोगकर्ता चाहता था?
“यदि आलोचक मॉडल सोचता है कि नियोजित कार्य उपयोगकर्ता के लक्ष्य को पूरा नहीं करते हैं, तो यह योजनाकार मॉडल को रणनीति पर पुनर्विचार करने के लिए कहता है,” गूगल इसके तकनीकी खुलासे में बताया गया है। महत्वपूर्ण रूप से, यह निरीक्षण मॉडल कभी भी वास्तविक वेब सामग्री को नहीं देखता है – केवल प्रस्तावित कार्रवाइयां – एक अतिरिक्त गोपनीयता बफर बनाता है।
लेकिन Google का सुरक्षा जाल AI-से-AI निरीक्षण से कहीं आगे तक फैला हुआ है। कंपनी ने एजेंट ओरिजिन सेट्स नाम से कुछ विकसित किया है, जो एआई वेबसाइटों के किन हिस्सों तक पहुंच सकता है और उनके साथ बातचीत कर सकता है, इसके बारे में कठोर सीमाएं बनाता है। इसे डिजिटल कॉर्डनिंग के रूप में सोचें – एआई को शॉपिंग साइट पर उत्पाद लिस्टिंग को पढ़ने की अनुमति दी जा सकती है लेकिन बैनर विज्ञापनों या ट्रैकिंग पिक्सल को छूने से अवरुद्ध किया जा सकता है।
Google ने ब्राउज़र एजेंटों के साथ सुरक्षा शोधकर्ताओं द्वारा पहचानी गई प्रमुख कमजोरियों में से एक को संबोधित करते हुए कहा, “यह क्रॉस-ओरिजिनल डेटा लीक के खतरे को सीमित करता है।” “यह ब्राउज़र को उस अलगाव को लागू करने की क्षमता भी देता है, जैसे कि मॉडल डेटा को पढ़ने योग्य सेट के बाहर भी नहीं भेजना।”
