ओपनएआई चैटजीपीटी के लिए अभी-अभी लॉकडाउन मोड शुरू किया गया है, एक नई सुरक्षा सुविधा जो उपयोगकर्ताओं को त्वरित इंजेक्शन हमलों से बचाने के लिए डिज़ाइन की गई है जो व्यक्तिगत डेटा चुरा सकते हैं। यह अपडेट तब आया है जब पूरे उद्योग में एआई सुरक्षा संबंधी चिंताएं तेज हो गई हैं, लेकिन यह एक उल्लेखनीय व्यापार-बंद का परिचय देता है – सुविधा सक्षम होने पर उपयोगकर्ता वेब ब्राउज़िंग क्षमता खो देते हैं। यह कदम बड़े भाषा मॉडलों में कमजोरियों के बारे में बढ़ती जागरूकता का संकेत देता है जिसका हमलावर सक्रिय रूप से फायदा उठा रहे हैं।
ओपनएआई आज संवादी एआई के सामने आने वाले सबसे घातक खतरों में से एक से निपट रहा है। चैटजीपीटी के लिए कंपनी का नया लॉकडाउन मोड त्वरित इंजेक्शन हमलों के खिलाफ दीवारें खड़ी करता है – एक ऐसी तकनीक जहां बुरे कलाकार उपयोगकर्ताओं के चैट इतिहास से व्यक्तिगत जानकारी निकालने के लिए प्रतीत होने वाली निर्दोष सामग्री के अंदर दुर्भावनापूर्ण निर्देश छिपाते हैं।
बड़े भाषा मॉडल निर्देशों को कैसे संसाधित करते हैं, इसका फायदा उठाकर प्रॉम्प्ट इंजेक्शन काम करता है। एक हमलावर किसी वेबसाइट, दस्तावेज़ या यहां तक कि चैटजीपीटी द्वारा विश्लेषण की गई छवि में छिपे हुए कमांड एम्बेड कर सकता है। जब एआई इस सामग्री को पढ़ता है, तो उसे इन गुप्त निर्देशों का पालन करने के लिए धोखा दिया जा सकता है, जिससे संभावित रूप से पिछली बातचीत से संवेदनशील डेटा या उपयोगकर्ता की जानकारी हमलावर के पास लीक हो सकती है।
समय महत्वपूर्ण है. जैसे-जैसे एआई सहायक उद्योगों में वर्कफ़्लो में अंतर्निहित होते जा रहे हैं, वे वित्तीय डेटा से लेकर मालिकाना व्यावसायिक रणनीतियों तक – तेजी से संवेदनशील जानकारी को संभाल रहे हैं। सुरक्षा शोधकर्ता महीनों से इन कमजोरियों के बारे में चेतावनी दे रहे हैं ओपनएआई अब सरकार उनसे निपटने के लिए ठोस कदम उठा रही है।
लॉकडाउन मोड का दृष्टिकोण सीधा है लेकिन परिणाम के साथ आता है। जब उपयोगकर्ता इसे चालू करते हैं, तो चैटजीपीटी अनिवार्य रूप से खुद को खुले वेब से अलग कर लेता है। कोई ब्राउज़िंग नहीं, कोई वास्तविक समय की जानकारी खींचना नहीं, कोई बाहरी लिंक का विश्लेषण नहीं करना। यह सुरक्षा के लिए एक चारदीवारी वाला दृष्टिकोण है – यदि एआई संभावित रूप से समझौता की गई सामग्री तक नहीं पहुंच सकता है, तो इसे इसके भीतर छिपे दुर्भावनापूर्ण निर्देशों से मूर्ख नहीं बनाया जा सकता है।
यह उपयोगकर्ताओं के लिए एक दिलचस्प दुविधा पैदा करता है। चैटजीपीटी की वेब ब्राउज़िंग क्षमता इसकी सबसे मूल्यवान विशेषताओं में से एक रही है, जो इसे वर्तमान जानकारी, तथ्य-जांच दावों और लाइव वेब सामग्री का विश्लेषण करने की अनुमति देती है। इसे अक्षम करने का अर्थ है ज्ञान कटऑफ तिथि पर वापस लौटना, उस वास्तविक समय की बढ़त को खोना जो उपकरण को अनुसंधान, समाचार विश्लेषण और वर्तमान बने रहने के लिए विशेष रूप से उपयोगी बनाता है।
एंटरप्राइज़ उपयोगकर्ताओं के लिए, कैलकुलस भिन्न हो सकता है। संवेदनशील ग्राहक डेटा, वित्तीय जानकारी, या मालिकाना अनुसंधान को संभालने वाली कंपनियां मजबूत सुरक्षा गारंटी के बदले में ख़ुशी से वेब एक्सेस का त्याग कर सकती हैं। यह सुविधा संगठनों को तैयार किए गए संकेतों के माध्यम से डेटा घुसपैठ के बारे में चिंता किए बिना आंतरिक कार्यों के लिए चैटजीपीटी का उपयोग करने का एक तरीका देती है।
व्यापक एआई उद्योग समान सुरक्षा चुनौतियों से जूझ रहा है। माइक्रोसॉफ्ट ने अपनी AI सेवाओं में सामग्री फ़िल्टरिंग लागू की है, गूगल बार्ड में सुरक्षा परतें जोड़ी गई हैं, और anthropic क्लाउड में संवैधानिक एआई सिद्धांतों का निर्माण किया है। लेकिन लॉकडाउन मोड के साथ ओपनएआई का दृष्टिकोण अधिक उपयोगकर्ता-सामना वाला और ट्रेड-ऑफ के बारे में स्पष्ट है।
त्वरित इंजेक्शन को विशेष रूप से मुश्किल बनाने वाली बात यह है कि यह इन मॉडलों के काम करने के बुनियादी तरीके का फायदा उठाता है। पारंपरिक सॉफ़्टवेयर कमजोरियों के विपरीत, जिन्हें पैच किया जा सकता है, त्वरित इंजेक्शन मॉडल की अनुदेश-पालन प्रकृति को ही लक्षित करता है। यह कोई बग नहीं है – यह एक अंतर्निहित विशेषता है जिसे हथियार बनाया जा रहा है।
सुरक्षा विशेषज्ञों ने तेजी से बढ़ते परिष्कृत हमलों का प्रदर्शन किया है। कुछ में मल्टी-स्टेप प्रॉम्प्ट श्रृंखलाएं शामिल होती हैं जो धीरे-धीरे जानकारी निकालती हैं। अन्य लोग एन्कोडेड निर्देशों का उपयोग करते हैं जो सामग्री फ़िल्टर को बायपास करते हैं। एआई सुरक्षा टीमों और हमलावरों के बीच चूहे-बिल्ली का खेल अभी शुरू हो रहा है, और लॉकडाउन मोड जैसी सुविधाएं सुरक्षा की पहली पीढ़ी का प्रतिनिधित्व करती हैं।
यह फीचर एआई विकास में क्षमता और सुरक्षा के बीच तनाव को भी उजागर करता है। उपयोगकर्ता शक्तिशाली, कनेक्टेड एआई चाहते हैं जो जानकारी तक पहुंच सके और जटिल कार्य कर सके। लेकिन प्रत्येक नई क्षमता संभावित रूप से नए आक्रमण वैक्टर खोलती है। लॉकडाउन मोड अनिवार्य रूप से उपयोगकर्ताओं को उस स्पेक्ट्रम पर अपनी स्थिति चुनने की सुविधा देता है।
यह स्पष्ट नहीं है कि कितने उपयोगकर्ता वास्तव में लॉकडाउन मोड को सक्षम करेंगे। सुरक्षा सुविधाओं को अक्सर अपनाने में चुनौतियों का सामना करना पड़ता है क्योंकि उन्हें उपयोगकर्ताओं को कार्रवाई करने और सीमाएं स्वीकार करने की आवश्यकता होती है। ओपनएआई को उपयोगकर्ताओं को जोखिमों के बारे में शिक्षित करने और उनके काम की संवेदनशीलता के आधार पर सुविधा को आसान बनाने की आवश्यकता होगी।
ओपनएआई का लॉकडाउन मोड मौलिक एआई सुरक्षा चुनौती के लिए एक व्यावहारिक लेकिन अपूर्ण समाधान का प्रतिनिधित्व करता है। उपयोगकर्ताओं को कनेक्टिविटी और सुरक्षा के बीच चयन करने की अनुमति देकर, कंपनी स्वीकार करती है कि अभी तक सभी के लिए एक ही आकार में फिट होने वाला कोई उत्तर नहीं है। जैसे-जैसे त्वरित इंजेक्शन हमले अधिक परिष्कृत होते जा रहे हैं, उम्मीद है कि अधिक एआई प्रदाता समान सुरक्षात्मक सुविधाएँ पेश करेंगे – और क्षमता और सुरक्षा के बीच की रेखा कहाँ खींची जाए, इस पर अधिक बहस होगी। अभी के लिए, चैटजीपीटी उपयोगकर्ताओं के पास अपने सुरक्षा शस्त्रागार में एक नया टूल है, भले ही इसका मतलब सुरक्षित रहने के लिए कभी-कभी ऑफ़लाइन होना हो।
