एआई क्रांति सुरक्षा का पता लगाने के लिए किसी का इंतजार नहीं कर रही है – यहां तक कि नहीं गूगल. जैसे-जैसे उद्यम बड़े पैमाने पर एआई सिस्टम को तैनात करने के लिए दौड़ रहे हैं, उद्योग के सबसे बड़े खिलाड़ियों को पता चल रहा है कि जब इन शक्तिशाली मॉडलों की सुरक्षा की बात आती है तो वे सभी अज्ञात क्षेत्र में जा रहे हैं। यह स्वीकारोक्ति कि माउंटेन व्यू की तकनीकी दिग्गज सहित हर कोई वास्तविक समय में एआई सुरक्षा सीख रहा है, यह संकेत देता है कि यह तकनीकी बदलाव कितना अभूतपूर्व हो गया है।
हम संक्रमण काल में हैं – हम सभी। यह स्पष्ट स्वीकृति तकनीकी उद्योग में एआई सुरक्षा की वर्तमान स्थिति को दर्शाती है, यहाँ तक कि गूगलदुनिया की सबसे परिष्कृत प्रौद्योगिकी कंपनियों में से एक, चीजों का पता लगा रही है।
एआई सिस्टम को सुरक्षित करने की जद्दोजहद बहुत तेजी से हो रही है। व्यापक सुरक्षा ढाँचे मौजूद होने से पहले कंपनियाँ उत्पादन परिवेश में बड़े भाषा मॉडल तैनात कर रही हैं। गूगल सर्च से लेकर वर्कस्पेस तक सभी उत्पादों में अपना जेमिनी एआई पेश कर रहा है, साथ ही इन सिस्टमों को त्वरित इंजेक्शन हमलों, डेटा पॉइज़निंग और मॉडल चोरी जैसे उभरते खतरों से बचाने के लिए सुरक्षा प्रोटोकॉल भी विकसित कर रहा है।
तकनीकी सुरक्षा परंपरागत रूप से इस तरह काम नहीं करती है। पिछले युगों में, कंपनियों ने बड़े पैमाने पर तैनाती से पहले सुरक्षा मानक विकसित किए थे। फ़ायरवॉल व्यापक रूप से इंटरनेट अपनाने से पहले था। ई-कॉमर्स के विस्फोट से पहले एन्क्रिप्शन प्रोटोकॉल स्थापित किए गए थे। लेकिन एआई की तीव्र प्रगति ने उस क्रम को पलट दिया है। प्रौद्योगिकी पहले से ही महत्वपूर्ण प्रणालियों में अंतर्निहित है, और सुरक्षा प्लेबुक वास्तविक समय में लिखी जा रही है।
माइक्रोसॉफ्ट, वीरांगनाऔर मेटा समान चुनौतियों का सामना करें. वे सभी यह समझने की कोशिश कर रहे हैं कि विरोधी कैसे एआई मॉडल में हेरफेर कर सकते हैं, प्रशिक्षण डेटा निकाल सकते हैं, या मॉडल आर्किटेक्चर में कमजोरियों का फायदा उठा सकते हैं। पारंपरिक सुरक्षा उपाय एआई सिस्टम में पूरी तरह से लागू नहीं होते हैं, जो नए हमले की सतहों को पेश करते हैं जो पारंपरिक सॉफ्टवेयर में मौजूद नहीं थे।
उद्यम का दांव बहुत बड़ा है। कंपनियां ग्राहक सेवा से लेकर वित्तीय विश्लेषण तक हर चीज के लिए एआई सिस्टम में संवेदनशील डेटा फीड कर रही हैं। गूगल क्लाउड ग्राहक एआई मॉडल तैनात कर रहे हैं जो मालिकाना व्यावसायिक बुद्धिमत्ता को संसाधित करते हैं। यदि वे मॉडल जानकारी लीक करते हैं या समझौता करते हैं, तो परिणाम विनाशकारी हो सकते हैं। फिर भी कुछ नया करने के दबाव का मतलब है कि कंपनियां पूरी सुरक्षा के साथ तैनाती नहीं रोक सकतीं।
सुरक्षा शोधकर्ता समाधानों की तुलना में तेजी से उभरने वाली विशिष्ट कमजोरियों की ओर इशारा करते हैं। शीघ्र इंजेक्शन हमले एआई मॉडल को प्रशिक्षण डेटा प्रकट करने या सुरक्षा रेलिंग को दरकिनार करने में धोखा दे सकते हैं। मॉडल व्युत्क्रम तकनीक प्रशिक्षण डेटासेट में व्यक्तियों के बारे में जानकारी निकाल सकती है। प्रतिकूल उदाहरण एआई सिस्टम को भयावह रूप से गलत निर्णय लेने का कारण बन सकते हैं। प्रत्येक भेद्यता के लिए नवीन सुरक्षा की आवश्यकता होती है जिसे संबोधित करने के लिए पारंपरिक साइबर सुरक्षा उपकरण डिज़ाइन नहीं किए गए थे।
गूगल समर्पित एआई सुरक्षा टीमें बनाकर और मॉडल कमजोरियों पर शोध प्रकाशित करके प्रतिक्रिया व्यक्त की है। कंपनी असामान्य मॉडल व्यवहार का पता लगाने के लिए प्रतिकूल प्रशिक्षण, प्रशिक्षण डेटा के लिए विभेदक गोपनीयता और मजबूत निगरानी प्रणाली जैसी तकनीक विकसित कर रही है। लेकिन ये प्रयास भी प्रायोगिक हैं – अभी तक कोई स्थापित सर्वोत्तम अभ्यास नहीं है।
नियामक परिदृश्य जटिलता की एक और परत जोड़ता है। यूरोपीय संघ का एआई अधिनियम और प्रस्तावित अमेरिकी कानून सुरक्षा आवश्यकताओं को स्थापित करने का प्रयास कर रहे हैं, लेकिन नियम एक गतिशील लक्ष्य का पीछा कर रहे हैं। जब तक नियमों को अंतिम रूप दिया जाता है, तब तक तकनीक विधायकों की कल्पना से परे विकसित हो चुकी होती है। कंपनियों को वर्तमान अस्पष्टता पर ध्यान देते हुए भविष्य की अनुपालन आवश्यकताओं का अनुमान लगाना चाहिए।
जो चीज़ इस क्षण को विशेष रूप से चुनौतीपूर्ण बनाती है वह है आक्रमण और बचाव के बीच की विषमता। मामूली संसाधनों वाला एक अकेला शोधकर्ता उन मॉडलों में कमजोरियों की खोज कर सकता है जिन्हें प्रशिक्षित करने में लाखों डॉलर लगे। ओपनएआई, anthropicऔर गूगल सभी बग बाउंटी प्रोग्राम चलाते हैं, दुर्भावनापूर्ण अभिनेताओं से पहले खामियां ढूंढने के लिए शोधकर्ताओं को भुगतान करते हैं। लेकिन हमले की सतह विशाल है और नई एआई क्षमताओं के उभरने के साथ-साथ इसका लगातार विस्तार हो रहा है।
संक्रमण काल अस्थायी नहीं है – यह नया सामान्य है। सुरक्षा प्रथाओं को पूरी तरह से पकड़ने के लिए एआई तकनीक बहुत तेजी से आगे बढ़ रही है। इसके बजाय, कंपनियां एक अनुकूली सुरक्षा मुद्रा अपना रही हैं, नए खतरे सामने आने पर सुरक्षा को लगातार अपडेट कर रही हैं। यह स्थापित प्रोटोकॉल के माध्यम से सुरक्षा के बजाय पुनरावृत्ति के माध्यम से सुरक्षा है।
एआई अपनाने का मूल्यांकन करने वाले उद्यमों के लिए, यह वास्तविकता एक अलग जोखिम गणना की मांग करती है। सवाल यह नहीं है कि क्या एआई सिस्टम पूरी तरह से सुरक्षित हैं – वे नहीं हैं, और निकट भविष्य में भी नहीं होंगे। सवाल यह है कि क्या व्यावसायिक मूल्य सतर्क निगरानी और त्वरित प्रतिक्रिया क्षमताओं को बनाए रखते हुए विकसित सुरक्षा के साथ सिस्टम की तैनाती को उचित ठहराता है।
टेक उद्योग की यह स्वीकारोक्ति कि हर कोई तुरंत एआई सुरक्षा सीख रहा है, एक भेद्यता और एक अवसर दोनों का प्रतिनिधित्व करता है। कंपनियां एआई को तैनात करने से पहले सही सुरक्षा ढांचे की प्रतीक्षा नहीं कर सकतीं – प्रतिस्पर्धी दबाव बहुत तीव्र है। लेकिन यह वास्तविकता सीमाओं के बारे में अभूतपूर्व पारदर्शिता, सुरक्षा अनुसंधान में आक्रामक निवेश और खतरों के सामने आने पर शीघ्रता से अनुकूलन करने की इच्छा की मांग करती है। के लिए गूगल और इसके साथियों के लिए, संक्रमण काल कोई ऐसा चरण नहीं है जिससे गुजरना पड़े – यह एआई युग की परिभाषित विशेषता है। विजेता वे होंगे जो अपनी संस्कृति और प्रक्रियाओं में सुरक्षा का निर्माण करते हैं, न कि वे जो पहले इसे हल करने के लिए किसी और का इंतजार करते हैं।
