ओपनएआई एक और सुरक्षा नेता खो रहा है। कंपनी के सुरक्षा प्रमुख, जोहान्स हेइडेके, कंपनी छोड़ रहे हैं क्योंकि एआई दिग्गज अपने अनुसंधान और सुरक्षा कार्यों को और अधिक मजबूती से एकीकृत करने की योजना को आगे बढ़ा रहा है। यह प्रस्थान चैटजीपीटी के पीछे कंपनी से दूर चले गए सुरक्षा-केंद्रित अधिकारियों की बढ़ती सूची में जुड़ गया है, जिससे यह सवाल उठता है कि दुनिया की सबसे प्रभावशाली एआई प्रयोगशाला जिम्मेदार विकास के साथ ख़तरनाक नवाचार को कैसे संतुलित करती है। एक ऐसे संगठन के लिए जो पहले से ही अपनी सुरक्षा प्रथाओं पर गहन जांच कर रहा है, समय अधिक नाजुक नहीं हो सकता है।
ओपनएआई अपनी एआई महत्वाकांक्षाओं को नियंत्रण में रखने के लिए बनाई गई एक और आवाज खो गई है। जोहान्स हेइडेके, जिन्होंने सुरक्षा प्रमुख की महत्वपूर्ण भूमिका निभाई थी, कंपनी छोड़ रहे हैं क्योंकि यह अपने अनुसंधान और सुरक्षा संगठनों को और अधिक निकटता से मिश्रित करने की एक विवादास्पद योजना को आगे बढ़ा रही है।
प्रस्थान, सबसे पहले रिपोर्ट किया गया तारयुक्तएक क्षण आता है जब ओपनएआई इसे नियामकों, शोधकर्ताओं और यहां तक कि अपने स्वयं के कर्मचारियों के बढ़ते दबाव का सामना करना पड़ रहा है कि क्या यह तेजी से शक्तिशाली एआई सिस्टम के साथ बहुत तेजी से आगे बढ़ रहा है। हेइडेके का बाहर जाना एक असुविधाजनक पैटर्न में नवीनतम को दर्शाता है – जैसे ही कंपनी की तकनीक क्षमता के नए स्तर पर पहुंचती है, सुरक्षा-केंद्रित नेता बाहर निकलने की ओर बढ़ रहे हैं।
ओपनएआई का कहना है कि पुनर्गठन दक्षता और बेहतर सहयोग के बारे में है। कंपनी चाहती है कि उसके सुरक्षा विशेषज्ञ अलग-अलग निरीक्षण टीमों के रूप में काम करने के बजाय अगली पीढ़ी के मॉडल बनाने वाले शोधकर्ताओं के साथ मिलकर काम करें। कागज पर, यह उचित लगता है – साइलो को तोड़ें, संचार को बढ़ावा दें, सुरक्षित उत्पादों को तेजी से भेजें।
लेकिन आलोचक बिल्कुल कुछ और ही देखते हैं। उनका तर्क है कि अनुसंधान टीमों में सुरक्षा को एकीकृत करने से स्वतंत्र निरीक्षण की सीमाएं धुंधली हो सकती हैं। जब जोखिमों को चिन्हित करने के लिए जिम्मेदार लोग तेजी से तैनाती पर जोर देने वाले उसी नेतृत्व को रिपोर्ट करते हैं, तो क्या सुरक्षा रेलिंग के बजाय चेकबॉक्स बन जाती है? यह एक ऐसा प्रश्न है जो उलझा हुआ है ओपनएआई चूँकि इसने इस वर्ष की शुरुआत में अपनी समर्पित सुपरएलाइनमेंट टीम को भंग कर दिया था।
समय विशेष रूप से संवेदनशील है. ओपनएआई के साथ एक तीव्र दौड़ में बंद है गूगल, anthropicऔर अन्य एआई परिदृश्य पर हावी होने के लिए। प्रत्येक नया मॉडल रिलीज़ ऐसी क्षमताएँ लेकर आता है जो कुछ महीने पहले तक विज्ञान कथा की तरह लगती थीं – और ऐसे जोखिम जिनका अनुमान लगाना कठिन होता है। जब एक्सीलेटर को बहुत जोर से दबाया जाता है तो सुरक्षा टीमों को ब्रेक पेडल माना जाता है।
हेइडेके का प्रस्थान अन्य हाई-प्रोफाइल निकासों के बाद होता है ओपनएआई सुरक्षा रैंक. जान लीके, जिन्होंने सुपरअलाइनमेंट टीम का सह-नेतृत्व किया, कंपनी की प्राथमिकताओं के बारे में तीखी आलोचना के साथ मई 2024 में चले गए। इल्या सुतस्केवर, सह-संस्थापक और मुख्य वैज्ञानिक, जिन्होंने सुरक्षा अनुसंधान का समर्थन किया, लगभग उसी समय चले गए। प्रत्येक निकास ने इस बारे में नई बहस छेड़ दी कि क्या ओपनएआई कृत्रिम सामान्य बुद्धि को सुरक्षित रूप से विकसित करने की अपनी संस्थापक प्रतिबद्धता को छोड़ रहा था।
कंपनी इस बात पर जोर देती है कि वह जिम्मेदार एआई विकास के लिए प्रतिबद्ध है। नेतृत्व ने बार-बार कहा है कि वे जो कुछ भी करते हैं उसमें सुरक्षा अंतर्निहित होती है, इसे किसी अलग विभाग में नहीं रखा जाता है। लेकिन जब उन प्रयासों का नेतृत्व करने वाले लोग दूर चले जाते हैं, तो यह एक संकेत भेजता है जिसे अनदेखा करना मुश्किल होता है।
उद्योग पर्यवेक्षक बारीकी से नजर रख रहे हैं। ओपनएआई निर्णयों की लहर पूरे एआई क्षेत्र में फैल गई। यदि चैटजीपीटी को लोकप्रिय बनाने वाली और वर्तमान एआई बूम को प्रभावी ढंग से लॉन्च करने वाली कंपनी स्वतंत्र सुरक्षा निरीक्षण को प्राथमिकता देती है, तो प्रतिस्पर्धी भी ऐसा करने का दबाव महसूस कर सकते हैं। तैनाती की दौड़ सावधानीपूर्वक मूल्यांकन के काम को प्रभावित कर सकती है।
अभी के लिए, ओपनएआई हेइडेके के प्रतिस्थापन की घोषणा नहीं की गई है या यह विस्तार से नहीं बताया गया है कि नई संरचना के तहत सुरक्षा जिम्मेदारियों को कैसे पुनर्वितरित किया जाएगा। यह अनिश्चितता इस बारे में अटकलों को बढ़ावा दे रही है कि आगे क्या होगा। क्या सुरक्षा विशेषज्ञ उत्पाद निर्णयों के करीब बैठकर अधिक प्रभाव प्राप्त करेंगे, या जहाज की तात्कालिकता से उनकी चिंताएं खत्म हो जाएंगी?
दांव एक कंपनी के संगठन चार्ट से कहीं आगे तक फैला हुआ है। ओपनएआई मॉडल अनगिनत अनुप्रयोगों को शक्ति प्रदान करते हैं, ग्राहक सेवा बॉट से लेकर कोडिंग सहायक से लेकर चिकित्सा निदान उपकरण तक। कंपनी सुरक्षा परीक्षण, रेड-टीमिंग और तैनाती संबंधी निर्णयों को किस प्रकार अपनाती है, यह तय करता है कि प्रतिदिन अरबों लोग किस तरह से बातचीत करते हैं। उन सुरक्षा उपायों के काम करने के तरीके में प्रत्येक संरचनात्मक परिवर्तन की जांच की जानी चाहिए।
हेइडेके के बाहर निकलने से प्रतिधारण पर भी सवाल उठते हैं। प्रभावी एआई सुरक्षा टीमों के निर्माण के लिए दुर्लभ विशेषज्ञता की आवश्यकता होती है – ऐसे लोग जो अत्याधुनिक मशीन लर्निंग और उन सूक्ष्म तरीकों को समझते हैं जिनसे ये सिस्टम विफल हो सकते हैं या नुकसान पहुंचा सकते हैं। अनुभवी नेताओं को खोने का मतलब है कि क्या प्रयास किया गया है, क्या काम किया है और किन चेतावनी संकेतों पर ध्यान देना चाहिए, इसके बारे में संस्थागत ज्ञान खोना है।
हेइडेके का जाना कार्मिक परिवर्तन से कहीं अधिक है – यह एआई उद्योग के लिए गति निर्धारित करने वाली कंपनी की प्राथमिकताओं के बारे में एक संकेत है। जैसा ओपनएआई अनुसंधान और सुरक्षा के बीच सख्त एकीकरण की ओर बढ़ते हुए, असली परीक्षा यह होगी कि क्या वह संरचना सतर्क आवाज़ों को बढ़ाती है या उन्हें दबा देती है। नियामक दबाव बढ़ने और प्रतिस्पर्धियों के घेरे में आने से, कंपनी अपने सुरक्षा नेतृत्व का पुनर्निर्माण कैसे करती है, यह हमें इस बारे में बहुत कुछ बताएगा कि क्या एआई दौड़ में ब्रेक के लिए जगह है, या क्या हर कोई बस इस बात पर लड़ रहा है कि फिनिश लाइन पर पहले कौन पहुंचता है। के लिए देखें ओपनएआई सुरक्षा टीम के पुनर्गठन पर अगला कदम और क्या आगे और प्रस्थान होंगे।
