बायोवेपन डीएनए ट्रैकिंग के लिए ओपनएआई और एंथ्रोपिक पुश

वैज्ञानिक साहित्य पर प्रशिक्षित बड़े भाषा मॉडल पहले से ही मौजूदा रोगजनकों में संशोधन का सुझाव दे सकते हैं, भविष्यवाणी कर सकते हैं कि कौन से आनुवंशिक परिवर्तन से संचरणशीलता बढ़ सकती है, और संश्लेषण समस्याओं का निवारण करने में मदद मिल सकती है। चिंता काल्पनिक नहीं है – सुरक्षा शोधकर्ताओं ने नियंत्रित सेटिंग्स में इन क्षमताओं का प्रदर्शन किया है, हालांकि विवरण वर्गीकृत हैं।

जो बात इस पत्र को विशेष रूप से उल्लेखनीय बनाती है वह है इसके पीछे का गठबंधन। ओपनएआई और anthropic अधिक शक्तिशाली एआई सिस्टम बनाने की दौड़ में भयंकर प्रतिस्पर्धी हैं, फिर भी वे जैव सुरक्षा नीति पर एकजुट हैं। इससे पता चलता है कि उद्योग इस खतरे को प्रतिस्पर्धी लाभ को दरकिनार करने के लिए पर्याप्त अस्तित्व के रूप में देखता है।

समय भी मायने रखता है. कांग्रेस पहले से ही इस बात से जूझ रही है कि कॉपीराइट मुद्दों से लेकर चुनाव हस्तक्षेप तक एआई सिस्टम को कैसे विनियमित किया जाए। उस मिश्रण में जैव सुरक्षा जोड़ने से एक नया दबाव बिंदु बनता है, जो व्यापक एआई सुरक्षा कानून को गति दे सकता है। अधीक्षण के बारे में अमूर्त चिंताओं के विपरीत, जैव हथियार परिदृश्य ठोस और जरूरी है।

डीएनए संश्लेषण कंपनियों के लिए, मजबूत संघीय ट्रैकिंग आवश्यकताओं का मतलब महत्वपूर्ण परिचालन परिवर्तन होगा। उन्हें विस्तारित डेटाबेस के विरुद्ध आदेशों की जांच करने, संदिग्ध अनुरोधों की रिपोर्ट करने और जोखिम आकलन के आधार पर संभावित रूप से सेवा से इनकार करने की आवश्यकता होगी। कुछ विक्रेता पहले से ही स्वेच्छा से ऐसा करते हैं, लेकिन अनिवार्य मानक खेल के मैदान को समतल कर देंगे।

पत्र एआई विकास में व्यापक तनाव पर भी प्रकाश डालता है। ये वही कंपनियाँ वैज्ञानिक क्षेत्रों सहित अपने मॉडलों को और अधिक सक्षम बनाने की होड़ में हैं। ओपनएआई जबकि बायोटेक फर्मों के साथ साझेदारी है anthropic ने अपने मॉडलों की कोडिंग क्षमताओं पर जोर दिया है – कौशल जो सीधे जैविक इंजीनियरिंग में स्थानांतरित होते हैं।

आलोचक इसे दोनों तरीकों से देख सकते हैं – नियामकों से गंदगी को साफ करने के लिए कहते हुए तेजी से शक्तिशाली सिस्टम का निर्माण करना। लेकिन कंपनियां यह तर्क देंगी कि वे किसी आपदा की प्रतीक्षा करने के बजाय घटना घटित होने से पहले जोखिमों को चिह्नित करके जिम्मेदार बन रही हैं।

बेल्जियम ने टेस्ला एफएसडी की निगरानी को मंजूरी दी

नीतिगत प्रश्न स्वयं अपेक्षाकृत संकीर्ण और प्राप्य है। एआई विकास को रोकने या मॉडल लाइसेंसिंग लागू करने के प्रस्तावों के विपरीत, डीएनए अनुक्रम ट्रैकिंग मौजूदा जैव सुरक्षा ढांचे पर आधारित है। अमेरिका के पास पहले से ही खतरनाक रोगजनकों पर निर्यात नियंत्रण और दोहरे उपयोग अनुसंधान निरीक्षण है। इसे संश्लेषण आदेशों तक विस्तारित करना एक तार्किक अगला कदम है।

आगे क्या होता है यह काफी हद तक जैव सुरक्षा कानून के लिए कांग्रेस की इच्छा पर निर्भर करता है। इस मुद्दे को सैद्धांतिक रूप से द्विदलीय समर्थन प्राप्त है – कोई भी एआई-डिज़ाइन किए गए जैव हथियार नहीं चाहता है। लेकिन विवरण तेजी से जटिल हो जाते हैं, जिसमें वैज्ञानिक स्वतंत्रता, वाणिज्यिक प्रतिस्पर्धात्मकता और प्रवर्तन तंत्र के बारे में प्रश्न शामिल होते हैं।

से पत्र ओपनएआई, anthropicऔर उनके सहयोगी इस बात में एक महत्वपूर्ण मोड़ लाते हैं कि एआई उद्योग दोहरे उपयोग के जोखिमों से कैसे निपटता है। नियामकों के पकड़ने की प्रतीक्षा करने के बजाय, अग्रणी प्रयोगशालाएं सक्रिय रूप से बुनियादी ढांचे की निगरानी पर जोर दे रही हैं जो एआई-सहायता वाले जैव-हथियारों को सक्षम कर सकती हैं। क्या कांग्रेस इन सिफारिशों पर कार्य करती है, यह एक महत्वपूर्ण मिसाल कायम करेगी – न केवल जैव सुरक्षा के लिए, बल्कि इस बात के लिए भी कि कानून निर्माता इन प्रणालियों का निर्माण करने वाली कंपनियों से एआई सुरक्षा चेतावनियों को कितनी गंभीरता से लेते हैं। सिंथेटिक डीएनए ट्रैकिंग प्रस्ताव एक ठोस, प्राप्त करने योग्य कदम प्रदान करता है जो वैध अनुसंधान को बाधित किए बिना विनाशकारी जोखिमों को कम कर सकता है। जिस उद्योग में अक्सर तेजी से आगे बढ़ने और चीजों को तोड़ने के लिए आलोचना की जाती है, वहां जिम्मेदार विकास वास्तव में ऐसा दिखता है।