जज के नियमों के अनुसार, DOGE ने ChatGPT का इस तरह से उपयोग किया जो मूर्खतापूर्ण और अवैध दोनों था

न्यायाधीश मैकमोहन का फैसला सिर्फ इस विशिष्ट मामले से आगे जाता है। वह स्थापित करती है कि उचित सुरक्षा उपायों के बिना संरक्षित विशेषताओं की जांच के लिए एआई का उपयोग करना समान सुरक्षा सिद्धांतों का उल्लंघन करता है, तब भी जब एजेंसी औचित्य के रूप में दक्षता का दावा करती है। निर्णय में कहा गया है, “संविधान में एल्गोरिथम सुविधा के लिए कोई अपवाद नहीं है,” संघीय एजेंसियां ​​​​एआई उपकरण कैसे तैनात कर सकती हैं और कैसे नहीं, इसके लिए संभावित मिसाल कायम करती हैं।

एआई उद्योग के लिए यह समय इससे अधिक महत्वपूर्ण नहीं हो सकता। ओपनएआई नौकरशाही कार्यों के लिए उत्पादकता गुणक के रूप में प्रौद्योगिकी को स्थापित करते हुए, सरकारी ग्राहकों के लिए चैटजीपीटी एंटरप्राइज की आक्रामक मार्केटिंग कर रहा है। लेकिन यह फैसला एआई की पैटर्न-मिलान क्षमताओं और नागरिक अधिकारों को प्रभावित करने वाले निर्णयों के लिए आवश्यक सूक्ष्म निर्णय के बीच अंतर को उजागर करता है। एक चैटबॉट जो ईमेल का मसौदा तैयार करने में सहायक होता है, संवैधानिक मामलों पर अधिकार दिए जाने पर कानूनी रूप से विषाक्त हो जाता है।

DOGE का बचाव तर्क – कि वे मौजूदा DEI विरोधी कार्यकारी आदेशों को लागू करने के लिए केवल आधुनिक उपकरणों का उपयोग कर रहे थे – अदालत के सामने विफल हो गया। मैकमोहन ने कहा कि भले ही DEI कार्यक्रमों को ख़त्म करना एक वैध लक्ष्य था, फिर भी तरीका मायने रखता है। व्यक्तिगत समीक्षा के बिना सामग्री-आधारित भेदभाव को संचालित करने के लिए एआई का उपयोग करना नीति प्रवर्तन से संवैधानिक उल्लंघन की सीमा को पार कर जाता है।

नतीजा रद्द किए गए अनुदानों को बहाल करने से कहीं आगे तक फैला हुआ है। संघीय एजेंसियां ​​जो वीज़ा आवेदनों से लेकर अनुबंध समीक्षा तक हर चीज़ के लिए एआई स्क्रीनिंग टूल अपनाने में जल्दबाजी करती थीं, अब अपने कानूनी जोखिम का पुनर्मूल्यांकन कर रही हैं। फैसले से पता चलता है कि जब भी एआई सिस्टम संरक्षित वर्गों – जाति, लिंग, राष्ट्रीय मूल – को छूते हुए निर्णय लेते हैं – एजेंसियों को मजबूत मानव निरीक्षण और स्पष्ट संवैधानिक रेलिंग की आवश्यकता होती है।

के लिए ओपनएआईमामला एक असुविधाजनक वास्तविकता की जाँच प्रस्तुत करता है। कंपनी ने चैटजीपीटी को उद्यम और सरकारी तैनाती के लिए तैयार रखा है, लेकिन जब ग्राहक उच्च जोखिम वाले निर्णयों के लिए टूल का उपयोग करते हैं तो सार्वजनिक रूप से दायित्व संबंधी प्रश्नों को संबोधित नहीं किया है। यह फैसला ओपनएआई को सीधे तौर पर दोषी नहीं ठहराता है, लेकिन यह दर्शाता है कि उचित शासन ढांचे के बिना तैनात किए जाने पर उनकी तकनीक भेदभावपूर्ण परिणामों को कैसे बढ़ा सकती है।

कानूनी विशेषज्ञ पहले से ही इसकी तुलना पहले के मामलों से कर रहे हैं जहां आपराधिक न्याय और ऋण देने में एल्गोरिथम निर्णय लेने को संवैधानिक चुनौतियों का सामना करना पड़ा था। लेकिन DOGE की ChatGPT पराजय यकीनन अधिक बेशर्म है – एजेंसी ने स्पष्ट रूप से AI के वर्गीकरण को मान्य करने या मानव समीक्षा चौकियों के निर्माण के लिए कोई प्रयास नहीं किया। यह सरकारी स्वचालन अपने सबसे लापरवाह स्तर पर है।

टीवी के लिए क्यूडी बनाने वाली कंपनी का कहना है कि क्वांटम डॉट टीवी ने आरजीबी एलईडी टीवी को मात दी है

व्यावहारिक प्रभाव तुरंत पड़ता है. यदि वे एनईएच फंडिंग की जांच जारी रखना चाहते हैं तो DOGE को अब अनुदान रद्दीकरण को वापस लेना होगा और एक संवैधानिक समीक्षा प्रक्रिया स्थापित करनी होगी। अधिक व्यापक रूप से, परिणामी निर्णयों के लिए एआई उपकरणों का उपयोग करने या उन पर विचार करने वाली प्रत्येक संघीय एजेंसी को एक स्पष्ट चेतावनी मिली है: दक्षता लाभ संवैधानिक आवश्यकताओं से अधिक नहीं है, और अदालतें नागरिकों के अधिकारों पर वास्तविक प्रभावों की जांच करने के लिए प्रौद्योगिकी प्रचार पर गौर करेंगी।

यह निर्णय सरकारी कार्यों में एआई तैनाती के लिए एक महत्वपूर्ण सीमा स्थापित करता है। हालाँकि एजेंसियां ​​दक्षता हासिल करने के लिए ChatGPT जैसे टूल को अपनाना जारी रखेंगी, लेकिन वे सुरक्षा उपायों के बिना एल्गोरिदम को संवैधानिक निर्णय लेने का आउटसोर्स नहीं कर सकती हैं। व्यापक एआई उद्योग के लिए, यह एक चेतावनी है कि उद्यम ग्राहकों – विशेष रूप से सरकारी एजेंसियों – को केवल शक्तिशाली मॉडल से कहीं अधिक की आवश्यकता है। उन्हें ऐसे शासन ढांचे की आवश्यकता है जो उनके दक्षता उपकरणों को दायित्व इंजन बनने से रोके। DOGE के प्रयोग से पता चलता है कि क्या होता है जब प्रौद्योगिकीविद् भूल जाते हैं कि कुछ निर्णयों के लिए मानवीय निर्णय, कानूनी विशेषज्ञता और संवैधानिक जागरूकता की आवश्यकता होती है जिसे कोई भी चैटबॉट दोहरा नहीं सकता है।