एआई चिप्स के रैक बहुत भारी हैं

2010 से 2024 के अंत तक, डेढ़ दशक की अवधि में, अमेरिका में डेटा केंद्रों की संख्या चार गुना. दुनिया भर में प्रवृत्ति समान है: अधिक डेटा केंद्र, बड़े, अभी या जल्द ही। निर्माण परियोजनाओं की संख्या डेटा सेंटर सर्टिफिकेशन और रिसर्च एजेंसी अपटाइम इंस्टीट्यूट के अनुसार, पिछले चार वर्षों में कुल 377 केंद्रों की घोषणा की गई है, जो 100 मेगावाट से अधिक हैं।

लेकिन इससे पहले कि हम बिग टेक की अधिक गणना की तीव्र दौड़ को अनुमति दें, जिसे पर्यावरणविद् नहीं चाहेंगे कि हम इसकी अनुमति दें, आइए हम रुकें और दूसरे विकल्प पर विचार करें: जो हमारे पास है उसी से काम चलाना। क्या हम अपनी नवीनतम तकनीक की आवश्यकताओं से मेल खाने के लिए अपने वर्तमान डेटा केंद्रों को फिर से तैयार कर सकते हैं? शायद भवन निर्माण का उन्माद उचित नहीं है; शायद हमारे पास वे सभी सुविधाएं हैं जिनकी हमें आवश्यकता है। यहां कुछ अपग्रेड, वहां कुछ नए सर्वर, पेंट की एक नई परत, और वॉइला – एक विरासत के खोल से निर्मित एक एआई डेटा सेंटर।

“ज्यादातर समय इसका मतलब इमारत पर बुलडोजर चलाना और नए सिरे से शुरुआत करना होता है।”

मैं यह विचार डेटा सेंटर विशेषज्ञों के पास ले गया, जिन्होंने मुझे कई शब्दों में बताया, कि नहीं, हमारे वर्तमान डेटा सेंटरों को एआई सुपरहाउस बनने के लिए आसानी से रेट्रोफिट नहीं किया जा सकता है। समस्या उतनी ही भौतिक है जितनी कि आप जिस ज़मीन पर खड़े हैं: पुराने डेटा केंद्र नवीनतम एआई तकनीक का भार नहीं उठा सकते। जिन रैक में कंप्यूटर चिप्स या एआई चिप्स रखे जाते हैं, वे फर्श के लिए बहुत भारी होते हैं, और वे वजन के नीचे टूट जाएंगे।

अपटाइम इंस्टीट्यूट के मुख्य तकनीकी अधिकारी क्रिस ब्राउन ने स्थिति को संक्षेप में बताया: “हम पुराने को एक हद तक फिर से स्थापित कर सकते हैं, लेकिन उस हद तक नहीं, जितनी इनमें से कई एआई कारखानों को चाहिए।” उदाहरण के लिए, छोटे डेटा केंद्रों के छोटे खंड एक फॉर्च्यून 500 कंपनी के लिए छोटे एआई-केंद्रित कार्यभार को समायोजित कर सकते हैं। ब्राउन ने कहा, “लेकिन ज्यादातर समय इसका मतलब इमारत पर बुलडोजर चलाना और नए सिरे से शुरुआत करना होता है।”

एआई रैक, धातु अलमारियाँ जिनमें धातु के बक्से के ढेर होते हैं जिन्हें सर्वर कहा जाता है, जिनमें चिप्स होते हैं जो कंप्यूटर या जेनेरिक एआई प्रसंस्करण करते हैं, में वजन की समस्या होती है। तीस साल पहले, डेटा सेंटर में ब्राउन के करियर की शुरुआत में, रैक का औसत वजन लगभग 400 से 600 पाउंड था। एक घरेलू रेफ्रिजरेटर से लेकर एक बेबी ग्रैंड पियानो तक के वजन के बारे में सोचें। अब, रैक का वजन 1,250 पाउंड से लेकर 2,500 पाउंड तक होना सामान्य बात है, जो ग्रिजली भालू से लेकर टोयोटा प्रियस तक की रेंज में आता है। लेकिन एआई उपकरणों से युक्त रैक स्पेक्ट्रम के ऊपरी सिरे और उससे आगे तक आते हैं – ब्राउन ने कहा कि एआई रैक का अनुमानित मील का पत्थर वजन 5,000 पाउंड है।

ब्राउन ने कहा, अतिरिक्त वजन धातु के रैक में भरे इलेक्ट्रॉनिक्स की मात्रा के कारण है। जीपीयू के बीच अंतराल डेटा ट्रांसमिशन को धीमा कर देता है, जो एआई मॉडल प्रशिक्षण को धीमा कर देता है, जिससे कीमती गणना शक्ति और अंततः पैसा बर्बाद होता है। नवीनतम उच्च-घनत्व रैक मेमोरी चिप्स (रैम की वैश्विक आपूर्ति में गिरावट के कारण) और 1,000 जीपीयू तक सैकड़ों से भरे हुए आते हैं। जबकि एक दशक पहले पारंपरिक कंप्यूटर चिप वर्कलोड औसतन लगभग 10 किलोवाट प्रति रैक था, एआई वर्कलोड अब 35 गुना है, प्रति रैक 350 किलोवाट तक। उन्होंने कहा, “वे प्रत्येक रैक में जितना संभव हो उतना सामान पैक कर रहे हैं और उस क्षमता को अधिकतम करने के लिए जितना संभव हो सके रैक को एक-दूसरे के करीब रख रहे हैं।”

अधिक बिजली अधिक गर्मी उत्पन्न करती है जिसे आग लगने या चिप्स के पिघलने से पहले नष्ट होने की आवश्यकता होती है। चिप्स पर बहने वाली हवा को तरल से भरी शीतलन प्लेटों से बदल दिया गया है या पूरक किया गया है, जो अक्सर जहरीले शीतलक का पानी जैसा मिश्रण होता है। पानी का वजन प्रति गैलन 8 पाउंड से थोड़ा अधिक होता है। और केबलों के बारे में मत भूलना. डेटा सेंटर के अंदर एक पंक्ति बनाने के लिए अक्सर 10 से 35 रैक पंक्तिबद्ध होते हैं। पर्याप्त बिजली देने के लिए, केबलों का व्यास, या केबल जैसी तांबे की प्लेट जिसे बसवे कहा जाता है, को बढ़ाने की आवश्यकता है। (रसोई के सिंक के नल से घर की आग बुझाने की कल्पना करें; चौड़े व्यास वाली आग की नली से पानी का छिड़काव करना बेहतर है।) ब्राउन ने कहा कि एक आधुनिक बसवे का वजन प्रति रैखिक फुट 37 पाउंड है।

“यह वे सभी चीजें हैं – यह सभी प्रोसेसर, सभी मेमोरी, सभी चिप्स का वजन है जो आपको आईटी उपकरणों को चलाने में सक्षम होने के लिए आवश्यक हैं, सभी कूलिंग हार्डवेयर जो आपको वहां चाहिए,” उन्होंने कहा। ब्राउन ने कहा, विरासत डेटा केंद्रों की संरचना कार्य के अनुरूप नहीं है। कई लोगों ने ऊंची मंजिलें बनाई हैं, जिनकी कीमत लगभग 1,250 पाउंड प्रति वर्ग फुट है स्थिर लोड, उन्होंने नोट किया। उन्होंने कहा, गतिशील भार, जैसे फर्श पर धकेली गई रैक, के लिए अधिक भार वहन की आवश्यकता होती है।

डेटा सेंटर निर्माण फर्म क्रिटिकल फैसिलिटी ग्रुप के अध्यक्ष क्रिस मैकलीन ने बताया कि भले ही आपने किसी पुराने केंद्र के फर्श को मजबूत किया हो, अन्य ज्यामितीय समस्याएं बनी रहती हैं। द वर्ज. वह लगभग दो दशकों से डेटा सेंटर डिजाइन कर रहे हैं और उस दौरान रैक की ऊंचाई 3 फीट बढ़कर 6 फीट से 9 फीट हो गई है। (पदचिह्न केवल 2 गुणा 2 फीट से बढ़कर 2 गुणा 3 फीट हो गया है।) नई ऊंचाई कुछ साल पहले के औद्योगिक दरवाजे के चौखटों से अधिक है। मालवाहक लिफ्ट भी, विशाल रैक के वजन, जिस उपकरण पर वे चलते समय आराम करते हैं, और उस चीज़ को धकेलने वाले मनुष्यों के वजन का सामना नहीं कर सकते हैं: “अचानक, आप एक मल्टी-स्टोरी के लिए एक सुंदर मजबूत लिफ्ट में चढ़ रहे हैं,” मैकलीन ने कहा।

“पिछले दो वर्षों में भारी वृद्धि का कारण सिर्फ यह तथ्य है कि कृत्रिम बुद्धिमत्ता सब कुछ निगल रही है।”

बड़ी टेक कंपनियां स्पष्ट रूप से एआई प्रभुत्व के लिए अपने बढ़ते दबाव को समायोजित करने के लिए नए डेटा सेंटर का निर्माण कर रही हैं। और जब OpenAI, Microsoft, या अन्य के पास अपने स्वयं के AI-निर्मित डेटा सेंटर परिसरों में जगह खत्म हो जाती है, तो वे CoreWeave या डिजिटल रियल्टी या कम्पास जैसी कंपनियों के स्वामित्व वाली कोलोकेशन सुविधाओं में जगह किराए पर लेते हैं, जो बदले में, नए AI-केंद्रित डेटा केंद्रों का निर्माण कर रहे हैं। अपटाइम में ब्राउन ने कहा, “पिछले दो वर्षों में भारी वृद्धि का कारण सिर्फ यह तथ्य है कि कृत्रिम बुद्धिमत्ता हर चीज को निगल रही है।”

प्रचार के बावजूद, जेनरेटिव एआई गणना का एकमात्र प्रकार नहीं है, ऐसा न हो कि हम भूल जाएं कि विशिष्ट कंप्यूटर वर्कलोड अभी भी मौजूद हैं। वास्तव में, गैर-एआई डेटा कार्यभार वास्तव में बढ़ रहा है, ब्राउन ने कहा। इसलिए, पारंपरिक डेटा केंद्र उतने ही महत्वपूर्ण हैं जितने पहले थे। मैकलीन ने कहा, विश्वविद्यालयों, अस्पतालों, मध्यम आकार की कंपनियों और नगर पालिकाओं को अपनी गैर-एआई डेटा फ़ाइलों को संग्रहीत करना जारी रखना होगा, जैसे आपकी धुंधली तस्वीरें अभी भी कुछ क्लाउड प्रदाता के सर्वर पर मौजूद हैं। “उन सभी लोगों को अभी भी उस विरासत डेटा सेंटर वातावरण की आवश्यकता है,” उन्होंने कहा। “यह कभी ख़त्म नहीं होने वाला।”

एंटरप्राइज़ सॉफ़्टवेयर को प्रॉम्प्ट में बदलने के लिए एरागॉन ने $12 मिलियन जुटाए
विषयों और लेखकों का अनुसरण करें इस कहानी से अपने वैयक्तिकृत होमपेज फ़ीड में इस तरह की और अधिक जानकारी देखने और ईमेल अपडेट प्राप्त करने के लिए।


Source link

Leave a Comment