NVIDIA बस पारंपरिक डेटा सेंटर ज्ञान को उल्टा कर दिया। चिप दिग्गज के नवीनतम एआई सर्वर 45°C (113°F) पर लिक्विड कूलिंग सिस्टम चला सकते हैं – जो आपके औसत हॉट टब से अधिक गर्म और उद्योग के मानदंडों से काफी अधिक गर्म है। प्रति-सहज ज्ञान युक्त कदम गर्मी को सहन करने के बारे में नहीं है, बल्कि इसका दोहन करने के बारे में है। शीतलन तापमान को बढ़ाकर, एनवीआईडीआईए एआई बुनियादी ढांचे में ऊर्जा दक्षता के लिए एक नई प्लेबुक बना रहा है, ठीक उसी समय जब बिजली की भूख वाले एआई मॉडल वैश्विक डेटा सेंटर क्षमता पर दबाव डाल रहे हैं।
NVIDIA एआई बुनियादी ढांचे के लिए थर्मल प्लेबुक को फिर से लिख रहा है, और रहस्य ठंडा नहीं बल्कि गर्म चल रहा है। एक के अनुसार कंपनी ब्लॉग पोस्टNVIDIA के AI सर्वरों की नवीनतम पीढ़ी 45 डिग्री सेल्सियस तक पहुंचने वाले तरल शीतलक तापमान के साथ काम कर सकती है – एक सीमा जो खतरनाक रूप से ऊंची लगती है लेकिन भौतिकी और दक्षता पर गणना की गई शर्त का प्रतिनिधित्व करती है।
अधिकांश लोग 38-40 डिग्री सेल्सियस पर 15 मिनट से अधिक समय तक हॉट टब को मुश्किल से सहन कर पाते हैं। NVIDIA के सर्वर अपने कूलिंग लूप को और भी अधिक गर्म चला रहे हैं, और यही मुद्दा है। पारंपरिक डेटा सेंटर कूलिंग एक सरल सिद्धांत पर काम करती है: प्रोसेसर से गर्मी को दूर करने के लिए यथासंभव ठंडा वातावरण बनाए रखना। लेकिन यह दृष्टिकोण अस्थिर होता जा रहा है क्योंकि एआई वर्कलोड में विस्फोट हो रहा है और चिप्स छोटे स्थानों में अधिक ट्रांजिस्टर पैक कर रहे हैं।
प्रति-सहज ज्ञान युक्त तर्क इस तरह काम करता है: आपके शीतलन प्रणाली और बाहरी वातावरण के बीच तापमान का अंतर जितना अधिक होगा, उस अंतर को बनाए रखने के लिए आपको उतनी ही अधिक ऊर्जा की आवश्यकता होगी। शीतलक को 45°C पर चलाने की अनुमति देकर, NVIDIA आंतरिक और बाहरी तापमान के बीच के अंतर को कम करता है। इसका मतलब है कि चिलर, कूलिंग टॉवर और जटिल प्रशीतन प्रणालियों पर कम ऊर्जा खर्च की जाती है जो पारंपरिक डेटा केंद्रों को चालू रखते हैं। ऐसे उद्योग में जहां बिजली की लागत हार्डवेयर निवेश पर ग्रहण लगा सकती है, दक्षता का प्रत्येक प्रतिशत बिंदु मायने रखता है।
यह सिर्फ सैद्धांतिक अनुकूलन नहीं है. NVIDIA अपने साझेदारों को लिक्विड कूलिंग की ओर लगातार प्रेरित कर रहा है क्योंकि इसके जीपीयू आर्किटेक्चर अधिक पावर-सघन हो गए हैं। कंपनी के H100 और आगामी ब्लैकवेल चिप्स थर्मल बीस्ट हैं, जिनमें व्यक्तिगत प्रोसेसर पूर्ण AI प्रशिक्षण भार के तहत 700 वाट या उससे अधिक का उपयोग करते हैं। वायु शीतलन गति बनाए नहीं रख सकता – आपको बवंडर-बल वायु प्रवाह और बड़े पैमाने पर शीतलन बुनियादी ढांचे की आवश्यकता होगी जो भारी मात्रा में बिजली की खपत करता है।
समय इससे अधिक महत्वपूर्ण नहीं हो सकता। ओपनएआई के मॉडल, एंथ्रोपिक के क्लाउड सिस्टम और मेटा के एलएलएएमए इंफ्रास्ट्रक्चर सभी एआई-विशिष्ट डेटा केंद्रों के अभूतपूर्व निर्माण को चला रहे हैं। ये वेब ट्रैफ़िक परोसने वाली पारंपरिक क्लाउड सुविधाएं नहीं हैं – ये उद्देश्य-निर्मित एआई फ़ैक्टरियाँ हैं जहाँ दसियों हज़ार जीपीयू एक समय में दिनों या हफ्तों तक निरंतर चरम उपयोग पर चलते हैं। गर्मी का उत्पादन चौंका देने वाला है, और यह और भी बदतर होता जा रहा है क्योंकि मॉडल का आकार लगातार बढ़ता जा रहा है।
तरल शीतलन कोई नई बात नहीं है, लेकिन NVIDIA की 45°C सीमा एक महत्वपूर्ण छलांग का प्रतिनिधित्व करती है। अधिकांश मौजूदा लिक्विड-कूल्ड सिस्टम 30-35 डिग्री सेल्सियस रेंज में तापमान को लक्षित करते हैं, फिर भी अपेक्षाकृत ठंडा संचालन बनाए रखने की कोशिश कर रहे हैं। यह साबित करके कि सर्वर काफी गर्म शीतलक के साथ विश्वसनीय रूप से काम कर सकते हैं, NVIDIA सरल शीतलन आर्किटेक्चर के द्वार खोलता है। आप अधिक जलवायु में गर्मी अस्वीकृति के लिए परिवेशी वायु का उपयोग कर सकते हैं, कुछ तैनाती में यांत्रिक शीतलन को कम या समाप्त कर सकते हैं, और बुनियादी ढांचे के ओवरहेड में नाटकीय रूप से कटौती कर सकते हैं जो वर्तमान में एआई डेटा केंद्रों को संचालित करने के लिए इतना महंगा बनाता है।
यह बदलाव डेटा सेंटर स्थान के अर्थशास्त्र को भी बदल देता है। यदि आप गर्म शीतलक के साथ कुशलता से काम कर सकते हैं, तो अचानक मध्यम जलवायु वाले क्षेत्र पारंपरिक दृष्टिकोण के लिए आवश्यक विशाल शीतलन बुनियादी ढांचे के बिना व्यवहार्य हो जाते हैं। यह एआई बुनियादी ढांचे के निवेश को मुट्ठी भर ठंडी जलवायु वाले क्षेत्रों से दूर पुनर्वितरित कर सकता है जो वर्तमान में हाइपरस्केल डेटा सेंटर निर्माण पर हावी हैं।
लेकिन एक दिक्कत है – यह तभी काम करता है जब पूरा पारिस्थितिकी तंत्र साथ निभाए। शीतलक वितरण प्रणाली, सर्वर रैक डिजाइन, सुविधा वास्तुकला और यहां तक कि बिल्डिंग कोड को डेटा केंद्रों के माध्यम से बहने वाले उच्च तापमान वाले तरल को समायोजित करने की आवश्यकता होती है। एनवीआईडीआईए मानक को आगे बढ़ा रहा है, लेकिन इसे अपनाना डेल, एचपीई और सुपरमाइक्रो जैसे भागीदारों पर निर्भर करता है जो अपने सर्वर प्लेटफॉर्म को फिर से डिजाइन करते हैं, और इक्विनिक्स और डिजिटल रियल्टी जैसे डेटा सेंटर ऑपरेटरों पर अपनी सुविधा डिजाइन पर पुनर्विचार करते हैं।
ऊर्जा के निहितार्थ बड़े पैमाने पर हैं। डेटा केंद्र पहले से ही वैश्विक बिजली का लगभग 1-2% उपभोग करते हैं, और एआई वर्कलोड 2030 तक उस मांग को तीन गुना करने का अनुमान है। यदि उच्च तापमान वाले तरल शीतलन से शीतलन ऊर्जा की खपत में 15-20% की भी कमी हो सकती है, तो यह गीगावाट बिजली क्षमता मुक्त हो गई है – उन क्षेत्रों में ग्रिड पैमाने पर मायने रखने के लिए पर्याप्त है जहां एआई बुनियादी ढांचे पर ध्यान केंद्रित किया जा रहा है।
हम देख रहे हैं कि बुनियादी ढांचागत नवाचार एआई बूम की ओर बढ़ रहा है। दो वर्षों से, कहानी GPU की कमी और मॉडल क्षमताओं के बारे में है। अब बाधा बिजली वितरण और थर्मल प्रबंधन पर जा रही है। NVIDIA का 45°C सिस्टम एक संकेत है कि कंपनी आने वाली अड़चन को देख रही है और इससे पहले कि यह उद्योग के विकास पथ को अवरुद्ध कर दे, वह इसके आसपास इंजीनियरिंग करने की कोशिश कर रही है।
NVIDIA की 45°C लिक्विड कूलिंग सफलता केवल एक तकनीकी विशिष्टता नहीं है – यह ठीक उसी समय AI इंफ्रास्ट्रक्चर अर्थशास्त्र का एक मौलिक पुनर्विचार है जब बिजली और कूलिंग उद्योग के अगले चरण के लिए सीमित कारक बन रहे हैं। जैसे-जैसे एआई वर्कलोड अपनी घातीय चढ़ाई जारी रखता है और मॉडल प्रशिक्षण रन डेटा सेंटर में भौतिक रूप से जो संभव है उसकी सीमाओं को बढ़ाता है, थर्मल इनोवेशन उतना ही मायने रखता है जितना कि चिप डिजाइन। दक्षता पहेली को सुलझाने वाली कंपनियों को आने वाली एआई इंफ्रास्ट्रक्चर हथियारों की दौड़ में भारी फायदा होगा, और एनवीआईडीआईए ने एक महत्वपूर्ण मार्कर रखा है। देखें कि हाइपरस्केलर्स और डेटा सेंटर ऑपरेटर कितनी तेजी से इस मानक को अपनाते हैं – यही असली परीक्षा है कि क्या गर्म का मतलब वास्तव में अधिक कुशल है।
