कॉमकास्ट और एनवीडिया केबल को एज एआई पावरहाउस में बदल देते हैं

आपका इंटरनेट सेवा प्रदाता बस एक AI फ़ैक्टरी बन गया है। कॉमकास्ट और NVIDIA घोषणा की कि वे जीपीयू-त्वरित गणना को सीधे केबल नेटवर्क बुनियादी ढांचे में तैनात कर रहे हैं जो पहले से ही पहुंच चुका है 65 मिलियन पूरे अमेरिका में घर और व्यवसाय। इसे ऐसे समझें कि बादल को कक्षा से नीचे लाकर अपने पड़ोस में स्थापित कर दिया जाए।

यह एआई को वितरित करने के तरीके में एक मौलिक बदलाव का प्रतीक है। वर्षों तक, धारणा सरल थी: बड़े पैमाने पर डेटा केंद्रों में मॉडल को प्रशिक्षित करें, क्लाउड पर प्रश्न भेजें, उत्तर वापस आने की प्रतीक्षा करें। लेकिन एआई अनुमान किनारे, कोर और क्लाउड में वितरित आर्किटेक्चर को एक साथ काम करने के लिए मजबूर करके उस पुराने क्लाउड मॉडल को तोड़ रहा है। कॉमकास्ट-एनवीडिया सहयोग दूरस्थ सर्वर फ़ार्म में सैकड़ों मिलीसेकंड की बजाय अंतिम उपयोगकर्ताओं से मिलीसेकंड की खुफिया स्थिति रखता है।

केबल नेटवर्क ने एज एआई रेस क्यों जीती?

यहाँ प्रति-सहज ज्ञान युक्त भाग है। कॉमकास्ट का हाइब्रिड फाइबर-कॉक्स (एचएफसी) आर्किटेक्चर, वही भौतिक संयंत्र जो 1990 के दशक में आपके लिए केबल टीवी लाया था, वितरित एआई वर्कलोड के लिए बेहद उपयुक्त साबित हुआ है। कंपनी ने चुपचाप उस विरासती बुनियादी ढांचे को कुछ नए में बदल दिया है: 1,300 वर्चुअलाइज्ड केबल मॉडेम टर्मिनेशन सिस्टम नोड्स, ओवर 50,000 एज कंप्यूट सर्वर, और 100,000+ एआई-सक्षम स्मार्ट एम्पलीफायर चल रहे हैं डॉक्सिस 4.0 फुल डुप्लेक्स तकनीक.

वह वितरित टोपोलॉजी मायने रखती है क्योंकि आपको किसी अनुमान कार्यभार के लिए बड़े पैमाने पर GPU समन्वय की आवश्यकता नहीं होती है जिस तरह से आप प्रशिक्षण के लिए करते हैं। घरेलू प्राथमिकताओं के अनुसार अनुकूलित वीडियो विज्ञापन, छोटे व्यवसाय एआई रिसेप्शनिस्ट, अल्ट्रा-लो-विलंबता गेमिंग स्ट्रीम: ये एप्लिकेशन कच्ची हॉर्सपावर की तुलना में निकटता की अधिक परवाह करते हैं। देश भर में फैली क्षेत्रीय सुविधाओं में उन्हें चलाने से वर्जीनिया या ओरेगन में हर अनुरोध को पूरा करने की तुलना में बेहतर अर्थशास्त्र और प्रदर्शन मिलता है।

इसके पीछे की तकनीकी वास्तुकला वास्तव में नवीन है। कॉमकास्ट ने इंटेलिजेंस को सीधे नेटवर्क एम्पलीफायरों और नोड्स में एम्बेड किया है डॉक्सिस 4.0 चिपसेट के साथ सह-विकसित किया गया ब्रॉडकॉम जो वास्तविक समय एआई अनुमान को चलाते हुए मल्टी-गीगाबिट गति पर एक साथ अपलोड और डाउनलोड का समर्थन करता है। सिस्टम बिजली कटौती का पता लगा सकता है, नेटवर्क शोर के आसपास स्व-कॉन्फ़िगर कर सकता है और ट्रैफ़िक पैटर्न को स्वायत्त रूप से अनुकूलित कर सकता है। एज कंप्यूट प्लेटफ़ॉर्म टेलीमेट्री डेटा को स्थानीय रूप से संसाधित करते हैं, प्रशिक्षण मॉडल जो कच्चे डेटा को केंद्रीकृत स्थानों पर भेजे बिना नेटवर्क विश्वसनीयता में सुधार करते हैं।

तीन उपयोग के मामले जो संकेत देते हैं कि क्या होने वाला है

प्रारंभिक परीक्षण एप्लिकेशन प्लेबुक को प्रकट करते हैं। सबसे पहले: हाइपर-वैयक्तिकृत वीडियो विज्ञापन द्वारा संचालित