गिमलेट लैब्स ने एआई की सबसे जटिल बुनियादी ढांचे की समस्याओं में से एक से निपटने के लिए 80 मिलियन डॉलर की सीरीज़ ए को बंद कर दिया है – मॉडल को अलग-अलग चिप आर्किटेक्चर में निर्बाध रूप से चलाने के लिए। स्टार्टअप का प्लेटफ़ॉर्म कंपनियों को कोड को दोबारा लिखने या विक्रेता लॉक-इन से निपटने के बिना एनवीडिया, एएमडी, इंटेल, एआरएम, सेरेब्रस और डी-मैट्रिक्स प्रोसेसर पर एक साथ एआई वर्कलोड तैनात करने देता है। यह एक ऐसा समाधान है जो इससे बेहतर समय पर नहीं आ सकता, क्योंकि उद्यम GPU की कमी और आसमान छूती अनुमान लागत से जूझ रहे हैं।
एआई उद्योग का एक गंदा रहस्य है – अधिकांश कंपनियां इसमें बंद हैं एनवीडिया का पारिस्थितिकी तंत्र चाहे वे इसे पसंद करें या नहीं। प्रशिक्षण ढाँचे, अनुमान इंजन और परिनियोजन उपकरण CUDA के लिए बनाए गए हैं, जिससे प्रदाताओं को बदलना बेहद महंगा और समय लेने वाला हो गया है। गिमलेट लैब्स उस बाधा को दूर करने के लिए अभी $80 मिलियन जुटाए हैं।
सीरीज़ ए राउंड, द्वारा रिपोर्ट किया गया टेकक्रंचऐसी तकनीक का समर्थन करता है जो AI मॉडल को चलने देती है NVIDIA, एएमडी, इंटेल, हाथ, सेरेब्रसऔर डी-मैट्रिक्स डेवलपर्स के बिना चिप्स को हार्डवेयर-विशिष्ट कोड की एक पंक्ति को छूने की आवश्यकता होती है। यह एक प्रकार की अमूर्त परत है जो सरल लगती है लेकिन अरबों डॉलर के सिरदर्द को हल करती है।
यहां बताया गया है कि यह अब क्यों मायने रखता है। एंटरप्राइज़ एआई खर्च बढ़ रहा है, लेकिन जीपीयू उपलब्धता गति नहीं पकड़ रही है। कंपनियां इसके लिए प्रीमियम कीमतें चुका रही हैं NVIDIA H100s जब से सस्ता विकल्प एएमडी या विशेषीकृत अनुमान चिप्स से सेरेब्रस कम उपयोग किया हुआ बैठें। समस्या प्रदर्शन की नहीं है – अनुकूलता की है। चिप्स को स्विच करने का अर्थ है अनुमान पाइपलाइनों को फिर से लिखना, संचालन टीमों को फिर से प्रशिक्षित करना और उत्पादन में रुकावट का जोखिम उठाना।
गिम्लेट का दृष्टिकोण चिप आर्किटेक्चर को फ्रंटएंड बाधा के बजाय बैकएंड विवरण के रूप में मानता है। डेवलपर्स एक बार अनुमान कोड लिखते हैं, और प्लेटफ़ॉर्म विभिन्न सिलिकॉन में अनुवाद को संभालता है। इसे एआई चिप्स के लिए कुबेरनेट्स के रूप में सोचें – आप घोषित करते हैं कि आपको क्या चाहिए, और सिस्टम यह पता लगाता है कि इसे कहां चलाना है। वह लचीलापन महत्वपूर्ण हो जाता है रैंप MI300 उत्पादन, गौड़ी त्वरक और स्टार्टअप जैसे को आगे बढ़ाता है जहाज उद्देश्य-निर्मित अनुमान सिलिकॉन।
