स्केलऑप्स ने एआई की सबसे महंगी समस्याओं में से एक: बर्बाद क्लाउड इंफ्रास्ट्रक्चर से निपटने के लिए $130 मिलियन सीरीज़ सी को बंद कर दिया है। जैसे-जैसे कंपनियां एआई मॉडल तैनात करने की होड़ में हैं, वे अभूतपूर्व दरों पर जीपीयू और क्लाउड बजट खर्च कर रही हैं। तेल अवीव स्थित स्टार्टअप वास्तविक समय में कुबेरनेट्स बुनियादी ढांचे को स्वचालित करके उस बर्बादी को कम करने का वादा करता है, एक ऐसी पिच जो उद्यमों के एआई बिलों को नियंत्रण से बाहर होते देख रही है।
स्केलऑप्स अभी 130 मिलियन डॉलर की बड़ी सीरीज सी निकाली है, यह शर्त लगाते हुए कि एआई के जीपीयू संकट का समाधान सिर्फ अधिक चिप्स खरीदना नहीं है – यह उन चिप्स का उपयोग करना है जो हमारे पास बहुत अधिक स्मार्ट हैं।
फंडिंग तब आती है जब उद्यमों को एक क्रूर वास्तविकता का सामना करना पड़ता है: एआई मॉडल चलाना महंगा है, जीपीयू दुर्लभ हैं, और क्लाउड बिल वित्त टीमों द्वारा अनुमोदित किए जाने की तुलना में तेजी से बढ़ रहे हैं। टेकक्रंच के अनुसारस्केलऑप्स स्वचालन के साथ इस बुनियादी ढांचे की अराजकता के प्रतिकारक के रूप में खुद को स्थापित कर रहा है जो वास्तविक समय में गणना संसाधनों को अनुकूलित करता है।
समय इससे बेहतर नहीं हो सकता. जबकि कंपनियां पसंद करती हैं NVIDIA पर्याप्त तेजी से जीपीयू का निर्माण नहीं कर सकते और क्लाउड प्रदाता एआई वर्कलोड की मांग के साथ तालमेल बनाए रखने के लिए संघर्ष करते हैं, स्केलऑप्स एक अलग दृष्टिकोण ले रहा है: मौजूदा बुनियादी ढांचे को और अधिक कठिन बनाना। प्लेटफ़ॉर्म कुबेरनेट्स संचालन को स्वचालित करता है, दिन भर कार्यभार में बदलाव के साथ संसाधन आवंटन को गतिशील रूप से समायोजित करता है।
यहां वह समस्या है जिसे वे हल कर रहे हैं – अधिकांश एंटरप्राइज़ कुबेरनेट्स क्लस्टर 30-50% उपयोग के बीच चलते हैं क्योंकि टीमें प्रदर्शन समस्याओं से बचने के लिए अधिक प्रावधान करती हैं। इसका मतलब है कि कंपनियां अपने क्लाउड इंफ्रास्ट्रक्चर के लिए अनिवार्य रूप से दोगुना भुगतान कर रही हैं, एक बर्बादी जो तब सहन करने योग्य होती है जब आप वेब ऐप चला रहे होते हैं लेकिन जब आप दुर्लभ, महंगे जीपीयू पर एआई मॉडल को प्रशिक्षित करने की कोशिश कर रहे होते हैं तो विनाशकारी होता है।
स्केलऑप्स लगातार कार्यभार पैटर्न का विश्लेषण करके और मानवीय हस्तक्षेप के बिना संसाधनों को स्वचालित रूप से अधिकारित करके इस पर हमला करता है। जब प्रशिक्षण कार्य समाप्त हो जाता है, तो यह तुरंत उन GPU को पुनः प्राप्त कर लेता है। जब मांग बढ़ती है, तो प्रदर्शन में गिरावट आने से पहले यह बढ़ जाती है। वादा सीधा है: कम संसाधनों पर समान एआई वर्कलोड चलाएं, या जो आपके पास पहले से है उस पर अधिक वर्कलोड चलाएं।
$130 मिलियन सीरीज़ सी पुष्टि करती है कि उद्यम इन दक्षता लाभों के लिए बेताब हैं। क्लाउड ऑप्टिमाइज़ेशन आकर्षक नहीं है, लेकिन यह महत्वपूर्ण हो गया है क्योंकि एआई बुनियादी ढांचे की लागत पूरे आईटी बजट को ख़त्म करने की धमकी देती है। जो कंपनियां क्लाउड इंफ्रास्ट्रक्चर पर मासिक रूप से हजारों खर्च कर रही थीं, अब उन्हें एआई पहल के पैमाने पर हजारों – या लाखों – के बिल का सामना करना पड़ रहा है।
