फ्यूरियोसा को टीएसएमसी और एएसयूएस से 4,000 इकाइयों की पहली डिलीवरी मिली है, और यह डिवाइस या तो स्टैंडअलोन पीसीआईई कार्ड या टर्नकी सर्वर के रूप में उपलब्ध है।
फ्यूरियोसा के सीईओ जून पाइक कहते हैं, “अब आरएनजीडी की शिपिंग के साथ, हम उद्यमों को सबसे उन्नत एलएलएम और एजेंटिक एआई को बड़े पैमाने पर चलाने की शक्ति दे रहे हैं, बिना पुराने समाधानों के भारी ऊर्जा और बुनियादी ढांचे के दंड के।”, “उद्योग को एक उच्च-प्रदर्शन विकल्प की आवश्यकता है जो आपके पास आज मौजूद रैक में काम करता है।”
आरएनजीडी उन्नत भाषा मॉडल और जेनरेटिव और एजेंटिक एआई के लिए एक डेटासेंटर अनुमान त्वरक है। यह प्रदर्शन (512 INT8 TFLOPS) और ऊर्जा दक्षता दोनों प्रदान करता है।
फ्यूरियोसाएआई ने एलजी एआई रिसर्च के एक्सएओएन को अपनाया है और पिछले साल की दूसरी छमाही में ओपनएआई के सहयोग से जीपीटी-ओएसएस मॉडल का सार्वजनिक प्रदर्शन किया था।
आरएनजीडी मानक वातावरण में एच100-आधारित प्रणालियों की तुलना में 3.5 गुना अधिक गणना घनत्व (प्रति रैक थ्रूपुट) प्रदान करने का दावा करता है। आरएनजीडी अब दो फॉर्म फैक्टर में उपलब्ध है:
RNGD PCIe कार्ड: एक ड्रॉप-इन एक्सेलेरेटर जो सख्त 180W TDP पर फ्रंटियर मॉडल प्रदर्शन प्रदान करता है।
एनएक्सटी आरएनजीडी सर्वर: एक प्लग-एंड-प्ले, 4यू रैकमाउंट सर्वर जिसमें 8 आरएनजीडी कार्ड हैं। क्योंकि सिस्टम 3kW खींचता है, आप पांच NXT RNGD सर्वर को एक मानक एयर-कूल्ड रैक में रख सकते हैं, जिससे प्रति रैक 20 पेटाफ्लॉप्स (INT8) मिलते हैं।
आरएनजीडी एक एसडीके द्वारा समर्थित है जो उन्नत अनुकूलन तकनीक प्रदान करता है, जैसे इंटर-चिप टेंसर समानता, और क्यूवेन 2 और क्यूवेन 2.5 जैसे लोकप्रिय मॉडल के लिए समर्थन।
फ्यूरियोसा एसडीके टार्च.कंपाइल समर्थन, वीएलएलएम के लिए एक ड्रॉप-इन प्रतिस्थापन और ओपनएआई एपीआई संगतता प्रदान करता है, जो डेवलपर्स को अपने मौजूदा कोड में न्यूनतम बदलाव के साथ जल्दी से आगे बढ़ने में सक्षम बनाता है।
हगिंग फेस हब पर पूर्व-संकलित कलाकृतियाँ अब 32K टोकन तक संदर्भ लंबाई का समर्थन करती हैं, जिससे अधिक जटिल और संदर्भ-जागरूक अनुप्रयोग सक्षम हो जाते हैं।
फ्यूरियोसा ने दो आरएनजीडी कार्डों पर चलने के लिए ओपनएआई के 120बी पैरामीटर जीपीटी-ओएसएस मॉडल को अनुकूलित किया।
हमारी सभी एआई कहानियाँ पढ़ें।
