यूसी सैन डिएगो की हाओ एआई लैब को इनमें से एक हाथ मिला है NVIDIAकी सबसे शक्तिशाली प्रणालियाँ हैं, और यह पहले से ही नया आकार दे रही है कि शोधकर्ता उत्पादन में बड़े भाषा मॉडल की सेवा के बारे में कैसे सोचते हैं। हाओ एआई लैबजो चुपचाप इस बात को प्रभावित कर रहा है कि NVIDIA जैसी कंपनियाँ अपने AI बुनियादी ढांचे को कैसे तैयार करती हैं, अब इसका उपयोग कर रही हैं डीजीएक्स बी200 तेज़, कम विलंबता वाली AI प्रतिक्रियाओं की सीमाओं को आगे बढ़ाने के लिए। यूसी सैन डिएगो से आने वाला शोध प्रयोगशाला में नहीं रहता है – यह पहले से ही वास्तविक दुनिया प्रणालियों को शक्ति प्रदान कर रहा है।
हाओ एआई लैब यूसी सैन डिएगो में इनमें से एक तक पहुंच के साथ अपनी अनुसंधान क्षमताओं को उन्नत किया है NVIDIAसबसे शक्तिशाली AI सिस्टम। टीम को एक प्राप्त हुआ डीजीएक्स बी200 वह अब विश्वविद्यालय में रखा गया है सैन डिएगो सुपरकंप्यूटर सेंटरशोधकर्ताओं को एंटरप्राइज-ग्रेड कंप्यूटिंग शक्ति तक तत्काल पहुंच प्रदान करना, जिसके बारे में अधिकांश शैक्षणिक प्रयोगशालाएं केवल सपना देख सकती हैं।
यहाँ वह है जो इसे महत्वपूर्ण बनाता है: हाओ एआई लैब केवल एआई बुनियादी ढांचे का उपभोग नहीं कर रहा है – यह वस्तुतः डिजाइन कर रहा है कि एआई बुनियादी ढांचे को कैसे काम करना चाहिए। लैब का शोध जारी है डिस्टसर्वबड़े भाषा मॉडलों की सेवा के लिए एक नवीन दृष्टिकोण ने सीधे तौर पर वास्तुकला को प्रभावित किया एनवीडिया डायनेमोएक ओपन-सोर्स फ्रेमवर्क अब दुनिया भर में उत्पादन प्रणालियों में तैनात किया गया है। यह नया DGX B200 अनिवार्य रूप से टीम को उस शोध को और भी आगे बढ़ाने के लिए हार्डवेयर दे रहा है।
यूसी सैन डिएगो के हेलिकियोग्लू डेटा साइंस इंस्टीट्यूट के सहायक प्रोफेसर हाओ झांग ने कहा, “डीजीएक्स बी200 एनवीआईडीआईए के अब तक के सबसे शक्तिशाली एआई सिस्टम में से एक है, जिसका मतलब है कि इसका प्रदर्शन दुनिया में सबसे अच्छा है।” “यह हमें पिछली पीढ़ी के हार्डवेयर का उपयोग करने की तुलना में बहुत तेजी से प्रोटोटाइप और प्रयोग करने में सक्षम बनाता है।” अनुवाद: टीम अब अधिक विचारों का, अधिक तेजी से, अधिक गणना के साथ परीक्षण कर सकती है – जो वास्तव में सफल अनुसंधान को प्रेरित करता है।
दो परियोजनाएं पहले से ही पूरी गति से आगे बढ़ रही हैं। फास्टवीडियो वीडियो जेनरेशन मॉडल के प्रशिक्षण पर ध्यान केंद्रित करता है जो टेक्स्ट प्रॉम्प्ट से लगभग पांच सेकंड में पांच सेकंड का वीडियो तैयार कर सकता है। यह उस प्रकार की वास्तविक समय क्षमता है जो उत्पादन प्रणालियों में जो संभव है उसे बदल देती है। टीम भी टैप कर रही है NVIDIA H200 जीपीयू इस अनुसंधान चरण के लिए DGX B200 के साथ, प्रभावी ढंग से समस्या पर गंभीर अश्वशक्ति फेंक रहा है।
दूसरा प्रोजेक्ट, एलएमगेम-बेंच, भ्रामक रूप से चंचल लगता है – यह एक बेंचमार्किंग सूट है जो टेट्रिस और सुपर मारियो ब्रदर्स जैसे लोकप्रिय वीडियो गेम का उपयोग करके बड़े भाषा मॉडल का परीक्षण करता है। लेकिन इसके नीचे गंभीर शोध है। यह मापकर कि विभिन्न एलएलएम गेम-प्लेइंग कार्यों को कैसे संभालते हैं, टीम वास्तविक समय के गेमप्ले परिदृश्यों में मॉडल के प्रदर्शन की तुलना कर सकती है। उपयोगकर्ता एक मॉडल का परीक्षण कर सकते हैं या दो को एक-दूसरे के सामने खड़ा कर सकते हैं, जिससे शोधकर्ताओं को पारंपरिक बेंचमार्क से परे मॉडल क्षमताओं को समझने के लिए एक नया आयाम मिलेगा।
