एनवीडिया का कहना है कि ऐप को प्रति-कर्मचारी क्लाउड वीएम में शून्य-डेटा-रिटेंशन आसन और उत्पादन प्रणालियों तक केवल पढ़ने के लिए पहुंच के साथ वायरिंग करने से एआई एजेंट प्रयोगात्मक साइडकार के बजाय सुरक्षित, श्रव्य सहकर्मियों में बदल गए।
परिणाम: डिबगिंग चक्र दिनों से घटते हुए घंटों में, मल्टी-फ़ाइल रिफैक्टर और रातों-रात होने वाले जटिल प्रयोग, और प्राकृतिक-भाषा संकेतों से संपूर्ण सुविधाओं की शिपिंग – सभी बुनियादी ढांचे पर जो प्रति टोकन नाटकीय रूप से कम लागत और रैक पैमाने पर उच्च थ्रूपुट प्रदान करता है।
एनवीडिया का कहना है, ‘यह कहानी एक खिड़की है कि “वास्तविक” एंटरप्राइज एआई कैसा दिखता है जब एक फ्रंटियर मॉडल विक्रेता और एक सिलिकॉन लीडर जीपीयू से एजेंटों तक पूर्ण स्टैक को सह-डिज़ाइन करते हैं।’
ओपनएआई की प्रतिक्रिया एनवीडिया के हार्डवेयर रोडमैप को प्रभावित करती है जिसके परिणामस्वरूप पहले GB200 NVL72 100,000-GPU क्लस्टर में।
