SAMSUNG अभी पता चला है कि कैसे यह केवल 3GB मेमोरी वाले स्मार्टफ़ोन में 30-बिलियन-पैरामीटर AI मॉडल को भर रहा है – एक सफलता जो अंततः आपके डिवाइस पर सीधे क्लाउड-स्तरीय AI प्रदर्शन प्रदान कर सकती है। सैमसंग रिसर्च एआई सेंटर के डॉ. मायुंगजू हैम ने इसे संभव बनाने वाली कंप्रेशन तकनीकों और रनटाइम अनुकूलन के बारे में विस्तार से बताया, जो वास्तव में स्वतंत्र एआई कंप्यूटिंग की ओर एक बड़े बदलाव का संकेत देता है।
SAMSUNG अभी-अभी कुछ गंभीर तकनीकी विवरण दिए हैं कि कैसे यह आपकी जेब में फिट होने के लिए बड़े पैमाने पर एआई मॉडल को छोटा कर रहा है। कंपनी का एआई रिसर्च सेंटर अब 3 जीबी से कम पर 30 बिलियन-पैरामीटर जेनरेटिव मॉडल चला सकता है – आमतौर पर 16 जीबी से अधिक मेमोरी की आवश्यकता होती है। यह उस तरह की सफलता है जो स्मार्टफोन और घरेलू उपकरणों पर एआई के बारे में हमारी सोच को नया आकार दे सकती है।
सैमसंग के एआई सेंटर के मास्टर डॉ. मायुंगजू हैम ने एक एक्सक्लूसिव कार्यक्रम के दौरान इसे संभव बनाने वाले तकनीकी जादू के बारे में बताया सैमसंग न्यूज़ रूम साक्षात्कार. कुंजी मॉडल संपीड़न तकनीक में निहित है जो जटिल 32-बिट फ़्लोटिंग-पॉइंट गणनाओं को परिमाणीकरण के माध्यम से बहुत सरल 8-बिट या 4-बिट पूर्णांक में बदल देती है।
डॉ. हैम ने बताया, “एक अत्यधिक उन्नत मॉडल चलाने से जो सीधे स्मार्टफोन पर अरबों गणनाएं करता है, बैटरी जल्दी खत्म हो जाएगी, गर्मी बढ़ जाएगी और प्रतिक्रिया समय धीमा हो जाएगा।” संपीड़न प्रक्रिया “एक उच्च-रिज़ॉल्यूशन फ़ोटो को संपीड़ित करने की तरह है ताकि फ़ाइल का आकार छोटा हो जाए लेकिन दृश्य गुणवत्ता लगभग समान रहती है।”
लेकिन यहीं पर सैमसंग का दृष्टिकोण चतुर हो जाता है – वे हर चीज़ को समान रूप से छोटा नहीं कर रहे हैं। उनके एल्गोरिदम विश्लेषण करते हैं कि एआई मॉडल के कौन से हिस्से सबसे ज्यादा मायने रखते हैं और कम महत्वपूर्ण वजन को आक्रामक रूप से संपीड़ित करते हुए उच्च परिशुद्धता के साथ महत्वपूर्ण वजन को संरक्षित करते हैं। यह सर्जिकल अनुकूलन है जो दक्षता को अधिकतम करते हुए सटीकता बनाए रखता है।
वास्तविक सफलता केवल मॉडलों को छोटा बनाना नहीं है – बल्कि उन्हें वास्तविक हार्डवेयर पर बेहतर ढंग से चलाना है। सैमसंग एक ऐसा विकास कर रहा है जिसे डॉ. हैम “एआई रनटाइम इंजन” कहते हैं जो आपके डिवाइस के प्रोसेसर के लिए ट्रैफिक कंट्रोलर की तरह काम करता है। जब एआई मॉडल को गणना चलाने की आवश्यकता होती है, तो यह इंजन स्वचालित रूप से यह पता लगाता है कि प्रत्येक विशिष्ट कार्य के लिए सीपीयू, जीपीयू, या एनपीयू (न्यूरल प्रोसेसिंग यूनिट) का उपयोग करना है या नहीं।
डॉ. हैम ने कहा, “एआई रनटाइम मूलतः मॉडल की इंजन नियंत्रण इकाई है।” “यह स्वचालित रूप से प्रत्येक ऑपरेशन को इष्टतम चिप पर असाइन करता है और समग्र एआई प्रदर्शन को बढ़ावा देने के लिए मेमोरी एक्सेस को कम करता है।” सिस्टम सभी चीज़ों को एक साथ मेमोरी में रखने के बजाय किसी भी समय केवल आवश्यक डेटा ही लोड करता है।
जबकि अधिकांश एआई कंपनियां क्लाउड कंप्यूटिंग पावर पर ध्यान केंद्रित करती हैं, सैमसंग एक अलग भविष्य पर दांव लगा रहा है – जहां आपका फोन निरंतर इंटरनेट कनेक्शन की आवश्यकता के बिना वास्तव में बुद्धिमान बन जाएगा। कंपनी ट्रांसफॉर्मर मॉडल को बदलने के लिए पूरी तरह से नए एआई आर्किटेक्चर भी विकसित कर रही है जो अधिकांश मौजूदा भाषा मॉडल को शक्ति प्रदान करते हैं।
