SAMSUNG हाल ही में ब्रेकथ्रू कंप्रेशन तकनीक पर से पर्दा हटा दिया गया है जो उपकरणों पर एआई के चलने के तरीके को नया आकार दे रही है। कंपनी के रिसर्च एआई सेंटर ने आश्चर्यजनक रूप से 5 गुना मेमोरी कटौती हासिल की है, 3 जीबी से कम मेमोरी में 30 बिलियन-पैरामीटर मॉडल – आमतौर पर 16 जीबी से अधिक की आवश्यकता होती है – को सफलतापूर्वक चलाया है। यह केवल वृद्धिशील प्रगति नहीं है; यह एक प्रकार की दक्षता छलांग है जो क्लाउड-स्तरीय एआई प्रदर्शन को सीधे स्मार्टफोन और घरेलू उपकरणों में ला सकती है।
SAMSUNG संपीड़न सफलताओं के साथ चुपचाप ऑन-डिवाइस एआई के नियमों को फिर से लिख रहा है जो सच होने के लिए लगभग बहुत अच्छा लगता है। कंपनी के रिसर्च एआई सेंटर ने स्थानीय स्तर पर बड़े पैमाने पर भाषा मॉडल चलाने के कोड को क्रैक किया है, जिसे डॉ. मायुंगजू हैम “डिवाइस पर सीधे क्लाउड-स्तरीय प्रदर्शन” कहते हैं।
संख्याएँ कहानी बताती हैं। SAMSUNG अब 30-बिलियन-पैरामीटर जेनरेटिव मॉडल – सामान्यतः 16 जीबी से अधिक आकार – को 3 जीबी से कम मेमोरी में निचोड़ा जा सकता है। यह सिर्फ प्रभावशाली नहीं है; यह उस प्रकार की दक्षता में वृद्धि है जो मोबाइल उपकरणों पर एआई के बारे में हमारे सोचने के तरीके को मौलिक रूप से बदल सकती है।
डॉ. हैम ने एक एक्सक्लूसिव में बताया, “एक अत्यधिक उन्नत मॉडल चलाने से जो सीधे स्मार्टफोन या लैपटॉप पर अरबों गणनाएं करता है, बैटरी जल्दी खत्म हो जाएगी, गर्मी बढ़ जाएगी और प्रतिक्रिया समय धीमा हो जाएगा।” सैमसंग न्यूज़ रूम साक्षात्कार. समाधान? मॉडल संपीड़न तकनीक जो विशेष रूप से इन बाधाओं को दूर करने के लिए उभरी।
सफलता परिमाणीकरण पर केंद्रित है – एक प्रक्रिया जो जटिल 32-बिट फ़्लोटिंग-पॉइंट गणनाओं को बहुत सरल 8-बिट या 4-बिट पूर्णांक में परिवर्तित करती है। डॉ. हैम ने कहा, “यह एक उच्च-रिज़ॉल्यूशन फोटो को संपीड़ित करने जैसा है ताकि फ़ाइल का आकार छोटा हो जाए लेकिन दृश्य गुणवत्ता लगभग समान रहती है।” लेकिन यहाँ कहाँ है सैमसंग का दृष्टिकोण चतुर हो जाता है: समान संपीड़न लागू करने के बजाय, उनके एल्गोरिदम प्रत्येक मॉडल वजन के महत्व का विश्लेषण करते हैं, महत्वपूर्ण वजन को उच्च परिशुद्धता के साथ संरक्षित करते हैं जबकि आक्रामक रूप से कम महत्वपूर्ण वजन को संपीड़ित करते हैं।
यह चयनात्मक दृष्टिकोण मॉडल संपीड़न में सबसे बड़ी चुनौती का समाधान करता है – आकार सिकुड़ते समय सटीकता बनाए रखना। डॉ. हैम ने कहा, “लक्ष्य सिर्फ मॉडल को छोटा बनाना नहीं है; इसे तेज़ और सटीक रखना भी है।” सैमसंग रिसर्च विशेष एल्गोरिदम विकसित किए गए जो संपीड़न के दौरान मॉडल के नुकसान फ़ंक्शन का विश्लेषण करते हैं और इसे तब तक पुनः प्रशिक्षित करते हैं जब तक कि आउटपुट मूल के करीब न रह जाए।
लेकिन संपीड़न केवल आधी कहानी है। सैमसंग का एआई रनटाइम इंजन उसी तरह कार्य करता है जिसे डॉ. हैम “मॉडल की इंजन नियंत्रण इकाई” कहते हैं, जो मेमोरी एक्सेस को कम करते हुए स्वचालित रूप से कई प्रोसेसर – सीपीयू, जीपीयू और एनपीयू में परिचालन वितरित करता है। नतीजा? बड़े, अधिक परिष्कृत मॉडल एक ही डिवाइस पर समान गति से चल सकते हैं।
