SAMSUNG अभी-अभी इस बात से पर्दा हटा दिया गया है कि यह स्मार्टफ़ोन में क्लाउड-स्तरीय AI कैसे भर रहा है। कंपनी के अनुसंधान प्रभाग ने संपीड़न तकनीक विकसित की है जो डिवाइस पर 3 जीबी से कम में 30 बिलियन-पैरामीटर एआई मॉडल चला सकती है – आमतौर पर 16 जीबी से अधिक मेमोरी की आवश्यकता होती है। सैमसंग रिसर्च एआई सेंटर के डॉ. म्युंगजू हैम ने एक विशेष साक्षात्कार में नई तकनीकों का खुलासा किया, जिससे पता चलता है कि कंपनी आपके फोन को क्लाउड की तरह स्मार्ट बनाने की योजना कैसे बना रही है।
SAMSUNG संपीड़न सफलताओं के साथ मोबाइल एआई के नियमों को फिर से लिख रहा है जो सच होने के लिए लगभग बहुत अच्छा लगता है। कंपनी की अनुसंधान टीम ने स्थानीय स्तर पर बड़े पैमाने पर एआई मॉडल चलाने के कोड को क्रैक कर लिया है – जिसे कुछ महीने पहले कई लोगों ने असंभव माना था।
सैमसंग रिसर्च एआई सेंटर के मास्टर डॉ. म्युंगजू हैम ने एक विशेष साक्षात्कार में खुलासा किया कि कैसे उनकी टीम ने 30 बिलियन-पैरामीटर जेनरेटिव मॉडल को 16 जीबी से कम करके 3 जीबी से कम मेमोरी उपयोग तक सीमित कर दिया। सर्वर रैक की आवश्यकता और आपकी जेब में फिट होने के बीच यही अंतर है।
“एक अत्यधिक उन्नत मॉडल चलाने से जो सीधे स्मार्टफोन पर अरबों गणनाएं करता है, बैटरी जल्दी खत्म हो जाएगी, गर्मी बढ़ जाएगी और प्रतिक्रिया समय धीमा हो जाएगा,” हैम ने सैमसंग न्यूज़रूम को बताया. “इन मुद्दों के समाधान के लिए मॉडल संपीड़न तकनीक उभरी।”
यह सफलता एक परिष्कृत परिमाणीकरण प्रक्रिया पर केंद्रित है जिसकी तुलना हैम फोटो संपीड़न से करता है – फ़ाइल आकार को नाटकीय रूप से कम करते हुए दृश्य गुणवत्ता को बनाए रखता है। सैमसंग के एल्गोरिदम 32-बिट फ़्लोटिंग-पॉइंट गणनाओं को 8-बिट या 4-बिट पूर्णांक में परिवर्तित करते हैं, जिससे मेमोरी उपयोग और कम्प्यूटेशनल लोड कम हो जाता है।
लेकिन यहीं यह दिलचस्प हो जाता है: एआई मॉडल के सभी हिस्से समान नहीं बनाए गए हैं। सैमसंग का संपीड़न यह पहचानता है कि कौन सा तंत्रिका नेटवर्क भार सबसे अधिक मायने रखता है, कम महत्वपूर्ण क्षेत्रों को आक्रामक रूप से संपीड़ित करते हुए उच्च परिशुद्धता के साथ महत्वपूर्ण घटकों को संरक्षित करता है। “क्योंकि प्रत्येक मॉडल के वजन का महत्व अलग-अलग स्तर का होता है, हम महत्वपूर्ण वजनों को उच्च परिशुद्धता के साथ संरक्षित करते हैं जबकि कम महत्वपूर्ण वजनों को अधिक आक्रामक तरीके से संपीड़ित करते हैं,” हैम ने समझाया।
कंप्रेशन तो बस शुरुआत है. सैमसंग ने वह बनाया है जिसे हैम “एआई रनटाइम इंजन” कहता है – अनिवार्य रूप से मॉडल की इंजन नियंत्रण इकाई जो आपके फोन के प्रोसेसर के लिए एक स्मार्ट ट्रैफिक नियंत्रक की तरह काम करती है। जब कोई एआई मॉडल चलता है, तो यह रनटाइम स्वचालित रूप से निर्णय लेता है कि प्रत्येक ऑपरेशन के लिए सीपीयू, जीपीयू या एनपीयू का उपयोग करना है या नहीं, अधिकतम प्रदर्शन को निचोड़ने के लिए मेमोरी एक्सेस को कम करना।
हैम ने कहा, “एआई रनटाइम मूलतः मॉडल की इंजन नियंत्रण इकाई है।” “जब कोई मॉडल कई प्रोसेसर पर चलता है, तो रनटाइम स्वचालित रूप से प्रत्येक ऑपरेशन को इष्टतम चिप पर असाइन करता है और समग्र एआई प्रदर्शन को बढ़ावा देने के लिए मेमोरी एक्सेस को कम करता है।”
