संक्षेप में
छोटे, बार-बार होने वाले, निजी या latency-संवेदनशील काम डिवाइस पर चलाएँ, और बड़े मॉडल वाले बड़े या कभी-कभार के काम किसी कुशल क्लाउड सेवा को भेजें। कुछ अध्ययन उपयुक्त मॉडलों के लिए डिवाइस पर बड़ी ऊर्जा बचत पाते हैं, लेकिन अच्छी तरह चलाए जा रहे डेटा सेंटरों को पछाड़ना कठिन है, इसलिए जहाँ हो सके अपने मामले के लिए मापें।
चरण
- काम की ज़रूरतें लिखें: मॉडल का आकार, यह कितनी बार चलता है, निजता, और क्या इसे ऑफ़लाइन चलना ज़रूरी है।
- छोटे मॉडलों, बार-बार इस्तेमाल, निजी डेटा और ऑफ़लाइन ज़रूरतों के लिए डिवाइस को तरजीह दें।
- बड़े मॉडलों, कभी-कभार के भारी कामों और batch में किए जा सकने वाले काम के लिए क्लाउड को तरजीह दें।
- जहाँ माप सकें, दोनों विकल्पों पर प्रति काम ऊर्जा की तुलना करें, नेटवर्क समेत।
- बैटरी लाइफ़ और हार्डवेयर की उम्र को डिवाइस की लागत का हिस्सा मानें।
छोटा और बार-बार होने वाला काम डिवाइस के लिए ठीक है; बड़ा और कभी-कभार का काम क्लाउड के लिए। हर मामले में दोनों में से कोई भी ज़्यादा हरित नहीं है। जवाब मॉडल पर, वह कितनी बार चलता है, और हर पक्ष कितना कुशल है, इस पर निर्भर करता है।
सबूत क्या कहते हैं?
सबूत मिले-जुले हैं। Li, Islam और Ren ने कई जनरेटिव मॉडलों को edge पर चलाने से फ़ुटप्रिंट कम पाया, और एक नए फ़ोन पर परीक्षणों में 90% से ज़्यादा ऊर्जा बचत दिखी। लेकिन उनका क्लाउड आधार (baseline) पूरी तरह अनुकूलित प्रोडक्शन सेवा नहीं था, और किसी कुशल डेटा सेंटर में अच्छी तरह batch किए गए सर्वरों को पछाड़ना ज़्यादा कठिन है। गणितज्ञों, कंप्यूटर वैज्ञानिकों और उद्योग के लोगों के 2026 के एक UK ग्रीन AI सैंडपिट (गहन चर्चा कार्यशाला) ने लाखों डिवाइसों में फैले AI के कुल ऊर्जा प्रभाव को एक खुला सवाल बताया।
मैं कैसे चुनूँ?
| डिवाइस के पक्ष में | क्लाउड के पक्ष में |
|---|---|
| छोटा मॉडल, जैसे Apple का लगभग तीन अरब पैरामीटर वाला ऑन-डिवाइस मॉडल | बड़ा मॉडल जो लोकल रूप से समा नहीं सकता |
| बार-बार चलता है, जैसे हर फ़ोटो या हर कीस्ट्रोक पर | कभी-कभार चलता है |
| निजी या संवेदनशील डेटा | ऐसा काम जिसे batch या शेड्यूल किया जा सके |
| ऑफ़लाइन या तुरंत चलना ज़रूरी | नवीनतम, सबसे सक्षम मॉडल चाहिए |
Green Software Foundation अपने ग्रीन सॉफ़्टवेयर patterns में AI मॉडलों को edge पर चलाने को शामिल करता है, उपयुक्त मॉडलों के लिए एक विकल्प के रूप में, नियम के रूप में नहीं।
आम गलतियाँ
- यह मान लेना कि लोकल मुफ़्त है। यह आपकी बैटरी इस्तेमाल करता है और आपको नए हार्डवेयर की ओर धकेल सकता है।
- नेटवर्क को अनदेखा करना। बड़ी फ़ाइलें क्लाउड पर भेजने की भी लागत होती है।
- डिवाइस के लिए बहुत बड़ा मॉडल चलाना, जिससे वह धीमा चलता है और बिजली खपाता है।
ज़्यादा विस्तृत फ़ैसला गाइड के लिए देखें edge या क्लाउड और edge पर AI।
स्रोत
- A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
- Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
- Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
संबंधित
एज या क्लाउड: AI कहाँ चलना चाहिए?
डिवाइस पर और एज AI को केंद्रीय डेटा सेंटरों के मुकाबले कैसे तौलें: ऊर्जा, नेटवर्क, हार्डवेयर, निजता और लचीलापन, और फ़ैसला करने का चरण-दर-चरण तरीका।
एज पर AI: ज़्यादा हरित, या बस कम दिखाई देने वाला?
ऑन-डिवाइस और एज AI नेटवर्क और डेटा सेंटर की ऊर्जा बचा सकता है, पर कंप्यूटिंग को अरबों ऐसे डिवाइसों में फैला देता है जिन्हें कोई नहीं मापता। हम क्या जानते हैं और क्या नहीं।
मैं AI मॉडल को अपने कंप्यूटर पर लोकल कैसे चलाऊँ?
Ollama या llama.cpp जैसे टूल से किसी ओपन AI मॉडल को अपने लैपटॉप या सर्वर पर कैसे चलाएँ, फ़िट होने वाला क्वांटाइज़्ड मॉडल कैसे चुनें और उसकी ऊर्जा कैसे मापें।
मैं किसी मॉडल को एज डिवाइस के लिए इतना छोटा कैसे बनाऊँ कि वह उस पर चल सके?
फ़ोन, सेंसर और embedded बोर्ड के लिए मॉडल छोटा करें: छोटे से शुरू करें, distil, quantise और prune करें, फिर असली डिवाइस पर सटीकता और ऊर्जा जाँचें।