संक्षेप में
ज़रूरत पर चलना (on-demand) डिफ़ॉल्ट बनाएँ: पाइपलाइन और ट्रेनिंग जॉब ट्रिगर होने पर संसाधन चालू करें और काम खत्म होने पर छोड़ दें। खाली पड़ी नोटबुक और डेवलपमेंट GPU को तय समय के बाद अपने आप बंद करें, नॉन-प्रोडक्शन एनवायरनमेंट को काम के घंटों के बाद शून्य तक घटाएँ, और हर टीम के खाली GPU-घंटे लागत के साथ रिपोर्ट करें, ताकि बर्बादी दिखे।
चरण
- पाइपलाइन और ट्रेनिंग जॉब ऐसे बनाएँ कि वे ट्रिगर होने पर संसाधन चालू करें और खत्म होने पर छोड़ दें।
- नोटबुक और डेवलपमेंट GPU को कुछ समय निष्क्रिय रहने के बाद अपने आप बंद होने पर सेट करें।
- नॉन-प्रोडक्शन एनवायरनमेंट को काम के घंटों के बाहर शून्य तक घटाएँ।
- अस्थायी एनवायरनमेंट को अपने आप हटने की एक तारीख दें।
- हर टीम के खाली GPU-घंटे लागत के साथ रिपोर्ट करें।
खाली पड़ा GPU भी बिजली खींचता है और ऐसे हार्डवेयर को घेरे रहता है जिसे बनाने में ऊर्जा लगी। एक प्रयोग के लिए बनाई गई नोटबुक, क्लस्टर और टेस्ट एनवायरनमेंट आसानी से प्रयोगों के बीच चलते छोड़ दिए जाते हैं, या भुला दिए जाते हैं।
क्या-क्या ज़रूरत पर चलना चाहिए?
AI और एजेंट वर्कलोड के लिए Green Software Foundation के पैटर्न सलाह देते हैं कि इन्फ़्रास्ट्रक्चर सिर्फ़ तभी चले जब वह काम कर रहा हो: मॉडल डेवलपमेंट, पाइपलाइन और एजेंटों के लिए सर्वरलेस या on-demand निष्पादन, ताकि संसाधन ट्रिगर होने पर चालू हों और काम पूरा होने पर बंद हों।
डेवलपमेंट और टेस्ट का क्या?
Microsoft की Azure Well-Architected गाइडेंस कहती है कि "इस्तेमाल न होने पर नॉन-प्रोडक्शन एनवायरनमेंट बंद कर दें"। Kubernetes पर, KEDA का cron scaler किसी समय-खिड़की में वर्कलोड बढ़ा सकता है और उसके बाहर शून्य तक घटा सकता है। सिर्फ़ उन्हीं साझा सेवाओं को अलग रखें जिन्हें सचमुच चालू रहना ज़रूरी है, और कारण लिख लें।
सबसे बड़ा फ़र्क़ किससे पड़ता है
- नोटबुक पर ऑटो-शटडाउन, क्योंकि वे सबसे ज़्यादा भुलाए जाने वाले GPU उपयोगकर्ता हैं।
- दिखाई देना। खाली GPU-घंटों को खर्च वाली उसी रिपोर्ट में रखें; टीमें उसी पर काम करती हैं जो उन्हें दिखता है।
- साझा करना। एक साझा पूल या कतार आम तौर पर हर व्यक्ति की अपनी मशीन से ज़्यादा GPU को व्यस्त रखती है।
आम गलतियाँ
- हफ़्ते में एक बार चलने वाले काम के लिए "बस यूँ ही, ज़रूरत पड़ जाए" बड़े GPU आरक्षित रखना।
- दिन में कुछ ही बार इस्तेमाल होने वाले किसी अंदरूनी टूल के लिए मॉडल को हमेशा मेमोरी में लोड रखना।
देखें होस्टिंग और डेटा सेंटर और कुशल ट्रेनिंग और इन्फ़रेंस।
स्रोत
- Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
- Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Cron scaler, KEDA (CNCF) (2025)
संबंधित
मैं क्लाउड की खाली पड़ी क्षमता पर AI जॉब कैसे चलाऊँ?
रुक सकने वाला AI काम spot या preemptible क्षमता पर चलाएँ: जॉब को चेकपॉइंट और साफ़ ढंग से दोबारा कोशिश करने लायक बनाएँ, और न रुक सकने वाला काम कहीं और रखें।
ऊर्जा बचाने के लिए मैं AI अनुरोधों को batch में कैसे भेजूँ?
Batching कैसे एक्सेलरेटर का इस्तेमाल बढ़ाती है और हर जवाब की ऊर्जा घटाती है: लाइव ट्रैफ़िक के लिए continuous batching और ऑफ़लाइन काम के लिए कतार वाले batch।
मैं रिसर्च क्लस्टर पर AI प्रयोगों का पर्यावरणीय असर कैसे कम करूँ?
HPC पर AI प्रयोगों की ऊर्जा घटाएँ: Slurm की ऊर्जा गणना देखें, उतना ही माँगें जितना इस्तेमाल हो, छोटे पायलट चलाएँ, चेकपॉइंट रखें और लचीले जॉब शेड्यूल करें।
ग्रीन AI होस्टिंग और डेटा सेंटर
AI कहाँ चले, यह कैसे चुनें: ग्रिड की कार्बन तीव्रता, PUE और WUE, नवीकरणीय ऊर्जा के दावे, पानी का उपयोग और स्थान, साथ में होस्ट से पूछने के सवाल।