greenai.guide

होम › मैं कैसे…? › मैं क्लाउड की खाली पड़ी क्षमता पर AI जॉब कैसे चलाऊँ?

मैं कैसे…?

मैं क्लाउड की खाली पड़ी क्षमता पर AI जॉब कैसे चलाऊँ?

अपडेट किया गया · 2 मिनट में पढ़ें

संक्षेप में

क्लाउड प्रदाता अपनी खाली क्षमता सस्ते में बेचते हैं, इस शर्त पर कि वे उसे थोड़े समय की सूचना पर वापस ले सकते हैं; इन्हें spot या preemptible इंस्टेंस कहा जाता है। ट्रेनिंग, इवैल्यूएशन, बैच इन्फ़रेंस और डेटा प्रोसेसिंग इसका इस्तेमाल कर सकते हैं, अगर वे चेकपॉइंट सेव करें और साफ़ ढंग से दोबारा कोशिश करें। Microsoft की सलाह है कि इसका इस्तेमाल सिर्फ़ रुकावट झेल सकने वाले काम के लिए करें, क्योंकि रुकावटें अस्थिरता ला सकती हैं।

चरण

  1. ऐसे AI वर्कलोड की सूची बनाएँ जिन्हें रोका और फिर से शुरू किया जा सकता है, जैसे ट्रेनिंग, इवैल्यूएशन और बैच इन्फ़रेंस।
  2. उन जॉब में नियमित चेकपॉइंट और साफ़ दोबारा-कोशिश (retry) का तर्क जोड़ें।
  3. उन्हें कई इंस्टेंस टाइप पर spot या preemptible क्षमता पर चलाएँ।
  4. इंटरैक्टिव या समय-सीमा वाले ज़रूरी काम को मानक क्षमता पर रखें।
  5. मापें कि रुकावटों से कितना काम खोता है, और चेकपॉइंट का अंतराल उसी हिसाब से बदलें।

खाली क्षमता ऐसा हार्डवेयर है जो पहले से बना हुआ है और चालू है; लचीले काम के लिए इसका इस्तेमाल उसका बेहतर उपयोग है। यह आम तौर पर काफ़ी सस्ता भी होता है, जिससे इसे अपनाने का तर्क मज़बूत होता है।

कौन-से AI जॉब इसके लिए ठीक हैं?

  • ट्रेनिंग और फ़ाइन-ट्यूनिंग रन जो नियमित रूप से चेकपॉइंट करते हैं;
  • हाइपरपैरामीटर सर्च, जिनमें हर ट्रायल स्वतंत्र होता है;
  • इवैल्यूएशन और बेंचमार्क रन;
  • दस्तावेज़ों या इमेज की कतार पर बैच इन्फ़रेंस;
  • डेटा की तैयारी।

Microsoft की Azure Well-Architected सस्टेनेबिलिटी गाइडेंस कहती है कि "Spot VMs का इस्तेमाल सिर्फ़ रुकावट झेल सकने वाले वर्कलोड के लिए करें", और यह भी बताती है कि वे इन्फ़्रास्ट्रक्चर की बर्बादी घटा सकते हैं, लेकिन अस्थिरता भी ला सकते हैं।

मैं किसी जॉब को रुकावट से सुरक्षित कैसे बनाऊँ?

  1. समझदारी भरे अंतराल पर चेकपॉइंट सेव करें, जिसमें optimiser की स्थिति भी हो।
  2. जॉब को ऐसा बनाएँ कि दोबारा शुरू होने पर वह अपने आप आखिरी चेकपॉइंट से आगे बढ़े।
  3. कई इंस्टेंस टाइप की अनुमति दें, ताकि शेड्यूलर के पास इस्तेमाल के लिए ज़्यादा खाली क्षमता हो।
  4. आउटपुट थोड़ा-थोड़ा करके लिखें, ताकि पूरा हो चुका काम न खोए।

चेकपॉइंट से आप ग्रिड के गंदा होने पर जॉब रोक भी सकते हैं, जैसा कि AI वर्कलोड के लिए Green Software Foundation का पैटर्न सुझाता है; देखें ग्रिड के ज़्यादा स्वच्छ होने पर ट्रेनिंग कैसे शेड्यूल करें।

आम गलतियाँ

  • चेकपॉइंट न रखना, जिससे एक रुकावट घंटों का काम और उसकी ऊर्जा बर्बाद कर देती है।
  • बहुत बार चेकपॉइंट करना, जिससे सेव करने की लागत उससे होने वाली सुरक्षा से ज़्यादा हो जाती है।
  • उपयोगकर्ताओं को सीधे सेवा देने वाली सेवाओं को spot क्षमता पर रखना।

देखें होस्टिंग और डेटा सेंटर।

स्रोत

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)
मैं कैसे…?

मैं GPU और नोटबुक को बेकार चालू पड़े रहने से कैसे रोकूँ?

बेकार पड़े AI हार्डवेयर से ऊर्जा की बर्बादी रोकें: ज़रूरत पर ही संसाधन चालू करें, खाली नोटबुक अपने आप बंद करें, काम के घंटों के बाद शून्य तक घटाएँ और खाली GPU-घंटे रिपोर्ट करें।

मैं कैसे…?

जब बिजली ग्रिड ज़्यादा स्वच्छ हो, तब मैं ट्रेनिंग कैसे शेड्यूल करूँ?

ग्रिड की कार्बन तीव्रता कम होने पर ट्रेनिंग और बैच AI जॉब चलाएँ: पूर्वानुमान इस्तेमाल करें, चेकपॉइंट से जॉब को रोकने लायक बनाएँ, और समय-सीमा को पक्की सीमा रखें।

मैं कैसे…?

ऊर्जा बचाने के लिए मैं AI अनुरोधों को batch में कैसे भेजूँ?

Batching कैसे एक्सेलरेटर का इस्तेमाल बढ़ाती है और हर जवाब की ऊर्जा घटाती है: लाइव ट्रैफ़िक के लिए continuous batching और ऑफ़लाइन काम के लिए कतार वाले batch।

अच्छी प्रैक्टिस

ग्रीन AI होस्टिंग और डेटा सेंटर

AI कहाँ चले, यह कैसे चुनें: ग्रिड की कार्बन तीव्रता, PUE और WUE, नवीकरणीय ऊर्जा के दावे, पानी का उपयोग और स्थान, साथ में होस्ट से पूछने के सवाल।

हमसे जुड़ें

धरती पर AI का असर घटाने में मदद करें

नई गाइड, फ़ंडिंग कॉल और निर्देशिका लिस्टिंग ईमेल से पाएँ, लगभग महीने में एक बार। या निर्देशिकाओं में अपना प्रोडक्ट, कोर्स, PhD या शोध जोड़ें।

कोई ट्रैकिंग नहीं। एक क्लिक में सदस्यता छोड़ें। जुड़ने के दूसरे तरीके · गोपनीयता