संक्षेप में
अपनी मशीन पर आप सीधे माप सकते हैं: CodeCarbon या ऐसा पावर टूल इस्तेमाल करें जो प्रोसेसर और GPU के काउंटर पढ़ता है, या कंप्यूटर और दीवार के सॉकेट के बीच मीटर वाला स्मार्ट प्लग लगाएँ। पहले idle बेसलाइन दर्ज करें, बीच-बीच में स्नैपशॉट लेने के बजाय पूरे काम के दौरान रीडिंग लें, और आँकड़े पर भरोसा करने से पहले रन को कुछ बार दोहराएँ।
चरण
- शुरू करने से पहले मशीन की idle बिजली खपत मापें।
- AI का काम चलाएँ और पूरे समय CodeCarbon, काउंटर-आधारित टूल या मीटर वाले स्मार्ट प्लग से रिकॉर्ड करें।
- पूरे काम के दौरान GPU पावर की रीडिंग लें और समय के साथ उसे जोड़ें।
- रन को कई बार दोहराएँ और औसत व दायरा (range) बताएँ।
- हर मशीन पर एक बार सॉफ़्टवेयर मीटर को दीवार-प्लग मीटर से मिलाकर जाँचें।
अपने हार्डवेयर को मीटर से मापा जा सकता है, जो किसी भी अनुमान से बेहतर है। यह देखने का सबसे अच्छा तरीका है कि कोई लोकल मॉडल, fine-tuning रन या AI कोडिंग टूल आपकी मशीन पर असल में कितनी बिजली लेता है।
मैं कौन-से टूल इस्तेमाल कर सकता हूँ?
| विकल्प | यह क्या पढ़ता है | किसके लिए अच्छा |
|---|---|---|
| मीटर वाला स्मार्ट प्लग | दीवार के सॉकेट पर पूरी मशीन | सभी के लिए; दूसरे टूल की जाँच के लिए |
| CodeCarbon | प्रोसेसर, GPU और मेमोरी की बिजली, साथ में ग्रिड कार्बन | Python स्क्रिप्ट, ट्रेनिंग और लोकल inference |
| प्रोसेसर काउंटर (कई Intel और AMD चिप पर RAPL) | CPU और मेमोरी की ऊर्जा | perf, Scaphandre, PowerJoular जैसे Linux टूल |
GPU टेलीमेट्री (nvidia-smi, NVML) |
GPU की बिजली | NVIDIA कार्ड पर मॉडल ट्रेनिंग और inference |
समय के साथ रीडिंग क्यों लें?
GPU की रीडिंग लगातार नहीं, बल्कि नमूनों (samples) में ली जाती हैं। Yang और साथियों ने पाया कि A100 और H100 GPU पर
nvidia-smi बिजली के लिए रनटाइम का सिर्फ़ लगभग 25% हिस्सा ही सैंपल करता है, जो छोटे कामों के लिए बहुत भ्रामक हो सकता
है। पूरे काम के दौरान रीडिंग लॉग करें, इतनी देर चलाएँ कि कई sampling अंतराल शामिल हो जाएँ, और समय के साथ उन्हें जोड़ें।
आम गलतियाँ
- Idle बेसलाइन भूल जाना। डेस्कटॉप कुछ न करते हुए भी बिजली लेता है; AI कितना जोड़ता है यह देखने के लिए इसे घटाएँ।
- सिर्फ़ एक बार मापना। तापमान, बैकग्राउंड काम और frequency scaling से रीडिंग बदलती हैं। दोहराएँ और दायरा बताएँ।
- सिर्फ़ गति की तुलना करना। तेज़ और कम ऊर्जा अक्सर साथ चलते हैं, लेकिन हमेशा नहीं। दोनों बताएँ।
ऊर्जा को कार्बन में बदलने के लिए देखें ग्रिड कार्बन तीव्रता का डेटा खोजना। पूरा तरीका AI की ऊर्जा कैसे मापें में है।
स्रोत
- Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
- CodeCarbon, CodeCarbon (2026)
- When to use CodeCarbon, CodeCarbon (2025)
संबंधित
मैं AI मॉडल को अपने कंप्यूटर पर लोकल कैसे चलाऊँ?
Ollama या llama.cpp जैसे टूल से किसी ओपन AI मॉडल को अपने लैपटॉप या सर्वर पर कैसे चलाएँ, फ़िट होने वाला क्वांटाइज़्ड मॉडल कैसे चुनें और उसकी ऊर्जा कैसे मापें।
मैं किसी मॉडल की ट्रेनिंग का कार्बन फ़ुटप्रिंट कैसे मापूँ?
CodeCarbon जैसे टूल से ट्रेनिंग रन की ऊर्जा ट्रैक करें, उसे स्थानीय ग्रिड की कार्बन तीव्रता से गुणा करें, और हार्डवेयर, समय और जगह बताएँ।
AI से ऊर्जा की बचत साबित करने के लिए मैं बेसलाइन कैसे तय करूँ?
AI ऊर्जा की असली बचत दिखाएँ: बदलाव से पहले उसी सेट-अप और लोड पर मापें, रन दोहराएँ, हर इकाई काम के हिसाब से रिपोर्ट करें और जाँचें कि गुणवत्ता बनी रही।
AI की ऊर्जा और कार्बन कैसे मापें
AI के काम की ऊर्जा और कार्बन को मापने या अनुमान लगाने की व्यावहारिक गाइड: टूल, सिस्टम सीमाएँ, प्रति-कार्य पैमाने और अनिश्चितता का ईमानदार हिसाब।