# AI के लिए मैं ऊर्जा-कुशल हार्डवेयर कैसे चुनूँ?

> AI हार्डवेयर को अपने असली batch साइज़ पर प्रति काम मापी गई ऊर्जा के आधार पर चुनें, runtimes और एक्सेलरेटर की तुलना करें, और नए उपकरण को embodied carbon के सामने तौलें।

Source: https://greenai.guide/hi/कैसे/ai-के-लिए-मैं-ऊर्जा-कुशल-हार्डवेयर-कैसे-चुनूँ/  
Updated: 2026-11-19

## संक्षेप में

अपने असली मॉडल को दो-तीन हार्डवेयर और runtime विकल्पों पर benchmark करें और यथार्थवादी batch साइज़ पर प्रति अनुरोध या प्रति ट्रेनिंग रन ऊर्जा की तुलना करें, साथ में latency और लागत भी। Patterson और उनके सहयोगियों ने पाया कि मॉडल, डेटा सेंटर और प्रोसेसर का चुनाव मिलकर ट्रेनिंग का कार्बन लगभग 100 से 1,000 गुना तक घटा सकता है। अच्छे हार्डवेयर को व्यस्त और सेवा में रखें, क्योंकि नया उपकरण बनाने का अपना फ़ुटप्रिंट होता है।

## Steps

1. अपने मॉडल को दो-तीन एक्सेलरेटर और instance विकल्पों पर benchmark करें।
2. अपने असली batch साइज़ पर प्रति अनुरोध या प्रति रन ऊर्जा मापें, साथ में latency भी।
3. हर विकल्प पर एक से ज़्यादा inference runtime आज़माएँ।
4. वह विकल्प चुनें जिसकी ऊर्जा सबसे कम हो और जो आपकी latency और गुणवत्ता ज़रूरतें पूरी करे।
5. नए हार्डवेयर के embodied carbon को अपेक्षित बचत के सामने तौलें।
6. मॉडल या ट्रैफ़िक बदलने पर दोबारा परखें।

**हार्डवेयर को अधिकतम specifications के आधार पर नहीं, बल्कि अपने काम के लिए मापी गई ऊर्जा के आधार पर चुनें।** एक ही
मॉडल अलग-अलग एक्सेलरेटर, instance types और runtimes पर बहुत अलग ऊर्जा इस्तेमाल कर सकता है, और सबसे अच्छा विकल्प
आपके batch साइज़ और ट्रैफ़िक पर निर्भर करता है।

## मैं विकल्पों की निष्पक्ष तुलना कैसे करूँ? {#how-do-i-compare-options-fairly}

Green Software Foundation के patterns सबूत के आधार पर कुशल एक्सेलरेटर और instance types, और कुशल frameworks और
inference runtimes चुनने की सलाह देते हैं। व्यवहार में:

- हर विकल्प पर वही मॉडल, इनपुट और सेटिंग्स चलाएँ;
- प्रति अनुरोध (या प्रति रन) ऊर्जा उन batch साइज़ पर मापें जो आप सचमुच इस्तेमाल करेंगे, सिर्फ़ सबसे अच्छी स्थिति में नहीं;
- ऊर्जा के साथ latency और गुणवत्ता दर्ज करें;
- runtime को भी शामिल करें: उसी चिप पर कोई दूसरा serving engine नतीजा बदल सकता है।

Patterson और उनके सहयोगियों ने पाया कि मॉडल आर्किटेक्चर, डेटा सेंटर और प्रोसेसर का चुनाव ट्रेनिंग का कार्बन फ़ुटप्रिंट
लगभग 100 से 1,000 गुना तक घटा सकता है, इसलिए हार्डवेयर का चुनाव उन्हीं दूसरे फ़ैसलों के साथ होना चाहिए।

## क्या मुझे नया हार्डवेयर खरीदना चाहिए? {#should-i-buy-new-hardware}

अपने आप नहीं। Meta में Wu और उनके सहयोगियों ने बताया कि हार्डवेयर बनाने से जुड़ा embodied carbon, Meta की बड़े
पैमाने की मशीन लर्निंग के फ़ुटप्रिंट का लगभग 30% था। किसी नए एक्सेलरेटर को अपनी उम्र भर इतनी ऊर्जा बचानी चाहिए कि
उसके निर्माण की भरपाई हो सके। देखें [embodied carbon का हिसाब](/hi/कैसे/मैं-ai-हार्डवेयर-के-निर्माण-से-जुड़े-कार्बन-embodied-carbon-का-हिसाब/)।

## आम गलतियाँ {#common-mistakes}

- **बड़े एक्सेलरेटरों का कम इस्तेमाल।** कम utilisation पर चलने वाला बड़ा GPU, व्यस्त रखे गए छोटे GPU से प्रति जवाब
  ज़्यादा ऊर्जा इस्तेमाल कर सकता है; देखें [AI अनुरोधों को batch करना](/hi/कैसे/ऊर्जा-बचाने-के-लिए-मैं-ai-अनुरोधों-को-batch-में-कैसे-भेजूँ/)।
- **सिर्फ़ एक बार benchmark करना।** मॉडल, runtime या ट्रैफ़िक बदलने पर दोबारा परखें।

देखें [कुशल ट्रेनिंग और inference](/hi/अच्छी-प्रथाएँ/कुशल-ai-ट्रेनिंग-और-इन्फ़रेंस/)।

## स्रोत

- [Carbon emissions and large neural network training](https://arxiv.org/abs/2104.10350), Patterson et al. (2021)
- [Select efficient accelerators and instance types for AI workloads](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/architecture/system-topology/efficient-hardware-ai-workloads.md), Green Software Foundation, Green Software Patterns (2025)
- [Select efficient ML frameworks and inference runtimes](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/select-efficient-ml-frameworks-inference-runtimes.md), Green Software Foundation, Green Software Patterns (2025)
- [Sustainable AI: environmental implications, challenges and opportunities](https://proceedings.mlsys.org/paper_files/paper/2022/hash/462211f67c7d858f663355eff93b745e-Abstract.html), Wu et al., MLSys (2022)
