संक्षेप में
ऊर्जा-कुशल AI का मतलब है वही उपयोगी नतीजा कम बिजली में पाना। सबसे बड़ी बचत आम तौर पर छोटा या किसी ख़ास काम वाला मॉडल चुनने, ज़रूरत न होने पर लंबी reasoning बंद करने, और साफ़ ग्रिड पर किसी कुशल डेटा सेंटर में चलाने से होती है; इसके बाद quantisation, distillation, routing, caching और batching जैसी तकनीकें AI की ऊर्जा को और घटाती हैं। प्रकाशित अध्ययन अलग-अलग उपायों से दसियों प्रतिशत से लेकर 90% या उससे ज़्यादा तक की बचत बताते हैं, और उन्हें मिलाने पर इससे कहीं ज़्यादा।
मुख्य बातें
- UNESCO और UCL ने पाया कि किसी ख़ास काम वाले छोटे मॉडल ऊर्जा उपयोग को 90% तक घटा सकते हैं, और छोटे prompts और जवाब इसे 50% से ज़्यादा घटा सकते हैं।
- Hugging Face के AI Energy Score परीक्षणों में reasoning मॉडलों ने सामान्य मॉडलों से औसतन 30 गुना ज़्यादा ऊर्जा इस्तेमाल की; reasoning चालू करने से एक मॉडल की ऊर्जा 150 से 700 गुना बढ़ गई।
- 2024 के एक अध्ययन में 1,000 इमेज बनाने में लगभग 2.9 kWh लगे, जबकि 1,000 टेक्स्ट वर्गीकरण में 0.002 kWh।
- Google के शोधकर्ताओं का अनुमान है कि मॉडल, डेटा सेंटर और processor का चुनाव मिलकर training के कार्बन पदचिह्न को लगभग 100 से 1,000 गुना तक घटा सकता है।
- कुशल serving मायने रखती है: vLLM के memory प्रबंधन ने उसी latency पर 2 से 4 गुना throughput दिया, और speculative decoding ने एक मॉडल को बिल्कुल वही outputs देते हुए 2 से 3 गुना तेज़ कर दिया।
- एक अध्ययन में छोटे training jobs को कम-कार्बन समय पर शुरू करने से उत्सर्जन 80% तक घटा, पर एक लंबे job के लिए 1.5% से भी कम।
ऊर्जा-कुशल AI ऐसा AI है जो आपको ज़रूरी नतीजा कम बिजली में देता है। यह पेज AI की ऊर्जा घटाने के मुख्य तरीक़े बताता है, मोटे तौर पर इस क्रम में कि वे आम तौर पर कितनी बचत करते हैं, और हर एक के पीछे के प्रकाशित आँकड़े भी।
AI से कम ऊर्जा इस्तेमाल करवाने का सबसे तेज़ तरीक़ा क्या है?
सबसे छोटा उपयुक्त मॉडल इस्तेमाल करें, और ऐसे भारी मोड चालू न करें जिनकी आपको ज़रूरत नहीं। मॉडल का चुनाव आम तौर पर हर दूसरे उपाय से भारी पड़ता है, क्योंकि ऊर्जा इस बात के साथ बढ़ती है कि हर जवाब में कितनी गणना लगती है। UNESCO और University College London (UCL) की 2025 की एक रिपोर्ट ने पाया कि किसी ख़ास काम वाले छोटे मॉडल ऊर्जा उपयोग को 90% तक घटा सकते हैं, और छोटे prompts और जवाब इसे 50% से ज़्यादा घटा सकते हैं। रिपोर्ट के अनुसार, इन उपायों को मिलाकर इस्तेमाल करने पर ऊर्जा खपत 90% तक घट सकती है।
दूसरा बड़ा उपाय जगह है। Google के शोधकर्ताओं ने 2021 में अनुमान लगाया कि मॉडल, डेटा सेंटर और processor का चुनाव मिलकर training के कार्बन पदचिह्न को लगभग 100 से 1,000 गुना तक घटा सकता है। कुशल जगहों पर चलाए गए कुशल AI मॉडल ही वह जगह हैं जहाँ ज़्यादातर फ़ायदा है।
कौन-से उपाय सबसे ज़्यादा बचाते हैं? क्रम से सूची
नीचे का क्रम प्रकाशित अध्ययनों में बचत के आम आकार को दिखाता है, सबसे बड़ी पहले। आपके अपने नतीजे काम, आपको चाहिए गुणवत्ता और काम कहाँ चलता है, इस पर निर्भर करेंगे, इसलिए पहले और बाद में मापें (देखें AI की ऊर्जा और कार्बन कैसे मापें)।
1. जिन कामों के लिए जनरेटिव AI की ज़रूरत नहीं, उनमें उसे इस्तेमाल न करें
कुछ बनाना (generation) आसान कामों से कहीं ज़्यादा महँगा है। 2024 के एक अध्ययन में Sasha Luccioni, Yacine Jernite और Emma Strubell ने इमेज बनाने को औसतन हर 1,000 इमेज पर लगभग 2.9 kWh पर मापा, जबकि हर 1,000 टेक्स्ट वर्गीकरण पर 0.002 kWh: हर अनुरोध पर हज़ार गुना से भी कहीं ज़्यादा। उन्होंने यह भी पाया कि उसी काम के लिए general-purpose जनरेटिव मॉडल, ख़ास काम वाले सिस्टमों से कई गुना (orders of magnitude) ज़्यादा महँगे हैं।
वीडियो इससे भी भारी है। खुले text-to-video मॉडलों के 2025 के एक अध्ययन ने एक मॉडल से एक छोटी क्लिप के लिए लगभग 90 Wh और एक बड़े मॉडल से 415 Wh से ज़्यादा मापे, और ऊर्जा वीडियो के आकार और लंबाई के साथ वर्गानुपात में (quadratically) बढ़ी। देखें कैसे तय करें कि किसी काम के लिए आपको AI चाहिए या नहीं और LLM की जगह classical machine learning कैसे चुनें।
2. मॉडल का आकार सही चुनें
वह सबसे छोटा मॉडल चुनें जो आपकी गुणवत्ता की कसौटी पर खरा उतरे। UNESCO–UCL के नतीजे के अलावा, cascades पर शोध दिखाता है कि कितनी गुंजाइश है: FrugalGPT, जो पहले सस्ते मॉडल आज़माता है और ज़रूरत पड़ने पर ही आगे बढ़ता है, ने 98% तक कम लागत में GPT-4 के प्रदर्शन की बराबरी की। लागत ऊर्जा नहीं है, पर hosted मॉडलों के लिए यह गणना का एक ठीक-ठाक मोटा संकेत है। देखें काम के लिए सही मॉडल चुनें, छोटा AI मॉडल कैसे चुनें और किसी ख़ास काम वाला मॉडल कैसे खोजें।
3. Reasoning मोड सिर्फ़ ज़रूरत पर इस्तेमाल करें
"सोचने" वाले मोड ऊर्जा को कई गुना कर देते हैं। 2025 के आख़िर में Hugging Face के AI Energy Score परीक्षणों ने पाया कि reasoning मॉडलों ने औसतन सामान्य मॉडलों से 30 गुना ज़्यादा ऊर्जा इस्तेमाल की, और उसी मॉडल ने reasoning बंद की तुलना में चालू होने पर 150 से 700 गुना ज़्यादा ऊर्जा इस्तेमाल की। Agents, जो एक loop में कई कॉल करते हैं, इसी तरह जुड़ते जा सकते हैं। देखें reasoning मोड सिर्फ़ ज़रूरत पर कैसे इस्तेमाल करें और agentic AI और tokens की बर्बादी।
4. कुशल हार्डवेयर, डेटा सेंटर और कम-कार्बन जगहें चुनें
काम कहाँ और किस पर चलता है, इससे उसका कार्बन कई गुना बदल सकता है। Jesse Dodge और साथियों ने पाया कि उसी BERT मॉडल की training ने सबसे कुशल cloud region में लगभग 7 kg CO₂ और सबसे कम कुशल में लगभग 26 kg छोड़ी, यानी लगभग चार गुना। हार्डवेयर भी लगातार बेहतर हो रहा है: Epoch AI का अनुमान है कि machine learning के अग्रणी चिप हर साल लगभग 40% ज़्यादा ऊर्जा-कुशल हो जाते हैं। देखें ग्रीन AI hosting और डेटा सेंटर, कम-कार्बन cloud region कैसे चुनें और AI के लिए ऊर्जा-कुशल हार्डवेयर कैसे चुनें।
5. Prompts, context और outputs छोटे करें
ऊर्जा इस बात के साथ बढ़ती है कि मॉडल कितना पढ़ता और लिखता है। Epoch AI एक आम ChatGPT query का अनुमान लगभग 0.3 Wh लगाता है, जो 10,000-token इनपुट के साथ लगभग 2.5 Wh और 100,000-token इनपुट के साथ लगभग 40 Wh तक पहुँच जाता है। लंबी बातचीत को दोबारा भेजना और लंबे जवाब माँगना इसके रोज़मर्रा के कारण हैं। देखें कम ऊर्जा वाले prompts कैसे लिखें, LLM कितना लिखे, इसकी सीमा कैसे तय करें और पूरी बातचीत दोबारा भेजना कैसे बंद करें।
6. अनुरोधों को सही मॉडल तक भेजें
आसान अनुरोध छोटे मॉडल को और कठिन अनुरोध बड़े मॉडल को भेजें। Routing पर शोध बड़ी बचत बताता है: Hybrid LLM ने जवाबों की गुणवत्ता में बिना गिरावट के बड़े मॉडल को 40% तक कम कॉल किए, और RouteLLM ने कुछ मामलों में गुणवत्ता से समझौता किए बिना लागत को दो गुने से ज़्यादा घटाया। देखें model routing कैसे सेट करें और generation से ऊपर orchestration।
7. मॉडल को quantise करें
हर संख्या को कम bits में रखें और उनसे गणना करें। Quantisation memory और डेटा की आवाजाही घटाता है, जो बड़े मॉडलों में ऊर्जा का सबसे बड़ा हिस्सा होते हैं। LLM.int8() ने पूरी precision वाला प्रदर्शन बनाए रखते हुए inference के लिए ज़रूरी memory आधी कर दी, और UNESCO–UCL रिपोर्ट ने पाया कि quantisation जैसे compression से 44% तक ऊर्जा बची। देखें मॉडल को quantise कैसे करें।
8. बड़े मॉडल को छोटे मॉडल में distil करें
एक छोटे "छात्र" मॉडल को एक बड़े "शिक्षक" की नक़ल करना सिखाएँ। Distillation से ही कई कुशल AI मॉडल बनते हैं। DistilBERT, BERT से 40% छोटा और 60% तेज़ था, और उसने उसकी भाषा समझने की क्षमता का 97% बनाए रखा। देखें बड़े मॉडल को छोटे मॉडल में distil कैसे करें।
9. Pruning करें और sparsity का फ़ायदा उठाएँ
वे weights हटाएँ जिनकी मॉडल को ज़रूरत नहीं। SparseGPT ने दिखाया कि बहुत बड़े भाषा मॉडलों को एक ही बार में, बिना दोबारा training के, सटीकता में बहुत कम नुक़सान के साथ कम से कम 50% sparsity तक prune किया जा सकता है। ऊर्जा की बचत इस पर निर्भर है कि सॉफ़्टवेयर और हार्डवेयर शून्यों को छोड़ सकते हैं या नहीं, इसलिए व्यवहार में pruning, बताई गई sparsity से कम बचाता है। देखें neural network को prune कैसे करें।
10. Cache, batch और कुशलता से serve करें
काम दोहराने से बचें और हार्डवेयर को व्यस्त रखें। Serving सॉफ़्टवेयर मायने रखता है: vLLM के paged KV cache प्रबंधन ने उसी latency पर throughput 2 से 4 गुना बढ़ाया, और speculative decoding ने T5-XXL को बिल्कुल वही outputs देते हुए 2 से 3 गुना तेज़ कर दिया। Providers दोबारा इस्तेमाल की क़ीमत उसी हिसाब से रखते हैं: OpenAI का Batch API सामान्य अनुरोधों से 50% सस्ता है, और Anthropic cache किए गए prompt को पढ़ने के लिए सामान्य इनपुट क़ीमत का 10% लेता है। देखें LLM कॉल को cache कैसे करें, AI अनुरोधों को batch कैसे करें, speculative decoding कैसे इस्तेमाल करें और मॉडल serve करने की ऊर्जा कैसे घटाएँ।
11. लचीले काम को साफ़ समय पर चलाएँ
Carbon-aware scheduling उत्सर्जन घटाती है, ऊर्जा नहीं, और छोटे, लचीले jobs के लिए सबसे अच्छा काम करती है। Dodge और साथियों के अध्ययन में एक छोटे training job की शुरुआत को कम-कार्बन समय तक टालने से एक अमेरिकी region में उत्सर्जन 80% तक घटा, पर एक लंबे job के लिए 1.5% से भी कम; एक लंबे job को रोककर फिर चलाने से लगभग 25% तक बचत हुई। देखें ग्रिड ज़्यादा ग्रीन होने पर training कैसे चलाएँ और carbon-aware computing।
ऊर्जा-कुशल AI के उपाय एक नज़र में
यह तालिका उपायों का, उन्हें कौन इस्तेमाल कर सकता है, और स्रोतों में बताई गई बचत का सार देती है। आँकड़े अलग-अलग आधार वाले अलग-अलग अध्ययनों से हैं, इसलिए इन्हें पैमाने का संकेत मानें, जोड़े जा सकने वाले कुल आँकड़े नहीं।
| उपाय | कौन इस्तेमाल कर सकता है | बताई गई आम बचत | स्रोत |
|---|---|---|---|
| जनरेटिव मॉडल की जगह ख़ास काम वाला मॉडल | Developers, संगठन | वर्गीकरण जैसे कामों के लिए कई गुना (orders of magnitude) | Luccioni, Jernite और Strubell, 2024 |
| छोटा, ख़ास काम वाला मॉडल | उपयोगकर्ता, developers | 90% तक ऊर्जा | UNESCO और UCL, 2025 |
| ज़रूरत न हो तो reasoning बंद | उपयोगकर्ता, developers | एक मॉडल के लिए 150–700 गुना कम; मॉडलों में औसतन 30 गुना | Hugging Face AI Energy Score, 2025 |
| मॉडल, डेटा सेंटर और processor मिलकर | Developers, संगठन | लगभग 100–1,000 गुना तक कम कार्बन (training) | Patterson et al., Google, 2021 |
| कम-कार्बन cloud region | Developers, संगठन | सबसे अच्छे और सबसे बुरे region के बीच लगभग 3.7 गुना | Dodge et al., 2022 |
| छोटे prompts और जवाब | उपयोगकर्ता, developers | 50% से ज़्यादा ऊर्जा | UNESCO और UCL, 2025 |
| Routing | Developers | बड़े मॉडल को 40% तक कम कॉल | Ding et al., 2024 |
| Quantisation | Developers | 44% तक ऊर्जा; आधी memory | UNESCO और UCL, 2025; Dettmers et al., 2022 |
| Distillation | Developers | 40% छोटा, 60% तेज़, 97% क्षमता बरक़रार | Sanh et al., 2019 |
| Pruning | Developers | कम से कम 50% weights हटाए गए | Frantar और Alistarh, 2023 |
| कुशल serving और batching | Developers | 2–4 गुना throughput | Kwon et al., 2023 |
| Speculative decoding | Developers | 2–3 गुना तेज़, वही outputs | Leviathan et al., 2022 |
| Carbon-aware शुरुआती समय | Developers, शोधकर्ता | 80% तक (छोटे jobs); 1.5% से कम (लंबे jobs) | Dodge et al., 2022 |
| Parameter-efficient fine-tuning (LoRA) | Developers, शोधकर्ता | 10,000 गुना कम trainable parameters, 3 गुना कम GPU memory | Hu et al., 2021 |
उपयोगकर्ता AI की ऊर्जा कैसे घटा सकते हैं?
हल्के विकल्प चुनें और कम माँगें। ज़्यादातर लोग डेटा सेंटर नहीं बदल सकते, पर वे यह बदल सकते हैं कि वे क्या माँगते हैं:
- रोज़मर्रा के कामों के लिए तेज़ या "mini" मॉडल इस्तेमाल करें, और सबसे बड़े मॉडल और reasoning मोड कठिन समस्याओं के लिए बचाकर रखें।
- अनुरोध साफ़ रखें और छोटे जवाब माँगें; बहुत लंबी chat को जारी रखने की जगह नई chat शुरू करें।
- बार-बार दोबारा जवाब बनवाने से बचें: इसके बजाय अनुरोध को बेहतर करें। देखें AI के जवाब बार-बार दोबारा बनवाना कैसे बंद करें।
- इमेज और वीडियो सिर्फ़ तभी बनाएँ जब उनकी ज़रूरत हो। देखें AI से इमेज और वीडियो बनाने का प्रभाव कैसे घटाएँ।
- जिन AI features का आप इस्तेमाल नहीं करते, उन्हें बंद करें। देखें AI का कुशल इस्तेमाल: रोज़मर्रा की आदतें।
पैमाने के लिए: Google ने 2025 में बताया कि एक मीडियन Gemini टेक्स्ट prompt ने 0.24 Wh इस्तेमाल की। अलग-अलग टेक्स्ट prompts छोटे हैं; कुल आँकड़े बहुत बड़ी संख्या और ऊपर बताए भारी कामों से आते हैं। देखें आम जनता के लिए गाइड।
Developers कुशल AI मॉडल और सिस्टम कैसे बना सकते हैं?
पहले आकार सही करें, फिर serving को बेहतर बनाएँ, फिर मापें। एक व्यावहारिक क्रम:
- अपने डेटा पर गुणवत्ता की कसौटी तय करें और सबसे छोटे उम्मीदवार मॉडलों को उस पर परखें।
- Routing या cascade जोड़ें, ताकि बड़ा मॉडल सिर्फ़ वही सँभाले जो छोटा नहीं सँभाल सकता।
- Quantise करें, और अगर संख्या ज़्यादा हो तो distillation पर विचार करें।
- एक कुशल runtime से serve करें: batching, paged KV cache, prompt caching और speculative decoding।
- Output की लंबाई और agent loops पर सीमा लगाएँ; देखें AI agents को tokens बर्बाद करने से कैसे रोकें।
- शुरू से training करने की जगह LoRA से fine-tune करें; देखें मॉडल को शुरू से train करने से कैसे बचें।
- पहले और बाद में हर काम की ऊर्जा मापें; देखें हर काम पर AI की ऊर्जा कैसे ट्रैक करें।
ज़्यादा जानकारी कुशल AI training और inference और कुशल AI के लिए गणित में है।
संगठन बड़े पैमाने पर AI की ऊर्जा कैसे घटा सकते हैं?
Defaults तय करें, सोच-समझकर ख़रीदें और मापें। संगठन के सबसे बड़े उपाय हैं: कौन-सा मॉडल default है, कौन-से features default रूप से चालू हैं, और कार्यभार कहाँ चलते हैं:
- अंदरूनी टूल्स में एक छोटे, तेज़ मॉडल को default बनाएँ, और बड़े मॉडल माँगने पर उपलब्ध रखें।
- Suppliers से हर काम की ऊर्जा और डेटा सेंटर के आँकड़े माँगें; देखें टिकाऊ AI ख़रीद।
- साफ़ बिजली वाले providers और regions चुनें; देखें hosting और डेटा सेंटर।
- एक नीति तय करें और कर्मचारियों को प्रशिक्षण दें; देखें ग्रीन AI नीति कैसे लिखें और कर्मचारियों को AI का कुशल इस्तेमाल कैसे सिखाएँ।
- एक आधार-रेखा (baseline) और लक्ष्य तय करें; देखें AI की ऊर्जा बचत के लिए baseline कैसे तय करें।
क्या ऊर्जा-कुशल AI कुल ऊर्जा उपयोग घटाता है?
तभी, जब कुल इस्तेमाल दक्षता में सुधार से तेज़ न बढ़े। Google ने बताया कि उसके मीडियन Gemini prompt की ऊर्जा एक साल में 33 गुना गिरी, फिर भी दुनिया भर में डेटा सेंटरों का बिजली उपयोग बढ़ता जा रहा है, क्योंकि इस्तेमाल उससे तेज़ बढ़ रहा है। यही रिबाउंड प्रभाव है। दक्षता हर काम की लागत घटाती है; पर्याप्तता पूछती है कि क्या उस काम को करने की ज़रूरत है। दोनों चाहिए, जैसा कि दक्षता काफ़ी नहीं है समझाता है, और दक्षता से हुए फ़ायदों को बेअसर होने से कैसे रोकें व्यावहारिक क़दम बताता है। बड़ी तस्वीर के लिए देखें AI और डेटा सेंटरों की बिजली माँग और AI ऊर्जा के आँकड़े।
आगे क्या करें
- परखें कि क्या कोई छोटा मॉडल आपकी गुणवत्ता की कसौटी पर खरा उतरता है, और अगर हाँ, तो उस पर चले जाएँ।
- जहाँ ज़रूरत न हो, वहाँ reasoning, इमेज और वीडियो मोड default रूप से बंद रखें।
- असली संख्या वाले हर AI feature में caching, batching और routing जोड़ें।
- नए कार्यभारों के लिए कम-कार्बन region और कुशल provider चुनें।
- हर बदलाव से पहले और बाद में हर काम की ऊर्जा मापें, और नतीजा बताएँ।
- consultants निर्देशिका में मदद खोजें या courses के ज़रिए और जानें।
अक्सर पूछे जाने वाले सवाल
ऊर्जा-कुशल AI क्या है?
यह ऐसा AI है जो आपको ज़रूरी नतीजा कम बिजली में देता है, छोटे या ज़्यादा उपयुक्त मॉडलों, हल्के सॉफ़्टवेयर, कुशल हार्डवेयर और डेटा सेंटरों के ज़रिए, और AI को सिर्फ़ वहीं इस्तेमाल करके जहाँ वह फ़ायदा जोड़े। यह ग्रीन AI का हिस्सा है, जो यह भी पूछता है कि कुल इस्तेमाल समझदारी भरा है या नहीं।
मैं AI का ऊर्जा उपयोग कैसे घटा सकता/सकती हूँ?
उपयोगकर्ता के रूप में, छोटा या तेज़ मॉडल चुनें, prompts और माँगे गए जवाब छोटे रखें, बार-बार दोबारा जवाब बनवाने से बचें और reasoning या इमेज व वीडियो मोड सिर्फ़ ज़रूरत पर इस्तेमाल करें। developer के रूप में, मॉडल का आकार सही चुनें, फिर quantisation, routing, caching और batching जोड़ें, और कम-कार्बन region में चलाएँ।
क्या छोटे AI मॉडल ज़्यादा ऊर्जा-कुशल होते हैं?
आम तौर पर, उन कामों के लिए जो वे अच्छी तरह कर सकते हैं। UNESCO और UCL बताते हैं कि किसी ख़ास काम वाले छोटे मॉडल उपयुक्त कामों पर ऊर्जा उपयोग को 90% तक घटा सकते हैं। अपने काम पर गुणवत्ता जाँचें: जिस छोटे मॉडल को कई बार दोबारा चलाना पड़े, वह शायद कुछ भी न बचाए।
क्या quantisation से ऊर्जा बचती है?
आम तौर पर हाँ, क्योंकि मॉडल कम डेटा इधर-उधर करता है और उसे कम memory चाहिए। UNESCO और UCL, quantisation जैसे model compression से 44% तक की बचत बताते हैं, और LLM.int8() ने inference के लिए ज़रूरी memory आधी कर दी। बचत इस पर निर्भर है कि हार्डवेयर कम precision को support करता है या नहीं।
कौन-सा AI सबसे ज़्यादा ऊर्जा इस्तेमाल करता है?
वीडियो बनाना, फिर इमेज बनाना और लंबे reasoning या agent वाले काम। 2025 के एक अध्ययन में एक खुले मॉडल ने एक छोटी वीडियो क्लिप के लिए लगभग 90 Wh और एक बड़े मॉडल ने 415 Wh से ज़्यादा इस्तेमाल किए, और reasoning मॉडलों ने औसतन सामान्य मॉडलों से लगभग 30 गुना ज़्यादा ऊर्जा इस्तेमाल की।
क्या दक्षता सच में AI का कुल ऊर्जा उपयोग घटाती है?
अपने-आप नहीं। सस्ता और तेज़ AI ज़्यादा इस्तेमाल होने लगता है, यही रिबाउंड प्रभाव है। दक्षता हर काम की ऊर्जा घटाती है; कुल को कम रखने के लिए पर्याप्तता भी चाहिए, यानी AI वहीं इस्तेमाल करना जहाँ वह इसके लायक़ हो।
क्या AI providers prompt caching और batch processing से ऊर्जा बचाते हैं?
वे दोहराए जाने वाले काम से बचते हैं, इसीलिए इसके लिए कम पैसे लेते हैं: OpenAI batch jobs पर 50% छूट देता है, और कई providers पर cache किया गया इनपुट सामान्य दर का लगभग दसवाँ हिस्सा पड़ता है। क़ीमतें बचाई गई गणना का मोटा संकेत हैं, ऊर्जा का माप नहीं।
स्रोत
- AI large language models: new report shows small changes can reduce energy use by 90%, UNESCO and University College London (2025)
- AI Energy Score v2: refreshed leaderboard, now with reasoning, Hugging Face (Luccioni and Gamazaychikov) (2025)
- Power hungry processing: watts driving the cost of AI deployment?, Luccioni, Jernite and Strubell (FAccT 2024) (2024)
- Video killed the energy budget: characterizing the latency and power regimes of open text-to-video models, Delavande, Pierrard and Luccioni (2025)
- How much energy does ChatGPT use?, Epoch AI (2025)
- Carbon emissions and large neural network training, Patterson et al., Google (2021)
- Good news about the carbon footprint of machine learning training, Google Research (2022)
- Measuring the carbon intensity of AI in cloud instances, Dodge et al. (FAccT 2022) (2022)
- Measuring the environmental impact of delivering AI at Google scale, Elsworth et al., Google (2025)
- DistilBERT, a distilled version of BERT, Sanh et al., Hugging Face (2019)
- LLM.int8(): 8-bit matrix multiplication for transformers at scale, Dettmers et al. (2022)
- SparseGPT: massive language models can be accurately pruned in one-shot, Frantar and Alistarh (2023)
- FrugalGPT: how to use large language models while reducing cost and improving performance, Chen, Zaharia and Zou (2023)
- Hybrid LLM: cost-efficient and quality-aware query routing, Ding et al. (2024)
- RouteLLM: learning to route LLMs with preference data, Ong et al. (2024)
- Efficient memory management for large language model serving with PagedAttention, Kwon et al. (2023)
- Fast inference from transformers via speculative decoding, Leviathan, Kalman and Matias (2022)
- LoRA: low-rank adaptation of large language models, Hu et al. (2021)
- Batch API, OpenAI (2026)
- Prompt caching, Anthropic (2026)
- Leading ML hardware becomes 40% more energy-efficient each year, Epoch AI (2024)
संबंधित
काम के हिसाब से सही मॉडल चुनें
AI को सही आकार कैसे दें: छोटे या विशेष मॉडल कब चुनें, बड़ा फ्रंटियर मॉडल कब अपनी लागत वसूलता है, रूटिंग कैसे काम करती है और AI कब न इस्तेमाल करें।
कुशल AI ट्रेनिंग और इन्फ़रेंस
डेवलपरों और शोधकर्ताओं के लिए AI की ऊर्जा घटाने की तकनीकें: प्रूनिंग, स्पार्सिटी, क्वांटाइज़ेशन, डिस्टिलेशन, KV कैश, बैचिंग, मिक्स्ड प्रिसिज़न और शेड्यूलिंग।
AI का कुशल उपयोग: रोज़ की आदतें
AI के उपयोग की ऊर्जा घटाने वाली रोज़ की आदतें: साफ़ prompt, कम बार दोबारा बनवाना, इमेज और वीडियो में सावधानी, caching और डिफ़ॉल्ट फ़ीचर बंद करना।
दक्षता ही पर्याप्तता नहीं है: AI में रिबाउंड प्रभाव
AI को ज़्यादा कुशल बनाना यह गारंटी क्यों नहीं देता कि वह कुल मिलाकर कम ऊर्जा इस्तेमाल करेगा, रिबाउंड या Jevons प्रभाव क्या है, और बचत को असली कैसे बनाए रखें।