संक्षेप में
असली उदाहरणों पर तय करें कि "काफ़ी अच्छा" का मतलब क्या है, फिर सबसे छोटे से सबसे बड़े तक मॉडल परखें और पहले पास होने वाले पर रुक जाएँ। छोटे और खास काम के लिए बने मॉडल बड़े सामान्य मॉडलों की ऊर्जा का एक छोटा-सा हिस्सा इस्तेमाल कर सकते हैं: UNESCO और University College London उपयुक्त कामों पर 90% तक की बचत बताते हैं।
चरण
- काम और पास होने का मानक लिखें, जैसे जवाबों का कितना हिस्सा सही होना चाहिए।
- परखने के लिए 20 से 50 असली उदाहरण इकट्ठा करें।
- पहले सबसे छोटा या "mini" मॉडल आज़माएँ, फिर तभी ऊपर जाएँ जब वह मानक पर फ़ेल हो।
- जहाँ उपलब्ध हों, AI Energy Score जैसी सार्वजनिक ऊर्जा रेटिंग देखें।
- उन मामलों के लिए एक बड़ा मॉडल रखें जिन्हें छोटा मॉडल नहीं संभाल पाता।
- मॉडल या आपका काम बदलने पर दोबारा परखें।
वह सबसे छोटा मॉडल इस्तेमाल करें जो आपके गुणवत्ता मानक पर खरा उतरे, न कि उपलब्ध सबसे सक्षम मॉडल। एक बड़ा सामान्य मॉडल हर अनुरोध पर उन क्षमताओं की कीमत चुकाता है जिनकी आपके काम को शायद कभी ज़रूरत ही न पड़े।
मॉडल का आकार इतना मायने क्यों रखता है?
आम तौर पर यह ऊर्जा पर असर डालने वाला सबसे बड़ा अकेला कारक है। Luccioni, Jernite और Strubell ने पाया कि उन्हीं कामों के लिए बहु-उद्देश्यीय जनरेटिव मॉडल खास काम के लिए बने सिस्टमों की तुलना में चलाने में कई गुना (orders of magnitude) महँगे हैं। UNESCO और University College London ने पाया कि खास कामों के लिए बने छोटे मॉडल ऊर्जा की खपत 90% तक घटा सकते हैं।
मैं विकल्पों को कैसे परखूँ?
- अपने ही काम पर मानक तय करें, उदाहरण के लिए "98% बार इनवॉइस की कुल राशि सही निकालता है"।
- पहले छोटा परखें। कई प्रोवाइडर "mini", "lite" या "flash" संस्करण देते हैं; open-weight मॉडल परिवार कई आकारों में आते हैं।
- पहले पास होने वाले पर रुक जाएँ। सीमित कामों के लिए बड़ा मॉडल अपने आप ज़्यादा सटीक नहीं होता।
- सिर्फ़ कीमत नहीं, ऊर्जा की भी तुलना करें। Hugging Face का AI Energy Score आम कामों के लिए प्रति सवाल ऊर्जा के आधार पर open मॉडलों को एक से पाँच स्टार देता है; देखें AI Energy Score रेटिंग कैसे पढ़ें।
रोज़मर्रा के उपयोगकर्ताओं पर भी यही विचार लागू होता है: आसान सवालों के लिए अपने चैटबॉट में तेज़ या हल्का विकल्प चुनें।
आम गलतियाँ
- अपने उदाहरणों पर परखने के बजाय प्रतिष्ठा के आधार पर चुनना।
- प्रति सफलता नहीं, प्रति कॉल लागत मापना। बहुत छोटा मॉडल जो फ़ेल हो जाए और बड़े मॉडल पर दोबारा चलाना पड़े, कुल मिलाकर ज़्यादा महँगा पड़ सकता है।
- कभी दोबारा न देखना। छोटे मॉडल तेज़ी से बेहतर होते हैं; हर कुछ महीनों में दोबारा परखें।
हर अनुरोध को अपने आप सही आकार के मॉडल तक भेजने के लिए देखें अनुरोधों को छोटे मॉडलों तक भेजें। पूरा तरीका सही मॉडल चुनें में है।
स्रोत
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- AI Energy Score, Hugging Face (2025)
संबंधित
काम के हिसाब से सही मॉडल चुनें
AI को सही आकार कैसे दें: छोटे या विशेष मॉडल कब चुनें, बड़ा फ्रंटियर मॉडल कब अपनी लागत वसूलता है, रूटिंग कैसे काम करती है और AI कब न इस्तेमाल करें।
सामान्य चैटबॉट के बजाय किसी खास काम के लिए बना मॉडल मैं कैसे खोजूँ?
वर्गीकरण, जानकारी निकालने या अनुवाद जैसे एक काम के लिए बना छोटा मॉडल कैसे खोजें, और जाँचें कि वह कम ऊर्जा में सामान्य चैटबॉट की बराबरी करता है।
मैं अनुरोधों को छोटे मॉडलों की ओर कैसे भेजूँ (मॉडल रूटिंग)?
रोज़मर्रा के अनुरोध छोटे मॉडल को और सिर्फ़ कठिन अनुरोध बड़े मॉडल को कैसे भेजें, और राउटर को कैसे ट्यून करें ताकि दोबारा कोशिशें बचत न खा जाएँ।
मैं अलग-अलग AI मॉडलों की ऊर्जा खपत की तुलना कैसे करूँ?
AI मॉडलों की ऊर्जा की निष्पक्ष तुलना कैसे करें: AI Energy Score जैसे benchmark इस्तेमाल करें, या उसी काम, हार्डवेयर और सेटिंग्स पर उन्हें खुद मापें।