# बहुत ज़्यादा कंप्यूट के बिना मैं किसी मॉडल को फ़ाइन-ट्यून कैसे करूँ?

> LoRA और QLoRA जैसी पैरामीटर-कुशल फ़ाइन-ट्यूनिंग से पहले से ट्रेन मॉडल को कैसे ढालें, ताकि वह एक GPU पर चल जाए और बहुत कम ऊर्जा ले।

Source: https://greenai.guide/hi/कैसे/बहुत-ज़्यादा-कंप्यूट-के-बिना-मैं-किसी-मॉडल-को-फ़ाइन-ट्यून-कैसे-करूँ/  
Updated: 2026-11-19

## संक्षेप में

पहले से ट्रेन किए गए मॉडल से शुरू करें और उसके सारे वेट्स के बजाय एक छोटा एडैप्टर ट्रेन करें, LoRA से, या 4-बिट वेट्स के साथ QLoRA से। GPT-3 की पूरी फ़ाइन-ट्यूनिंग की तुलना में LoRA ने ट्रेन होने वाले पैरामीटर 10,000 गुना और GPU मेमोरी तीन गुना घटाई, और QLoRA ने 65 अरब पैरामीटर वाले मॉडल को एक अकेले 48 GB GPU पर फ़ाइन-ट्यून किया। कुछ बड़ा सोचने से पहले नतीजे की तुलना अपने गुणवत्ता मानक से करें।

## Steps

1. फ़ाइन-ट्यूनिंग से पहले जाँचें कि क्या प्रॉम्प्टिंग या रिट्रीवल से ही आपकी ज़रूरत पूरी हो जाती है।
2. वह सबसे छोटा पहले से ट्रेन किया गया मॉडल चुनें जो आपके काम पर करीब पहुँचता हो।
3. एक LoRA एडैप्टर फ़ाइन-ट्यून करें, या मेमोरी कम हो तो QLoRA।
4. एक छोटा, साफ़, काम से जुड़ा डेटासेट इस्तेमाल करें और वैलिडेशन में सुधार रुकते ही जल्दी रोक दें।
5. उत्सर्जन ट्रैकर से ऊर्जा ट्रैक करें और उसे नतीजों के साथ दर्ज करें।

**पहले से ट्रेन किए गए मॉडल को पूरा दोबारा ट्रेन करने के बजाय उसके एक छोटे हिस्से को ढालें।** पैरामीटर-कुशल फ़ाइन-ट्यूनिंग
पूरी फ़ाइन-ट्यूनिंग का ज़्यादातर फ़ायदा कंप्यूट के एक छोटे-से हिस्से में दे देती है।

## यह क्यों मायने रखता है? {#why-does-it-matter}

पूरी फ़ाइन-ट्यूनिंग हर वेट को अपडेट करती है, जिसके लिए बड़े GPU क्लस्टर और लंबे रन चाहिए। Hu और उनके सहयोगियों ने दिखाया कि
LoRA (low-rank adaptation), जो जमे हुए (frozen) वेट्स के साथ छोटे अतिरिक्त मैट्रिक्स ट्रेन करता है, GPT-3 175B की फ़ाइन-ट्यूनिंग की
तुलना में ट्रेन होने वाले पैरामीटर 10,000 गुना और GPU मेमोरी तीन गुना घटा सकता है। Dettmers और उनके सहयोगियों का QLoRA
इसे 4-बिट वेट्स के साथ जोड़ता है, और उसने 65 अरब पैरामीटर वाले मॉडल को एक अकेले 48 GB GPU पर फ़ाइन-ट्यून किया।

## मैं यह कैसे करूँ? {#how-do-i-do-it}

1. **ज़रूरत पर सवाल उठाएँ।** फ़ाइन-ट्यूनिंग कौशल और शैली सिखाती है; बदलते रहने वाले तथ्य जोड़ने का यह खराब तरीका है। देखें
   [रिट्रीवल या फ़ाइन-ट्यूनिंग](/hi/कैसे/ऊर्जा-बचाने-के-लिए-मैं-retrieval-rag-और-फ़ाइन-ट्यूनिंग-में-से-कैसे/)।
2. **छोटे से शुरू करें।** आपके काम पर फ़ाइन-ट्यून किया गया छोटा मॉडल उस काम पर कहीं बड़े सामान्य मॉडल की बराबरी कर सकता है।
3. **एडैप्टर लाइब्रेरी इस्तेमाल करें।** लोकप्रिय ओपन-सोर्स लाइब्रेरी कुछ ही पंक्तियों के कॉन्फ़िगरेशन से LoRA और QLoRA
   सपोर्ट करती हैं।
4. **डेटा कसा हुआ रखें।** कम और साफ़ उदाहरण तेज़ी से ट्रेन होते हैं। दोहराव हटाएँ।
5. **मापें।** रन को CodeCarbon जैसे ट्रैकर में लपेटें और सटीकता के साथ ऊर्जा दर्ज करें।

## आम गलतियाँ {#common-mistakes}

- **उपलब्ध सबसे बड़े मॉडल को फ़ाइन-ट्यून करना**, किसी छोटे मॉडल को परखे बिना।
- **बिना जल्दी रोके (early stopping) लंबे रन**, जो गुणवत्ता स्थिर होने के बाद भी खर्च करते रहते हैं।
- **हर डेटा अपडेट पर दोबारा ट्रेनिंग**, रिट्रीवल इंडेक्स अपडेट करने के बजाय।

ट्रेनिंग की और तकनीकों के लिए पढ़ें [कुशल ट्रेनिंग और इन्फ़रेंस](/hi/अच्छी-प्रथाएँ/कुशल-ai-ट्रेनिंग-और-इन्फ़रेंस/)।

## स्रोत

- [LoRA: low-rank adaptation of large language models](https://arxiv.org/abs/2106.09685), Hu et al. (2021)
- [QLoRA: efficient finetuning of quantized LLMs](https://arxiv.org/abs/2305.14314), Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
- [Green Software Patterns: leverage pre-trained models and transfer learning](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/pre-trained-transfer-learning.md), Green Software Foundation (2025)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
