greenai.guide

होम › मैं कैसे…? › बहुत ज़्यादा कंप्यूट के बिना मैं किसी मॉडल को फ़ाइन-ट्यून कैसे करूँ?

मैं कैसे…?

बहुत ज़्यादा कंप्यूट के बिना मैं किसी मॉडल को फ़ाइन-ट्यून कैसे करूँ?

अपडेट किया गया · 3 मिनट में पढ़ें

संक्षेप में

पहले से ट्रेन किए गए मॉडल से शुरू करें और उसके सारे वेट्स के बजाय एक छोटा एडैप्टर ट्रेन करें, LoRA से, या 4-बिट वेट्स के साथ QLoRA से। GPT-3 की पूरी फ़ाइन-ट्यूनिंग की तुलना में LoRA ने ट्रेन होने वाले पैरामीटर 10,000 गुना और GPU मेमोरी तीन गुना घटाई, और QLoRA ने 65 अरब पैरामीटर वाले मॉडल को एक अकेले 48 GB GPU पर फ़ाइन-ट्यून किया। कुछ बड़ा सोचने से पहले नतीजे की तुलना अपने गुणवत्ता मानक से करें।

चरण

  1. फ़ाइन-ट्यूनिंग से पहले जाँचें कि क्या प्रॉम्प्टिंग या रिट्रीवल से ही आपकी ज़रूरत पूरी हो जाती है।
  2. वह सबसे छोटा पहले से ट्रेन किया गया मॉडल चुनें जो आपके काम पर करीब पहुँचता हो।
  3. एक LoRA एडैप्टर फ़ाइन-ट्यून करें, या मेमोरी कम हो तो QLoRA।
  4. एक छोटा, साफ़, काम से जुड़ा डेटासेट इस्तेमाल करें और वैलिडेशन में सुधार रुकते ही जल्दी रोक दें।
  5. उत्सर्जन ट्रैकर से ऊर्जा ट्रैक करें और उसे नतीजों के साथ दर्ज करें।

पहले से ट्रेन किए गए मॉडल को पूरा दोबारा ट्रेन करने के बजाय उसके एक छोटे हिस्से को ढालें। पैरामीटर-कुशल फ़ाइन-ट्यूनिंग पूरी फ़ाइन-ट्यूनिंग का ज़्यादातर फ़ायदा कंप्यूट के एक छोटे-से हिस्से में दे देती है।

यह क्यों मायने रखता है?

पूरी फ़ाइन-ट्यूनिंग हर वेट को अपडेट करती है, जिसके लिए बड़े GPU क्लस्टर और लंबे रन चाहिए। Hu और उनके सहयोगियों ने दिखाया कि LoRA (low-rank adaptation), जो जमे हुए (frozen) वेट्स के साथ छोटे अतिरिक्त मैट्रिक्स ट्रेन करता है, GPT-3 175B की फ़ाइन-ट्यूनिंग की तुलना में ट्रेन होने वाले पैरामीटर 10,000 गुना और GPU मेमोरी तीन गुना घटा सकता है। Dettmers और उनके सहयोगियों का QLoRA इसे 4-बिट वेट्स के साथ जोड़ता है, और उसने 65 अरब पैरामीटर वाले मॉडल को एक अकेले 48 GB GPU पर फ़ाइन-ट्यून किया।

मैं यह कैसे करूँ?

  1. ज़रूरत पर सवाल उठाएँ। फ़ाइन-ट्यूनिंग कौशल और शैली सिखाती है; बदलते रहने वाले तथ्य जोड़ने का यह खराब तरीका है। देखें रिट्रीवल या फ़ाइन-ट्यूनिंग।
  2. छोटे से शुरू करें। आपके काम पर फ़ाइन-ट्यून किया गया छोटा मॉडल उस काम पर कहीं बड़े सामान्य मॉडल की बराबरी कर सकता है।
  3. एडैप्टर लाइब्रेरी इस्तेमाल करें। लोकप्रिय ओपन-सोर्स लाइब्रेरी कुछ ही पंक्तियों के कॉन्फ़िगरेशन से LoRA और QLoRA सपोर्ट करती हैं।
  4. डेटा कसा हुआ रखें। कम और साफ़ उदाहरण तेज़ी से ट्रेन होते हैं। दोहराव हटाएँ।
  5. मापें। रन को CodeCarbon जैसे ट्रैकर में लपेटें और सटीकता के साथ ऊर्जा दर्ज करें।

आम गलतियाँ

  • उपलब्ध सबसे बड़े मॉडल को फ़ाइन-ट्यून करना, किसी छोटे मॉडल को परखे बिना।
  • बिना जल्दी रोके (early stopping) लंबे रन, जो गुणवत्ता स्थिर होने के बाद भी खर्च करते रहते हैं।
  • हर डेटा अपडेट पर दोबारा ट्रेनिंग, रिट्रीवल इंडेक्स अपडेट करने के बजाय।

ट्रेनिंग की और तकनीकों के लिए पढ़ें कुशल ट्रेनिंग और इन्फ़रेंस।

स्रोत

  1. LoRA: low-rank adaptation of large language models, Hu et al. (2021)
  2. QLoRA: efficient finetuning of quantized LLMs, Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
  3. Green Software Patterns: leverage pre-trained models and transfer learning, Green Software Foundation (2025)
  4. CodeCarbon, CodeCarbon (2026)
मैं कैसे…?

बिना शुरू से ट्रेनिंग किए मैं अपना AI मॉडल कैसे बनाऊँ?

अपना मॉडल शुरू से pre-train करने के बजाय मौजूदा मॉडल दोबारा कैसे इस्तेमाल करें: फ़ाइन-ट्यून करें, LoRA से ढालें, फ़ाइन-ट्यून मॉडल मिलाएँ या retrieval से ज्ञान जोड़ें।

मैं कैसे…?

ऊर्जा बचाने के लिए मैं retrieval (RAG) और फ़ाइन-ट्यूनिंग में से कैसे चुनूँ?

Retrieval (RAG) कब और फ़ाइन-ट्यूनिंग कब: बदलते तथ्यों के लिए retrieval, कौशल और शैली के लिए फ़ाइन-ट्यूनिंग, और दोनों को उलझाने से ऊर्जा क्यों बर्बाद होती है।

मैं कैसे…?

मैं किसी मॉडल की ट्रेनिंग का कार्बन फ़ुटप्रिंट कैसे मापूँ?

CodeCarbon जैसे टूल से ट्रेनिंग रन की ऊर्जा ट्रैक करें, उसे स्थानीय ग्रिड की कार्बन तीव्रता से गुणा करें, और हार्डवेयर, समय और जगह बताएँ।

अच्छी प्रैक्टिस

कुशल AI ट्रेनिंग और इन्फ़रेंस

डेवलपरों और शोधकर्ताओं के लिए AI की ऊर्जा घटाने की तकनीकें: प्रूनिंग, स्पार्सिटी, क्वांटाइज़ेशन, डिस्टिलेशन, KV कैश, बैचिंग, मिक्स्ड प्रिसिज़न और शेड्यूलिंग।

हमसे जुड़ें

धरती पर AI का असर घटाने में मदद करें

नई गाइड, फ़ंडिंग कॉल और निर्देशिका लिस्टिंग ईमेल से पाएँ, लगभग महीने में एक बार। या निर्देशिकाओं में अपना प्रोडक्ट, कोर्स, PhD या शोध जोड़ें।

कोई ट्रैकिंग नहीं। एक क्लिक में सदस्यता छोड़ें। जुड़ने के दूसरे तरीके · गोपनीयता