# Jak dostroić model bez ogromnej mocy obliczeniowej?

> Jak dostosować wytrenowany model metodami dostrajania efektywnego parametrycznie, takimi jak LoRA i QLoRA, by zmieścił się na jednym GPU i zużył znacznie mniej energii.

Source: https://greenai.guide/pl/jak/jak-dostroic-model-bez-ogromnej-mocy-obliczeniowej/  
Updated: 2026-11-19

## W skrócie

Należy zacząć od wytrenowanego wcześniej modelu i trenować mały adapter zamiast wszystkich wag, korzystając z LoRA lub z QLoRA z wagami 4-bitowymi. LoRA zmniejszyła liczbę trenowanych parametrów 10 000 razy, a pamięć GPU trzy razy w porównaniu z pełnym dostrajaniem GPT-3, a QLoRA pozwoliła dostroić model o 65 mld parametrów na jednym GPU 48 GB. Zanim rozważy się coś większego, należy porównać wynik z wymaganym poziomem jakości.

## Steps

1. Przed dostrajaniem należy sprawdzić, czy odpowiedni prompt lub wyszukiwanie (retrieval) nie wystarczą.
2. Warto wybrać najmniejszy wytrenowany model, który jest bliski celu w danym zadaniu.
3. Należy dostroić adapter LoRA, a przy ograniczonej pamięci QLoRA.
4. Warto użyć małego, czystego zbioru danych dla konkretnego zadania i przerwać trening, gdy wynik walidacji przestaje się poprawiać.
5. Energię należy śledzić narzędziem do pomiaru emisji i zapisywać ją razem z wynikami.

**Lepiej dostosować małą część wytrenowanego modelu, niż trenować go od nowa w całości.** Dostrajanie efektywne
parametrycznie daje większość korzyści pełnego dostrajania przy niewielkim ułamku obliczeń.

## Dlaczego to ma znaczenie? {#why-does-it-matter}

Pełne dostrajanie aktualizuje każdą wagę, co wymaga dużych klastrów GPU i długich przebiegów. Hu i współpracownicy
wykazali, że LoRA (adaptacja niskiego rzędu), która trenuje małe dodatkowe macierze obok zamrożonych wag, może
zmniejszyć liczbę trenowanych parametrów 10 000 razy, a pamięć GPU trzy razy w porównaniu z dostrajaniem GPT-3 175B.
QLoRA Dettmersa i współpracowników łączy to z wagami 4-bitowymi i pozwoliła dostroić model o 65 mld parametrów na
jednym GPU 48 GB.

## Jak to zrobić? {#how-do-i-do-it}

1. **Należy zakwestionować potrzebę.** Dostrajanie uczy umiejętności i stylu. To słaby sposób na dodawanie faktów,
   które się zmieniają. Zobacz [wyszukiwanie czy dostrajanie](/pl/jak/jak-wybrac-miedzy-wyszukiwaniem-rag-a-dostrajaniem-aby-oszczedzac/).
2. **Warto zacząć od małego modelu.** Mały model dostrojony do zadania może w tym zadaniu dorównać znacznie
   większemu modelowi ogólnemu.
3. **Należy użyć biblioteki adapterów.** Popularne biblioteki open source obsługują LoRA i QLoRA za pomocą kilku
   linii konfiguracji.
4. **Dane powinny być zwięzłe.** Mniej, ale czystszych przykładów trenuje się szybciej. Należy usunąć duplikaty.
5. **Należy mierzyć.** Przebieg można objąć narzędziem takim jak CodeCarbon i zapisywać energię obok dokładności.

## Częste błędy {#common-mistakes}

- **Dostrajanie największego dostępnego modelu** przed przetestowaniem mniejszego.
- **Długie przebiegi bez wczesnego zatrzymania**, które zużywają zasoby, gdy jakość już się ustabilizowała.
- **Ponowne trenowanie przy każdej aktualizacji danych** zamiast aktualizacji indeksu wyszukiwania.

Więcej technik trenowania opisuje strona [efektywne trenowanie i wnioskowanie](/pl/dobre-praktyki/efektywne-trenowanie-i-inferencja-ai/).

## Źródła

- [LoRA: low-rank adaptation of large language models](https://arxiv.org/abs/2106.09685), Hu et al. (2021)
- [QLoRA: efficient finetuning of quantized LLMs](https://arxiv.org/abs/2305.14314), Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
- [Green Software Patterns: leverage pre-trained models and transfer learning](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/pre-trained-transfer-learning.md), Green Software Foundation (2025)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
