# Jak zmniejszyć zużycie energii przy przeszukiwaniu hiperparametrów?

> Jak stroić modele mniejszym nakładem obliczeń: mądrzejsze przeszukiwanie niż pełna siatka, wczesne przerywanie słabych prób, małe pilotaże i budżet.

Source: https://greenai.guide/pl/jak/jak-zmniejszyc-zuzycie-energii-przy-przeszukiwaniu-hiperparametrow/  
Updated: 2026-11-19

## W skrócie

Zamiast dużego przeszukiwania siatki należy stosować przeszukiwanie losowe lub adaptacyjne, wcześnie przerywać słabe próby, najpierw prowadzić pilotaże na małych danych lub małych modelach i zaczynać od opublikowanych ustawień domyślnych dla danej architektury. Energię należy śledzić dla każdej próby, a nie tylko dla zwycięskiej, i ustalić budżet obliczeniowy przed rozpoczęciem. Przebiegi strojenia często kosztują więcej niż końcowe trenowanie i rzadko są raportowane.

## Steps

1. Przed rozpoczęciem ustalić budżet obliczeniowy na przeszukiwanie.
2. Zacząć od opublikowanych domyślnych hiperparametrów dla danej rodziny modeli.
3. Stosować przeszukiwanie losowe lub adaptacyjne zamiast pełnej siatki.
4. Wcześnie przerywać próby, które są wyraźnie gorsze od dotychczas najlepszej.
5. Przed skalowaniem przeprowadzić pilotaż na podzbiorze danych lub mniejszym modelu.
6. Zapisywać energię i emisje każdej próby razem z dokładnością.

**Należy stroić mądrzej, a nie szerzej.** Pełna siatka wielu hiperparametrów mnoży koszt trenowania przez liczbę
kombinacji, a większość tych przebiegów już na wczesnym etapie jest wyraźnie gorsza.

## Dlaczego to ważne? {#why-does-it-matter}

Artykuł Strubell, Ganesha i McCalluma z 2019 roku określił ilościowo koszt opracowywania modeli językowych, w tym
towarzyszących temu eksperymentów, a nie tylko jednego końcowego trenowania. Schwartz i współpracownicy w pracy
„Green AI” argumentowali, że badacze powinni podawać koszt obliczeniowy swoich wyników, w tym eksperymentów
potrzebnych do ich osiągnięcia, tak aby wydajność była ceniona na równi z dokładnością.

## Co daje największą różnicę? {#what-makes-the-biggest-difference}

- **Wczesne przerywanie słabych prób.** Metody typu successive halving dają każdej próbie mały budżet i kontynuują
  tylko obiecujące. Obsługuje to większość bibliotek do strojenia.
- **Przeszukiwanie losowe lub adaptacyjne.** Zamiast uruchamiać każdą kombinację, można losować ustawienia albo
  pozwolić metodzie adaptacyjnej wybierać kolejną próbę na podstawie wcześniejszych wyników.
- **Małe pilotaże.** Pomysły można odrzucać na podzbiorze danych lub mniejszym modelu.
- **Najpierw ustawienia domyślne.** Dobrze przetestowane ustawienia domyślne dla popularnych architektur są często
  bliskie optymalnym.
- **Śledzenie każdej próby.** Dokumentacja CodeCarbon pokazuje, jak śledzić każdą konfigurację i porównywać
  dokładność z emisjami.

## Częste błędy {#common-mistakes}

- **Raportowanie tylko najlepszego przebiegu.** Wszystkie próby należy wliczyć do łącznego nakładu obliczeń; zob.
  [jak raportować zużycie energii w badaniach](/pl/jak/jak-raportowac-zuzycie-energii-w-moich-badaniach-nad-ai/).
- **Strojenie na pełnym zbiorze danych od pierwszego dnia.**
- **Brak budżetu.** Bez niego przeszukiwanie rozrasta się, aż zajmie cały klaster. Zob.
  [jak ustalić budżet obliczeniowy](/pl/jak/jak-ustalic-budzet-obliczeniowy-dla-projektu-badawczego/).

Więcej w [przewodniku dla badaczy](/pl/poradniki/zielona-ai-dla-naukowcow/).

## Źródła

- [Energy and policy considerations for deep learning in NLP](https://arxiv.org/abs/1906.02243), Strubell, Ganesh and McCallum, ACL (2019)
- [Green AI](https://doi.org/10.1145/3381831), Schwartz, Dodge, Smith and Etzioni, Communications of the ACM (2020)
- [Comparing model efficiency with carbon tracking](https://docs.codecarbon.io/latest/tutorials/comparing-model-efficiency/), CodeCarbon documentation (2025)
