greenai.guide

Strona główna › Jak…? › Jak zmniejszyć ślad eksperymentów z AI na klastrze badawczym?

Jak…?

Jak zmniejszyć ślad eksperymentów z AI na klastrze badawczym?

Aktualizacja · Czas czytania: 1 min

W skrócie

Należy zacząć od pomiaru: wiele klastrów rejestruje energię każdego zadania w harmonogramie Slurm, a CodeCarbon lub kalkulator Green Algorithms mogą uzupełnić luki. Następnie należy zamawiać tylko tyle GPU, pamięci i czasu, ile potrzeba, testować pomysły na małą skalę, zapisywać checkpointy w długich zadaniach i planować elastyczne zadania na godziny czystszej sieci. Energię należy raportować dla całych projektów, a nie tylko dla końcowych uruchomień.

Kroki

  1. Sprawdzić, czy klaster rejestruje energię zadań, np. w polu ConsumedEnergy w Slurm.
  2. Zamawiać tylko tyle GPU, pamięci i czasu, ile zadanie faktycznie potrzebuje.
  3. Przed skalowaniem eksperymentu przeprowadzić małe pilotaże.
  4. Zapisywać checkpointy w długich zadaniach, aby awarie i przerwy nie marnowały wykonanej pracy.
  5. Planować elastyczne zadania na godziny czystszej sieci, jeśli klaster na to pozwala.
  6. Raportować energię na poziomie projektu, w tym strojenie i nieudane uruchomienia.

We współdzielonych klastrach łatwo zapomnieć o energii, bo nikt nie widzi rachunku. Jednak każde nadmiarowo zamówione GPU i porzucone zadanie zużywa energię i każe innym czekać.

Jak sprawdzić, ile zużywają moje zadania?

  • sacct w Slurm może podawać ConsumedEnergy zadania, jeśli klaster ma włączone rozliczanie energii. Warto zapytać zespół obliczeń naukowych, czy jest ono włączone.
  • CodeCarbon może działać wewnątrz zadań, a jego dokumentacja opisuje też węzły obliczeniowe bez dostępu do internetu.
  • Green Algorithms, autorstwa Lannelongue, Grealey i Inouye, szacuje ślad na podstawie sprzętu, czasu działania, pamięci i lokalizacji, co sprawdza się przy wcześniejszych zadaniach.

Co daje największą różnicę

  • Zamówienia dopasowane do potrzeb. Zamówienie czterech GPU i użycie jednego zostawia trzy zarezerwowane i bezczynne.
  • Pilotaże i wczesne zatrzymywanie. Najwięcej energii idzie na eksplorację; słabe pomysły należy odrzucać wcześnie. Zob. jak ograniczyć energię przeszukiwania hiperparametrów.
  • Checkpointy, aby awarie i limity czasu nie oznaczały zaczynania od nowa.
  • Ponowne wykorzystanie wytrenowanych modeli i wspólnych zbiorów danych, zamiast przygotowywania własnych przez każdą osobę.

Brytyjski sandpit (intensywne warsztaty badawcze, na których naukowcy i przemysł wspólnie wypracowują pomysły na projekty) poświęcony zielonej AI w 2026 roku, z udziałem matematyków, informatyków i przemysłu, podkreślił też, by przed trenowaniem jakiegokolwiek modelu sprawdzić, czy problemu nie rozwiązuje już dobrze poznana metoda numeryczna.

Częste błędy

  • Traktowanie klastra jako darmowego. GPU-godziny należy śledzić jak budżet; zob. jak ustalić budżet obliczeniowy.
  • Raportowanie w publikacjach tylko końcowego uruchomienia.

Zasady GREENER autorstwa Lannelongue i współpracowników to ramy dla zespołów i instytucji. Zob. przewodnik dla badaczy.

Źródła

  1. Slurm sacct manual (ConsumedEnergy), SchedMD (2025)
  2. Using CodeCarbon on SLURM, CodeCarbon documentation (2025)
  3. Green Algorithms: quantifying the carbon footprint of computation, Lannelongue, Grealey and Inouye, Advanced Science (2021)
  4. GREENER principles for environmentally sustainable computational science, Lannelongue et al., Nature Computational Science (2023)

Dołącz do nas

Pomóżmy zmniejszyć wpływ AI na planetę

Nowe przewodniki, nabory wniosków i wpisy w katalogach e-mailem, mniej więcej raz w miesiącu. Można też dodać do katalogów swój produkt, kurs, ofertę studiów doktoranckich lub badania.

Bez śledzenia. Rezygnacja jednym kliknięciem. Inne sposoby dołączenia · Prywatność