greenai.guide

Strona główna › Jak…? › Jak uruchamiać zadania AI na wolnych zasobach chmury?

Jak…?

Jak uruchamiać zadania AI na wolnych zasobach chmury?

Aktualizacja · Czas czytania: 1 min

W skrócie

Dostawcy chmury tanio sprzedają wolne zasoby pod warunkiem, że mogą je odebrać z krótkim wyprzedzeniem, jako instancje spot lub preemptible. Trening, ewaluacja, inferencja wsadowa i przetwarzanie danych mogą z nich korzystać, jeśli zapisują checkpointy i czysto ponawiają pracę. Microsoft zaleca używać ich tylko do pracy odpornej na przerwania, bo przerwania mogą wprowadzać niestabilność.

Kroki

  1. Spisać obciążenia AI, które można zatrzymać i wznowić, np. trening, ewaluację i inferencję wsadową.
  2. Dodać do tych zadań regularne checkpointy i czystą logikę ponawiania.
  3. Uruchamiać je na instancjach spot lub preemptible różnych typów.
  4. Pracę interaktywną lub z krytycznym terminem zostawić na standardowych zasobach.
  5. Mierzyć, ile pracy traci się przez przerwania, i dostosować częstotliwość checkpointów.

Wolne zasoby to sprzęt, który już istnieje i jest zasilany; użycie go do elastycznej pracy pozwala lepiej go wykorzystać. Zwykle jest też znacznie tańszy, co dodatkowo przemawia za tym rozwiązaniem.

Które zadania AI się do tego nadają?

  • trening i dostrajanie (fine-tuning) z regularnymi checkpointami;
  • przeszukiwanie hiperparametrów, w którym każda próba jest niezależna;
  • ewaluacje i benchmarki;
  • inferencja wsadowa na kolejce dokumentów lub obrazów;
  • przygotowanie danych.

Wytyczne zrównoważonego rozwoju Microsoft Azure Well-Architected zalecają „używać maszyn wirtualnych Spot tylko do obciążeń odpornych na przerwania”, zauważając, że mogą one ograniczyć marnotrawstwo infrastruktury, ale mogą też wprowadzać niestabilność.

Jak uodpornić zadanie na przerwania?

  1. Zapisywać checkpointy, w tym stan optymalizatora, w rozsądnych odstępach.
  2. Sprawić, by zadanie po ponownym uruchomieniu automatycznie wznawiało pracę od ostatniego checkpointu.
  3. Dopuścić kilka typów instancji, aby harmonogram miał więcej wolnych zasobów do wyboru.
  4. Zapisywać wyniki przyrostowo, aby ukończona praca nie przepadła.

Checkpointy pozwalają też wstrzymywać zadania, gdy sieć jest brudna, jak sugeruje wzorzec Green Software Foundation dla obciążeń AI; zob. planowanie treningu na godziny czystszej sieci.

Częste błędy

  • Brak checkpointów, przez co przerwanie przekreśla godziny pracy, a energia idzie na marne.
  • Zbyt częste checkpointy, przez co zapisywanie kosztuje więcej, niż chroni.
  • Umieszczanie usług dla użytkowników na instancjach spot.

Zob. hosting i centra danych.

Źródła

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)

Dołącz do nas

Pomóżmy zmniejszyć wpływ AI na planetę

Nowe przewodniki, nabory wniosków i wpisy w katalogach e-mailem, mniej więcej raz w miesiącu. Można też dodać do katalogów swój produkt, kurs, ofertę studiów doktoranckich lub badania.

Bez śledzenia. Rezygnacja jednym kliknięciem. Inne sposoby dołączenia · Prywatność