greenai.guide

Strona główna › Jak…? › Jak ustalić punkt odniesienia, aby udowodnić oszczędność energii w AI?

Jak…?

Jak ustalić punkt odniesienia, aby udowodnić oszczędność energii w AI?

Aktualizacja · Czas czytania: 1 min

W skrócie

Należy zmierzyć obecny system, zanim cokolwiek się zmieni, na tym samym sprzęcie, przy tym samym obciążeniu i tych samych danych wejściowych, które będą używane później, oraz powtórzyć pomiary, aby zobaczyć normalny rozrzut. Energię trzeba podawać na jednostkę użytecznej pracy oraz łącznie, a deklarować wyłącznie oszczędność większą niż szum pomiarowy i osiągniętą bez spadku jakości.

Kroki

  1. Wybrać jednostkę funkcjonalną, na przykład energię na zapytanie lub na dokument.
  2. Kilkakrotnie zmierzyć obecny system przy stałej konfiguracji i obciążeniu, łącznie z poborem w stanie spoczynku.
  3. Zmieniać jedną rzecz naraz i ponownie mierzyć w tych samych warunkach.
  4. Przy każdym pomiarze zapisywać obok energii jakość lub skuteczność wykonania zadania.
  5. Deklarować tylko oszczędności większe niż rozrzut między pomiarami i podawać zarówno sumy, jak i wartości na jednostkę.

Oszczędność się liczy tylko wtedy, gdy zmierzono stan przed zmianą, potem zmierzono go w ten sam sposób po zmianie, a różnica jest większa niż szum. Bez punktu odniesienia deklaracja o energii jest zgadywaniem i może nie wytrzymać weryfikacji.

Co sprawia, że porównanie jest rzetelne?

  • Ta sama konfiguracja: sprzęt, region, wersje oprogramowania i ustawienia.
  • To samo obciążenie: te same zapytania, dokumenty lub dane treningowe, w tej samej ilości.
  • Kilka pomiarów: odczyty zmieniają się wraz z temperaturą, procesami w tle i skalowaniem częstotliwości. Należy podać średnią i zakres.
  • Energia, a nie tylko szybkość: w pracach nad GreenCode Constitution na silniku wnioskowania llama.cpp odnotowano spadek zużycia energii GPU o 4,7% przy wzroście szybkości o zaledwie 3%. Czas i energia mogą mówić co innego.
  • Utrzymana jakość: tańsza odpowiedź, która częściej jest błędna, nie jest oszczędnością.

Jakiej jednostki użyć w punkcie odniesienia?

Należy użyć jednostki funkcjonalnej, jak w specyfikacji SCI Green Software Foundation: na zapytanie, na dokument lub na udane zadanie. Obok trzeba podać sumę, ponieważ energia na zadanie może spadać, a łączne zużycie energii rosnąć wraz ze wzrostem użycia. Zob. śledzenie energii AI na zadanie.

Częste błędy

  • Jeden pomiar przed i jeden po. Jedna para odczytów może być szumem.
  • Zmienianie kilku rzeczy naraz, przez co nie wiadomo, co pomogło.
  • Przesuwanie punktu odniesienia, na przykład porównywanie nowego małego modelu ze starym dużym przy innym wolumenie.
  • Zaliczanie do wydajności spadków emisji wynikających wyłącznie z czystszej sieci energetycznej.

Przed opublikowaniem informacji o oszczędności warto sprawdzić ją ze stroną uczciwe deklaracje ekologiczne.

Źródła

  1. Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
  2. GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)

Dołącz do nas

Pomóżmy zmniejszyć wpływ AI na planetę

Nowe przewodniki, nabory wniosków i wpisy w katalogach e-mailem, mniej więcej raz w miesiącu. Można też dodać do katalogów swój produkt, kurs, ofertę studiów doktoranckich lub badania.

Bez śledzenia. Rezygnacja jednym kliknięciem. Inne sposoby dołączenia · Prywatność