W skrócie
Należy zmierzyć obecny system, zanim cokolwiek się zmieni, na tym samym sprzęcie, przy tym samym obciążeniu i tych samych danych wejściowych, które będą używane później, oraz powtórzyć pomiary, aby zobaczyć normalny rozrzut. Energię trzeba podawać na jednostkę użytecznej pracy oraz łącznie, a deklarować wyłącznie oszczędność większą niż szum pomiarowy i osiągniętą bez spadku jakości.
Kroki
- Wybrać jednostkę funkcjonalną, na przykład energię na zapytanie lub na dokument.
- Kilkakrotnie zmierzyć obecny system przy stałej konfiguracji i obciążeniu, łącznie z poborem w stanie spoczynku.
- Zmieniać jedną rzecz naraz i ponownie mierzyć w tych samych warunkach.
- Przy każdym pomiarze zapisywać obok energii jakość lub skuteczność wykonania zadania.
- Deklarować tylko oszczędności większe niż rozrzut między pomiarami i podawać zarówno sumy, jak i wartości na jednostkę.
Oszczędność się liczy tylko wtedy, gdy zmierzono stan przed zmianą, potem zmierzono go w ten sam sposób po zmianie, a różnica jest większa niż szum. Bez punktu odniesienia deklaracja o energii jest zgadywaniem i może nie wytrzymać weryfikacji.
Co sprawia, że porównanie jest rzetelne?
- Ta sama konfiguracja: sprzęt, region, wersje oprogramowania i ustawienia.
- To samo obciążenie: te same zapytania, dokumenty lub dane treningowe, w tej samej ilości.
- Kilka pomiarów: odczyty zmieniają się wraz z temperaturą, procesami w tle i skalowaniem częstotliwości. Należy podać średnią i zakres.
- Energia, a nie tylko szybkość: w pracach nad GreenCode Constitution na silniku wnioskowania llama.cpp odnotowano spadek zużycia energii GPU o 4,7% przy wzroście szybkości o zaledwie 3%. Czas i energia mogą mówić co innego.
- Utrzymana jakość: tańsza odpowiedź, która częściej jest błędna, nie jest oszczędnością.
Jakiej jednostki użyć w punkcie odniesienia?
Należy użyć jednostki funkcjonalnej, jak w specyfikacji SCI Green Software Foundation: na zapytanie, na dokument lub na udane zadanie. Obok trzeba podać sumę, ponieważ energia na zadanie może spadać, a łączne zużycie energii rosnąć wraz ze wzrostem użycia. Zob. śledzenie energii AI na zadanie.
Częste błędy
- Jeden pomiar przed i jeden po. Jedna para odczytów może być szumem.
- Zmienianie kilku rzeczy naraz, przez co nie wiadomo, co pomogło.
- Przesuwanie punktu odniesienia, na przykład porównywanie nowego małego modelu ze starym dużym przy innym wolumenie.
- Zaliczanie do wydajności spadków emisji wynikających wyłącznie z czystszej sieci energetycznej.
Przed opublikowaniem informacji o oszczędności warto sprawdzić ją ze stroną uczciwe deklaracje ekologiczne.
Źródła
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)
Powiązane
Jak śledzić zużycie energii przez AI na zadanie, a nie tylko łącznie?
Należy wybrać jednostkę funkcjonalną, na przykład na dokument lub na udane zadanie, rejestrować względem niej energię i jakość i podawać ją obok sumy.
Jak wyznaczyć cele dotyczące zużycia energii i emisji przez AI?
Jak wyznaczyć sensowne cele dla energii i emisji AI: zmierzony punkt odniesienia, cele względne i bezwzględne razem oraz regularny przegląd.
Jak składać uczciwe deklaracje o ekologiczności naszej AI?
Jak opisywać wpływ AI na środowisko bez greenwashingu: konkretne, zmierzone i porównywalne deklaracje z punktem odniesienia, metodą i ograniczeniami.
Uczciwe deklaracje ekologiczne dotyczące AI
Jak uniknąć greenwashingu w sprawie AI: co wolno deklarować, a czego nie, efekt odbicia, uczciwe raportowanie oraz przepisy Wielkiej Brytanii, UE i USA.