W skrócie
Sprzętu, którego się nie kontroluje, nie da się opomiarować, więc należy szacować: rejestrować tokeny wejściowe i wyjściowe każdego wywołania i użyć narzędzia takiego jak EcoLogits, które opakowuje klienta AI i podaje szacowaną energię i emisje na zapytanie. Wartości należy oznaczać jako szacunki, podawać metodę i zastępować je danymi dostawcy, gdy tylko będą dostępne.
Kroki
- Dla każdego wywołania należy rejestrować model, tokeny wejściowe i wyjściowe, z oznaczeniem funkcji, która je wykonała.
- Klienta AI należy opakować estymatorem takim jak EcoLogits, aby uzyskać energię i emisje na zapytanie.
- Szacunek należy zapisywać obok opóźnienia i kosztu w logach lub na pulpitach.
- Przy każdym wydaniu należy przeglądać najbardziej energochłonne funkcje i prompty.
- Należy poprosić dostawcę o zmierzone dane i podstawić je, gdy będą dostępne.
Należy szacować na podstawie tokenów, rejestrować wynik dla każdego wywołania i jasno zaznaczać, że to szacunek. Hostowane usługi AI nie dają licznika energii, więc energochłonne funkcje i marnotrawne prompty pozostają niewidoczne, dopóki samemu nie wyliczy się liczby.
Dlaczego tokeny?
Energia rośnie wraz z tym, ile model czyta i pisze. Oddolny szacunek Epoch AI określa typowe zapytanie do ChatGPT na ok. 0,3 Wh, a przy wejściu o długości 10 000 tokenów na ok. 2,5 Wh i przy 100 000 tokenów na prawie 40 Wh. Własne logi tokenów mówią więc znacznie więcej niż jakakolwiek ogólna średnia.
Jakiego narzędzia użyć?
Wytyczne samego CodeCarbon wyznaczają granicę: CodeCarbon służy do kodu działającego na sprzęcie, którym się zarządza, a EcoLogits do wywołań zdalnych usług generatywnej AI. EcoLogits opakowuje biblioteki klienckie popularnych dostawców AI i zwraca szacowaną energię i wpływ na globalne ocieplenie dla każdego zapytania, na podstawie modelu i liczby tokenów.
Co zapisywać przy każdym szacunku?
- model i jego wersję oraz wersję narzędzia użytego do szacowania;
- tokeny wejściowe i wyjściowe;
- funkcję lub proces, który wykonał wywołanie;
- to, czy wywołanie się powiodło, aby liczyć energię na udane zadanie.
Częste błędy
- Traktowanie szacunków jak pomiarów. Rozmiary modeli i sprzęt stojące za zamkniętymi modelami są często przyjmowane z założenia. Należy podać przedział i to zaznaczyć.
- Pomijanie ponownych prób i pętli agentów. Jedno zapytanie użytkownika może wywołać wiele wywołań; zob. śledzenie energii na zadanie.
- Niepytanie dostawcy. Zob. jak zapytać firmę AI o dane o zużyciu energii.
Więcej o metodach i granicach na stronie jak mierzyć energię AI.
Źródła
- EcoLogits documentation, EcoLogits (2025)
- When to use CodeCarbon, CodeCarbon (2025)
- How much energy does ChatGPT use?, Epoch AI (2025)
Powiązane
Jak śledzić zużycie energii przez AI na zadanie, a nie tylko łącznie?
Należy wybrać jednostkę funkcjonalną, na przykład na dokument lub na udane zadanie, rejestrować względem niej energię i jakość i podawać ją obok sumy.
Jak zapytać firmę AI o dane o zużyciu energii?
O co pytać dostawcę AI w sprawie energii, emisji i wody na zapytanie, jak ocenić odpowiedź i dlaczego pytanie pomaga, nawet gdy odpowiedź jest niepełna.
Jak obliczyć wskaźnik Software Carbon Intensity dla funkcji AI?
Jak wyliczyć wskaźnik SCI dla funkcji AI: energia razy intensywność emisji sieci, plus emisje wbudowane, podzielone przez jednostkę funkcjonalną.
Jak mierzyć zużycie energii i emisje AI
Praktyczny przewodnik po pomiarze lub szacowaniu energii i emisji AI: narzędzia, granice systemu, wskaźniki na zadanie i uczciwa niepewność.