greenai.guide

Strona główna › Jak…? › Jak oszacować zużycie energii przez moje wywołania API AI?

Jak…?

Jak oszacować zużycie energii przez moje wywołania API AI?

Aktualizacja · Czas czytania: 1 min

W skrócie

Sprzętu, którego się nie kontroluje, nie da się opomiarować, więc należy szacować: rejestrować tokeny wejściowe i wyjściowe każdego wywołania i użyć narzędzia takiego jak EcoLogits, które opakowuje klienta AI i podaje szacowaną energię i emisje na zapytanie. Wartości należy oznaczać jako szacunki, podawać metodę i zastępować je danymi dostawcy, gdy tylko będą dostępne.

Kroki

  1. Dla każdego wywołania należy rejestrować model, tokeny wejściowe i wyjściowe, z oznaczeniem funkcji, która je wykonała.
  2. Klienta AI należy opakować estymatorem takim jak EcoLogits, aby uzyskać energię i emisje na zapytanie.
  3. Szacunek należy zapisywać obok opóźnienia i kosztu w logach lub na pulpitach.
  4. Przy każdym wydaniu należy przeglądać najbardziej energochłonne funkcje i prompty.
  5. Należy poprosić dostawcę o zmierzone dane i podstawić je, gdy będą dostępne.

Należy szacować na podstawie tokenów, rejestrować wynik dla każdego wywołania i jasno zaznaczać, że to szacunek. Hostowane usługi AI nie dają licznika energii, więc energochłonne funkcje i marnotrawne prompty pozostają niewidoczne, dopóki samemu nie wyliczy się liczby.

Dlaczego tokeny?

Energia rośnie wraz z tym, ile model czyta i pisze. Oddolny szacunek Epoch AI określa typowe zapytanie do ChatGPT na ok. 0,3 Wh, a przy wejściu o długości 10 000 tokenów na ok. 2,5 Wh i przy 100 000 tokenów na prawie 40 Wh. Własne logi tokenów mówią więc znacznie więcej niż jakakolwiek ogólna średnia.

Jakiego narzędzia użyć?

Wytyczne samego CodeCarbon wyznaczają granicę: CodeCarbon służy do kodu działającego na sprzęcie, którym się zarządza, a EcoLogits do wywołań zdalnych usług generatywnej AI. EcoLogits opakowuje biblioteki klienckie popularnych dostawców AI i zwraca szacowaną energię i wpływ na globalne ocieplenie dla każdego zapytania, na podstawie modelu i liczby tokenów.

Co zapisywać przy każdym szacunku?

  • model i jego wersję oraz wersję narzędzia użytego do szacowania;
  • tokeny wejściowe i wyjściowe;
  • funkcję lub proces, który wykonał wywołanie;
  • to, czy wywołanie się powiodło, aby liczyć energię na udane zadanie.

Częste błędy

  • Traktowanie szacunków jak pomiarów. Rozmiary modeli i sprzęt stojące za zamkniętymi modelami są często przyjmowane z założenia. Należy podać przedział i to zaznaczyć.
  • Pomijanie ponownych prób i pętli agentów. Jedno zapytanie użytkownika może wywołać wiele wywołań; zob. śledzenie energii na zadanie.
  • Niepytanie dostawcy. Zob. jak zapytać firmę AI o dane o zużyciu energii.

Więcej o metodach i granicach na stronie jak mierzyć energię AI.

Źródła

  1. EcoLogits documentation, EcoLogits (2025)
  2. When to use CodeCarbon, CodeCarbon (2025)
  3. How much energy does ChatGPT use?, Epoch AI (2025)

Dołącz do nas

Pomóżmy zmniejszyć wpływ AI na planetę

Nowe przewodniki, nabory wniosków i wpisy w katalogach e-mailem, mniej więcej raz w miesiącu. Można też dodać do katalogów swój produkt, kurs, ofertę studiów doktoranckich lub badania.

Bez śledzenia. Rezygnacja jednym kliknięciem. Inne sposoby dołączenia · Prywatność