W skrócie
Należy wybrać jednostkę funkcjonalną, która odpowiada wartości dostarczanej przez AI, na przykład na streszczony dokument lub na udane zadanie, i podzielić przez nią zużytą energię. Energię na jednostkę, jakość na jednostkę i sumę warto śledzić obok siebie. Wartości na jednostkę pokazują, czy system staje się wydajniejszy; suma pokazuje, czy wzrost użycia nie wyprzedza tej poprawy.
Kroki
- Wybrać jednostkę funkcjonalną, przedkładając udane zadanie nad pojedyncze wywołanie.
- Oznaczać każde wywołanie modelu zadaniem, do którego należy, łącznie z ponownymi i nieudanymi próbami.
- Podzielić energię, zmierzoną lub oszacowaną, przez liczbę dostarczonych jednostek.
- Śledzić jakość lub odsetek sukcesów dla tych samych jednostek.
- Co miesiąc podawać razem wartości na jednostkę i sumy.
Sumy rosną wraz ze wzrostem użycia i ukrywają wydajność; wartości na zadanie ją pokazują. Śledzenie obu mówi, czy sytuacja się poprawia i czy to wystarcza.
Jaką jednostkę wybrać?
| Jednostka | Dobra do | Na co uważać |
|---|---|---|
| Na wywołanie | Prostego rejestrowania | Ukrywa ponowne próby i pętle agentów |
| Na zapytanie lub odpowiedź | Funkcji czatu i wyszukiwania | Nie pokazuje, czy odpowiedź była przydatna |
| Na dokument, zgłoszenie lub obraz | Przetwarzania wsadowego | Dokumenty różnią się rozmiarem |
| Na udane zadanie | Agentów i procesów | Wymaga jasnego kryterium sukcesu |
Zwykle najlepsza jest jednostka „na udane zadanie”, bo jedno zapytanie użytkownika może obejmować wiele wywołań. Anthropic podał, że jego agenci zużywali zwykle około cztery razy więcej tokenów niż zwykłe rozmowy na czacie, a systemy wieloagentowe około piętnaście razy więcej.
Dlaczego warto śledzić też sumę?
Luccioni, Strubell i Crawford ostrzegają, że wzrost wydajności AI może zostać zniwelowany przez rosnące użycie, czyli efekt odbicia. Jeśli energia na zadanie spadnie o połowę, a liczba zadań się potroi, suma i tak wzrośnie. Z tego powodu specyfikacja SCI Green Software Foundation jest wskaźnikiem na jednostkę funkcjonalną, ale obok niej nadal należy podawać wartość bezwzględną.
Częste błędy
- Liczenie tylko udanych wywołań, przez co nieudane próby znikają z danych.
- Zmienianie jednostek między raportami.
- Raportowanie wydajności bez jakości. Tańsze zadanie, które częściej się nie udaje, nie jest poprawą.
Zob. jak zapobiec niwelowaniu wzrostu wydajności oraz jak mierzyć energię AI.
Źródła
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- How we built our multi-agent research system, Anthropic (2025)
- From efficiency gains to rebound effects: the problem of Jevons' paradox in AI's polarized environmental debate, Luccioni, Strubell and Crawford, ACM FAccT (2025)
Powiązane
Jak obliczyć wskaźnik Software Carbon Intensity dla funkcji AI?
Jak wyliczyć wskaźnik SCI dla funkcji AI: energia razy intensywność emisji sieci, plus emisje wbudowane, podzielone przez jednostkę funkcjonalną.
Jak oszacować zużycie energii przez moje wywołania API AI?
Hostowanego API AI nie da się opomiarować, ale energię na wywołanie można oszacować z liczby tokenów i założeń o modelu za pomocą EcoLogits.
Jak nie dopuścić, by wzrost wydajności AI zniwelował większy poziom jej używania?
Jak sprawić, by oszczędności z wydajności AI nie zniknęły przez rosnące użycie: śledzić sumy, ustalać budżety lub limity, wycofywać zwolnione zasoby i pytać o potrzebę.
Jak mierzyć zużycie energii i emisje AI
Praktyczny przewodnik po pomiarze lub szacowaniu energii i emisji AI: narzędzia, granice systemu, wskaźniki na zadanie i uczciwa niepewność.