greenai.guide

Strona główna › Jak…? › Jak sprawić, by agenci AI nie marnowali tokenów?

Jak…?

Jak sprawić, by agenci AI nie marnowali tokenów?

Aktualizacja · Czas czytania: 1 min

W skrócie

Każdy agent powinien mieć sprawdzalny cel, który kończy przebieg, twarde limity kroków, tokenów, czasu i wydatków oraz wykrywanie pętli, które zatrzymuje go, gdy zaczyna się powtarzać. Należy przycinać kontekst przenoszony w każdym kroku, używać zwykłego kodu do decyzji, które może podjąć reguła, i kierować proste podzadania do małych modeli. Agenci mogą zużywać wielokrotnie więcej tokenów niż czat, więc te limity szybko się opłacają.

Kroki

  1. Zdefiniować test sukcesu, który kończy przebieg, gdy tylko cel zostanie osiągnięty.
  2. Ustawić twarde limity kroków, tokenów, czasu i wydatków oraz logować, gdy przebieg osiągnie któryś z nich.
  3. Wykrywać powtarzające się działania lub niemal identyczne wiadomości i zatrzymywać przebieg.
  4. Streszczać lub usuwać starą historię, aby każde wywołanie czytało mniej.
  5. Używać zwykłego kodu do decyzji opartych na regułach i małych modeli do prostych podzadań.
  6. Logować tokeny na ukończone zadanie, w tym ponowne próby i nieudane przebiegi.

Każdy agent powinien mieć limity i warunek zakończenia, zanim trafi do produkcji. Agenci wywołują model raz za razem, a każde wywołanie zwykle niesie rosnącą historię zadania.

Dlaczego to ważne?

Anthropic podał, że jego agenci zużywali zwykle około czterech razy więcej tokenów niż czat, a systemy wieloagentowe około piętnastu razy więcej. Cemri i współpracownicy przeanalizowali ponad 1600 śladów działania z siedmiu frameworków wieloagentowych i znaleźli 14 odrębnych rodzajów awarii, od złej specyfikacji zadania po agentów, którzy nie weryfikują swojej pracy. Każdy z nich to sposób na wydawanie tokenów bez uzyskania wyniku.

Jakie zabezpieczenia działają?

  • Warunek zakończenia. Wzorzec Green Software Foundation dotyczący orkiestracji agentów zaleca przerywanie pętli agentów po osiągnięciu celów, zamiast wykonywania stałej liczby iteracji.
  • Twarde limity. Obsługuje je większość frameworków; OpenAI Agents SDK ma na przykład ustawienie max_turns, które zatrzymuje przebieg po jego przekroczeniu. Limity powinny zawodzić bezpiecznie: zatrzymać i zgłosić, a nie po cichu ponawiać.
  • Wykrywanie pętli. Należy oznaczać powtarzające się wywołania narzędzi lub niemal identyczne wiadomości między agentami.
  • Przycinanie kontekstu. Dalej należy przekazywać streszczenia, a nie całe dokumenty i logi. Zob. jak przestać wysyłać całą rozmowę od nowa.
  • Pamięć podręczna (cache). Nie należy zadawać tego samego pytania dwa razy: zob. jak korzystać z pamięci podręcznej.

Co daje największą różnicę?

Najprostszy projekt, który działa. Stały skrypt lub jedno dobrze sformułowane wywołanie modelu z narzędziem często wystarcza. W następnej kolejności można dodać jednego agenta z limitem kroków, a wielu agentów tylko do szerokich, wartościowych i naprawdę równoległych zadań. Brytyjski sandpit (intensywne warsztaty badawcze, na których naukowcy i przemysł wspólnie wypracowują pomysły na projekty) o zielonej AI z 2026 roku, w którym uczestniczyli matematycy, informatycy i przedstawiciele przemysłu, wskazał roje agentów wpadających w pętle jako realne i słabo zbadane źródło marnotrawstwa.

Dowody opisano w artykule agentowa AI i marnowanie tokenów.

Źródła

  1. How we built our multi-agent research system, Anthropic (2025)
  2. Why do multi-agent LLM systems fail?, Cemri et al. (2025)
  3. Running agents (max_turns), OpenAI Agents SDK documentation (2025)
  4. Optimize agent orchestration to reduce unnecessary model calls, Green Software Foundation, Green Software Patterns (2025)

Dołącz do nas

Pomóżmy zmniejszyć wpływ AI na planetę

Nowe przewodniki, nabory wniosków i wpisy w katalogach e-mailem, mniej więcej raz w miesiącu. Można też dodać do katalogów swój produkt, kurs, ofertę studiów doktoranckich lub badania.

Bez śledzenia. Rezygnacja jednym kliknięciem. Inne sposoby dołączenia · Prywatność