# Jak sprawić, by chatbot nie wysyłał ponownie całej rozmowy?

> Jak utrzymać mały kontekst chatbota: ograniczyć liczbę dawnych wymian, streszczać starsze wiadomości, wyszukiwać to, co istotne, i buforować stałe prompty.

Source: https://greenai.guide/pl/jak/jak-sprawic-by-chatbot-nie-wysylal-ponownie-calej-rozmowy/  
Updated: 2026-11-19

## W skrócie

Większość funkcji czatu przy każdej wymianie wysyła do modelu całą rozmowę, więc dane wejściowe rosną z każdą wiadomością. Należy ograniczyć liczbę wysyłanych wcześniejszych wymian, streszczać starsze w krótką notatkę, wyszukiwać tylko te wcześniejsze wiadomości lub dokumenty, które mają znaczenie, oraz buforować stałe prompty systemowe. Długie dane wejściowe kosztują znacznie więcej energii niż krótkie.

## Steps

1. Rejestrować liczbę tokenów wejściowych w każdej wymianie, aby wzrost był widoczny.
2. Wysyłać dosłownie tylko kilka ostatnich wymian.
3. Zastępować starsze wymiany krótkim, bieżąco aktualizowanym podsumowaniem.
4. Wyszukiwać wcześniejsze wiadomości lub dokumenty tylko wtedy, gdy są istotne dla nowego pytania.
5. Stosować buforowanie promptów (prompt caching) dla stałego promptu systemowego i wspólnego kontekstu.

**Model powinien dostawać to, czego potrzebuje w danej wymianie, a nie wszystko, co kiedykolwiek powiedziano.**
Kontekst rosnący bez ograniczeń to jeden z najczęstszych ukrytych kosztów funkcji czatu.

## Dlaczego to ważne? {#why-does-it-matter}

Zużycie energii rośnie wraz z ilością tekstu, którą model czyta. Delavande, Pierrard i Luccioni ustalili, że energia
rośnie liniowo wraz z długością promptu i generowanej odpowiedzi. Epoch AI szacuje, że typowe zapytanie, zużywające
około 0,3 Wh, przy danych wejściowych liczących 10 000 tokenów zużywa około 2,5 Wh, a przy 100 000 tokenów prawie
40 Wh. Długi czat z obsługą klienta, który za każdym razem wysyła całą historię, może niepostrzeżenie zbliżać się do
drogiego końca tej skali.

## Jak utrzymać mały kontekst? {#how-do-i-keep-context-small}

- **Przesuwane okno.** Kilka ostatnich wymian należy zachować słowo w słowo.
- **Bieżące podsumowanie.** Co kilka wymian można poprosić mały model (lub własny kod) o skompresowanie starszej
  historii do krótkiej notatki z decyzjami i faktami.
- **Wyszukiwanie.** Należy przechowywać wcześniejsze wiadomości i dokumenty, a pobierać tylko te istotne dla nowego
  pytania.
- **Buforowanie promptów.** Dla stałych instrukcji zob. [jak korzystać z pamięci podręcznej](/pl/jak/jak-uzyc-cache-aby-zmniejszyc-zuzycie-energii-przez-wywolania-llm/).
- **Nowy start.** Warto udostępnić przycisk „nowy temat”, który rozpoczyna czysty kontekst.

## Częste błędy {#common-mistakes}

- **Dołączanie tego samego dokumentu przy każdej wymianie** zamiast wyszukiwania istotnego fragmentu.
- **Podsumowania gubiące kluczowe fakty.** Należy sprawdzić, czy po streszczeniu odpowiedzi pozostają poprawne.
- **Brak pomiarów.** Bez rejestrów tokenów wejściowych wzrost jest niewidoczny.

Użytkownicy mogą robić to samo w narzędziach konsumenckich: zob.
[jak sprawić, by długie czaty z AI nie marnowały energii](/pl/jak/jak-sprawic-by-dlugie-czaty-z-ai-nie-marnowaly-energii/). Więcej nawyków
opisuje strona [efektywne korzystanie z AI](/pl/dobre-praktyki/efektywne-korzystanie-z-ai-codzienne-nawyki/).

## Źródła

- [How much energy does ChatGPT use?](https://epoch.ai/gradient-updates/how-much-energy-does-chatgpt-use), Epoch AI (2025)
- [Small talk, big impact: the energy cost of thanking AI](https://arxiv.org/abs/2601.22357), Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
- [What are tokens and how to count them?](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), OpenAI Help Center (2025)
