greenai.guide

Strona główna › Jak…? › Jak sprawić, by długie czaty z AI nie marnowały energii?

Jak…?

Jak sprawić, by długie czaty z AI nie marnowały energii?

Aktualizacja · Czas czytania: 1 min

W skrócie

Należy zaczynać nowy czat przy zmianie tematu, a gdy długa rozmowa wciąż jest przydatna, poprosić o krótkie podsumowanie i kontynuować od niego w nowym czacie. Chatboty zwykle ponownie czytają dotychczasową rozmowę, aby odpowiedzieć na każdą nową wiadomość, więc bardzo długie wątki sprawiają, że każda odpowiedź kosztuje więcej, niż powinna.

Kroki

  1. Zaczynać nowy czat dla każdego nowego tematu lub zadania.
  2. Poprosić o pięciowierszowe podsumowanie, gdy długi czat dotarł do użytecznego punktu.
  3. Wkleić to podsumowanie do nowego czatu i kontynuować od niego.
  4. Usuwać z rozmowy duże wklejone dokumenty, gdy uzyskano z nich to, co potrzebne.
  5. Nie utrzymywać jednego czatu „do wszystkiego” otwartego przez tygodnie.

Długi czat drożeje z każdą wiadomością. Aby odpowiedzieć, chatbot zwykle musi przetworzyć całą dotychczasową rozmowę, a nie tylko ostatnią wiadomość. Po kilkudziesięciu wymianach i jednym czy dwóch wklejonych raportach każda nowa odpowiedź może wymagać przeczytania wielu tysięcy tokenów historii.

Jak bardzo liczy się długość danych wejściowych?

Bardzo. Epoch AI szacuje typowe zapytanie do ChatGPT na około 0,3 Wh, przy danych wejściowych liczących 10 000 tokenów na około 2,5 Wh, a przy 100 000 tokenów na prawie 40 Wh. Bardzo długi wątek z wklejonymi dokumentami może przesuwać każdą odpowiedź w stronę wyższych wartości. Niektóre usługi w tle przechowują historię w pamięci podręcznej lub ją przycinają, więc rzeczywisty koszt jest różny i rzadko publikowany.

Jak utrzymać czaty w ryzach?

  • Jeden temat, jeden czat. Odpowiedzi są wtedy też bardziej trafne, bo starszy kontekst nie rozprasza modelu.
  • Podsumowanie i nowy start. Można poprosić: „Podsumuj w pięciu wierszach, co ustaliliśmy”, a potem otworzyć nowy czat z tym podsumowaniem.
  • Wklejanie fragmentów, a nie całych plików. Gdy potrzebne informacje są już wyciągnięte, oryginał nie musi zostawać w wątku.
  • Projekty lub zapisane instrukcje, jeśli narzędzie je oferuje, dla preferencji, które inaczej trzeba by powtarzać.

Częste błędy

  • Używanie jednego ogromnego czatu jako notatnika. Notatki należy przechowywać gdzie indziej i wnosić do czatu tylko to, co istotne.
  • Wielokrotne wklejanie tego samego dokumentu w jednym wątku.
  • Założenie, że pamięć jest darmowa. Wszystko, co model musi uwzględnić, nadal trzeba przetworzyć.

Przy budowaniu narzędzi czatowych ta sama zasada obowiązuje w kodzie: zob. jak sprawić, by chatbot nie wysyłał ponownie całej rozmowy. Więcej wskazówek zawiera strona efektywne korzystanie z AI.

Źródła

  1. How much energy does ChatGPT use?, Epoch AI (2025)
  2. What are tokens and how to count them?, OpenAI Help Center (2025)

Dołącz do nas

Pomóżmy zmniejszyć wpływ AI na planetę

Nowe przewodniki, nabory wniosków i wpisy w katalogach e-mailem, mniej więcej raz w miesiącu. Można też dodać do katalogów swój produkt, kurs, ofertę studiów doktoranckich lub badania.

Bez śledzenia. Rezygnacja jednym kliknięciem. Inne sposoby dołączenia · Prywatność