Kurz gesagt
Die meisten Chat-Funktionen senden bei jeder Runde das ganze Gespräch erneut an das Modell, sodass die Eingabe mit jeder Nachricht wächst. Begrenzen Sie, wie viele frühere Runden Sie senden, fassen Sie ältere zu einer kurzen Notiz zusammen, rufen Sie nur die früheren Nachrichten oder Dokumente ab, die wichtig sind, und cachen Sie feste System-Prompts. Lange Eingaben kosten weit mehr Energie als kurze.
Schritte
- Protokollieren Sie die Eingabe-Tokens pro Runde, damit das Wachstum sichtbar wird.
- Senden Sie nur die letzten paar Runden im Wortlaut.
- Ersetzen Sie ältere Runden durch eine kurze, laufend aktualisierte Zusammenfassung.
- Rufen Sie frühere Nachrichten oder Dokumente nur ab, wenn sie für die neue Frage relevant sind.
- Nutzen Sie Prompt-Caching für den festen System-Prompt und gemeinsamen Kontext.
Senden Sie dem Modell, was es für diese Runde braucht, nicht alles, was je gesagt wurde. Unbegrenzt wachsender Kontext ist einer der häufigsten versteckten Kostenfaktoren in Chat-Funktionen.
Warum ist das wichtig?
Der Energieverbrauch steigt mit der Textmenge, die ein Modell liest. Delavande, Pierrard und Luccioni stellten fest, dass der Energieverbrauch linear mit der Länge von Prompt und Ausgabe wächst. Epoch AI schätzt, dass eine typische Anfrage von rund 0,3 Wh bei einer Eingabe von 10.000 Tokens auf etwa 2,5 Wh und bei einer Eingabe von 100.000 Tokens auf fast 40 Wh steigt. Ein langer Support-Chat, der jede Runde erneut sendet, kann unbemerkt ans teure Ende rutschen.
Wie halte ich den Kontext klein?
- Ein gleitendes Fenster. Behalten Sie die letzten paar Runden im Wortlaut.
- Eine laufende Zusammenfassung. Lassen Sie nach jeweils einigen Runden ein kleines Modell (oder Ihren eigenen Code) den älteren Verlauf zu einer kurzen Notiz mit Entscheidungen und Fakten verdichten.
- Retrieval. Speichern Sie frühere Nachrichten und Dokumente und rufen Sie nur die ab, die für die neue Frage relevant sind.
- Prompt-Caching. Für feste Anweisungen siehe wie Sie Caching nutzen.
- Neu anfangen. Bieten Sie eine Schaltfläche „Neues Thema“ an, die mit einem leeren Kontext beginnt.
Häufige Fehler
- Dasselbe Dokument bei jeder Runde erneut anhängen, statt die relevante Passage abzurufen.
- Zusammenfassungen, die wichtige Fakten verlieren. Testen Sie, ob die Antworten nach dem Zusammenfassen richtig bleiben.
- Nicht messen. Ohne Logs der Eingabe-Tokens bleibt das Wachstum unsichtbar.
Nutzerinnen und Nutzer können in Verbraucher-Tools dasselbe tun: siehe wie Sie verhindern, dass lange KI-Chats Energie verschwenden. Weitere Gewohnheiten finden Sie unter KI effizient nutzen.
Quellen
- How much energy does ChatGPT use?, Epoch AI (2025)
- Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
- What are tokens and how to count them?, OpenAI Help Center (2025)
Verwandte Themen
Wie senke ich mit Caching den Energieverbrauch von LLM-Aufrufen?
Zwei Arten von Caching, die LLM-Arbeit sparen: Prompt-Caching beim Anbieter für wiederholten Kontext und Ihr eigener Cache gegen doppelte Antworten.
Wie verhindere ich, dass lange KI-Chats Energie verschwenden?
Warum sehr lange KI-Chats mit jeder Nachricht teurer werden und wie Sie sie schlank halten: neue Chats, kurze Zusammenfassungen und nur Wichtiges einfügen.
Wie begrenze ich, wie viel ein LLM schreibt?
So begrenzen Entwickler die LLM-Ausgabe: Max-Tokens setzen, Format und Länge vorgeben, Stoppsequenzen und strukturierte Ausgabe nutzen, Abbrüche abfangen.
KI effizient nutzen: Gewohnheiten für den Alltag
Alltagsgewohnheiten, die den Energieverbrauch bei der KI-Nutzung senken: klare Prompts, weniger Neugenerieren, Maß bei Bildern und Videos, Caching, Abschalten.