In breve
La maggior parte delle funzioni di chat rinvia al modello l'intera conversazione a ogni turno, quindi l'input cresce a ogni messaggio. Limiti il numero di turni passati che invia, riassuma quelli più vecchi in una breve nota, recuperi solo i messaggi o i documenti precedenti che contano e metta in cache i prompt di sistema fissi. Gli input lunghi costano molta più energia di quelli brevi.
Passaggi
- Registri i token di input a ogni turno, così la crescita è visibile.
- Invii parola per parola solo gli ultimi turni.
- Sostituisca i turni più vecchi con un breve riassunto aggiornato.
- Recuperi messaggi o documenti precedenti solo quando sono pertinenti alla nuova domanda.
- Usi il prompt caching per il prompt di sistema fisso e per il contesto condiviso.
Invii al modello ciò che gli serve per questo turno, non tutto ciò che è stato detto finora. Un contesto che cresce senza limiti è uno dei costi nascosti più comuni nelle funzioni di chat.
Perché è importante?
L'energia aumenta con la quantità di testo che un modello legge. Delavande, Pierrard e Luccioni hanno rilevato che l'energia cresce in modo lineare con la lunghezza del prompt e del testo generato. Epoch AI stima che una richiesta tipica di circa 0,3 Wh salga a circa 2,5 Wh con un input di 10.000 token e a quasi 40 Wh con un input di 100.000 token. Una lunga chat di assistenza che rinvia ogni turno può scivolare verso la fascia costosa senza che nessuno se ne accorga.
Come mantengo piccolo il contesto?
- Una finestra scorrevole. Conservi parola per parola gli ultimi turni.
- Un riassunto aggiornato. Ogni pochi turni, chieda a un modello piccolo (o al Suo codice) di comprimere la cronologia più vecchia in una breve nota di decisioni e fatti.
- Il recupero. Archivi i messaggi e i documenti passati e recuperi solo quelli pertinenti alla nuova domanda.
- Il prompt caching. Per le istruzioni fisse, veda come usare la cache.
- Ricominciare da capo. Offra un pulsante "nuovo argomento" che avvia un contesto pulito.
Errori comuni
- Allegare di nuovo lo stesso documento a ogni turno invece di recuperare il passaggio pertinente.
- Riassunti che perdono fatti chiave. Verifichi che le risposte restino corrette dopo il riassunto.
- Non misurare. Senza registri dei token di input, la crescita è invisibile.
Gli utenti possono fare lo stesso negli strumenti per il pubblico: veda come evitare che le lunghe chat con l'IA sprechino energia. Per altre buone abitudini, legga usare l'IA in modo efficiente.
Fonti
- How much energy does ChatGPT use?, Epoch AI (2025)
- Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
- What are tokens and how to count them?, OpenAI Help Center (2025)
Correlati
Come uso la cache per ridurre l'energia delle chiamate a un LLM?
Due tipi di cache che riducono il lavoro di un LLM: il prompt caching del fornitore per il contesto ripetuto e una cache propria per non rispondere due volte alla stessa domanda.
Come evito che le chat lunghe con l'IA sprechino energia?
Perché le conversazioni molto lunghe con l'IA costano di più a ogni messaggio, e abitudini semplici per tenerle snelle: nuove chat, brevi riepiloghi, solo l'essenziale.
Come limito la lunghezza delle risposte di un LLM?
Come gli sviluppatori possono limitare l'output di un LLM: max token, formato e lunghezza richiesti, sequenze di stop, output strutturato e risposte troncate.
Usare l'IA in modo efficiente: abitudini quotidiane
Abitudini quotidiane che riducono l'energia dell'IA: prompt chiari, meno rigenerazioni, cautela con immagini e video, caching e funzioni predefinite spente.