Em resumo
A maioria das funções de chat reenvia ao modelo a conversa inteira a cada mensagem, por isso a entrada cresce a cada turno. Limite quantos turnos anteriores você envia, resuma os mais antigos numa nota curta, recupere apenas as mensagens ou documentos anteriores que importam e use cache nos prompts de sistema fixos. Entradas longas custam muito mais energia do que entradas curtas.
Passos
- Registre os tokens de entrada por turno para que o crescimento fique visível.
- Envie literalmente apenas os últimos turnos.
- Substitua os turnos mais antigos por um resumo curto e contínuo.
- Recupere mensagens ou documentos anteriores apenas quando forem relevantes para a nova pergunta.
- Use cache de prompts para o prompt de sistema fixo e o contexto compartilhado.
Envie ao modelo o que ele precisa para este turno, e não tudo o que já foi dito. Um contexto que cresce sem limite é um dos custos ocultos mais comuns nas funções de chat.
Por que isso importa?
A energia aumenta com a quantidade de texto que um modelo lê. Delavande, Pierrard e Luccioni concluíram que a energia cresce de forma linear com o comprimento do prompt e da geração. A Epoch AI estima que uma consulta típica de cerca de 0,3 Wh sobe para cerca de 2,5 Wh com uma entrada de 10.000 tokens e para quase 40 Wh com uma entrada de 100.000 tokens. Uma longa conversa de suporte que reenvia todos os turnos pode deslizar para o extremo caro sem que ninguém perceba.
Como mantenho o contexto pequeno?
- Uma janela deslizante. Mantenha os últimos turnos palavra por palavra.
- Um resumo contínuo. A cada poucos turnos, peça a um modelo pequeno (ou ao seu próprio código) que comprima o histórico antigo numa nota curta com as decisões e os fatos.
- Recuperação. Armazene mensagens e documentos anteriores e busque apenas os relevantes para a nova pergunta.
- Cache de prompts. Para instruções fixas, veja como usar cache.
- Começar do zero. Ofereça um botão de "novo assunto" que inicie um contexto limpo.
Erros comuns
- Anexar de novo o mesmo documento a cada turno em vez de recuperar o trecho relevante.
- Resumos que perdem fatos importantes. Teste se as respostas continuam corretas depois do resumo.
- Não medir. Sem registros dos tokens de entrada, o crescimento é invisível.
Os usuários podem fazer o mesmo em ferramentas para o público: veja como evitar que longas conversas com IA desperdicem energia. Para mais hábitos, leia use a IA de forma eficiente.
Fontes
- How much energy does ChatGPT use?, Epoch AI (2025)
- Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
- What are tokens and how to count them?, OpenAI Help Center (2025)
Relacionados
Como uso cache para reduzir a energia das chamadas a LLMs?
Dois tipos de cache que reduzem o trabalho dos LLMs: o cache de prompts do provedor para contexto repetido e o seu próprio cache para não responder duas vezes.
Como evito que conversas longas com a IA desperdicem energia?
Por que conversas muito longas com a IA custam mais a cada mensagem e hábitos simples para mantê-las enxutas: novos chats, resumos curtos e colar só o necessário.
Como limito o quanto um LLM escreve?
Como limitar a saída de um LLM: definir o máximo de tokens, pedir um formato e um tamanho, usar sequências de parada e saída estruturada e tratar respostas cortadas.
Use a IA com eficiência: hábitos do dia a dia
Hábitos do dia a dia que reduzem a energia do uso da IA: prompts claros, menos ciclos de regeneração, cuidado com imagens e vídeo, cache e desativar padrões.