greenai.guide

Início › Como faço para…? › Como evito que o meu chatbot reenvie a conversa inteira?

Como faço para…?

Como evito que o meu chatbot reenvie a conversa inteira?

Atualizado · 1 min de leitura

Em resumo

A maioria das funções de chat reenvia ao modelo a conversa inteira a cada mensagem, por isso a entrada cresce a cada turno. Limite quantos turnos anteriores você envia, resuma os mais antigos numa nota curta, recupere apenas as mensagens ou documentos anteriores que importam e use cache nos prompts de sistema fixos. Entradas longas custam muito mais energia do que entradas curtas.

Passos

  1. Registre os tokens de entrada por turno para que o crescimento fique visível.
  2. Envie literalmente apenas os últimos turnos.
  3. Substitua os turnos mais antigos por um resumo curto e contínuo.
  4. Recupere mensagens ou documentos anteriores apenas quando forem relevantes para a nova pergunta.
  5. Use cache de prompts para o prompt de sistema fixo e o contexto compartilhado.

Envie ao modelo o que ele precisa para este turno, e não tudo o que já foi dito. Um contexto que cresce sem limite é um dos custos ocultos mais comuns nas funções de chat.

Por que isso importa?

A energia aumenta com a quantidade de texto que um modelo lê. Delavande, Pierrard e Luccioni concluíram que a energia cresce de forma linear com o comprimento do prompt e da geração. A Epoch AI estima que uma consulta típica de cerca de 0,3 Wh sobe para cerca de 2,5 Wh com uma entrada de 10.000 tokens e para quase 40 Wh com uma entrada de 100.000 tokens. Uma longa conversa de suporte que reenvia todos os turnos pode deslizar para o extremo caro sem que ninguém perceba.

Como mantenho o contexto pequeno?

  • Uma janela deslizante. Mantenha os últimos turnos palavra por palavra.
  • Um resumo contínuo. A cada poucos turnos, peça a um modelo pequeno (ou ao seu próprio código) que comprima o histórico antigo numa nota curta com as decisões e os fatos.
  • Recuperação. Armazene mensagens e documentos anteriores e busque apenas os relevantes para a nova pergunta.
  • Cache de prompts. Para instruções fixas, veja como usar cache.
  • Começar do zero. Ofereça um botão de "novo assunto" que inicie um contexto limpo.

Erros comuns

  • Anexar de novo o mesmo documento a cada turno em vez de recuperar o trecho relevante.
  • Resumos que perdem fatos importantes. Teste se as respostas continuam corretas depois do resumo.
  • Não medir. Sem registros dos tokens de entrada, o crescimento é invisível.

Os usuários podem fazer o mesmo em ferramentas para o público: veja como evitar que longas conversas com IA desperdicem energia. Para mais hábitos, leia use a IA de forma eficiente.

Fontes

  1. How much energy does ChatGPT use?, Epoch AI (2025)
  2. Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
  3. What are tokens and how to count them?, OpenAI Help Center (2025)

Junte-se a nós

Ajude a reduzir o impacto da IA no planeta

Receba novos guias, editais de financiamento e listagens dos diretórios por e-mail, cerca de uma vez por mês. Ou adicione seu produto, curso, doutorado ou pesquisa aos diretórios.

Sem rastreamento. Cancele a inscrição com um clique. Outras formas de participar · Privacidade