# Como uso cache para reduzir a energia das chamadas a LLMs?

> Dois tipos de cache que reduzem o trabalho dos LLMs: o cache de prompts do provedor para contexto repetido e o seu próprio cache para não responder duas vezes.

Source: https://greenai.guide/pt/como/como-uso-cache-para-reduzir-a-energia-das-chamadas-a-llms/  
Updated: 2026-11-19

## Em resumo

Use duas camadas. O cache de prompts do provedor reutiliza o processamento de um prefixo fixo, como um prompt de sistema longo ou um documento compartilhado, por isso coloque o conteúdo estável primeiro. O seu próprio cache de respostas guarda as respostas a pedidos idênticos para que o modelo não seja chamado de novo. Os dois reduzem a computação, o custo e a latência, desde que você defina prazos de expiração sensatos.

## Steps

1. Coloque o conteúdo estável, como instruções e textos de referência, no início de cada prompt.
2. Ative ou marque o cache de prompts como descreve a documentação do seu provedor.
3. Guarde em cache as respostas completas para entradas idênticas na sua própria aplicação.
4. Defina prazos de expiração que correspondam à frequência com que a resposta de fundo muda.
5. Registre as taxas de acerto do cache e os tokens de entrada para ver a economia.

**A chamada ao modelo mais barata é aquela que você não faz, e a segunda mais barata reutiliza trabalho já feito.** O
cache faz as duas coisas.

## O que é o cache de prompts? {#what-is-prompt-caching}

**O provedor guarda a forma processada do início do seu prompt e a reutiliza nas chamadas seguintes.** A
documentação da Anthropic diz que o cache de prompts "reduz significativamente o tempo de processamento e os custos"
para prompts com elementos constantes, cobra as leituras do cache a um décimo do preço normal dos tokens de entrada
e mantém o cache por cinco minutos por padrão. A OpenAI ativa o cache de prompts por padrão nos modelos suportados.
Os dois só funcionam com um prefixo idêntico, por isso a ordem importa: instruções e documentos estáveis primeiro, a
pergunta que muda por último.

## O que é o cache de respostas? {#what-is-response-caching}

**Você guarda a resposta do modelo e a devolve quando o mesmo pedido chega de novo.** Isso serve para perguntas
frequentes, classificação de itens repetidos e agentes que refazem perguntas idênticas. O padrão da Green Software
Foundation sobre orquestração de agentes recomenda cortar chamadas redundantes ao modelo e computação repetida
exatamente dessa forma.

Algumas equipes também usam caches "semânticos", que associam perguntas semelhantes em vez de idênticas. Eles
economizam mais, mas podem devolver uma resposta errada para uma pergunta sutilmente diferente, por isso teste-os
com cuidado.

## Erros comuns {#common-mistakes}

- **Colocar carimbos de data e hora ou nomes de usuário no topo** do prompt, o que quebra o prefixo e o cache.
- **Guardar em cache para sempre.** Defina uma expiração adequada à rapidez com que a resposta fica desatualizada.
- **Não medir.** Sem as taxas de acerto, você não vai saber se o cache ajuda.

Para a ideia mais ampla de reutilizar em vez de gerar de novo, leia
[orquestração em vez de geração](/pt/artigos/orquestracao-em-vez-de-geracao/).

## Fontes

- [Prompt caching](https://platform.claude.com/docs/en/build-with-claude/prompt-caching), Anthropic, Claude platform documentation (2026)
- [Prompt caching](https://developers.openai.com/api/docs/guides/prompt-caching), OpenAI API documentation (2026)
- [Optimize agent orchestration to reduce unnecessary model calls](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/optimize-agent-orchestration-reduce-model-calls.md), Green Software Foundation, Green Software Patterns (2025)
