Em resumo
Gerar cada resposta, linha de código ou imagem do zero com um modelo grande é a forma mais cara de usar a IA. A orquestração usa a IA para planejar e selecionar e, depois, monta o resultado com componentes testados e direciona cada etapa ao modelo mais barato capaz de executá-la. O token mais barato é aquele que você nunca gera.
Pontos-chave
- A geração é a etapa cara da IA generativa; selecionar e reutilizar componentes existentes e testados é muito mais barato.
- O roteamento envia cada pedido ao menor modelo capaz de atendê-lo, e os roteadores publicados reduzem bastante o custo com pouca perda de qualidade.
- A recuperação fornece apenas o trecho relevante de um documento ou de uma base de código, então o modelo lê menos tokens.
- Reutilizar componentes verificados também ajuda na segurança e na manutenção — uma correção chega a todos os lugares em que o componente é usado.
- O roteamento tem um porém — um modelo pequeno demais pode falhar e forçar uma nova tentativa cara em um modelo grande.
A maior parte da discussão sobre a pegada da IA pergunta como tornar a geração mais barata: modelos menores, chips mais rápidos, energia mais limpa. Uma pergunta diferente é quanta geração é realmente necessária. A orquestração responde a ela tratando a geração como último recurso, e não como padrão.
O que significa "orquestração em vez de geração"?
Significa usar a IA para planejar uma tarefa e escolher as partes e, depois, montar o resultado principalmente com coisas que já existem e já foram verificadas. Um modelo grande só é chamado a gerar algo novo quando não existe nada adequado.
Boa parte do que as pessoas pedem à IA generativa não é nova. O software está cheio dos mesmos padrões: telas de login, envio de arquivos, tratamento de datas, validação de dados. Contratos reutilizam cláusulas padrão. Relatórios reutilizam seções padrão. Gerar cada um deles do zero, toda vez, repete o custo de energia e produz versões um pouco diferentes, que precisam ser verificadas uma a uma.
Um sistema orquestrado funciona mais como uma equipe de engenharia bem gerida:
- Um planejador identifica do que a tarefa precisa.
- Um classificador ou uma busca barata encontra um componente existente e testado que sirva.
- Apenas as partes realmente novas são geradas, pelo menor modelo capaz de fazê-las.
- As partes recém-geradas são testadas e adicionadas à biblioteca, para que o próximo pedido possa reutilizá-las.
A biblioteca funciona como um cache. Um sandpit de IA verde realizado no Reino Unido em 2026, com matemáticos, cientistas da computação e representantes da indústria, discutiu esse padrão sob o título "o token mais barato é aquele que você nunca gera".
Por que a reutilização economizaria energia?
Porque recuperar e adaptar um componente custa uma fração mínima de gerá-lo, e componentes testados exigem menos retrabalho. É na geração que os tokens, e portanto a maior parte da energia de inferência, são gastos.
O custo de energia do conteúdo escrito por IA não é desprezível. Um estudo do King's College London (Cheung e colegas, 2025), artigo de um parceiro do projeto GreenCode, comparou resolver tarefas de programação à mão com resolvê-las com um assistente de IA. Na média das tarefas, que eram problemas de competições de programação, a geração de código assistida por IA teve uma pegada de carbono 32,72 vezes maior que a abordagem manual, e a diferença aumentou à medida que as tarefas ficavam mais complexas. A reutilização ataca exatamente esse custo.
Há benefícios além da energia:
- Qualidade. Um componente verificado foi testado uma vez e pode ser usado com confiança muitas vezes.
- Segurança. Se um componente tiver uma falha, você sabe todos os lugares em que ele é usado, e uma única correção chega a todos eles.
- Manutenção. Uma base de código construída com partes compartilhadas é menor e mais fácil de entender do que uma cheia de quase duplicatas.
O que é roteamento de modelos?
O roteamento envia cada pedido ao modelo mais adequado para ele, em geral o menor que provavelmente responderá bem. Pedidos simples vão para modelos pequenos e baratos; os difíceis são escalados.
Pesquisas publicadas mostram o potencial:
- FrugalGPT (Chen, Zaharia e Zou, 2023) encadeou modelos do mais barato ao mais caro, parando quando uma resposta era considerada boa o suficiente, e relatou desempenho equivalente ao do GPT-4 com custo até 98% menor.
- RouteLLM (Ong e colegas, 2024) treinou roteadores com dados de preferência humana para decidir quando um pedido precisa de um modelo forte, e relatou redução de custos de mais da metade em alguns casos, sem perda de qualidade.
- Hybrid LLM (Ding e colegas, 2024) direcionou consultas entre um modelo pequeno e um grande de acordo com a dificuldade prevista, fazendo até 40% menos chamadas ao modelo grande sem queda na qualidade das respostas.
Esses estudos medem o custo, e não a energia diretamente, mas, para o mesmo fornecedor e o mesmo hardware, menos tokens em modelos grandes geralmente significa menos energia. Veja como escolher o modelo certo.
O que é recuperação e por que ela ajuda?
A recuperação busca a informação relevante e entrega ao modelo apenas ela, em vez de fazê-lo ler ou lembrar de tudo. A geração aumentada por recuperação (RAG), apresentada por Lewis e colegas em 2020, combina uma etapa de busca com um gerador.
Para a energia, o que importa é a quantidade de tokens. Passar documentos ou bases de código inteiros pela janela de contexto de um modelo custa energia a cada pedido. O GreenCode, um projeto de pesquisa europeu (ITEA) sobre software energeticamente eficiente, usa a recuperação a partir de um índice da base de código para que "a quantidade de tokens reflita a tarefa, e não o repositório", junto com modelos pequenos com ajuste fino (fine-tuning) e roteamento para o menor componente capaz.
O que mostra o trabalho do GreenCode?
Que o custo de usar a IA precisa ser contabilizado, e que a forma como um agente trabalha importa tanto quanto o modelo que ele usa. Dois artigos de parceiros ilustram isso:
- EnergyBench (Ionescu, Jensen e Thomsen, 2025) avalia o código gerado por IA tanto pela correção quanto pela energia que ele consome ao ser executado. O estudo concluiu que a redação do prompt podia melhorar a eficiência energética do código gerado em até 91,9% em alguns casos, mas muitas vezes à custa da precisão. Pedir código verde no prompt não é, por si só, uma solução confiável.
- A GreenCode Constitution (Kapenekakis e colegas, 2026) deu a um agente de programação princípios escritos — primeiro a correção, depois 37 antipadrões de energia — e o fez medir a energia antes e depois de cada mudança. No llama.cpp, um mecanismo de inferência já altamente otimizado, ela reduziu a energia da GPU em 4,7%. A economia de energia superou o ganho de velocidade, um lembrete de que mais rápido nem sempre é mais verde, por isso a energia precisa ser medida diretamente.
O próprio pipeline do GreenCode aplica o princípio da orquestração: ele prefere modelos pequenos específicos para cada tarefa, recuperação e roteamento, e faz uma avaliação prévia para que um trabalho cujo custo de inferência não seria compensado não seja executado.
O que pode dar errado?
O roteamento e a reutilização só economizam energia quando escolhem bem. Os principais riscos:
- Subdimensionamento. Um modelo pequeno demais pode falhar, e a nova tentativa em um modelo maior custa mais do que ir direto a ele. Em sistemas agênticos, em que uma falha pode desviar muitas etapas seguintes, isso pesa ainda mais. Definir o limite é um problema real de projeto.
- Bibliotecas desatualizadas. Os componentes precisam de responsáveis, testes e atualizações, senão a reutilização espalha erros antigos.
- Custos ocultos. O classificador, o índice e a etapa de recuperação também usam energia. Em geral são muito mais baratos que a geração, mas também devem ser medidos.
- Efeito rebote. IA mais barata convida a usar mais IA. Veja eficiência não é suficiência.
O que fazer a seguir
- Antes de gerar, procure: já existe um componente testado, um modelo de documento ou uma resposta anterior?
- Direcione os pedidos pela dificuldade; use um modelo pequeno por padrão e escale quando preciso. Veja use a IA com eficiência.
- Use a recuperação para manter os prompts curtos, em vez de colar documentos inteiros.
- Mantenha uma biblioteca de resultados verificados, com testes e um responsável, e vá ampliando-a.
- Meça a energia ou os tokens por tarefa concluída, incluindo as novas tentativas, e não por pedido.
- Leia IA agêntica e desperdício de tokens se você executa agentes de várias etapas.
Perguntas frequentes
O que é orquestração em IA?
É coordenar vários modelos, ferramentas e componentes armazenados para concluir uma tarefa, em vez de pedir a um único modelo grande que gere a resposta inteira. Um planejador decide o que é necessário; partes mais baratas fazem a maior parte do trabalho.
O que é roteamento de modelos?
É enviar cada pedido ao modelo mais adequado para ele, em geral o menor e mais barato que provavelmente responderá bem, e escalar para um modelo maior só quando necessário.
O roteamento reduz a qualidade?
Os sistemas de roteamento publicados relatam grandes economias de custo mantendo a maior parte da qualidade do modelo mais forte, mas o resultado depende da tarefa e de quão bem o roteador avalia a dificuldade.
Fontes
- FrugalGPT: how to use large language models while reducing cost and improving performance, Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
- RouteLLM: learning to route LLMs with preference data, Ong et al., ICLR 2025 (2024)
- Hybrid LLM: cost-efficient and quality-aware query routing, Ding et al., ICLR (2024)
- Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
- Green optimised generative AI, GreenCode (2026)
- Green AI and energy-aware computing, GreenCode (2026)
- Comparative analysis of carbon footprint in manual vs. LLM-assisted code development, Cheung, Kaul, Jahangirova, Mousavi and Zie, ResponsibleSE 2025 (ACM) (2025)
- EnergyBench: holistic benchmark for correct and energy-efficient LLM-generated code, Ionescu, Jensen and Thomsen, FLTA 2025 (2025)
- GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)
Relacionados
Escolha o modelo certo para a tarefa
Como dimensionar a IA: quando usar modelos pequenos ou especializados, quando um modelo de fronteira compensa o custo, como funciona o roteamento e quando não usar IA.
Use a IA com eficiência: hábitos do dia a dia
Hábitos do dia a dia que reduzem a energia do uso da IA: prompts claros, menos ciclos de regeneração, cuidado com imagens e vídeo, cache e desativar padrões.
IA agêntica e desperdício de tokens
Por que agentes de IA podem usar muitas vezes mais tokens e energia que um chat, como os loops os desperdiçam e as salvaguardas que os mantêm no tamanho certo.
A matemática que torna a IA mais eficiente
Poda, esparsidade, sketching, teoria de matrizes aleatórias e modelos informados pela física: como a matemática reduz a computação, a memória e a energia da IA.