greenai.guide

Início › Artigos › Orquestração em vez de geração

Artigo

Orquestração em vez de geração

Atualizado · 6 min de leitura

Em resumo

Gerar cada resposta, linha de código ou imagem do zero com um modelo grande é a forma mais cara de usar a IA. A orquestração usa a IA para planejar e selecionar e, depois, monta o resultado com componentes testados e direciona cada etapa ao modelo mais barato capaz de executá-la. O token mais barato é aquele que você nunca gera.

Pontos-chave

  • A geração é a etapa cara da IA generativa; selecionar e reutilizar componentes existentes e testados é muito mais barato.
  • O roteamento envia cada pedido ao menor modelo capaz de atendê-lo, e os roteadores publicados reduzem bastante o custo com pouca perda de qualidade.
  • A recuperação fornece apenas o trecho relevante de um documento ou de uma base de código, então o modelo lê menos tokens.
  • Reutilizar componentes verificados também ajuda na segurança e na manutenção — uma correção chega a todos os lugares em que o componente é usado.
  • O roteamento tem um porém — um modelo pequeno demais pode falhar e forçar uma nova tentativa cara em um modelo grande.

A maior parte da discussão sobre a pegada da IA pergunta como tornar a geração mais barata: modelos menores, chips mais rápidos, energia mais limpa. Uma pergunta diferente é quanta geração é realmente necessária. A orquestração responde a ela tratando a geração como último recurso, e não como padrão.

O que significa "orquestração em vez de geração"?

Significa usar a IA para planejar uma tarefa e escolher as partes e, depois, montar o resultado principalmente com coisas que já existem e já foram verificadas. Um modelo grande só é chamado a gerar algo novo quando não existe nada adequado.

Boa parte do que as pessoas pedem à IA generativa não é nova. O software está cheio dos mesmos padrões: telas de login, envio de arquivos, tratamento de datas, validação de dados. Contratos reutilizam cláusulas padrão. Relatórios reutilizam seções padrão. Gerar cada um deles do zero, toda vez, repete o custo de energia e produz versões um pouco diferentes, que precisam ser verificadas uma a uma.

Um sistema orquestrado funciona mais como uma equipe de engenharia bem gerida:

  1. Um planejador identifica do que a tarefa precisa.
  2. Um classificador ou uma busca barata encontra um componente existente e testado que sirva.
  3. Apenas as partes realmente novas são geradas, pelo menor modelo capaz de fazê-las.
  4. As partes recém-geradas são testadas e adicionadas à biblioteca, para que o próximo pedido possa reutilizá-las.

A biblioteca funciona como um cache. Um sandpit de IA verde realizado no Reino Unido em 2026, com matemáticos, cientistas da computação e representantes da indústria, discutiu esse padrão sob o título "o token mais barato é aquele que você nunca gera".

Por que a reutilização economizaria energia?

Porque recuperar e adaptar um componente custa uma fração mínima de gerá-lo, e componentes testados exigem menos retrabalho. É na geração que os tokens, e portanto a maior parte da energia de inferência, são gastos.

O custo de energia do conteúdo escrito por IA não é desprezível. Um estudo do King's College London (Cheung e colegas, 2025), artigo de um parceiro do projeto GreenCode, comparou resolver tarefas de programação à mão com resolvê-las com um assistente de IA. Na média das tarefas, que eram problemas de competições de programação, a geração de código assistida por IA teve uma pegada de carbono 32,72 vezes maior que a abordagem manual, e a diferença aumentou à medida que as tarefas ficavam mais complexas. A reutilização ataca exatamente esse custo.

Há benefícios além da energia:

  • Qualidade. Um componente verificado foi testado uma vez e pode ser usado com confiança muitas vezes.
  • Segurança. Se um componente tiver uma falha, você sabe todos os lugares em que ele é usado, e uma única correção chega a todos eles.
  • Manutenção. Uma base de código construída com partes compartilhadas é menor e mais fácil de entender do que uma cheia de quase duplicatas.

O que é roteamento de modelos?

O roteamento envia cada pedido ao modelo mais adequado para ele, em geral o menor que provavelmente responderá bem. Pedidos simples vão para modelos pequenos e baratos; os difíceis são escalados.

Pesquisas publicadas mostram o potencial:

  • FrugalGPT (Chen, Zaharia e Zou, 2023) encadeou modelos do mais barato ao mais caro, parando quando uma resposta era considerada boa o suficiente, e relatou desempenho equivalente ao do GPT-4 com custo até 98% menor.
  • RouteLLM (Ong e colegas, 2024) treinou roteadores com dados de preferência humana para decidir quando um pedido precisa de um modelo forte, e relatou redução de custos de mais da metade em alguns casos, sem perda de qualidade.
  • Hybrid LLM (Ding e colegas, 2024) direcionou consultas entre um modelo pequeno e um grande de acordo com a dificuldade prevista, fazendo até 40% menos chamadas ao modelo grande sem queda na qualidade das respostas.

Esses estudos medem o custo, e não a energia diretamente, mas, para o mesmo fornecedor e o mesmo hardware, menos tokens em modelos grandes geralmente significa menos energia. Veja como escolher o modelo certo.

O que é recuperação e por que ela ajuda?

A recuperação busca a informação relevante e entrega ao modelo apenas ela, em vez de fazê-lo ler ou lembrar de tudo. A geração aumentada por recuperação (RAG), apresentada por Lewis e colegas em 2020, combina uma etapa de busca com um gerador.

Para a energia, o que importa é a quantidade de tokens. Passar documentos ou bases de código inteiros pela janela de contexto de um modelo custa energia a cada pedido. O GreenCode, um projeto de pesquisa europeu (ITEA) sobre software energeticamente eficiente, usa a recuperação a partir de um índice da base de código para que "a quantidade de tokens reflita a tarefa, e não o repositório", junto com modelos pequenos com ajuste fino (fine-tuning) e roteamento para o menor componente capaz.

O que mostra o trabalho do GreenCode?

Que o custo de usar a IA precisa ser contabilizado, e que a forma como um agente trabalha importa tanto quanto o modelo que ele usa. Dois artigos de parceiros ilustram isso:

  • EnergyBench (Ionescu, Jensen e Thomsen, 2025) avalia o código gerado por IA tanto pela correção quanto pela energia que ele consome ao ser executado. O estudo concluiu que a redação do prompt podia melhorar a eficiência energética do código gerado em até 91,9% em alguns casos, mas muitas vezes à custa da precisão. Pedir código verde no prompt não é, por si só, uma solução confiável.
  • A GreenCode Constitution (Kapenekakis e colegas, 2026) deu a um agente de programação princípios escritos — primeiro a correção, depois 37 antipadrões de energia — e o fez medir a energia antes e depois de cada mudança. No llama.cpp, um mecanismo de inferência já altamente otimizado, ela reduziu a energia da GPU em 4,7%. A economia de energia superou o ganho de velocidade, um lembrete de que mais rápido nem sempre é mais verde, por isso a energia precisa ser medida diretamente.

O próprio pipeline do GreenCode aplica o princípio da orquestração: ele prefere modelos pequenos específicos para cada tarefa, recuperação e roteamento, e faz uma avaliação prévia para que um trabalho cujo custo de inferência não seria compensado não seja executado.

O que pode dar errado?

O roteamento e a reutilização só economizam energia quando escolhem bem. Os principais riscos:

  • Subdimensionamento. Um modelo pequeno demais pode falhar, e a nova tentativa em um modelo maior custa mais do que ir direto a ele. Em sistemas agênticos, em que uma falha pode desviar muitas etapas seguintes, isso pesa ainda mais. Definir o limite é um problema real de projeto.
  • Bibliotecas desatualizadas. Os componentes precisam de responsáveis, testes e atualizações, senão a reutilização espalha erros antigos.
  • Custos ocultos. O classificador, o índice e a etapa de recuperação também usam energia. Em geral são muito mais baratos que a geração, mas também devem ser medidos.
  • Efeito rebote. IA mais barata convida a usar mais IA. Veja eficiência não é suficiência.

O que fazer a seguir

  • Antes de gerar, procure: já existe um componente testado, um modelo de documento ou uma resposta anterior?
  • Direcione os pedidos pela dificuldade; use um modelo pequeno por padrão e escale quando preciso. Veja use a IA com eficiência.
  • Use a recuperação para manter os prompts curtos, em vez de colar documentos inteiros.
  • Mantenha uma biblioteca de resultados verificados, com testes e um responsável, e vá ampliando-a.
  • Meça a energia ou os tokens por tarefa concluída, incluindo as novas tentativas, e não por pedido.
  • Leia IA agêntica e desperdício de tokens se você executa agentes de várias etapas.

Perguntas frequentes

O que é orquestração em IA?

É coordenar vários modelos, ferramentas e componentes armazenados para concluir uma tarefa, em vez de pedir a um único modelo grande que gere a resposta inteira. Um planejador decide o que é necessário; partes mais baratas fazem a maior parte do trabalho.

O que é roteamento de modelos?

É enviar cada pedido ao modelo mais adequado para ele, em geral o menor e mais barato que provavelmente responderá bem, e escalar para um modelo maior só quando necessário.

O roteamento reduz a qualidade?

Os sistemas de roteamento publicados relatam grandes economias de custo mantendo a maior parte da qualidade do modelo mais forte, mas o resultado depende da tarefa e de quão bem o roteador avalia a dificuldade.

Fontes

  1. FrugalGPT: how to use large language models while reducing cost and improving performance, Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
  2. RouteLLM: learning to route LLMs with preference data, Ong et al., ICLR 2025 (2024)
  3. Hybrid LLM: cost-efficient and quality-aware query routing, Ding et al., ICLR (2024)
  4. Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
  5. Green optimised generative AI, GreenCode (2026)
  6. Green AI and energy-aware computing, GreenCode (2026)
  7. Comparative analysis of carbon footprint in manual vs. LLM-assisted code development, Cheung, Kaul, Jahangirova, Mousavi and Zie, ResponsibleSE 2025 (ACM) (2025)
  8. EnergyBench: holistic benchmark for correct and energy-efficient LLM-generated code, Ionescu, Jensen and Thomsen, FLTA 2025 (2025)
  9. GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)

Junte-se a nós

Ajude a reduzir o impacto da IA no planeta

Receba novos guias, editais de financiamento e listagens dos diretórios por e-mail, cerca de uma vez por mês. Ou adicione seu produto, curso, doutorado ou pesquisa aos diretórios.

Sem rastreamento. Cancele a inscrição com um clique. Outras formas de participar · Privacidade