Em resumo
Use o menor modelo, ou o método mais simples sem IA, que atinja o seu padrão de qualidade, e reserve os grandes modelos gerais para os casos que precisam deles. Modelos específicos para uma tarefa podem usar uma pequena fração da energia dos modelos generativos de uso geral, e o roteamento permite obter a maior parte das vantagens dos dois.
Pontos-chave
- Comece perguntando se a tarefa precisa mesmo de IA; regras, busca ou um algoritmo clássico muitas vezes resolvem.
- Modelos específicos para uma tarefa se mostraram ordens de grandeza mais baratos de executar do que modelos generativos multiuso para as mesmas tarefas.
- A UNESCO e a UCL relatam que modelos pequenos e específicos podem reduzir o consumo de energia em até 90%.
- O roteamento envia pedidos fáceis a modelos pequenos e difíceis a modelos grandes; defina os limiares com cuidado, porque uma tentativa pequena que falha mais uma nova tentativa pode custar mais.
- Pipelines híbridos usam métodos clássicos ou baseados em física na maioria das etapas e uma rede pequena só onde ela agrega valor.
Por que a escolha do modelo importa tanto?
A escolha do modelo costuma ser a maior alavanca isolada sobre a energia de um recurso de IA. A mesma tarefa pode ser feita por modelos cujos custos de execução diferem em ordens de grandeza.
Numa comparação sistemática publicada na ACM FAccT 2024, Luccioni, Jernite e Strubell mediram a energia de 1.000 inferências em muitas tarefas e modelos. Eles constataram que os modelos generativos multiuso eram ordens de grandeza mais caros do que sistemas específicos para as mesmas tarefas, mesmo controlando o tamanho do modelo. Um relatório de 2025 da UNESCO e da UCL constatou que modelos pequenos, adaptados a tarefas específicas, podem reduzir o consumo de energia em até 90%.
O padrão é simples: um modelo geral paga, a cada pedido, por conhecimentos e capacidades que a sua tarefa nunca usa.
Esta tarefa precisa mesmo de IA?
Verifique primeiro se um método sem IA já resolve. A inferência mais barata é aquela que você nunca executa.
Um sandpit de IA verde realizado no Reino Unido em 2026, com matemáticos, cientistas da computação e representantes da indústria, voltou a esse ponto várias vezes: as pessoas muitas vezes recorrem à IA quando já existe um algoritmo bem compreendido, e a computação mais verde costuma ser a que você evita. As Web Sustainability Guidelines do W3C também pedem que as equipes avaliem a necessidade de IA antes de implementá-la.
Pergunte:
- Uma regra, tabela de consulta ou expressão regular daria conta?
- Uma busca no seu próprio conteúdo responderia à pergunta?
- Existe um método numérico ou estatístico consolidado (um otimizador, uma regressão, um solver)?
- A resposta precisa ser exatamente reproduzível ou auditável? Métodos determinísticos são mais fáceis de verificar.
- Com que frequência isto vai rodar? Um recurso usado milhões de vezes merece mais esforço de projeto do que algo pontual.
A IA não é gratuita, mesmo quando economiza tempo. Um estudo de 2025 que comparou programação manual e assistida por IA em 12 tarefas constatou que a abordagem assistida por IA teve, em média, cerca de 33 vezes a pegada de carbono da abordagem manual, e a diferença aumentava à medida que as tarefas ficavam mais difíceis. Isso não significa nunca usar assistentes; significa usá-los onde eles claramente compensam.
Pequeno, especializado ou de fronteira?
Ajuste o modelo à tarefa, não à coisa mais capaz disponível.
| Tipo de tarefa | Em geral basta | Quando usar algo maior |
|---|---|---|
| Classificar, etiquetar, rotear, spam ou sentimento | Um classificador pequeno e específico | Raramente |
| Extrair campos de documentos | Um modelo pequeno ou com ajuste fino, ou regras | Layouts confusos e variados |
| Busca e resposta a perguntas sobre o seu próprio conteúdo | Recuperação mais um modelo pequeno ou médio | Raciocínio complexo sobre vários documentos |
| Tradução, resumo | Um modelo médio ou especializado | Textos delicados ou de alto risco |
| Raciocínio aberto, planejamento, código difícil | Um modelo geral grande | É aqui que ele compensa o custo |
Modelos pequenos especializados podem vir de vários caminhos, tratados em treinamento e inferência eficientes:
- Destilação: um "professor" grande treina um "aluno" pequeno. O DistilBERT era 40% menor que o BERT e 60% mais rápido, mantendo 97% da sua capacidade de compreensão de linguagem.
- Ajuste fino (fine-tuning) de um modelo pequeno com dados da sua própria tarefa.
- Versões quantizadas de um modelo existente, que precisam de menos memória e energia.
Onde houver benchmarks públicos, compare os candidatos em energia e também em qualidade. O AI Energy Score da Hugging Face avalia modelos pela energia de GPU por 1.000 consultas em dez tarefas comuns, com uma a cinco estrelas em relação a outros modelos na mesma tarefa.
Como funciona o roteamento de modelos?
Um roteador envia cada pedido ao modelo mais barato que provavelmente o responderá bem, e só escala quando necessário.
Desenhos comuns:
- Classificador primeiro: um modelo pequeno ou um conjunto de regras prevê o grau de dificuldade de um pedido e escolhe um modelo.
- Cascata: tente o modelo pequeno; se a confiança dele for baixa ou uma verificação falhar, passe para um maior.
- Roteador aprendido: treinado com exemplos de qual modelo se saiu bem em qual pedido. O estudo RouteLLM relatou reduções de custo de mais da metade em alguns casos, sem diminuir a qualidade das respostas.
Defina o limiar com cuidado
O sandpit levantou uma ressalva importante: em sistemas agênticos, um modelo pequeno demais pode falhar, obrigando a rodar de novo no modelo grande. Uma tentativa barata que falha mais uma nova tentativa cara pode custar mais do que ir direto ao modelo grande. Portanto:
- meça o custo de ponta a ponta por tarefa bem-sucedida, não por chamada;
- ajuste o limiar de escalonamento com os seus próprios dados;
- registre com que frequência os pedidos são escalados e reveja quando os modelos mudarem;
- coloque a decisão de roteamento no sistema, não no usuário final.
O que são pipelines híbridos?
Pipelines híbridos usam métodos clássicos, baseados em física ou em regras na maioria das etapas e um modelo pequeno só onde ele agrega valor. Muitas vezes são mais baratos, mais precisos e mais confiáveis do que uma abordagem neural de ponta a ponta.
Exemplos:
- Um modelo físico ou numérico faz a simulação; um pequeno componente aprendido substitui só a parte mais cara dele (um "substituto", ou surrogate).
- Código determinístico cuida da análise, validação e formatação; um modelo cuida só do julgamento sobre texto livre.
- Um modelo generativo planeja ou escolhe, mas o resultado é montado a partir de uma biblioteca de componentes já verificados, em vez de ser gerado do zero a cada vez. Veja orquestração em vez de geração.
O sandpit também discutiu incorporar estrutura matemática ou física (simetrias, leis de conservação, convexidade) aos modelos para que precisem de menos parâmetros e menos treinamento. Veja matemática para uma IA eficiente.
Checklist
- [ ] Método mais simples sem IA descrito e testado primeiro
- [ ] Padrão de qualidade definido com os seus próprios casos reais
- [ ] Pelo menos um modelo pequeno ou específico testado contra esse padrão
- [ ] Energia por pedido comparada para cada candidato, medida da mesma forma
- [ ] Modelo grande usado só onde o pequeno não atinge o padrão
- [ ] Custo do roteamento medido por tarefa bem-sucedida, incluindo novas tentativas
- [ ] Escolha registrada, com uma data para revisão
O que fazer a seguir
- Liste os seus recursos de IA e marque quais poderiam usar um modelo menor, um método clássico ou nenhuma IA.
- Monte um pequeno conjunto de avaliação com casos reais e uma nota mínima de aprovação.
- Teste dois ou três tamanhos de modelo contra ele e meça a energia de cada um.
- Faça um piloto de roteamento num recurso de alto volume e acompanhe o custo por tarefa bem-sucedida.
- Inclua "use o menor modelo que atinja o padrão" na sua política de IA verde.
- Pergunte aos fornecedores quais tamanhos de modelo eles oferecem e qual a energia por pedido; veja compras sustentáveis de IA.
Perguntas frequentes
Os modelos de linguagem pequenos são bons o suficiente?
Para muitas tarefas bem definidas, como classificação, extração e roteamento, sim. Teste-os nos seus próprios casos, com um padrão de qualidade claro, antes de decidir.
O que é roteamento de modelos?
Um roteador analisa cada pedido e o envia ao modelo mais barato que provavelmente o resolverá bem, passando a um modelo maior só quando necessário. Roteadores publicados reduziram custos em mais da metade em alguns testes sem diminuir a qualidade.
Quando não devo usar IA?
Quando uma regra, uma consulta a tabela, uma busca ou um método numérico consolidado já faz a tarefa de forma confiável. Em geral, essas opções são mais baratas, mais rápidas, mais previsíveis e mais fáceis de verificar.
Um modelo maior é sempre mais preciso?
Não. Para tarefas restritas, um modelo pequeno com ajuste fino ou destilado pode igualar ou superar um modelo geral, e os erros dele costumam ser mais fáceis de entender.
Fontes
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT 2024 (arXiv 2311.16863) (2024)
- AI large language models: new report shows small changes can reduce energy use by 90%, UNESCO (2025)
- RouteLLM: Learning to Route LLMs with Preference Data, Ong et al. (arXiv 2406.18665) (2024)
- DistilBERT, a distilled version of BERT, Sanh et al. (arXiv 1910.01108) (2019)
- Comparative Analysis of Carbon Footprint in Manual vs. LLM-Assisted Code Development, arXiv 2505.04521 (2025)
- Green Software Patterns: right-sized, energy-efficient AI models, Green Software Foundation (2025)
- AI Energy Score, Hugging Face (2025)
- Web Sustainability Guidelines, W3C (2025)
Relacionados
Como medir a energia e o carbono da IA
Um guia prático para medir ou estimar a energia e o carbono do trabalho com IA: ferramentas, limites do sistema, métricas por tarefa e incerteza honesta.
Treinamento e inferência de IA eficientes
Técnicas para desenvolvedores e pesquisadores reduzirem a energia da IA: poda, esparsidade, quantização, destilação, KV cache, batching, precisão mista e agendamento.
Orquestração em vez de geração
Por que reutilizar componentes verificados e direcionar pedidos ao menor modelo capaz pode reduzir a energia da IA, e o que as evidências mostram.
Eficiência não é suficiência: o efeito rebote na IA
Por que tornar a IA mais eficiente não garante que ela use menos energia no total, o que é o efeito rebote ou de Jevons e o que ajuda a manter a economia real.