Em resumo
Defina o que significa "bom o suficiente" com exemplos reais e depois teste modelos do menor para o maior, parando no primeiro que passar. Modelos pequenos e específicos para uma tarefa podem usar uma fração da energia dos grandes modelos gerais: a UNESCO e a University College London relatam economias de até 90% em tarefas adequadas.
Passos
- Escreva a tarefa e uma nota mínima, como a parte das respostas que precisa estar correta.
- Reúna de 20 a 50 exemplos reais para testar.
- Experimente primeiro o modelo menor ou "mini" e só suba se ele não atingir a nota mínima.
- Consulte avaliações públicas de energia, como o AI Energy Score, quando existirem.
- Mantenha um modelo maior para os casos que o pequeno não consegue resolver.
- Teste de novo quando os modelos ou a sua tarefa mudarem.
Use o menor modelo que atinja o seu nível de qualidade, não o mais capaz disponível. Um grande modelo geral paga, em cada pedido, por capacidades que a sua tarefa talvez nunca use.
Por que o tamanho do modelo importa tanto?
Ele costuma ser a maior alavanca isolada sobre a energia. Luccioni, Jernite e Strubell concluíram que os modelos generativos multiuso são ordens de grandeza mais caros de executar do que sistemas específicos para as mesmas tarefas. A UNESCO e a University College London concluíram que modelos pequenos adaptados a tarefas específicas podiam reduzir o consumo de energia em até 90%.
Como testo os candidatos?
- Defina o nível com o seu próprio trabalho, por exemplo "extrai corretamente o total da fatura em 98% das vezes".
- Teste primeiro os pequenos. Muitos provedores oferecem versões "mini", "lite" ou "flash"; as famílias de pesos abertos vêm em vários tamanhos.
- Pare no primeiro que passar. Maior não é automaticamente mais preciso em tarefas estreitas.
- Compare a energia, não só o preço. O AI Energy Score do Hugging Face classifica modelos abertos de uma a cinco estrelas pela energia por consulta em tarefas comuns; veja ler uma classificação do AI Energy Score.
Para quem usa IA no dia a dia, a mesma ideia vale: escolha a opção rápida ou mais leve do seu chatbot para perguntas simples.
Erros comuns
- Escolher pela reputação em vez de testar com os seus próprios exemplos.
- Medir o custo por chamada, não por sucesso. Um modelo pequeno demais que falha e obriga a repetir num grande pode custar mais no total.
- Nunca rever a escolha. Os modelos pequenos melhoram depressa; teste de novo a cada poucos meses.
Para enviar cada pedido automaticamente para o tamanho certo, veja encaminhar pedidos para modelos menores. O método completo está em escolher o modelo certo.
Fontes
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- AI Energy Score, Hugging Face (2025)
Relacionados
Escolha o modelo certo para a tarefa
Como dimensionar a IA: quando usar modelos pequenos ou especializados, quando um modelo de fronteira compensa o custo, como funciona o roteamento e quando não usar IA.
Como encontro um modelo específico para a minha tarefa em vez de usar um chatbot geral?
Como encontrar um modelo pequeno feito para uma só tarefa, como classificar, extrair ou traduzir, e confirmar que rende como um chatbot com menos energia.
Como encaminho pedidos para modelos menores?
Como encaminhar os pedidos de rotina para um modelo pequeno e só os difíceis para um grande, e ajustar o roteador para que as repetições não comam a economia.
Como comparo o consumo de energia de diferentes modelos de IA?
Como comparar modelos de IA por energia de forma justa: use referências como o AI Energy Score ou meça você mesmo na mesma tarefa, hardware e configuração.