# IA com eficiência energética: como fazer a IA consumir menos

> IA com eficiência energética na prática: as alavancas que mais reduzem a energia da IA, em ordem, de modelos menores e quantização a roteamento, cache e local.

Source: https://greenai.guide/pt/artigos/ia-com-eficiencia-energetica-como-fazer-a-ia-consumir-menos/  
Updated: 2026-11-20

## Em resumo

IA com eficiência energética significa obter o mesmo resultado útil com menos eletricidade. As maiores economias costumam vir de escolher um modelo menor ou específico para a tarefa, desligar o raciocínio longo quando ele não é necessário e executar a IA em um data center eficiente, ligado a uma rede elétrica limpa; técnicas como a quantização, a destilação, o roteamento, o cache e o processamento em lote reduzem ainda mais a energia da IA. Estudos publicados relatam economias de dezenas por cento até 90% ou mais para alavancas isoladas, e muito maiores quando elas são combinadas.

## Pontos-chave

- A UNESCO e a UCL concluíram que modelos pequenos e específicos para a tarefa podem reduzir o consumo de energia em até 90%, e que prompts e respostas mais curtos podem reduzi-lo em mais de 50%.
- Os modelos de raciocínio usaram, em média, 30 vezes mais energia que os modelos padrão nos testes do AI Energy Score da Hugging Face; ligar o raciocínio aumentou a energia de um modelo de 150 a 700 vezes.
- Em um estudo de 2024, gerar 1.000 imagens usou cerca de 2,9 kWh, contra 0,002 kWh para 1.000 classificações de texto.
- Pesquisadores do Google estimaram que a escolha do modelo, do data center e do processador, em conjunto, pode reduzir a pegada de carbono do treinamento em até cerca de 100 a 1.000 vezes.
- Servir os modelos com eficiência importa: o gerenciamento de memória do vLLM deu de 2 a 4 vezes mais vazão com a mesma latência, e a decodificação especulativa tornou um modelo de 2 a 3 vezes mais rápido, com saídas idênticas.
- Iniciar treinamentos curtos em horários de baixo carbono reduziu as emissões em até 80% em um estudo, mas em menos de 1,5% para um treinamento longo.

IA com eficiência energética é a IA que entrega o resultado de que você precisa com menos eletricidade. Esta página
apresenta as principais formas de reduzir a energia da IA, mais ou menos em ordem de quanto elas costumam economizar,
com os números publicados por trás de cada uma.

## Qual é a forma mais rápida de fazer a IA consumir menos energia? {#what-is-the-quickest-way-to-make-ai-use-less-energy}

**Use o menor modelo adequado e não ligue modos pesados de que você não precisa.** A escolha do modelo costuma pesar
mais do que qualquer outra alavanca, porque a energia cresce com a quantidade de computação que cada resposta exige.
Um relatório de 2025 da UNESCO e da University College London (UCL) concluiu que modelos pequenos e específicos para a
tarefa podem reduzir o consumo de energia em até 90%, e que prompts e respostas mais curtos podem reduzi-lo em mais
de 50%. Usadas em conjunto, diz o relatório, essas medidas podem reduzir o consumo de energia em até 90%.

A segunda grande alavanca é o local. Pesquisadores do Google estimaram em 2021 que a escolha do modelo, do data center
e do processador, em conjunto, pode reduzir a pegada de carbono do treinamento em até cerca de 100 a 1.000 vezes.
Modelos de IA eficientes, executados em lugares eficientes, são onde está a maior parte do ganho.

## Quais alavancas economizam mais? Uma lista em ordem {#which-levers-save-the-most-a-ranked-list}

**A ordem abaixo reflete o tamanho típico da economia nos estudos publicados, da maior para a menor.** Os seus
resultados vão depender da tarefa, da qualidade de que você precisa e de onde o trabalho é executado, então meça antes
e depois (veja [como medir a energia e o carbono da IA](/pt/boas-praticas/como-medir-a-energia-e-o-carbono-da-ia/)).

### 1. Não use IA generativa em trabalhos que não precisam dela {#1-don-t-use-generative-ai-for-jobs-it-isn-t-needed-for}

**A geração é muito mais cara do que tarefas mais simples.** Em um estudo de 2024, Sasha Luccioni, Yacine Jernite e
Emma Strubell mediram a geração de imagens em uma média de cerca de 2,9 kWh por 1.000 imagens, contra 0,002 kWh por
1.000 classificações de texto: bem mais de mil vezes mais por pedido. Eles também concluíram que os modelos
generativos de uso geral são ordens de grandeza mais caros do que os sistemas específicos para a mesma tarefa.

O vídeo é ainda mais pesado. Um estudo de 2025 sobre modelos abertos de texto para vídeo mediu quase 90 Wh para um
clipe curto de um modelo e mais de 415 Wh de um modelo maior, com a energia crescendo de forma quadrática com o tamanho
e a duração do vídeo. Veja [como decidir se você precisa de IA para uma tarefa](/pt/como/como-sei-se-preciso-mesmo-de-ia-para-uma-tarefa/) e
[como escolher o aprendizado de máquina clássico em vez de um LLM](/pt/como/como-decido-se-o-aprendizado-de-maquina-classico-basta-em-vez-de-um/).

### 2. Dimensione bem o modelo {#2-right-size-the-model}

**Escolha o menor modelo que atinja o seu nível de qualidade.** Além da conclusão da UNESCO e da UCL, as pesquisas
sobre cascatas mostram quanta margem existe: o FrugalGPT, que tenta primeiro os modelos mais baratos e só escala quando
necessário, igualou o desempenho do GPT-4 com um custo até 98% menor. Custo não é energia, mas, para modelos
hospedados, é uma referência aproximada razoável da computação. Veja [escolher o modelo certo para o trabalho](/pt/boas-praticas/escolha-o-modelo-certo-para-a-tarefa/),
[como escolher um modelo de IA menor](/pt/como/como-escolho-um-modelo-de-ia-menor/) e
[como encontrar um modelo específico para a tarefa](/pt/como/como-encontro-um-modelo-especifico-para-a-minha-tarefa-em-vez-de-usar/).

### 3. Use os modos de raciocínio apenas quando necessário {#3-use-reasoning-modes-only-when-needed}

**Os modos de "pensamento" multiplicam a energia.** Os testes do AI Energy Score da Hugging Face no fim de 2025
concluíram que os modelos de raciocínio usaram, em média, 30 vezes mais energia que os modelos padrão, e que o mesmo
modelo usou entre 150 e 700 vezes mais energia com o raciocínio ligado do que desligado. Os agentes, que fazem muitas
chamadas em loop, podem se acumular da mesma forma. Veja
[como usar os modos de raciocínio apenas quando necessário](/pt/como/como-sei-quando-usar-um-modo-de-pensamento-ou-de-raciocinio-da-ia/) e
[IA agêntica e desperdício de tokens](/pt/artigos/ia-agentica-e-desperdicio-de-tokens/).

### 4. Escolha hardware e data centers eficientes e locais de baixo carbono {#4-choose-efficient-hardware-data-centres-and-low-carbon-locations}

**Onde e em que o trabalho é executado pode mudar o seu carbono em várias vezes.** Jesse Dodge e colegas concluíram
que o treinamento do mesmo modelo BERT emitiu cerca de 7 kg de CO₂ na região de nuvem mais eficiente e cerca de 26 kg
na menos eficiente, quase quatro vezes mais. O hardware também continua melhorando: a Epoch AI estima que os
principais chips de aprendizado de máquina ficam cerca de 40% mais eficientes em energia a cada ano. Veja
[hospedagem e data centers para uma IA verde](/pt/boas-praticas/hospedagem-e-data-centers-para-ia-verde/),
[como escolher uma região de nuvem de baixo carbono](/pt/como/como-escolho-uma-regiao-de-nuvem-com-baixo-carbono/) e
[como escolher hardware com eficiência energética para IA](/pt/como/como-escolho-hardware-de-ia-eficiente-em-energia/).

### 5. Encurte prompts, contexto e saídas {#5-shorten-prompts-context-and-outputs}

**A energia sobe com a quantidade de texto que o modelo lê e escreve.** A Epoch AI estima uma consulta típica ao
ChatGPT em cerca de 0,3 Wh, subindo para cerca de 2,5 Wh com uma entrada de 10.000 tokens e quase 40 Wh com uma
entrada de 100.000 tokens. Reenviar conversas longas e pedir respostas longas são as causas do dia a dia. Veja
[como escrever prompts que usam menos energia](/pt/como/como-escrevo-prompts-que-gastam-menos-energia/),
[como limitar quanto um LLM escreve](/pt/como/como-limito-o-quanto-um-llm-escreve/) e
[como parar de reenviar a conversa inteira](/pt/como/como-evito-que-o-meu-chatbot-reenvie-a-conversa-inteira/).

### 6. Encaminhe os pedidos para o modelo certo {#6-route-requests-to-the-right-model}

**Envie os pedidos fáceis para um modelo pequeno e os difíceis para um grande.** As pesquisas sobre roteamento relatam
grandes economias: o Hybrid LLM fez até 40% menos chamadas ao modelo grande sem queda na qualidade das respostas, e o
RouteLLM reduziu os custos em mais de duas vezes em alguns casos sem comprometer a qualidade. Veja
[como configurar o roteamento de modelos](/pt/como/como-encaminho-pedidos-para-modelos-menores/) e
[orquestração em vez de geração](/pt/artigos/orquestracao-em-vez-de-geracao/).

### 7. Quantize o modelo {#7-quantise-the-model}

**Armazene e calcule com menos bits por número.** A [quantização](/pt/glossario/#quantisation) reduz a memória e a
movimentação de dados, que dominam a energia dos modelos grandes. O LLM.int8() reduziu pela metade a memória
necessária para a inferência, mantendo o desempenho de precisão total, e o relatório da UNESCO e da UCL concluiu que a
compressão, como a quantização, economizou até 44% de energia. Veja [como quantizar um modelo](/pt/como/como-faco-a-quantizacao-de-um-modelo/).

### 8. Destile um modelo grande em um pequeno {#8-distil-a-large-model-into-a-small-one}

**Treine um modelo "aluno" pequeno para imitar um "professor" grande.** A [destilação](/pt/glossario/#distillation) é a
forma como muitos modelos de IA eficientes são feitos. O DistilBERT era 40% menor e 60% mais rápido que o BERT,
mantendo 97% da sua capacidade de compreensão da linguagem. Veja [como destilar um modelo grande em um pequeno](/pt/como/como-destilo-um-modelo-grande-em-um-modelo-menor/).

### 9. Faça a poda e aproveite a esparsidade {#9-prune-and-exploit-sparsity}

**Remova os pesos de que o modelo não precisa.** O SparseGPT mostrou que modelos de linguagem muito grandes podem ser
[podados](/pt/glossario/#pruning) até pelo menos 50% de [esparsidade](/pt/glossario/#sparsity) de uma só vez, sem novo
treinamento, com perda mínima de precisão. A economia de energia depende de o software e o hardware conseguirem pular
os zeros, então, na prática, a poda economiza menos do que a esparsidade anunciada sugere. Veja [como fazer a poda de uma rede neural](/pt/como/como-faco-a-poda-de-uma-rede-neural/).

### 10. Use cache, processamento em lote e um serviço eficiente {#10-cache-batch-and-serve-efficiently}

**Evite repetir trabalho e mantenha o hardware ocupado.** O software que serve o modelo importa: o gerenciamento
paginado do [cache KV](/pt/glossario/#kv-cache) do vLLM melhorou a vazão de 2 a 4 vezes com a mesma latência, e a
decodificação especulativa tornou o T5-XXL de 2 a 3 vezes mais rápido, com saídas idênticas. Os fornecedores cobram
pela reutilização de acordo: a Batch API da OpenAI custa 50% menos que os pedidos padrão, e a Anthropic cobra 10% do
preço normal de entrada pelas leituras de prompts em cache. Veja [como usar cache em chamadas a LLMs](/pt/como/como-uso-cache-para-reduzir-a-energia-das-chamadas-a-llms/), [como processar pedidos de IA em lote](/pt/como/como-agrupo-pedidos-de-ia-em-lotes-para-economizar-energia/),
[como usar a decodificação especulativa](/pt/como/como-acelero-um-modelo-grande-com-decodificacao-especulativa/) e
[como reduzir a energia de servir um modelo](/pt/como/como-reduzo-a-energia-de-servir-um-modelo-em-producao/).

### 11. Agende o trabalho flexível para horários mais limpos {#11-schedule-flexible-work-for-cleaner-times}

**O agendamento sensível ao carbono reduz as emissões, não a energia, e funciona melhor para trabalhos curtos e
flexíveis.** No estudo de Dodge e colegas, adiar o início de um treinamento curto para um horário de baixo carbono
reduziu as emissões em até 80% em uma região dos EUA, mas em menos de 1,5% para um treinamento longo; pausar e retomar
um treinamento longo economizou até cerca de 25%. Veja
[como agendar o treinamento para quando a rede estiver mais verde](/pt/como/como-agendo-o-treinamento-para-quando-a-rede-eletrica-estiver-mais/) e
[computação sensível ao carbono](/pt/glossario/#carbon-aware-computing).

## As alavancas da IA com eficiência energética em resumo {#energy-efficient-ai-levers-at-a-glance}

**Esta tabela resume as alavancas, quem pode usá-las e as economias relatadas nas fontes.** Os números vêm de estudos
diferentes, com linhas de base diferentes, então leia-os como indicações de escala, e não como totais que se somam.

| Alavanca | Quem pode usar | Economia típica relatada | Fonte |
|---|---|---|---|
| Usar um modelo específico para a tarefa em vez de um generativo | Desenvolvedores, organizações | Ordens de grandeza, em tarefas como a classificação | Luccioni, Jernite e Strubell, 2024 |
| Modelo menor e específico para a tarefa | Usuários, desenvolvedores | Até 90% de energia | UNESCO e UCL, 2025 |
| Raciocínio desligado, a menos que necessário | Usuários, desenvolvedores | 150–700 vezes menos para um modelo; 30 vezes em média entre modelos | AI Energy Score da Hugging Face, 2025 |
| Modelo, data center e processador em conjunto | Desenvolvedores, organizações | Até cerca de 100–1.000 vezes menos carbono (treinamento) | Patterson et al., Google, 2021 |
| Região de nuvem de baixo carbono | Desenvolvedores, organizações | Cerca de 3,7 vezes entre a melhor e a pior região | Dodge et al., 2022 |
| Prompts e respostas mais curtos | Usuários, desenvolvedores | Mais de 50% de energia | UNESCO e UCL, 2025 |
| Roteamento | Desenvolvedores | Até 40% menos chamadas ao modelo grande | Ding et al., 2024 |
| Quantização | Desenvolvedores | Até 44% de energia; metade da memória | UNESCO e UCL, 2025; Dettmers et al., 2022 |
| Destilação | Desenvolvedores | 40% menor, 60% mais rápido, 97% da capacidade mantida | Sanh et al., 2019 |
| Poda | Desenvolvedores | Pelo menos 50% dos pesos removidos | Frantar e Alistarh, 2023 |
| Serviço eficiente e processamento em lote | Desenvolvedores | 2–4 vezes mais vazão | Kwon et al., 2023 |
| Decodificação especulativa | Desenvolvedores | 2–3 vezes mais rápido, mesmas saídas | Leviathan et al., 2022 |
| Horário de início sensível ao carbono | Desenvolvedores, pesquisadores | Até 80% (trabalhos curtos); menos de 1,5% (trabalhos longos) | Dodge et al., 2022 |
| Ajuste fino eficiente em parâmetros (LoRA) | Desenvolvedores, pesquisadores | 10.000 vezes menos parâmetros treináveis, 3 vezes menos memória de GPU | Hu et al., 2021 |

## Como os usuários podem reduzir a energia da IA? {#how-can-users-reduce-ai-energy}

**Escolha opções mais leves e peça menos.** A maioria das pessoas não pode mudar o data center, mas pode mudar o que
pede:

- Use um modelo rápido ou "mini" para as tarefas do dia a dia, e reserve os maiores modelos e os modos de raciocínio
  para os problemas difíceis.
- Faça pedidos claros e peça respostas curtas; comece um novo chat em vez de continuar um muito longo.
- Evite gerar de novo várias vezes: em vez disso, aprimore o pedido. Veja [como parar de gerar respostas de IA de novo](/pt/como/como-paro-de-gerar-respostas-da-ia-de-novo-e-de-novo/).
- Gere imagens e vídeos apenas quando precisar deles. Veja [como reduzir o impacto da geração de imagens e vídeos por IA](/pt/como/como-reduzo-o-impacto-da-geracao-de-imagens-e-videos-com-ia/).
- Desligue os recursos de IA que você não usa. Veja [usar a IA com eficiência: hábitos do dia a dia](/pt/boas-praticas/use-a-ia-com-eficiencia-habitos-do-dia-a-dia/).

Para dar uma escala, o Google informou em 2025 que um prompt de texto mediano no Gemini usou 0,24 Wh. Os prompts de
texto individuais são pequenos; os totais vêm de volumes muito altos e das tarefas mais pesadas mencionadas acima. Veja o
[guia para o público](/pt/guias/ia-verde-um-guia-em-linguagem-simples-para-todos/).

## Como os desenvolvedores podem criar modelos e sistemas de IA eficientes? {#how-can-developers-build-efficient-ai-models-and-systems}

**Primeiro dimensione bem, depois otimize o serviço, depois meça.** Uma ordem prática:

1. Defina um nível de qualidade com os seus próprios dados e teste os menores modelos candidatos com base nele.
2. Acrescente roteamento ou uma cascata, para que o modelo grande trate apenas do que o pequeno não consegue.
3. Quantize e, se os volumes forem altos, considere a destilação.
4. Sirva o modelo com um runtime eficiente: processamento em lote, cache KV paginado, cache de prompts e decodificação
   especulativa.
5. Limite o tamanho das saídas e os loops dos agentes; veja [como impedir que agentes de IA desperdicem tokens](/pt/como/como-evito-que-agentes-de-ia-desperdicem-tokens/).
6. Faça o ajuste fino com LoRA em vez de treinar do zero; veja [como evitar treinar um modelo do zero](/pt/como/como-evito-treinar-um-modelo-do-zero/).
7. Meça a energia por tarefa antes e depois; veja [como acompanhar a energia da IA por tarefa](/pt/como/como-acompanho-a-energia-da-ia-por-tarefa-e-nao-so-no-total/).

Há mais detalhes em [treinamento e inferência de IA eficientes](/pt/boas-praticas/treinamento-e-inferencia-de-ia-eficientes/) e em
[matemática para uma IA eficiente](/pt/artigos/a-matematica-que-torna-a-ia-mais-eficiente/).

## Como as organizações podem reduzir a energia da IA em grande escala? {#how-can-organisations-reduce-ai-energy-at-scale}

**Defina padrões, compre bem e meça.** As maiores alavancas de uma organização são qual modelo é o padrão, quais
recursos vêm ligados por padrão e onde as cargas de trabalho são executadas:

- Torne um modelo pequeno e rápido o padrão nas ferramentas internas, com modelos maiores disponíveis sob pedido.
- Peça aos fornecedores números de energia por tarefa e dados dos data centers; veja [compras sustentáveis de IA](/pt/boas-praticas/compras-de-ia-sustentavel/).
- Escolha fornecedores e regiões com energia limpa; veja [hospedagem e data centers](/pt/boas-praticas/hospedagem-e-data-centers-para-ia-verde/).
- Defina uma política e treine a equipe; veja [como escrever uma política de IA verde](/pt/boas-praticas/como-escrever-uma-politica-de-ia-verde/) e
  [como treinar a equipe para usar a IA com eficiência](/pt/como/como-treino-a-minha-equipe-para-usar-a-ia-de-forma-eficiente/).
- Defina uma linha de base e metas; veja [como definir uma linha de base para a economia de energia da IA](/pt/como/como-defino-uma-linha-de-base-para-comprovar-economias-de-energia-com/).

## A IA com eficiência energética reduz o consumo total de energia? {#does-energy-efficient-ai-reduce-total-energy-use}

**Só se o uso total não crescer mais rápido do que a eficiência melhora.** O Google informou que a energia do seu
prompt mediano no Gemini caiu 33 vezes em um ano, mas o consumo de eletricidade dos data centers continua subindo no
mundo todo, porque o uso cresce mais rápido. Esse é o [efeito rebote](/pt/glossario/#rebound-effect). A eficiência reduz o
custo de cada tarefa; a suficiência pergunta se a tarefa precisa ser feita. As duas são necessárias, como
[eficiência não é suficiência](/pt/artigos/eficiencia-nao-e-suficiencia-o-efeito-rebote-na-ia/) explica, e
[como evitar que os ganhos de eficiência sejam anulados](/pt/como/como-evito-que-os-ganhos-de-eficiencia-da-ia-sejam-anulados-pelo/) traz
medidas práticas. Para o quadro mais amplo, veja [a IA e a demanda de eletricidade dos data centers](/pt/artigos/a-ia-e-o-consumo-de-eletricidade-dos-data-centers/)
e [estatísticas de energia da IA](/pt/artigos/estatisticas-de-consumo-de-energia-da-ia-atualizado-em-novembro-de/).

## O que fazer a seguir {#what-to-do-next}

- Teste se um modelo menor atinge o seu nível de qualidade e, se atingir, passe a usá-lo.
- Desligue por padrão os modos de raciocínio, imagem e vídeo onde eles não forem necessários.
- Acrescente cache, processamento em lote e roteamento a qualquer recurso de IA com volume real.
- Escolha uma região de baixo carbono e um fornecedor eficiente para as novas cargas de trabalho.
- Meça a energia por tarefa antes e depois de cada mudança, e divulgue o resultado.
- Encontre ajuda no [diretório de consultores](/pt/consultores/) ou aprenda mais por meio de [cursos](/pt/cursos/).

## Perguntas frequentes

### O que é IA com eficiência energética?

É a IA que entrega o resultado de que você precisa com menos eletricidade, por meio de modelos menores ou mais adequados, software mais enxuto, hardware e data centers eficientes, e do uso da IA apenas onde ela agrega valor. Faz parte da IA verde, que também pergunta se o uso total faz sentido.

### Como reduzir o consumo de energia da IA?

Como usuário, escolha um modelo menor ou mais rápido, mantenha curtos os prompts e as respostas pedidas, evite gerar de novo e use o raciocínio ou os modos de imagem e vídeo apenas quando necessário. Como desenvolvedor, dimensione bem o modelo, depois acrescente quantização, roteamento, cache e processamento em lote, e execute em uma região de baixo carbono.

### Modelos de IA menores são mais eficientes em energia?

Normalmente, sim, para as tarefas que eles fazem bem. A UNESCO e a UCL informam que modelos pequenos e específicos para a tarefa podem reduzir o consumo de energia em até 90% em tarefas adequadas. Verifique a qualidade no seu próprio trabalho: um modelo pequeno que precise ser executado várias vezes pode não economizar nada.

### A quantização economiza energia?

Normalmente, sim, porque o modelo movimenta menos dados e precisa de menos memória. A UNESCO e a UCL informam economias de até 44% com a compressão de modelos, como a quantização, e o LLM.int8() reduziu pela metade a memória necessária para a inferência. A economia depende de o hardware suportar a precisão mais baixa.

### Que tipo de IA consome mais energia?

A geração de vídeo, seguida da geração de imagens e das tarefas longas de raciocínio ou de agentes. Em um estudo de 2025, um modelo aberto usou quase 90 Wh para um clipe de vídeo curto e um maior, mais de 415 Wh, e os modelos de raciocínio usaram, em média, cerca de 30 vezes mais energia que os modelos padrão.

### A eficiência reduz de fato o consumo total de energia da IA?

Não automaticamente. A IA mais barata e mais rápida tende a ser mais usada: é o efeito rebote. A eficiência reduz a energia por tarefa; manter os totais baixos também exige suficiência, ou seja, usar a IA onde ela vale a pena.

### Os fornecedores de IA economizam energia com o cache de prompts e o processamento em lote?

Eles evitam trabalho repetido, e é por isso que cobram menos por ele: a OpenAI dá 50% de desconto em tarefas em lote, e a entrada em cache custa cerca de um décimo da tarifa normal em vários fornecedores. Os preços são uma referência aproximada da computação economizada, não uma medição de energia.

## Fontes

- [AI large language models: new report shows small changes can reduce energy use by 90%](https://www.unesco.org/en/articles/ai-large-language-models-new-report-shows-small-changes-can-reduce-energy-use-90), UNESCO and University College London (2025)
- [AI Energy Score v2: refreshed leaderboard, now with reasoning](https://huggingface.co/blog/sasha/ai-energy-score-v2), Hugging Face (Luccioni and Gamazaychikov) (2025)
- [Power hungry processing: watts driving the cost of AI deployment?](https://arxiv.org/abs/2311.16863), Luccioni, Jernite and Strubell (FAccT 2024) (2024)
- [Video killed the energy budget: characterizing the latency and power regimes of open text-to-video models](https://arxiv.org/abs/2509.19222), Delavande, Pierrard and Luccioni (2025)
- [How much energy does ChatGPT use?](https://epoch.ai/gradient-updates/how-much-energy-does-chatgpt-use), Epoch AI (2025)
- [Carbon emissions and large neural network training](https://arxiv.org/abs/2104.10350), Patterson et al., Google (2021)
- [Good news about the carbon footprint of machine learning training](https://research.google/blog/good-news-about-the-carbon-footprint-of-machine-learning-training/), Google Research (2022)
- [Measuring the carbon intensity of AI in cloud instances](https://arxiv.org/abs/2206.05229), Dodge et al. (FAccT 2022) (2022)
- [Measuring the environmental impact of delivering AI at Google scale](https://arxiv.org/abs/2508.15734), Elsworth et al., Google (2025)
- [DistilBERT, a distilled version of BERT](https://arxiv.org/abs/1910.01108), Sanh et al., Hugging Face (2019)
- [LLM.int8(): 8-bit matrix multiplication for transformers at scale](https://arxiv.org/abs/2208.07339), Dettmers et al. (2022)
- [SparseGPT: massive language models can be accurately pruned in one-shot](https://arxiv.org/abs/2301.00774), Frantar and Alistarh (2023)
- [FrugalGPT: how to use large language models while reducing cost and improving performance](https://arxiv.org/abs/2305.05176), Chen, Zaharia and Zou (2023)
- [Hybrid LLM: cost-efficient and quality-aware query routing](https://arxiv.org/abs/2404.14618), Ding et al. (2024)
- [RouteLLM: learning to route LLMs with preference data](https://arxiv.org/abs/2406.18665), Ong et al. (2024)
- [Efficient memory management for large language model serving with PagedAttention](https://arxiv.org/abs/2309.06180), Kwon et al. (2023)
- [Fast inference from transformers via speculative decoding](https://arxiv.org/abs/2211.17192), Leviathan, Kalman and Matias (2022)
- [LoRA: low-rank adaptation of large language models](https://arxiv.org/abs/2106.09685), Hu et al. (2021)
- [Batch API](https://developers.openai.com/api/docs/guides/batch), OpenAI (2026)
- [Prompt caching](https://platform.claude.com/docs/en/build-with-claude/prompt-caching), Anthropic (2026)
- [Leading ML hardware becomes 40% more energy-efficient each year](https://epoch.ai/data-insights/ml-hardware-energy-efficiency), Epoch AI (2024)
