# Como rodo um modelo de IA localmente?

> Como rodar um modelo de IA aberto no seu laptop ou servidor com ferramentas como Ollama ou llama.cpp, escolher um modelo quantizado que caiba e medir a energia.

Source: https://greenai.guide/pt/como/como-rodo-um-modelo-de-ia-localmente/  
Updated: 2026-11-19

## Em resumo

Instale um executor local como o Ollama ou o llama.cpp, baixe um modelo pequeno de pesos abertos num formato quantizado como o GGUF e rode-o no seu próprio computador. Escolha o menor modelo que faça a sua tarefa: as versões quantizadas precisam de muito menos memória, então um modelo de 8 bilhões de parâmetros que precisa de cerca de 16 GB no formato de 16 bits cabe em cerca de 4–5 GB com 4 bits.

## Steps

1. Verifique a memória do seu computador e se ele tem uma GPU utilizável ou Apple silicon.
2. Instale um executor local como o Ollama ou o llama.cpp.
3. Baixe um modelo pequeno de pesos abertos num formato quantizado que caiba na sua memória.
4. Teste-o nas suas tarefas reais e passe para um tamanho maior só se ele não for suficiente.
5. Meça a energia com um medidor de tomada ou uma ferramenta como o CodeCarbon.
6. Feche o modelo quando não estiver usando, para que ele não ocupe memória nem consuma energia.

**Rodar um modelo localmente significa escolher um executor, um modelo que caiba e depois medir.** Isso mantém os
dados na sua máquina e permite ver exatamente quanto a IA custa em energia, algo que um serviço hospedado nunca mostra.

## Do que eu preciso? {#what-do-i-need}

- **Um executor.** O Ollama é uma forma popular de usar modelos abertos no seu próprio computador. O llama.cpp é um
  motor em C/C++ de nível mais baixo, feito para rodar modelos com o mínimo de configuração numa grande variedade de
  hardware.
- **Um arquivo de modelo.** O GGUF é um formato binário otimizado para carregamento rápido e inferência eficiente, com
  versões quantizadas de menos de 2 bits até 8 bits por peso.
- **Memória suficiente.** A documentação do Hugging Face dá uma regra prática: um modelo de 8 bilhões de parâmetros
  precisa de cerca de 16 GB para os pesos no formato de 16 bits, cerca de 8 GB com 8 bits e cerca de 4–5 GB com 4
  bits. Menos bits custam alguma precisão.

## É mais verde do que a nuvem? {#is-it-greener-than-the-cloud}

**Não automaticamente.** Um laptop que atende um pedido de cada vez pode ser menos eficiente por resposta do que um
servidor de data center movimentado, que agrupa bem os pedidos. O local leva vantagem quando o modelo é pequeno, a
tarefa é frequente ou quando evita enviar grandes volumes de dados pela rede. Veja
[dispositivo ou nuvem](/pt/como/como-decido-entre-executar-a-ia-no-meu-aparelho-ou-na-nuvem/).

## Erros comuns {#common-mistakes}

- **Baixar o maior modelo que a sua máquina aguenta.** Comece pequeno; veja
  [escolher um modelo de IA menor](/pt/como/como-escolho-um-modelo-de-ia-menor/).
- **Deixar o modelo carregado o dia todo** num computador de mesa com uma GPU que consome muita energia.
- **Comprar uma GPU nova antes de experimentar um modelo quantizado**; veja [como quantizar um modelo](/pt/como/como-faco-a-quantizacao-de-um-modelo/).

Para conferir a energia, use um medidor de tomada ou o CodeCarbon, como descrito em
[medir a energia que a IA usa no seu próprio computador](/pt/como/como-meco-a-energia-que-a-ia-usa-no-meu-proprio-computador-ou-gpu/). Para as
vantagens e desvantagens, leia [borda ou nuvem](/pt/boas-praticas/edge-ou-nuvem-onde-a-ia-deve-rodar/).

## Fontes

- [Ollama documentation](https://docs.ollama.com), Ollama (2026)
- [llama.cpp: LLM inference in C/C++](https://github.com/ggml-org/llama.cpp), ggml-org (GitHub) (2026)
- [GGUF](https://huggingface.co/docs/hub/gguf), Hugging Face Hub documentation (2026)
- [Quantization overview](https://huggingface.co/docs/transformers/main/en/quantization/overview), Hugging Face Transformers documentation (2026)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
