# ¿Cómo ejecuto un modelo de IA en local?

> Cómo ejecutar un modelo de IA abierto en su portátil o servidor con herramientas como Ollama o llama.cpp, elegir un modelo cuantizado que quepa y medir su energía.

Source: https://greenai.guide/es/como/como-ejecuto-un-modelo-de-ia-en-local/  
Updated: 2026-11-19

## En resumen

Instale un ejecutor local como Ollama o llama.cpp, descargue un modelo pequeño de pesos abiertos en un formato cuantizado como GGUF y ejecútelo en su propio ordenador. Elija el modelo más pequeño que haga su tarea: las versiones cuantizadas necesitan mucha menos memoria, así que un modelo de 8.000 millones de parámetros que necesita unos 16 GB en formato de 16 bits cabe en unos 4–5 GB con 4 bits.

## Steps

1. Compruebe la memoria de su ordenador y si tiene una GPU utilizable o un chip de Apple (Apple silicon).
2. Instale un ejecutor local como Ollama o llama.cpp.
3. Descargue un modelo pequeño de pesos abiertos en un formato cuantizado que quepa en su memoria.
4. Pruébelo con sus tareas reales y pase a un tamaño mayor solo si se queda corto.
5. Mida su energía con un medidor de enchufe o una herramienta como CodeCarbon.
6. Cierre el modelo cuando no lo use para que no retenga memoria ni consuma energía.

**Ejecutar un modelo en local significa elegir un ejecutor, un modelo que quepa y luego medir.** Mantiene los datos
en su máquina y le permite ver exactamente lo que cuesta la IA en energía, algo que un servicio alojado nunca le
muestra.

## ¿Qué necesito? {#what-do-i-need}

- **Un ejecutor.** Ollama es una forma popular de usar modelos abiertos en su propio ordenador. llama.cpp es un motor
  de más bajo nivel en C/C++ pensado para ejecutar modelos con una configuración mínima en una gran variedad de
  hardware.
- **Un archivo de modelo.** GGUF es un formato binario optimizado para una carga rápida y una inferencia eficiente,
  con versiones cuantizadas desde menos de 2 bits hasta 8 bits por peso.
- **Memoria suficiente.** La documentación de Hugging Face da una regla práctica: un modelo de 8.000 millones de
  parámetros necesita unos 16 GB para sus pesos en formato de 16 bits, unos 8 GB con 8 bits y unos 4–5 GB con 4 bits.
  Menos bits cuestan algo de precisión.

## ¿Es más ecológico que la nube? {#is-it-greener-than-the-cloud}

**No automáticamente.** Un portátil que atiende una solicitud cada vez puede ser menos eficiente por respuesta que un
servidor de centro de datos ocupado y con buenos lotes. Lo local gana cuando el modelo es pequeño, la tarea es
frecuente o evita enviar muchos datos por la red. Consulte [dispositivo o nube](/es/como/como-decido-entre-ejecutar-la-ia-en-mi-dispositivo-o-en-la-nube/).

## Errores frecuentes {#common-mistakes}

- **Descargar el modelo más grande que admite su máquina.** Empiece por uno pequeño; consulte
  [elegir un modelo de IA más pequeño](/es/como/como-elijo-un-modelo-de-ia-mas-pequeno/).
- **Dejar el modelo cargado todo el día** en un ordenador de sobremesa con una GPU que consume mucho.
- **Comprar una GPU nueva antes de probar un modelo cuantizado**; consulte [cómo cuantizar un modelo](/es/como/como-cuantizo-un-modelo/).

Para comprobar la energía, use un medidor de enchufe o CodeCarbon, como se describe en
[medir la energía que usa la IA en su propio ordenador](/es/como/como-mido-la-energia-que-usa-la-ia-en-mi-propio-ordenador-o-gpu/). Para las
ventajas e inconvenientes, lea [en el dispositivo o en la nube](/es/buenas-practicas/borde-o-nube-donde-debe-ejecutarse-la-ia/).

## Fuentes

- [Ollama documentation](https://docs.ollama.com), Ollama (2026)
- [llama.cpp: LLM inference in C/C++](https://github.com/ggml-org/llama.cpp), ggml-org (GitHub) (2026)
- [GGUF](https://huggingface.co/docs/hub/gguf), Hugging Face Hub documentation (2026)
- [Quantization overview](https://huggingface.co/docs/transformers/main/en/quantization/overview), Hugging Face Transformers documentation (2026)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
