En resumen
Ejecute en el dispositivo las tareas pequeñas, frecuentes, privadas o sensibles a la latencia, y envíe a un servicio en la nube eficiente las tareas grandes u ocasionales que necesitan modelos grandes. Algunos estudios hallan grandes ahorros de energía en el dispositivo con modelos adecuados, pero los centros de datos bien gestionados son una referencia difícil de superar, así que mida su propio caso cuando pueda.
Pasos
- Enumere lo que necesita la tarea: tamaño del modelo, frecuencia de uso, privacidad y si debe funcionar sin conexión.
- Prefiera el dispositivo para modelos pequeños, uso frecuente, datos privados y necesidades sin conexión.
- Prefiera la nube para modelos grandes, tareas pesadas ocasionales y trabajo que puede agruparse en lotes.
- Compare la energía por tarea en ambas opciones, incluida la red, cuando pueda medirla.
- Tenga en cuenta la duración de la batería y la antigüedad del hardware como parte del coste del dispositivo.
Lo pequeño y frecuente conviene al dispositivo; lo grande y ocasional, a la nube. Ninguna opción es más ecológica en todos los casos. La respuesta depende del modelo, de la frecuencia con que se ejecuta y de la eficiencia de cada lado.
¿Qué dice la evidencia?
Es dispar. Li, Islam y Ren hallaron una huella menor al desplegar varios modelos generativos en el dispositivo (edge), con ahorros de energía de más del 90% en pruebas con un teléfono reciente. Pero su referencia en la nube no era un servicio de producción totalmente optimizado, y los servidores con buenos lotes en un centro de datos eficiente son más difíciles de superar. Un sandpit británico de IA verde celebrado en 2026, con matemáticos, informáticos y representantes de la industria, señaló como cuestión abierta el efecto energético neto de la IA repartida en millones de dispositivos.
¿Cómo elijo?
| A favor del dispositivo | A favor de la nube |
|---|---|
| Modelo pequeño, como el modelo de Apple en el dispositivo de unos tres mil millones de parámetros | Modelo grande que no cabe en local |
| Se ejecuta a menudo, por ejemplo con cada foto o cada pulsación de tecla | Se ejecuta de vez en cuando |
| Datos privados o sensibles | Trabajo que puede agruparse en lotes o programarse |
| Debe funcionar sin conexión o al instante | Necesita el modelo más reciente y capaz |
La Green Software Foundation incluye ejecutar modelos de IA en el dispositivo entre sus patrones de software ecológico, como una opción para modelos adecuados y no como una regla.
Errores frecuentes
- Suponer que lo local es gratis. Consume su batería y puede empujarle a comprar hardware nuevo.
- Ignorar la red. Enviar archivos grandes a la nube también tiene un coste.
- Ejecutar un modelo demasiado grande para el dispositivo, de modo que va lento y agota la energía.
Para una guía de decisión más completa, consulte en el dispositivo o en la nube y la IA en el dispositivo.
Fuentes
- A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
- Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
- Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
Relacionado
Borde o nube: ¿dónde debe ejecutarse la IA?
Cómo comparar la IA en el dispositivo y en el borde con los centros de datos: energía, red, hardware, privacidad y resiliencia, con un método paso a paso para decidir.
IA en el borde: ¿más verde o simplemente menos visible?
La IA en el dispositivo y en el borde puede ahorrar energía de red y de centros de datos, pero reparte el cómputo entre miles de millones de dispositivos sin medir.
¿Cómo ejecuto un modelo de IA en local?
Cómo ejecutar un modelo de IA abierto en su portátil o servidor con herramientas como Ollama o llama.cpp, elegir un modelo cuantizado que quepa y medir su energía.
¿Cómo hago un modelo lo bastante pequeño para un dispositivo edge?
Reduzca un modelo para teléfonos, sensores y placas integradas: empiece pequeño, destile, cuantice y pode, y pruebe precisión y energía en el dispositivo real.