greenai.guide

Inicio › ¿Cómo puedo…? › ¿Cómo mido la energía que usa la IA en mi propio ordenador o GPU?

¿Cómo puedo…?

¿Cómo mido la energía que usa la IA en mi propio ordenador o GPU?

Actualizado · 1 min de lectura

En resumen

En su propia máquina puede medir directamente: use CodeCarbon o una herramienta de potencia que lea los contadores del procesador y de la GPU, o ponga un enchufe inteligente con medidor entre el ordenador y la pared. Registre primero el consumo en reposo, muestree durante todo el trabajo en lugar de tomar instantáneas y repita la ejecución varias veces antes de fiarse de la cifra.

Pasos

  1. Mida la potencia en reposo de la máquina antes de empezar.
  2. Ejecute la tarea de IA con CodeCarbon, una herramienta basada en contadores o un enchufe inteligente con medidor registrando todo el tiempo.
  3. Muestree la potencia de la GPU durante todo el trabajo e intégrela en el tiempo.
  4. Repita la ejecución varias veces e informe de la media y del intervalo.
  5. Contraste una vez por máquina un medidor de software con un medidor de enchufe.

El hardware que es suyo puede medirse, y eso es mejor que cualquier estimación. Es la mejor forma de ver lo que consume realmente en su máquina un modelo local, un ajuste fino o una herramienta de programación con IA.

¿Qué herramientas puedo usar?

Opción Qué lee Adecuado para
Enchufe inteligente con medidor Toda la máquina en la toma de corriente Cualquier persona; sirve para contrastar otras herramientas
CodeCarbon Potencia del procesador, la GPU y la memoria, más el carbono de la red Scripts de Python, entrenamiento e inferencia local
Contadores del procesador (RAPL en muchos chips Intel y AMD) Energía de la CPU y la memoria Herramientas de Linux como perf, Scaphandre, PowerJoular
Telemetría de la GPU (nvidia-smi, NVML) Potencia de la GPU Entrenamiento e inferencia de modelos en tarjetas NVIDIA

¿Por qué muestrear a lo largo del tiempo?

Las lecturas de la GPU son muestreadas, no continuas. Yang y sus colegas hallaron que, en las GPU A100 y H100, nvidia-smi solo muestrea la potencia durante un 25% del tiempo de ejecución, aproximadamente, lo que puede inducir a grandes errores en trabajos cortos. Registre lecturas durante todo el trabajo, ejecútelo el tiempo suficiente para cubrir muchos intervalos de muestreo y súmelas a lo largo del tiempo.

Errores frecuentes

  • Olvidar el consumo en reposo. Un ordenador de sobremesa consume energía sin hacer nada; réstelo para ver lo que añade la IA.
  • Medir una sola vez. La temperatura, las tareas en segundo plano y el escalado de frecuencia cambian las lecturas. Repita y dé un intervalo.
  • Comparar solo la velocidad. Más rápido y menos energía suelen ir juntos, pero no siempre. Informe de ambos.

Para convertir la energía en carbono, consulte encontrar la intensidad de carbono de la red. El método completo está en cómo medir la energía de la IA.

Fuentes

  1. Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
  2. CodeCarbon, CodeCarbon (2026)
  3. When to use CodeCarbon, CodeCarbon (2025)

Únase a nosotros

Ayude a reducir el impacto de la IA en el planeta

Reciba por correo electrónico nuevas guías, convocatorias de financiación y fichas de los directorios, aproximadamente una vez al mes. O añada su producto, curso, doctorado o investigación a los directorios.

Sin seguimiento. Cancele la suscripción con un clic. Otras formas de unirse · Privacidad