요약
자신의 기기에서는 직접 측정할 수 있습니다. 프로세서와 GPU 카운터를 읽는 CodeCarbon이나 전력 측정 도구를 쓰거나, 컴퓨터와 콘센트 사이에 전력 측정 스마트 플러그를 꽂으십시오. 먼저 유휴 기준값을 기록하고, 순간 측정이 아니라 작업 전체를 샘플링하고, 수치를 믿기 전에 실행을 몇 번 반복하십시오.
단계
- 시작하기 전에 기기의 유휴 전력을 측정합니다.
- CodeCarbon, 카운터 기반 도구, 전력 측정 스마트 플러그로 계속 기록하면서 AI 작업을 실행합니다.
- 작업 전체에 걸쳐 GPU 전력을 샘플링하고 시간에 따라 적분합니다.
- 실행을 여러 번 반복하고 평균과 범위를 보고합니다.
- 기기마다 한 번은 소프트웨어 측정값을 콘센트 전력계와 비교해 확인합니다.
직접 소유한 하드웨어는 계측할 수 있으며, 이는 어떤 추정치보다 낫습니다. 로컬 모델, 파인튜닝 실행, AI 코딩 도구가 실제로 내 기기에서 얼마나 전력을 쓰는지 보는 가장 좋은 방법입니다.
어떤 도구를 쓸 수 있나요?
| 선택지 | 읽는 대상 | 적합한 용도 |
|---|---|---|
| 전력 측정 스마트 플러그 | 콘센트에서 본 기기 전체 | 누구나 사용 가능, 다른 도구 확인용 |
| CodeCarbon | 프로세서, GPU, 메모리 전력과 전력망 탄소 | Python 스크립트, 학습, 로컬 추론 |
| 프로세서 카운터(많은 Intel·AMD 칩의 RAPL) | CPU와 메모리 에너지 | perf, Scaphandre, PowerJoular 같은 Linux 도구 |
GPU 원격 측정(nvidia-smi, NVML) |
GPU 전력 | NVIDIA 카드에서의 모델 학습과 추론 |
왜 시간에 걸쳐 샘플링하나요?
GPU 측정값은 연속값이 아니라 샘플링된 값입니다. Yang 연구진은 A100과 H100 GPU에서 nvidia-smi가 전력에 대해 실행 시간의 약 25%만 샘플링한다는 것을 발견했으며, 이는 짧은 작업에서 크게 오해를 낳을 수 있습니다. 작업 내내 측정값을 기록하고, 많은 샘플링 간격을 포함할 만큼 오래 실행하고, 시간에 따라 합산하십시오.
흔한 실수
- 유휴 기준값을 잊는 것. 데스크톱은 아무것도 하지 않아도 전력을 씁니다. AI가 더하는 양을 보려면 이를 빼십시오.
- 한 번만 측정하는 것. 온도, 백그라운드 작업, 클럭 조절이 측정값을 바꿉니다. 반복하고 범위로 제시하십시오.
- 속도만 비교하는 것. 더 빠른 것과 에너지가 적은 것은 함께 가는 경우가 많지만 항상 그렇지는 않습니다. 둘 다 보고하십시오.
에너지를 탄소로 바꾸려면 전력망 탄소 집약도 찾기를 참고하십시오. 전체 방법은 AI 에너지 측정 방법에 있습니다.
출처
- Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
- CodeCarbon, CodeCarbon (2026)
- When to use CodeCarbon, CodeCarbon (2025)
관련 내용
AI 모델을 내 컴퓨터에서 직접 실행하려면 어떻게 해야 하나요?
Ollama나 llama.cpp로 노트북이나 서버에서 오픈 AI 모델을 실행하고, 메모리에 맞는 양자화 모델을 고르고, 에너지를 측정하는 방법입니다.
모델 학습의 탄소 발자국은 어떻게 측정하나요?
CodeCarbon 같은 도구로 학습 실행의 에너지를 추적하고, 지역 전력망 탄소 집약도를 곱하고, 하드웨어·시간·위치를 함께 보고하십시오.
AI 에너지 절감을 입증하려면 기준선을 어떻게 정해야 하나요?
실제 AI 에너지 절감을 보여 주는 법입니다. 같은 설정과 부하에서 변경 전에 측정하고, 반복 실행하고, 작업 단위로 보고하고, 품질을 확인하십시오.
AI의 에너지와 탄소를 측정하는 방법
AI 작업의 에너지와 탄소를 계측하거나 추정하는 실용 안내서입니다. 도구, 시스템 경계, 작업 단위 지표, 정직한 불확실성 표기를 다룹니다.