greenai.guide

홈 › 어떻게 하나요? › 내 컴퓨터나 GPU에서 AI가 쓰는 에너지는 어떻게 측정하나요?

어떻게 하나요?

내 컴퓨터나 GPU에서 AI가 쓰는 에너지는 어떻게 측정하나요?

업데이트 · 1분 분량

요약

자신의 기기에서는 직접 측정할 수 있습니다. 프로세서와 GPU 카운터를 읽는 CodeCarbon이나 전력 측정 도구를 쓰거나, 컴퓨터와 콘센트 사이에 전력 측정 스마트 플러그를 꽂으십시오. 먼저 유휴 기준값을 기록하고, 순간 측정이 아니라 작업 전체를 샘플링하고, 수치를 믿기 전에 실행을 몇 번 반복하십시오.

단계

  1. 시작하기 전에 기기의 유휴 전력을 측정합니다.
  2. CodeCarbon, 카운터 기반 도구, 전력 측정 스마트 플러그로 계속 기록하면서 AI 작업을 실행합니다.
  3. 작업 전체에 걸쳐 GPU 전력을 샘플링하고 시간에 따라 적분합니다.
  4. 실행을 여러 번 반복하고 평균과 범위를 보고합니다.
  5. 기기마다 한 번은 소프트웨어 측정값을 콘센트 전력계와 비교해 확인합니다.

직접 소유한 하드웨어는 계측할 수 있으며, 이는 어떤 추정치보다 낫습니다. 로컬 모델, 파인튜닝 실행, AI 코딩 도구가 실제로 내 기기에서 얼마나 전력을 쓰는지 보는 가장 좋은 방법입니다.

어떤 도구를 쓸 수 있나요?

선택지 읽는 대상 적합한 용도
전력 측정 스마트 플러그 콘센트에서 본 기기 전체 누구나 사용 가능, 다른 도구 확인용
CodeCarbon 프로세서, GPU, 메모리 전력과 전력망 탄소 Python 스크립트, 학습, 로컬 추론
프로세서 카운터(많은 Intel·AMD 칩의 RAPL) CPU와 메모리 에너지 perf, Scaphandre, PowerJoular 같은 Linux 도구
GPU 원격 측정(nvidia-smi, NVML) GPU 전력 NVIDIA 카드에서의 모델 학습과 추론

왜 시간에 걸쳐 샘플링하나요?

GPU 측정값은 연속값이 아니라 샘플링된 값입니다. Yang 연구진은 A100과 H100 GPU에서 nvidia-smi가 전력에 대해 실행 시간의 약 25%만 샘플링한다는 것을 발견했으며, 이는 짧은 작업에서 크게 오해를 낳을 수 있습니다. 작업 내내 측정값을 기록하고, 많은 샘플링 간격을 포함할 만큼 오래 실행하고, 시간에 따라 합산하십시오.

흔한 실수

  • 유휴 기준값을 잊는 것. 데스크톱은 아무것도 하지 않아도 전력을 씁니다. AI가 더하는 양을 보려면 이를 빼십시오.
  • 한 번만 측정하는 것. 온도, 백그라운드 작업, 클럭 조절이 측정값을 바꿉니다. 반복하고 범위로 제시하십시오.
  • 속도만 비교하는 것. 더 빠른 것과 에너지가 적은 것은 함께 가는 경우가 많지만 항상 그렇지는 않습니다. 둘 다 보고하십시오.

에너지를 탄소로 바꾸려면 전력망 탄소 집약도 찾기를 참고하십시오. 전체 방법은 AI 에너지 측정 방법에 있습니다.

출처

  1. Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
  2. CodeCarbon, CodeCarbon (2026)
  3. When to use CodeCarbon, CodeCarbon (2025)

함께하기

AI가 지구에 미치는 영향을 함께 줄여 주세요

새 가이드, 지원 공모, 디렉터리 등록 소식을 한 달에 한 번 정도 이메일로 받아 보세요. 또는 제품, 강좌, 박사 과정, 연구를 디렉터리에 추가하세요.

추적하지 않습니다. 클릭 한 번으로 구독을 해지할 수 있습니다. 다른 참여 방법 · 개인정보 보호