요약
직접 관리하지 않는 하드웨어는 계측할 수 없으므로 추정하십시오. 호출마다 입력 토큰과 출력 토큰을 기록하고, AI 클라이언트를 감싸 요청당 추정 에너지와 배출량을 알려 주는 EcoLogits 같은 도구를 쓰십시오. 수치에 추정치라고 표시하고, 방법을 밝히고, 공급업체가 보고한 수치를 얻을 수 있으면 그것으로 바꾸십시오.
단계
- 모든 호출의 모델, 입력 토큰, 출력 토큰을 기록하고, 호출한 기능으로 태그를 답니다.
- AI 클라이언트를 EcoLogits 같은 추정 도구로 감싸 요청당 에너지와 배출량을 얻습니다.
- 추정치를 로그나 대시보드에 지연 시간, 비용과 함께 저장합니다.
- 릴리스마다 가장 무거운 기능과 프롬프트를 검토합니다.
- 공급업체에 측정 수치를 요청하고, 받을 수 있으면 그것으로 바꿉니다.
토큰으로 추정하고, 호출마다 기록하고, 추정치라는 점을 분명히 하십시오. 호스팅 AI 서비스에는 전력계가 없으므로, 직접 수치를 만들지 않으면 무거운 기능과 낭비하는 프롬프트가 보이지 않습니다.
왜 토큰인가요?
에너지는 모델이 읽고 쓰는 양에 따라 늘어납니다. Epoch AI의 상향식 추정에 따르면 일반적인 ChatGPT 질의는 약 0.3 Wh이며, 입력이 10,000 토큰이면 약 2.5 Wh, 100,000 토큰이면 거의 40 Wh로 늘어납니다. 따라서 자체 토큰 로그가 어떤 대표 평균값보다 훨씬 많은 것을 알려 줍니다.
어떤 도구를 써야 하나요?
CodeCarbon 자체 지침이 경계를 긋습니다. 직접 관리하는 하드웨어에서 실행되는 코드에는 CodeCarbon을, 원격 생성형 AI 서비스 호출에는 EcoLogits를 쓰라는 것입니다. EcoLogits는 흔한 AI 제공업체의 클라이언트 라이브러리를 감싸, 모델과 토큰 수를 바탕으로 요청마다 추정 에너지와 지구 온난화 영향을 돌려줍니다.
추정치마다 무엇을 기록해야 하나요?
- 모델과 버전, 그리고 추정에 쓴 도구의 버전
- 입력 토큰과 출력 토큰
- 호출한 기능이나 워크플로
- 호출이 성공했는지 여부(성공한 작업당 에너지를 계산할 수 있도록)
흔한 실수
- 추정치를 측정값처럼 다루는 것. 비공개 모델 뒤의 모델 크기와 하드웨어는 가정한 값인 경우가 많습니다. 범위로 제시하고 그렇다고 밝히십시오.
- 재시도와 에이전트 루프를 무시하는 것. 사용자 요청 하나가 많은 호출을 일으킬 수 있습니다. 작업당 에너지 추적하기를 참고하십시오.
- 공급업체에 묻지 않는 것. AI 회사에 에너지 수치 요청하기를 참고하십시오.
방법과 범위에 관한 더 자세한 내용은 AI 에너지 측정 방법에 있습니다.
출처
- EcoLogits documentation, EcoLogits (2025)
- When to use CodeCarbon, CodeCarbon (2025)
- How much energy does ChatGPT use?, Epoch AI (2025)
관련 내용
AI 에너지를 총량이 아니라 작업당으로 추적하려면 어떻게 하나요?
문서당이나 성공한 작업당 같은 기능 단위를 정하고, 그 단위로 에너지와 품질을 기록하며, 총량과 나란히 보고하는 방법입니다.
AI 회사에 에너지 사용량 수치를 어떻게 요청하나요?
AI 제공업체에 요청당 에너지, 탄소, 물 사용량을 묻는 방법과 답변을 판단하는 법, 답이 불완전해도 묻는 것이 도움이 되는 이유를 설명합니다.
AI 기능의 소프트웨어 탄소 집약도(SCI) 점수는 어떻게 계산하나요?
AI 기능의 SCI 점수를 구하는 법: 에너지에 전력망 탄소 집약도를 곱하고 내재 배출량을 더한 뒤, 요청당 같은 기능 단위로 나눕니다.
AI의 에너지와 탄소를 측정하는 방법
AI 작업의 에너지와 탄소를 계측하거나 추정하는 실용 안내서입니다. 도구, 시스템 경계, 작업 단위 지표, 정직한 불확실성 표기를 다룹니다.