greenai.guide

홈 › 어떻게 하나요? › AI API 호출에 드는 에너지는 어떻게 추정하나요?

어떻게 하나요?

AI API 호출에 드는 에너지는 어떻게 추정하나요?

업데이트 · 1분 분량

요약

직접 관리하지 않는 하드웨어는 계측할 수 없으므로 추정하십시오. 호출마다 입력 토큰과 출력 토큰을 기록하고, AI 클라이언트를 감싸 요청당 추정 에너지와 배출량을 알려 주는 EcoLogits 같은 도구를 쓰십시오. 수치에 추정치라고 표시하고, 방법을 밝히고, 공급업체가 보고한 수치를 얻을 수 있으면 그것으로 바꾸십시오.

단계

  1. 모든 호출의 모델, 입력 토큰, 출력 토큰을 기록하고, 호출한 기능으로 태그를 답니다.
  2. AI 클라이언트를 EcoLogits 같은 추정 도구로 감싸 요청당 에너지와 배출량을 얻습니다.
  3. 추정치를 로그나 대시보드에 지연 시간, 비용과 함께 저장합니다.
  4. 릴리스마다 가장 무거운 기능과 프롬프트를 검토합니다.
  5. 공급업체에 측정 수치를 요청하고, 받을 수 있으면 그것으로 바꿉니다.

토큰으로 추정하고, 호출마다 기록하고, 추정치라는 점을 분명히 하십시오. 호스팅 AI 서비스에는 전력계가 없으므로, 직접 수치를 만들지 않으면 무거운 기능과 낭비하는 프롬프트가 보이지 않습니다.

왜 토큰인가요?

에너지는 모델이 읽고 쓰는 양에 따라 늘어납니다. Epoch AI의 상향식 추정에 따르면 일반적인 ChatGPT 질의는 약 0.3 Wh이며, 입력이 10,000 토큰이면 약 2.5 Wh, 100,000 토큰이면 거의 40 Wh로 늘어납니다. 따라서 자체 토큰 로그가 어떤 대표 평균값보다 훨씬 많은 것을 알려 줍니다.

어떤 도구를 써야 하나요?

CodeCarbon 자체 지침이 경계를 긋습니다. 직접 관리하는 하드웨어에서 실행되는 코드에는 CodeCarbon을, 원격 생성형 AI 서비스 호출에는 EcoLogits를 쓰라는 것입니다. EcoLogits는 흔한 AI 제공업체의 클라이언트 라이브러리를 감싸, 모델과 토큰 수를 바탕으로 요청마다 추정 에너지와 지구 온난화 영향을 돌려줍니다.

추정치마다 무엇을 기록해야 하나요?

  • 모델과 버전, 그리고 추정에 쓴 도구의 버전
  • 입력 토큰과 출력 토큰
  • 호출한 기능이나 워크플로
  • 호출이 성공했는지 여부(성공한 작업당 에너지를 계산할 수 있도록)

흔한 실수

  • 추정치를 측정값처럼 다루는 것. 비공개 모델 뒤의 모델 크기와 하드웨어는 가정한 값인 경우가 많습니다. 범위로 제시하고 그렇다고 밝히십시오.
  • 재시도와 에이전트 루프를 무시하는 것. 사용자 요청 하나가 많은 호출을 일으킬 수 있습니다. 작업당 에너지 추적하기를 참고하십시오.
  • 공급업체에 묻지 않는 것. AI 회사에 에너지 수치 요청하기를 참고하십시오.

방법과 범위에 관한 더 자세한 내용은 AI 에너지 측정 방법에 있습니다.

출처

  1. EcoLogits documentation, EcoLogits (2025)
  2. When to use CodeCarbon, CodeCarbon (2025)
  3. How much energy does ChatGPT use?, Epoch AI (2025)

함께하기

AI가 지구에 미치는 영향을 함께 줄여 주세요

새 가이드, 지원 공모, 디렉터리 등록 소식을 한 달에 한 번 정도 이메일로 받아 보세요. 또는 제품, 강좌, 박사 과정, 연구를 디렉터리에 추가하세요.

추적하지 않습니다. 클릭 한 번으로 구독을 해지할 수 있습니다. 다른 참여 방법 · 개인정보 보호