요약
문서 요약 1건당이나 성공한 작업 1건당처럼 AI가 제공하는 가치에 맞는 기능 단위를 고르고, 에너지를 그 단위 수로 나누십시오. 단위당 에너지, 단위당 품질, 총량을 나란히 추적하십시오. 단위당 수치는 시스템이 더 효율적이 되는지를, 총량은 증가가 그 효율을 앞지르는지를 보여 줍니다.
단계
- 기능 단위를 고릅니다. 호출당보다는 성공한 작업당을 우선합니다.
- 재시도와 실패한 시도를 포함해 모든 모델 호출에 해당 작업을 태그로 붙입니다.
- 측정했거나 추정한 에너지를 제공한 단위 수로 나눕니다.
- 같은 단위에 대해 품질이나 성공률을 추적합니다.
- 매달 단위당 수치와 총량을 함께 보고합니다.
총량은 증가와 함께 늘어 효율을 가리지만, 작업당 수치는 효율을 보여 줍니다. 둘 다 추적하면 나아지고 있는지, 그리고 그것으로 충분한지를 알 수 있습니다.
어떤 단위를 골라야 하나요?
| 단위 | 적합한 용도 | 주의할 점 |
|---|---|---|
| 호출당 | 간단한 기록 | 재시도와 에이전트 반복을 가립니다 |
| 요청 또는 답변당 | 채팅과 검색 기능 | 답변이 유용했는지는 보여 주지 않습니다 |
| 문서, 티켓, 이미지당 | 배치 처리 | 문서마다 크기가 다릅니다 |
| 성공한 작업당 | 에이전트와 워크플로 | 명확한 성공 판정이 필요합니다 |
사용자 요청 하나에 호출이 여러 번 들어갈 수 있으므로, 대개 성공한 작업당이 가장 좋습니다. Anthropic은 자사 에이전트가 채팅보다 보통 약 4배, 멀티 에이전트 시스템은 약 15배 많은 토큰을 썼다고 보고했습니다.
왜 총량도 유지해야 하나요?
Luccioni, Strubell, Crawford는 AI의 효율 개선이 사용 증가로 상쇄될 수 있다고 경고합니다. 반등 효과(rebound effect)입니다. 작업당 에너지가 절반이 되어도 작업 수가 세 배가 되면 총량은 여전히 늘어납니다. Green Software Foundation의 SCI 사양이 기능 단위당 비율인 것도 이 때문이지만, 그 옆에 절대 수치도 함께 보고해야 합니다.
흔한 실수
- 성공한 호출만 세는 것. 그러면 실패한 시도가 수치에서 사라집니다.
- 보고서마다 단위를 바꾸는 것.
- 품질 없이 효율만 보고하는 것. 더 싸지만 더 자주 실패하는 작업은 개선이 아닙니다.
효율 개선이 상쇄되지 않게 하기와 AI 에너지를 측정하는 방법을 참고하십시오.
출처
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- How we built our multi-agent research system, Anthropic (2025)
- From efficiency gains to rebound effects: the problem of Jevons' paradox in AI's polarized environmental debate, Luccioni, Strubell and Crawford, ACM FAccT (2025)
관련 내용
AI 기능의 소프트웨어 탄소 집약도(SCI) 점수는 어떻게 계산하나요?
AI 기능의 SCI 점수를 구하는 법: 에너지에 전력망 탄소 집약도를 곱하고 내재 배출량을 더한 뒤, 요청당 같은 기능 단위로 나눕니다.
AI API 호출에 드는 에너지는 어떻게 추정하나요?
호스팅 AI API는 계측할 수 없지만, EcoLogits로 토큰 수와 모델 가정에서 호출당 에너지를 추정하고 비용과 함께 기록할 수 있습니다.
AI 효율 개선 효과가 사용 증가로 상쇄되지 않게 하려면 어떻게 해야 하나요?
AI 효율 절감분이 늘어나는 사용에 묻히지 않게 하는 방법입니다. 총량을 추적하고, 사용에 상한이나 예산을 두며, 남는 용량은 회수하고, 필요성을 묻습니다.
AI의 에너지와 탄소를 측정하는 방법
AI 작업의 에너지와 탄소를 계측하거나 추정하는 실용 안내서입니다. 도구, 시스템 경계, 작업 단위 지표, 정직한 불확실성 표기를 다룹니다.