요약
기업에게 그린 AI란 더 적은 에너지, 비용, 탄소로 AI에서 필요한 결과를 얻는 것입니다. 절감 효과의 대부분은 몇 가지 결정에서 나옵니다. AI가 가치를 더하는 곳에서만 AI를 쓰고, 일을 잘 해내는 가장 작은 모델을 고르고, 에너지 데이터를 공개하는 공급업체를 선택하고, 어떤 주장을 하기 전에 먼저 측정하는 것입니다.
핵심 내용
- 대부분의 기업에서 가장 저렴하고, 가장 빠르고, 가장 친환경적인 AI는 대개 같은 AI입니다. 더 작은 모델, 더 적은 토큰, 더 적은 재작업입니다.
- 국제에너지기구(IEA)는 2024년 데이터센터가 약 415 TWh의 전력, 즉 세계 전체의 약 1.5%를 사용했다고 추정하며, 2030년에는 약 945 TWh에 이를 것으로 전망합니다.
- 특정 작업용 모델은 같은 작업에서 범용 생성형 모델보다 운영 비용이 수십~수천 배 저렴할 수 있습니다.
- 공급업체에 요청당 에너지, 사용하는 데이터센터, 측정 방법을 물어보고, 그 답을 계약서에 넣으십시오.
- 측정했거나 출처가 분명한 수치로 뒷받침할 수 없는 친환경 주장은 하지 마십시오.
기업은 왜 그린 AI에 관심을 가져야 하나요?
AI를 더 친환경적으로 만드는 요소가 대부분 AI를 더 저렴하고, 더 빠르고, 더 믿을 만하게 만드는 요소이기 때문입니다. 계산이 줄면 비용이 낮아지고, 답이 빨라지고, 기다리는 시간이 줄어듭니다. 긴 프롬프트, 반복 시도, 지나치게 큰 모델처럼 에너지를 낭비하는 습관은 돈과 직원 시간도 낭비합니다.
수학자, 컴퓨터 과학자, 산업계가 모인 2026년 영국의 그린 AI 샌드핏(집중 토론 워크숍)도 비슷한 결론에 이르렀습니다. 구매자는 비용, 속도, 품질을 보고 선택하므로, 그린 AI는 이런 요소와 경쟁할 것이 아니라 이런 요소와 함께 와야 한다는 것입니다. 기업에게는 좋은 소식입니다. 환경 발자국을 줄이려고 결과를 포기해야 하는 경우는 드뭅니다.
관심을 가져야 할 이유가 네 가지 더 있습니다.
- 규모. 국제에너지기구(IEA)는 데이터센터가 2024년에 약 415 TWh의 전력, 즉 전 세계 전력의 약 1.5%를 사용했다고 추정합니다. 그리고 이 수치가 2030년까지 두 배 이상인 약 945 TWh로 늘어날 것으로 전망하며, AI를 가장 중요한 증가 요인으로 봅니다. 여러분의 AI 사용도 이 수요의 일부입니다.
- 보고. 에너지와 배출량을 보고한다면, 따로 계산하든 안 하든 이제 AI도 그 숫자의 일부입니다.
- 규제. AI 및 데이터센터 제공업체에 에너지 데이터를 요구하는 규칙이 생기기 시작했으며(아래 참조), 덕분에 더 나은 공급업체 정보를 얻을 수 있습니다.
- 신뢰. 고객, 직원, 투자자는 기업이 AI를 어떻게 쓰는지 점점 더 많이 묻습니다. 분명하고 정직한 답이 도움이 됩니다.
AI의 에너지는 어디에 쓰이나요?
일반적인 기업에서 AI 에너지의 대부분은 모델을 훈련하는 데가 아니라 추론, 즉 요청에 답하기 위해 모델을 실행하는 데 쓰입니다. 기업이 큰 모델을 직접 훈련하는 일은 거의 없지만, 모든 프롬프트, 모든 자동화 워크플로, 소프트웨어 안의 모든 AI 기능은 누군가의 하드웨어에서 추론을 실행합니다.
에너지가 쓰이는 주요 지점은 다음과 같습니다.
| 단계 | 일어나는 일 | 관리 주체 |
|---|---|---|
| 훈련 | 모델이 데이터로 학습합니다. 한 번 또는 가끔 이루어집니다 | 주로 모델 제공업체 |
| 파인튜닝 | 기존 모델을 여러분의 작업에 맞게 조정합니다 | 여러분 또는 공급업체 |
| 추론 | 모델이 각 요청에 답합니다 | 공동: 사용량과 모델은 여러분이 고릅니다 |
| 데이터센터 | 냉각, 전력 변환, 네트워킹 | 호스팅 제공업체 |
| 하드웨어 | 칩과 서버 제조(내재 탄소) | 장비를 얼마나 오래 쓰는지를 통해 제공업체가 관리 |
기업이 가장 많이 바꿀 수 있는 부분은 추론입니다. 그 양은 다음에 따라 달라집니다.
- 모델의 크기와 유형. Luccioni, Jernite, Strubell의 연구에 따르면, 같은 작업에서 범용 생성형 모델의 운영 비용은 특정 작업용 시스템보다 수십~수천 배 높았습니다. 이들의 실험에서 이미지 생성은 요청 1,000건당 평균 약 2.9 kWh를 사용했고, 텍스트 분류는 약 0.002 kWh를 사용했습니다.
- 토큰 수(모델이 읽고 쓰는 텍스트 조각). 긴 프롬프트, 붙여 넣은 문서, 장황한 답변이 모두 쌓입니다.
- 워크플로가 하는 호출 횟수. 계획하고, 확인하고, 재시도하는 에이전트는 작업 하나에 수십 번 호출할 수 있습니다.
- 실행되는 장소와 시간. 1킬로와트시에 담긴 탄소는 그 지역의 전력망에 따라 달라지기 때문입니다.
요청당 규모를 가늠해 보면, Google은 Gemini 앱에 보내는 텍스트 프롬프트의 중앙값이 0.24 Wh의 에너지를 사용했으며 이 수치가 1년 동안 33분의 1로 줄었다고 보고합니다. 제공업체마다 측정 방식이 다르므로 이런 수치는 참고용으로 보고, 세부 사항이 왜 중요한지는 AI 에너지 측정을 참조하십시오.
알맞은 모델은 어떻게 고르나요?
일을 안정적으로 해내는 가장 작은 모델을 쓰고, 그것을 여러분의 실제 업무로 시험해 보십시오. 이메일 분류, 청구서에서 항목 추출, 요약, 번역 같은 많은 업무에는 작은 모델이나 특화 모델로 충분합니다.
UNESCO와 University College London은 알맞은 작업에서 더 작은 특정 작업용 모델을 쓰면 성능을 잃지 않고 에너지 사용을 최대 90%까지 줄일 수 있고, 프롬프트와 응답을 짧게 하면 절반 넘게 줄일 수 있다는 것을 발견했습니다.
실천 단계는 다음과 같습니다.
- AI 작업 목록을 만들고, 각 작업에서 "충분히 좋다"가 무엇인지 정하십시오. 예를 들어 청구서 항목의 98%가 정확한 경우입니다.
- 실제 사례 표본으로 작은 모델부터 큰 모델까지 시험해 보십시오. 기준을 충족하는 첫 번째 모델에서 멈추십시오.
- 요청을 라우팅하십시오. 일상적인 요청은 작은 모델로, 어려운 요청만 큰 모델로 보냅니다. 흔히 모델 라우팅이라고 부릅니다.
- 겉보기 절약에 주의하십시오. 너무 작아서 실패하고 결국 큰 모델로 다시 실행해야 하는 모델은 처음부터 큰 모델을 쓰는 것보다 에너지를 더 쓸 수 있습니다. 호출당 비용이 아니라 처음에 바로 성공하는지를 측정하십시오.
- 다시 생성하지 말고 재사용하십시오. 같은 답변, 템플릿, 코드가 다시 필요하면 매번 모델에 묻지 말고 저장해 두었다가 재사용하십시오. ITEA 연구 프로젝트인 GreenCode는 검색, 가장 저렴하면서 충분한 능력을 갖춘 구성 요소로의 라우팅, 스케줄링을 활용해 자체 AI 사용을 작게 유지하는 방법을 설명합니다.
독립적인 등급은 공개 모델을 비교하는 데 도움이 됩니다. Hugging Face와 협력 기관들이 시작한 AI Energy Score는 일반적인 작업에서의 에너지 효율에 따라 모델에 별 1개부터 5개까지 등급을 매깁니다. 자세한 내용은 알맞은 모델 고르기와 생성보다 오케스트레이션을 참조하십시오.
AI 공급업체에 무엇을 물어야 하나요?
수치, 방법, 위치를 묻고, 그 답을 계약서에 넣으십시오. 아직 완전한 답을 줄 수 없는 공급업체가 많지만, 질문하는 것만으로도 수요가 있다는 신호를 보내고 누가 이 문제를 진지하게 다루는지 알 수 있습니다.
입찰과 계약 갱신에 넣을 질문은 다음과 같습니다.
- 요청당 에너지. 우리가 사용할 모델의 일반적인 요청당 또는 토큰 1,000개당 에너지(Wh)는 얼마입니까? 측정값입니까, 추정값입니까? 어떤 방법을 썼습니까?
- 시스템 경계. 그 수치에 유휴 용량, 냉각, 네트워킹이 포함됩니까, 아니면 칩만 포함됩니까?
- 실행 장소. 우리 작업을 어느 데이터센터와 지역에서 호스팅합니까? 그곳의 전력 사용 효율(PUE, 시설 전체 에너지와 컴퓨팅 에너지의 비율)과 물 사용량은 얼마입니까?
- 전력. 연간 인증서로 충당하는 것이 아니라 시간 단위로 청정 전력과 일치시키는 비율은 얼마입니까?
- 모델 선택지. 더 작은 모델을 고르거나 모델 간에 요청을 라우팅할 수 있습니까? 데이터를 현지에 두어야 하는 경우 자체 하드웨어에서 실행할 수 있습니까?
- 보고. 우리 계정의 월별 에너지 및 배출량 데이터를 우리 보고에 쓸 수 있는 형태로 제공하겠습니까?
- 하드웨어 수명. 서버를 얼마나 오래 사용하며, 그 후에는 어떻게 처리합니까?
- 변경 통지. 우리 서비스에 쓰이는 모델을 바꾸면 알려 주겠습니까?
EU 밖에서도 알아 둘 만한 EU 법률이 두 가지 있습니다. 대형 공급업체가 이를 폭넓게 적용하기 때문입니다.
- EU AI Act는 범용 AI 모델 제공업체에 모델의 알려진 또는 추정 에너지 소비량을 문서화하도록 요구합니다(Annex XI).
- Energy Efficiency Directive(에너지 효율 지침)는 IT 전력 수요가 500 kW 이상인 데이터센터 운영자에게 에너지와 물 사용량을 포함한 에너지 성능을 유럽 데이터베이스에 보고하도록 요구합니다(Delegated Regulation 2024/1364).
지속 가능한 AI 조달 가이드에 더 많은 질문이 있으며, 호스팅과 데이터센터에서 답의 의미를 설명합니다. 공급업체는 제품 디렉터리에서, 독립적인 도움은 컨설턴트 디렉터리에서 찾을 수 있습니다.
AI 에너지와 배출량은 어떻게 측정하나요?
측정할 수 있는 것은 측정하고, 나머지는 투명하게 추정하고, 직접 관리할 수 있는 것을 추적하십시오. 완벽한 수치를 얻기는 어렵지만, 일관된 방법을 쓰면 개선되고 있는지 알 수 있습니다.
- 자체 하드웨어나 클라우드 머신. CodeCarbon 같은 오픈소스 도구는 프로세서와 메모리가 끌어 쓰는 전력과 지역 전력망의 탄소 집약도를 바탕으로 배출량을 추정합니다.
- 외부 AI 서비스. 사용한 토큰, 호출, 모델을 기록하십시오. 공급업체가 요청당 에너지 수치를 제공하면 그 수치를 곱하십시오. 제공하지 않으면 공개된 추정치를 쓰고 그렇다고 밝히십시오.
- 단위. 에너지는 kWh로, 배출량은 kg CO₂e(이산화탄소 환산량)로 보고하고, 어떤 전력망 계수를 썼는지 밝히십시오.
- 결과당. 전체 합계뿐 아니라 처리한 청구서 한 건당처럼 유용한 결과 하나당 에너지를 추적하십시오. 그러면 재작업과 재시도의 영향이 드러납니다.
AI 에너지 측정 방법과 측정이 병목인 이유를 참조하십시오.
AI는 CSRD와 ESG 보고에 어떻게 들어가나요?
AI 전력은 기업 에너지 사용량의 일부이므로, 별도 보고서가 아니라 기존 배출량 보고에 들어갑니다. 대부분의 보고 체계에서 하드웨어를 직접 운영하면 구매 전력(Scope 2)에, 클라우드나 AI 서비스를 이용하면 구매 서비스(Scope 3)에 해당합니다.
EU에서는 기업 지속가능성 보고 지침(CSRD)의 적용 범위가 2026년에 좁아졌습니다. 2026년 2월 EU 이사회의 최종 승인으로 적용 대상이 직원 1,000명 초과, 연간 순매출 4억 5,000만 유로 초과 기업으로 제한되었습니다. 이 기준에 못 미치더라도 적용 대상인 대기업 고객이 데이터를 요구하거나, 자발적으로 보고하기로 할 수 있습니다. EU 밖에서는 국가 규칙과 따르고 있는 자발적 체계를 확인하십시오.
의무가 무엇이든 AI를 다른 중요한 에너지 사용과 똑같이 다루십시오. 방법, 경계, 불확실성을 밝히십시오.
직원들의 좋은 습관은 어떻게 만드나요?
매번 에너지를 생각하라고 요구하기보다, 몇 가지 간단한 규칙과 알맞은 도구를 기본으로 제공하십시오. 많은 사람이 하루에도 여러 번 AI를 쓰는 곳에서 습관이 가장 중요합니다.
- 알맞은 도구를 고르십시오. 검색 엔진, 템플릿, 스프레드시트, 기존 소프트웨어로 충분한 경우가 많습니다. AI는 실제로 시간을 아끼거나 품질을 높이는 곳에 쓰십시오.
- 간결하게 쓰십시오. 분명하게 질문하고, 짧은 답을 요청하고, 한 부분으로 충분할 때는 문서 전체를 붙여 넣지 마십시오.
- "슬롯머신"식 사용을 피하십시오. 이미지나 답변을 여러 번 다시 생성하면 비용이 큽니다. 대신 요청을 다듬으십시오.
- 회사 도구에서는 작은 모델을 기본으로 두고, 필요할 때 더 큰 모델을 쓸 수 있게 하십시오.
- 쓰지 않는 것은 끄십시오. 소프트웨어에 기본으로 켜져 있는 AI 기능과 놀고 있는 시험용 머신도 모두 에너지를 씁니다.
- 무거운 작업은 일정을 정해 실행하십시오. 야간 문서 처리처럼 기다려도 되는 일괄 작업은 전력망이 더 깨끗할 때 실행할 수 있습니다.
이 내용을 짧은 정책으로 정리하십시오. 그린 AI 정책 가이드에 템플릿이 있으며, AI를 효율적으로 쓰기에 더 많은 일상 팁이 있습니다.
정직하게 이야기하려면 어떻게 해야 하나요?
측정한 것에 대해서만, 밝힌 기준선과 비교해서, 한계와 함께 주장하십시오. "지속 가능한 AI"나 "탄소 중립 AI" 같은 모호한 주장은 규제 당국과 고객의 면밀한 검토를 부릅니다.
좋은 실천 방법은 다음과 같습니다.
- 기준선("이전 모델과 비교해")과 측정 방법을 밝히십시오.
- 효율(작업당 에너지 감소)과 총사용량(여전히 늘어날 수 있음)을 구분하십시오. AI가 저렴해지면 AI를 더 많이 쓰게 되는 경우가 많은데, 이를 리바운드 효과라고 합니다.
- 상쇄(오프셋)나 연간 재생에너지 인증서만으로 서비스를 친환경이라고 부르지 마십시오.
- 한 제공업체가 자체 보고한 수치는 다른 업체의 수치와 비교할 수 없을 수 있다는 점을 기억하십시오.
자세한 내용은 정직한 친환경 주장과 효율은 충분성이 아니다를 참조하십시오.
다음에 할 일
- AI 사용 현황을 정리하십시오. 사용 중인 도구, 모델, 자동화 워크플로와 각각 대략 얼마나 자주 실행되는지 목록을 만드십시오.
- 사용량이 많은 작업 하나를 골라 더 작은 모델이 품질 기준을 충족하는지 시험하십시오.
- 주요 AI 서비스의 토큰과 호출을 추적하기 시작하고, 자체 하드웨어를 운영하는 곳에서는 에너지도 추적하십시오.
- 다음 입찰이나 계약 갱신에 위의 공급업체 질문을 넣으십시오.
- 정책 가이드를 활용해 AI를 언제, 어떻게 쓸지에 관한 짧은 직원 정책을 공개하십시오.
- 마케팅과 보고서의 주장을 정직한 주장 가이드에 비추어 검토하십시오.
- 필요하면 도움을 받으십시오. 컨설턴트 디렉터리를 이용하고, 제품 디렉터리에서 도구를 찾아보십시오.
자주 묻는 질문
그린 AI는 비용이 더 드나요?
대개 그렇지 않습니다. 더 작은 모델, 더 짧은 프롬프트, 반복 실행 줄이기 같은 주요 수단은 API 요금과 응답 시간도 줄여 줍니다. 추가 비용은 주로 측정하고 모델 간 라우팅을 설정하는 데 드는 직원 시간입니다.
AI의 에너지 사용량을 보고해야 하나요?
대부분의 지역에서는 별도 항목으로 보고할 필요는 없습니다. 하지만 AI 전력은 기업의 에너지 사용량과 배출량의 일부이므로, 적용 대상 기업의 EU CSRD나 자발적 ESG 보고 같은 더 넓은 보고 범위에 포함됩니다.
더 작은 모델이 항상 더 친환경적인가요?
아닙니다. 너무 작은 모델은 실패해서 재시도를 하거나 더 큰 모델로 다시 실행해야 할 수 있습니다. 실제 작업으로 시험해 보십시오. 가장 친환경적인 모델은 처음에 바로 제대로 해내는 가장 작은 모델입니다.
직접 운영하지 않는 클라우드 AI 서비스의 에너지는 어떻게 측정하나요?
공급업체에 요청당 에너지와 그 산출 방법을 물어보십시오. 답을 주지 않으면 공개된 프롬프트당 추정치를 분명한 단서와 함께 사용하고, 토큰 수와 호출 횟수처럼 직접 관리할 수 있는 것을 추적하십시오.
출처
- Energy and AI, International Energy Agency (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Measuring the environmental impact of delivering AI at Google scale, Elsworth et al., Google (2025)
- Council signs off simplification of sustainability reporting and due diligence requirements, Council of the European Union (2026)
- AI Act, Annex XI: technical documentation for providers of general-purpose AI models, European Commission AI Act Service Desk (2024)
- Commission Delegated Regulation (EU) 2024/1364 on the rating scheme for data centres, EUR-Lex (2024)
- CodeCarbon, CodeCarbon (2026)
- Announcing AI Energy Score ratings, Hugging Face (2025)
- Green AI and energy-aware computing, GreenCode (ITEA) (2026)
관련 내용
지속 가능한 AI 조달
AI 공급업체에 에너지, 탄소, 물에 대해 무엇을 물어야 하는지, 어떤 증거를 요청할지, 지속 가능성 약속을 강제할 계약 조항은 무엇인지 안내합니다.
작업에 맞는 모델 고르기
AI 규모를 알맞게 맞추는 법: 작거나 특화된 모델을 쓸 때, 프런티어 모델이 비용값을 할 때, 라우팅의 원리, AI를 쓰지 말아야 할 때를 설명합니다.
AI의 에너지와 탄소를 측정하는 방법
AI 작업의 에너지와 탄소를 계측하거나 추정하는 실용 안내서입니다. 도구, 시스템 경계, 작업 단위 지표, 정직한 불확실성 표기를 다룹니다.
AI에 관한 정직한 친환경 주장
AI 그린워싱을 피하는 법: 주장해도 되는 것과 안 되는 것, 리바운드 효과, 정직한 보고, 영국·EU·미국의 환경 주장 규정을 설명합니다.