요약
엣지와 클라우드 중 어느 쪽도 기본적으로 더 친환경적이지는 않습니다. 중앙 데이터센터는 대개 대형 모델을 더 효율적으로 실행하고, 기기 내 AI와 엣지 AI는 네트워크 트래픽을 피하고 데이터를 현지에 두며 오프라인에서도 작동할 수 있습니다. 기기, 네트워크, 하드웨어를 포함한 전체 시스템에서 유용한 결과당 에너지를 비교해 사례별로 결정하세요.
핵심 내용
- 작고 자주 쓰이거나 지연 시간에 민감한 작업은 현지에서 실행하고, 크거나 드문 작업은 효율적인 중앙 하드웨어로 보내세요.
- IEA는 2022년 데이터 전송 네트워크가 260–360 TWh, 즉 전 세계 전력의 약 1–1.5%를 썼으며 그중 약 3분의 2가 이동통신망이었다고 추정합니다.
- 네트워크 에너지는 데이터 양에 깔끔하게 비례하지 않으므로, 기가바이트당 절감 효과는 과장되는 경우가 많습니다.
- 수십억 대의 기기가 모이면 큰 양이 됩니다. 사용자의 기기, 배터리, 교체해야 할 수도 있는 하드웨어까지 계산에 넣으세요.
- 현지 AI는 데이터를 기기에 두므로 개인정보 보호, 주권, 회복력에 도움이 됩니다.
엣지 AI와 클라우드 AI 중 어느 쪽이 더 친환경적인가요?
작업, 모델, 기기에 따라 다르므로, 짐작하지 말고 전체 시스템에서 비교하세요. 중앙 데이터센터는 전용 냉각 설비를 갖추고 가속기를 높은 가동률로 운영하므로, 대개 대형 모델의 연산을 더 효율적으로 처리합니다. 기기나 가까운 서버에서 실행되는 엣지 AI는 네트워크로 데이터를 보낼 필요가 없고, 쓰지 않을 때는 완전히 꺼질 수 있습니다.
수학자, 컴퓨터 과학자, 산업계가 함께한 2026년 영국 그린 AI 샌드핏(집중 토론 워크숍)에서 바로 이 질문을 다루었습니다. AI는 센서, 카메라, 초인종, 자동차, 휴대전화 어시스턴트로 퍼지고 있습니다. 수백만 대의 기기를 곱하면, 현지 AI는 데이터를 데이터센터로 보내는 것보다 에너지가 더 들까요, 덜 들까요? 참가자들은 엣지에 배포된 일부 소형 비전 모델에 대해서는 종단 간 에너지 연구가 있지만, 대형 언어 모델에 대한 연구는 거의 없다고 지적했습니다. 오늘날 솔직한 답은 "여러분의 사례를 측정하라"입니다.
어떤 장단점이 있나요?
각 선택지는 서로 다른 면에서 유리합니다.
| 요인 | 기기 내 / 엣지 | 중앙 데이터센터 |
|---|---|---|
| 계산당 에너지 | 범용 칩에서는 대개 더 높음. 전용 신경망 가속기에서는 더 나음 | 대개 더 낮음. 특히 가동률이 높을 때 |
| 모델 크기 | 작고, 흔히 양자화된 모델 | 어떤 크기든 가능 |
| 네트워크 에너지 | 거의 없거나 전혀 없음 | 모든 요청이 네트워크를 거침 |
| 유휴 에너지 | 절전하거나 끌 수 있음 | 공유 용량을 늘 대기 상태로 유지 |
| 하드웨어 | 수십억 대의 기기에 분산. 업그레이드를 부추길 수 있음 | 집중되어 있고, 몇 년마다 교체 |
| 지연 시간 | 빠르고, 오프라인에서도 작동 | 연결 상태에 좌우됨 |
| 개인정보 | 데이터를 기기에 둘 수 있음 | 데이터가 사용자의 통제를 벗어남 |
| 측정 | 어려움: 흩어져 있고 보고되지 않음 | 제공업체가 보고하면 가능 |
| 통제 | 분산됨 | 소수의 제공업체에 집중됨 |
네트워크는 얼마나 중요한가요?
네트워크는 전체적으로 많은 에너지를 쓰지만, 그중 상당 부분이 거의 일정한 기본 부하이므로, 요청 하나의 영향은 바이트당 계산기가 보여 주는 것보다 작습니다.
- 국제에너지기구(IEA)는 2022년 데이터 전송 네트워크가 260~360 TWh, 즉 전 세계 전력의 약 1~1.5%를 썼으며, 그중 약 3분의 2가 이동통신망이었다고 추정합니다.
- Mytton, Lundén, Malmodin은 2024년에 네트워크 에너지가 데이터 양에 정비례하지 않는다는 것을 보여 주었습니다. 네트워크 장비는 바쁘든 아니든 전력을 쓰므로, 기가바이트를 곧바로 킬로와트시로 환산하면 데이터를 덜 보내서 얻는 절감 효과가 과장됩니다.
- 그래도 데이터는 줄이세요. 서버와 기기의 에너지를 아끼고, 트래픽을 줄이면 미래의 네트워크 증설을 피할 수 있습니다. 다만 기가바이트당 네트워크 절감을 엣지 AI의 주된 근거로 삼지는 마세요.
공개된 프롬프트당 수치 중 상당수는 네트워크와 사용자 기기를 제외한다는 점에 유의하세요. 예를 들어 Google의 2025년 Gemini 수치는 둘 다 제외합니다. 엣지와 클라우드 수치를 비교하기 전에 측정 범위를 확인하세요.
기기 자체는 어떤가요?
AI가 실행되는 기기의 에너지, 배터리, 하드웨어도 계산에 넣으세요. 이것도 여러분의 발자국에 포함됩니다.
- 내재 배출: 기기를 제조하면 탄소가 배출됩니다. SCI 명세는 소프트웨어 시스템의 발자국에 내재 배출의 일부를 포함합니다. 기기 내 AI 때문에 사람들이 멀쩡한 휴대전화나 노트북을 더 일찍 바꾸게 된다면, 그 비용이 운영상의 절감을 넘어설 수 있습니다.
- 배터리 소모는 사용자가 부담하는 숨은 에너지 비용입니다. 샌드핏에서는 휴대전화 AI 어시스턴트를 그 예로 들었습니다.
- 상황에 맞춘 조정: Green Software Foundation은 배터리가 부족하거나 기기가 뜨거울 때 더 작은 모델로 바꾸거나 실행 빈도를 낮추라고 제안합니다.
- 규모: 기기 한 대당 작은 절감이나 비용도, 늘 작동하는 수백만 대의 기기에 걸치면 커집니다.
개인정보 보호와 회복력은 어떻게 관련되나요?
현지 AI는 데이터를 기기에 두고, 연결이나 중앙 서비스가 끊겨도 계속 작동합니다.
- 개인정보 보호: 현지에서 처리된 데이터는 제공업체가 전송하거나 저장할 필요가 없습니다. 이는 영국과 EU 데이터 보호법의 데이터 최소화 원칙을 뒷받침하며, 건강 기록이나 핵심 기반시설 기록 같은 민감한 데이터에 적합합니다. 샌드핏에서는 핵심 기반시설 분야에서 민감한 운영 데이터가 조직 안에 머물러야 하는 경우가 많아, 효율적인 현지 모델이 필요하다고 지적했습니다.
- 주권과 통제: 분산 추론은 통제권을 소수의 대형 제공업체에서 분산시킵니다.
- 회복력: 샌드핏에서는 의존성 문제도 제기되었습니다. 사회가 AI에 의존하는데 연결이나 전력이 끊기면 어떻게 될까요? 현지 역량이 있으면 필수 기능을 계속 유지할 수 있습니다.
- 책임성: 엣지 AI는 모니터링하기가 더 어렵습니다. 배포한다면 어떻게 측정하고 보고할지 계획하세요.
단계별로 어떻게 결정하나요?
선택지별로 유용한 결과당 에너지를 산출한 다음, 개인정보 보호, 지연 시간, 회복력을 따져 보세요.
- 작업과 품질 기준을 정의하세요. 무엇을 성공한 결과로 볼까요?
- 기준을 충족하는 가장 작은 모델을 찾으세요(작업에 맞는 모델 고르기). 양자화된 모델은 메모리가 덜 듭니다. LLM.int8() 연구에서 8비트 추론은 필요한 메모리를 절반으로 줄였습니다.
- 결과당 클라우드 에너지를 추정하세요. 데이터센터 오버헤드와, 가능하다면 네트워크도 포함합니다.
- 대표적인 기기에서 결과당 기기 에너지를 측정하세요. 오래된 기기와 저전력 기기도 포함합니다.
- 하드웨어 영향을 더하세요. 새 기기나 전용 엣지 서버가 필요할까요?
- 빈도를 고려하세요. 자주 쓰이는 작은 작업은 기기에, 드물고 무거운 작업은 클라우드에 맞는 경우가 많습니다.
- 개인정보 보호, 지연 시간, 오프라인 사용, 회복력을 따져 보세요.
- 분할을 고려하세요. 작은 현지 모델이 대부분의 요청을 처리하고, 어려운 요청은 클라우드로 넘깁니다.
- 배포 후에 측정하고, 모델과 하드웨어가 바뀌면 다시 검토하세요.
점검 목록
- [ ] 엣지, 클라우드, 분할 방식의 유용한 결과당 에너지를 비교함
- [ ] 측정 범위에 기기와, 가능하다면 네트워크를 포함함
- [ ] 충분한 가장 작은 모델을 선택하고, 성능이 유지되는 경우 기기용으로 양자화함
- [ ] AI 기능 때문에 기기 업그레이드를 강요하지 않음
- [ ] 배터리와 발열에 대응하고, 부족할 때는 가벼운 모드를 제공함
- [ ] 개인정보 보호와 데이터 보호상의 이점을 기록함
- [ ] 엣지 배포에 대한 모니터링을 계획함
다음에 할 일
- AI 기능 하나를 골라 엣지, 클라우드, 분할 방식의 선택지를 대략 그려 보세요.
- 일반적인 기기에서 결과당 에너지를 측정하고 클라우드에서의 값을 추정하세요. AI 에너지 측정하기를 참고하세요.
- 지원하는 기기 중 가장 오래된 기기에서 양자화된 작은 모델을 시험해 보세요.
- 개인정보 보호나 주권상의 이유로 현지에 두어야 하는 데이터가 무엇인지 정하세요.
- 더 넓은 그림은 엣지의 AI에서, 클라우드 쪽은 호스팅과 데이터센터에서 읽어 보세요.
- 제품 디렉터리에서 엣지 AI 도구를, 연구에서 연구 그룹을 찾아보세요.
자주 묻는 질문
기기 내 AI가 클라우드 AI보다 더 친환경적인가요?
경우에 따라 다릅니다. 휴대전화에서 작은 모델을 실행하면 데이터센터와 네트워크 에너지를 피할 수 있지만, 기기는 계산당 효율이 데이터센터 가속기보다 낮고, AI를 실행하려고 새 하드웨어를 사는 것에도 그 자체의 발자국이 있습니다. 전체 시스템을 비교하세요.
데이터를 클라우드로 보내는 데 에너지가 많이 드나요?
네트워크는 상당한 에너지를 쓰지만, 그중 상당 부분은 거의 일정한 기본 부하입니다. 데이터를 줄이면 여전히 기기와 서버에 도움이 되지만, 기가바이트당 네트워크 절감 효과는 대개 과장됩니다.
엣지 컴퓨팅이란 무엇인가요?
멀리 있는 데이터센터가 아니라 데이터가 만들어지거나 쓰이는 곳 가까이에서, 즉 기기 자체나 가까운 게이트웨이 또는 작은 현지 서버에서 이루어지는 컴퓨팅입니다.
개인정보 보호는 왜 관련이 있나요?
기기에서 처리된 데이터는 기기 밖으로 나갈 필요가 없습니다. 그만큼 노출이 줄고, 데이터 최소화 같은 데이터 보호 규정을 지키기도 쉬워질 수 있습니다.
출처
- Data centres and data transmission networks, International Energy Agency (2023)
- Network energy use not directly proportional to data volume: the power model approach for more reliable network energy consumption calculations, Mytton, Lundén and Malmodin, Journal of Industrial Ecology (2024)
- Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
- Green Software Patterns: optimise power consumption for edge AI inference, Green Software Foundation (2025)
- Measuring the environmental impact of delivering AI at Google scale, Google (arXiv 2508.15734) (2025)
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- Principle (c): Data minimisation, Information Commissioner's Office (2023)
- LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale, Dettmers et al. (arXiv 2208.07339) (2022)
관련 내용
엣지 AI: 더 친환경적일까, 아니면 덜 보일 뿐일까?
온디바이스·엣지 AI는 네트워크와 데이터 센터 에너지를 아낄 수 있지만, 아무도 측정하지 않는 수십억 기기에 계산을 흩어 놓습니다. 아는 것과 모르는 것을 정리합니다.
그린 AI 호스팅과 데이터센터
AI를 어디서 실행할지 고르는 법: 전력망 탄소 집약도, PUE와 WUE, 재생에너지 주장, 물 사용과 입지, 호스팅 업체에 물어볼 질문을 다룹니다.
AI의 에너지와 탄소를 측정하는 방법
AI 작업의 에너지와 탄소를 계측하거나 추정하는 실용 안내서입니다. 도구, 시스템 경계, 작업 단위 지표, 정직한 불확실성 표기를 다룹니다.
작업에 맞는 모델 고르기
AI 규모를 알맞게 맞추는 법: 작거나 특화된 모델을 쓸 때, 프런티어 모델이 비용값을 할 때, 라우팅의 원리, AI를 쓰지 말아야 할 때를 설명합니다.