요약
멀리 있는 데이터 센터 대신 휴대폰, 센서, 로컬 서버에서 AI를 실행하면 데이터 이동에 드는 에너지를 줄이고 개인정보를 보호할 수 있습니다. 그러나 에너지와 제조 발자국이 거의 측정되지 않는 수십억 대의 기기로 계산이 흩어집니다. 엣지 AI가 더 친환경적인지는 모델, 기기, 실행 빈도, 무엇을 대체하는지에 달려 있으며, 증거는 아직 부족합니다.
핵심 내용
- 엣지 AI는 중앙 데이터 센터가 아니라 데이터를 수집하는 기기 위나 그 근처에서 모델을 실행합니다.
- 에너지를 쓰는 네트워크를 통해 데이터를 보내지 않아도 되고 데이터를 비공개로 지킬 수 있지만, 공유되며 최대한 활용되는 서버의 효율은 포기하게 됩니다.
- 엣지 추론과 클라우드 추론을 비교한 연구들은 결론이 엇갈리며, 결과는 모델, 하드웨어, 기준선에 크게 좌우됩니다.
- 기기 제조에는 큰 탄소 비용이 들기 때문에, 기기 수명을 줄이거나 새 하드웨어를 요구하는 AI 기능은 에너지 절감분을 넘어설 수 있습니다.
- 엣지 AI는 데이터 센터 계량기도, PUE도, 보고 의무도 없어 측정하고 규제하기 어렵습니다.
AI의 에너지 사용에 관한 논쟁은 대부분 데이터 센터를 둘러싸고 벌어집니다. 큰 계량기가 그곳에 있기 때문입니다. 그러나 점점 더 많은 AI가 다른 곳에서 실행됩니다. 휴대폰, 노트북, 자동차, 카메라, 초인종, 공장 센서입니다. 이것이 "엣지 AI"입니다. 엣지 AI는 AI 발자국 문제에 대한 해답의 일부일 수도 있고, 아무도 세지 않는 곳으로 발자국을 옮기는 방법일 수도 있습니다.
엣지 AI란 무엇인가요?
엣지 AI는 데이터를 멀리 있는 데이터 센터로 보내는 대신, 데이터를 수집하는 기기 위나 그 근처에서 모델을 실행합니다. "온디바이스" AI는 모델이 휴대폰이나 센서 자체에서 실행되는 극단적인 경우입니다.
엣지 AI는 이미 흔합니다.
- Apple의 2025년 기술 보고서는 약 30억 개의 파라미터를 가진 온디바이스 언어 모델을 설명하는데, 휴대폰과 노트북에 들어가 실행될 수 있도록 2비트 양자화 인식 훈련으로 압축되었습니다.
- Google의 Android AICore 서비스는 지원되는 Pixel 및 Samsung 휴대폰에서 앱이 기기에서 실행되는 모델인 Gemini Nano를 쓸 수 있게 합니다.
- 산업용 카메라, 드론, 자동차, 의료 기기는 네트워크 연결을 기다리거나 그에 의존할 수 없기 때문에 비전 및 제어 모델을 로컬에서 실행합니다.
기기 수는 많고 계속 늘고 있습니다. IoT Analytics는 휴대폰, PC, 태블릿을 제외하고도 2024년 말 연결된 사물인터넷 기기를 약 185억 대로 집계했으며, 2030년까지 약 390억 대가 될 것으로 전망했습니다.
엣지 AI는 왜 에너지를 아낄 수 있을까요?
데이터를 옮기는 데 에너지가 들고, 로컬 처리로 이를 피할 수 있기 때문입니다. 또한 민감한 데이터를 제자리에 둘 수 있습니다.
국제에너지기구(IEA)는 데이터 전송 네트워크가 세계 전력의 약 1~1.5%를 쓴다고 추정했는데, 이는 데이터 센터와 비슷한 비중입니다. 데이터를 수집한 곳에서 처리하고 결과만 보내면 이 부하를 줄일 수 있습니다.
단서가 있습니다. Mytton, Lundén, Malmodin은 2024년 네트워크 에너지가 데이터 양에 정비례하지 않는다는 것을 보였습니다. 네트워크 전력의 상당 부분은 데이터가 흐르든 흐르지 않든 소비됩니다. 데이터를 덜 보낸다고 해서 그만큼 에너지가 일대일로 줄지는 않으므로, 단순한 "기가바이트당 kWh" 추정은 절감 효과를 과장합니다.
그 밖의 잠재적 이점은 다음과 같습니다.
- 개인정보 보호와 주권. 기기, 병원, 전력망 운영자를 결코 떠나지 않는 데이터는 전송 중에 유출되거나 제3자에게 쓰일 수 없습니다.
- 회복력. 로컬 모델은 네트워크나 클라우드가 다운되어도 계속 작동합니다.
- 지연 시간. 왕복 없이 답이 도착하며, 이는 차량과 기계에 중요합니다.
엣지 AI는 왜 비용이 더 들 수 있을까요?
작은 기기는 대개 크고, 공유되며, 최대한 활용되는 서버보다 효율이 낮고, 기기 제조에는 큰 탄소 비용이 들기 때문입니다.
- 가동률. 데이터 센터 가속기는 여러 사용자의 요청을 묶어 처리하며 계속 바쁘게 일할 수 있습니다. 휴대폰이나 센서는 한 사용자의 요청을 처리한 뒤 놀고 있습니다.
- 제조. Meta의 Wu와 동료들은 2022년, 하드웨어 제조에서 나오는 내재 탄소가 AI 전체 발자국의 주된 원천이 되어 가고 있다고 보고하면서, 엣지로 옮겨 가는 계산은 재생에너지 접근이 제한된 곳에서 실행될 수 있다고 지적했습니다. 새 휴대폰을 요구하거나 오래된 휴대폰을 느리게 느끼게 하는 AI 기능은 절약한 에너지를 넘어설 수 있는 제조 배출을 더합니다.
- 곱셈. 기기당 작은 비용에 수십억 대를 곱하면 큰 비용이 됩니다. 모델을 계속 실행하는 초인종이나 카메라는 가끔의 클라우드 호출보다 총에너지를 더 쓸 수 있습니다.
증거는 무엇을 말하나요?
엇갈리며, 무엇과 비교하느냐에 크게 좌우됩니다. Li, Islam, Ren(2025)은 클라우드와 엣지 기기에서의 생성형 AI 추론을 비교해 여러 모델에서 엣지 배포의 환경 발자국이 더 작다는 것을 발견했으며, 최신 휴대폰을 사용한 시험에서는 90%가 넘는 에너지 절감을 확인했습니다. 다만 이들의 클라우드 기준선은 완전히 최적화된 운영 서비스가 아니었다는 점이 중요합니다. 효율적인 데이터 센터에서 요청을 잘 묶어 처리하는 서버는 넘어서기 더 어려운 기준입니다.
기기에서 네트워크를 거쳐 데이터 센터까지 AI 서비스 전체를 추적하는 종단 간 연구는 특히 대규모 언어 모델의 경우 아직 드뭅니다. 2026년 영국에서 수학자, 컴퓨터 과학자, 산업계가 모인 그린 AI 샌드핏(집중 토론 워크숍)은 수백만 대의 기기에 걸친 엣지 AI의 순 에너지 효과를 모델링하는 것을 열린 질문으로 꼽았습니다.
엣지 AI는 왜 측정하고 규제하기 어려울까요?
단일한 계량기가 없기 때문입니다. 데이터 센터는 에너지 사용량과 전력 사용 효율(PUE)을 보고하며, EU에서는 규모가 큰 데이터 센터가 공통 제도에 보고해야 합니다. 휴대폰, 센서, 책상 옆 AI 워크스테이션에는 그런 의무가 없습니다.
에너지는 나타난다 해도 수백만 가구와 기업에 흩어진 배터리 소모나 약간 높아진 전기 요금으로만 드러납니다. 그래서 작업을 엣지로 옮겨 에너지를 절감했다고 주장하기는 쉽지만, 아무도 이를 확인할 수 없습니다. 측정이 병목이다를 참고하십시오.
무엇이 엣지 AI를 더 친환경적으로 만들까요?
작고 효율적인 모델을, 필요할 때만, 사람들이 이미 가진 하드웨어에서 실행하는 것입니다. 데이터 센터 에너지를 줄이는 같은 방법들이 배터리에서는 더욱 중요합니다.
- 압축된 모델: 가지치기, 양자화, 증류. AI를 더 효율적으로 만드는 수학을 참고하십시오.
- 이벤트 기반 처리: 모델을 계속 실행하지 말고 무언가 일어났을 때 깨웁니다.
- 클라우드가 필요할 때는 원시 데이터가 아니라 요약을 보냅니다.
- AI 기능 때문에 기기를 바꾸지 않아도 되도록 오래된 기기를 지원합니다.
에너지 효율적 소프트웨어에 관한 유럽 연구 프로젝트인 GreenCode도 같은 점을 강조합니다. 작게 조정한 모델, 무차별적인 컨텍스트 대신 검색, 처리 가능한 가장 저렴한 구성 요소로의 라우팅, 스케줄링이 에너지를 더 쓸 여지가 없는 배터리 전원과 제약된 하드웨어에서 AI를 실현 가능하게 만듭니다.
다음에 할 일
- 엣지인가 클라우드인가?의 질문을 활용해 엣지와 클라우드를 사례별로 결정하십시오.
- 실행 에너지뿐 아니라 제조도 계산에 넣고, 새 하드웨어가 필요한 기능은 피하십시오.
- 테스트할 때 정확도와 속도만이 아니라 기기 에너지도 측정하십시오.
- 모델을 계속 실행하지 말고 이벤트가 있을 때 실행하며, 원시 데이터 대신 결과를 보내십시오.
- 엣지 AI 제품을 구매한다면 공급업체에 추론당 에너지와 지원되는 기기 수명을 요청하십시오. 지속 가능한 AI 조달을 참고하십시오.
자주 묻는 질문
엣지 AI란 무엇인가요?
원격 데이터 센터가 아니라 휴대폰, 카메라, 자동차, 공장 센서처럼 데이터가 수집되는 기기 위나 그 근처에서 실행되는 AI입니다.
온디바이스 AI가 환경에 더 좋은가요?
때로는 그렇습니다. 데이터를 클라우드로 보내는 데 드는 에너지를 아낄 수 있지만, 작은 기기는 공유 서버보다 효율이 낮고, 새로운 AI 기능은 사람들이 새 하드웨어를 사도록 부추길 수 있습니다. 순효과는 경우에 따라 다릅니다.
온디바이스 AI는 휴대폰 배터리를 닳게 하나요?
휴대폰에서 모델을 실행하면 다른 고사양 앱처럼 배터리를 씁니다. 제조사는 이를 줄이려고 작고 압축된 모델과 전용 칩을 쓰지만, 에너지는 여전히 쓰이며 어떤 데이터 센터 통계에도 나타나지 않습니다.
출처
- Data centres and data transmission networks, International Energy Agency (2023)
- Network energy use not directly proportional to data volume: the power model approach for more reliable network energy consumption calculations, Mytton, Lundén and Malmodin, Journal of Industrial Ecology (2024)
- Number of connected IoT devices (State of IoT 2025), IoT Analytics (2025)
- Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
- Gemini Nano with Android AICore, Google, Android Developers (2024)
- A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
- Sustainable AI: environmental implications, challenges and opportunities, Wu et al., MLSys (2022)
- Green AI and energy-aware computing, GreenCode (2026)
관련 내용
엣지냐 클라우드냐: AI는 어디에서 실행해야 할까요?
기기·엣지 AI와 중앙 데이터센터를 에너지, 네트워크, 하드웨어, 개인정보, 회복력 면에서 비교하고 단계별로 결정하는 방법을 안내합니다.
그린 AI 호스팅과 데이터센터
AI를 어디서 실행할지 고르는 법: 전력망 탄소 집약도, PUE와 WUE, 재생에너지 주장, 물 사용과 입지, 호스팅 업체에 물어볼 질문을 다룹니다.
측정이 그린 AI의 병목입니다
AI 에너지 수치를 믿고 비교하기 어려운 이유를 설명합니다. 자체 보고 수치, 측정 아닌 추정, 서로 다른 경계, 그리고 좋은 측정의 모습을 다룹니다.
AI를 더 효율적으로 만드는 수학
가지치기, 희소성, 스케칭, 랜덤 행렬 이론, 물리 정보 모델: 수학이 AI에 필요한 계산, 메모리, 에너지를 어떻게 줄이는지 설명합니다.