greenai.guide

홈 › 어떻게 하나요? › AI를 내 기기에서 돌릴지 클라우드에서 돌릴지 어떻게 정하나요?

어떻게 하나요?

AI를 내 기기에서 돌릴지 클라우드에서 돌릴지 어떻게 정하나요?

업데이트 · 1분 분량

요약

작고 자주 하며 개인적이거나 지연에 민감한 작업은 기기에서 실행하고, 큰 모델이 필요한 크거나 가끔 하는 작업은 효율적인 클라우드 서비스로 보내십시오. 일부 연구는 적합한 모델을 기기에서 돌릴 때 에너지를 크게 아낀다고 보고하지만, 잘 운영되는 데이터센터는 넘기 어려운 기준이므로 가능하면 직접 측정하십시오.

단계

  1. 모델 크기, 실행 빈도, 개인정보, 오프라인 작동 필요 여부 등 작업의 요구 사항을 적습니다.
  2. 작은 모델, 잦은 사용, 개인 데이터, 오프라인 필요에는 기기를 우선합니다.
  3. 큰 모델, 가끔 하는 무거운 작업, 일괄 처리할 수 있는 작업에는 클라우드를 우선합니다.
  4. 측정할 수 있다면 네트워크를 포함해 두 방식의 작업당 에너지를 비교합니다.
  5. 배터리 수명과 하드웨어 연식도 기기 쪽 비용으로 고려합니다.

작고 자주 하는 작업은 기기에, 크고 가끔 하는 작업은 클라우드에 맞습니다. 어느 쪽도 모든 경우에 더 친환경적이지는 않습니다. 답은 모델, 실행 빈도, 그리고 각 쪽의 효율에 달려 있습니다.

근거는 무엇을 말하나요?

엇갈립니다. Li, Islam, Ren은 여러 생성형 모델을 엣지에 배포하면 발자국이 줄어들며, 최신 휴대전화에서 시험했을 때 에너지를 90% 넘게 아꼈다고 보고했습니다. 하지만 비교 기준으로 삼은 클라우드는 완전히 최적화된 상용 서비스가 아니었고, 효율적인 데이터센터에서 배치를 잘 묶어 돌리는 서버는 이기기가 더 어렵습니다. 수학자, 컴퓨터 과학자, 업계가 참여한 2026년 영국 그린 AI 샌드핏(집중 토론 워크숍)은 수백만 대의 기기에 퍼진 AI의 순 에너지 효과를 아직 풀리지 않은 문제로 꼽았습니다.

어떻게 선택하나요?

기기가 유리한 경우 클라우드가 유리한 경우
Apple의 약 30억 매개변수 온디바이스 모델 같은 작은 모델 로컬에 들어가지 않는 큰 모델
사진마다, 키 입력마다처럼 자주 실행 가끔 실행
개인적이거나 민감한 데이터 일괄 처리하거나 예약할 수 있는 작업
오프라인이나 즉시 작동해야 함 가장 최신의, 가장 성능 좋은 모델이 필요함

Green Software Foundation은 엣지에서 AI 모델 실행하기를 그린 소프트웨어 패턴의 하나로 꼽지만, 규칙이 아니라 적합한 모델을 위한 선택지로 제시합니다.

흔한 실수

  • 로컬은 공짜라고 생각하는 것. 배터리를 쓰고, 새 하드웨어를 사게 만들 수도 있습니다.
  • 네트워크를 무시하는 것. 큰 파일을 클라우드로 보내는 데도 비용이 듭니다.
  • 기기에 비해 너무 큰 모델을 돌리는 것. 느리고 전력을 많이 소모합니다.

더 자세한 판단 가이드는 엣지냐 클라우드냐와 엣지의 AI를 참고하십시오.

출처

  1. A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
  2. Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
  3. Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)

함께하기

AI가 지구에 미치는 영향을 함께 줄여 주세요

새 가이드, 지원 공모, 디렉터리 등록 소식을 한 달에 한 번 정도 이메일로 받아 보세요. 또는 제품, 강좌, 박사 과정, 연구를 디렉터리에 추가하세요.

추적하지 않습니다. 클릭 한 번으로 구독을 해지할 수 있습니다. 다른 참여 방법 · 개인정보 보호