greenai.guide

홈 › 가이드 › 연구자를 위한 그린 AI

가이드

연구자를 위한 그린 AI

업데이트 · 7분 분량

요약

연구자는 두 가지 방법으로 AI를 더 친환경적으로 만들 수 있습니다. 계산이 덜 필요한 방법을 개발하는 것, 그리고 자신의 연구가 쓰는 에너지를 측정하고 보고하는 것입니다. 가지치기(pruning), 양자화, 증류, 더 나은 수치 방법, 물리-머신러닝 하이브리드 모델은 AI의 비용을 줄이며, CodeCarbon과 Green Algorithms 계산기 같은 도구는 그 비용을 논문에서 드러나게 합니다.

핵심 내용

  • Patterson과 동료들은 모델, 데이터센터, 프로세서의 선택에 따라 훈련의 탄소 발자국을 최대 약 100~1,000배 줄일 수 있다는 것을 발견했습니다.
  • 훈련뿐 아니라 추론도 연구의 관심을 받을 가치가 있습니다. 추론은 모델을 쓸 때마다 실행됩니다.
  • CodeCarbon이나 Green Algorithms 계산기 같은 무료 도구를 써서, 모든 논문에 에너지, 하드웨어, 실행 시간, 위치를 보고하십시오.
  • 수학의 기여는 알고리즘에 그치지 않습니다. 지표, 불확실성, 벤치마크, AI 사용 확산의 모델링에도 기여합니다.
  • 최종 모델뿐 아니라 실패한 실행과 하이퍼파라미터 탐색까지 포함해 프로젝트의 컴퓨팅 예산을 정하십시오.

그린 AI는 연구에 왜 중요한가요?

연구는 다른 모든 사람이 따라 하는 방법을 정하고, 연구 자체도 많은 컴퓨팅을 쓰기 때문입니다. 추론 비용을 절반으로 줄이는 기법이 한번 채택되면, 그 기법을 쓰는 모델이 실행될 때마다 에너지를 절약합니다.

이 문제는 일찍부터 제기되었습니다. Strubell, Ganesh, McCallum의 2019년 논문은 여러 언어 모델을 훈련하는 데 드는 재정적, 환경적 비용을 수치로 보여 주고 이를 줄이는 방법을 제안했습니다. 이후 Patterson과 동료들은 모델 아키텍처, 데이터센터, 프로세서의 선택에 따라 훈련의 탄소 발자국을 최대 약 100~1,000배 줄일 수 있다는 것을 발견했습니다. Luccioni, Jernite, Strubell은 같은 작업에서 다목적 생성형 모델을 실행하는 비용이 특정 작업용 모델보다 수십~수천 배 클 수 있음을 보여 주었습니다.

수학자, 컴퓨터 과학자, 산업계가 모인 2026년 영국의 그린 AI 샌드핏(집중 토론 워크숍)은 연구 과제를 세 단계로 정리했으며, 각 단계에는 서로 다른 기법을 적용할 수 있습니다. 처음부터 하는 훈련, 파인튜닝 또는 적응, 그리고 클라우드든 저전력 기기든 배포 단계입니다. 또한 기존 연구의 상당 부분이 프로젝트 결과물과 잘 알려지지 않은 코드 저장소에 있으므로, 어떤 프로젝트든 첫 단계는 이미 무엇이 이루어졌는지 알아보는 것이라고 지적했습니다.

모델을 더 효율적으로 만드는 방법은 무엇인가요?

주요 갈래는 모델에 필요 없는 것을 없애기, 더 적은 비트 쓰기, 더 적은 데이터로 학습하기, 이미 알려진 구조를 모델에 넣기 입니다. 대부분은 함께 쓸 수 있습니다.

가지치기와 희소성

가지치기(pruning)는 출력에 거의 기여하지 않는 가중치를 없앱니다. 희소성(sparsity)은 행렬이나 활성값의 대부분이 0이어서 계산에서 건너뛸 수 있다는 뜻입니다. 과잉 매개변수화가 최적화에 도움이 되기 때문에 큰 신경망은 최종 작업에 필요한 것보다 훨씬 많은 매개변수를 가지는 경우가 많고, 그래서 훈련 후 상당 부분을 없앨 수 있습니다.

열린 질문은 다음과 같습니다. 시행착오가 아니라 훈련 전에 희소성 목표를 어떻게 정할 것인가, 0의 위치가 입력에 따라 달라지는 동적 희소성을 실제 하드웨어에서 어떻게 효율적으로 유지할 것인가, 그리고 주류 칩의 아키텍처 제약을 고려할 때 희소성이 왜 아직 덜 쓰이는가입니다. 이론상 이득이 실제로 측정한 속도 향상보다 큰 경우가 많으므로, 실제 하드웨어에서 얻은 실증 결과가 중요합니다.

양자화와 혼합 정밀도

양자화는 예를 들어 32비트 부동소수점 대신 8비트 정수처럼 더 적은 비트로 저장하고 계산합니다. 혼합 정밀도는 안전한 곳에서는 낮은 정밀도를, 필요한 곳에서는 높은 정밀도를 씁니다. UNESCO와 UCL은 양자화 같은 압축으로 정확도를 유지하면서 에너지를 최대 44% 절약할 수 있다고 보고합니다. 수치 해석학자는 낮은 정밀도가 어디에서 안전한지, 오차가 어떻게 전파되는지 말하기에 좋은 위치에 있습니다.

증류와 더 작은 모델

증류(distillation)는 작은 "학생" 모델이 큰 "교사" 모델을 흉내 내도록 훈련합니다. 학생 모델은 요청마다 실행 비용이 더 적게 듭니다. 모델 전체가 아니라 소수의 추가 매개변수만 조정하는 매개변수 효율적 파인튜닝과 지속 학습에 관한 관련 연구도 처음부터 다시 훈련하는 일을 피하게 해 줍니다.

모델 재사용

새 모델을 훈련하는 대신 기존 모델을 결합하십시오. Wortsman과 동료들은 여러 파인튜닝 모델의 가중치를 평균 내면("모델 수프") 추론 비용을 늘리지 않고도 정확도를 높일 수 있음을 보여 주었습니다. 모델 병합과 재사용은 효율 연구에서 유망한 분야입니다.

데이터 효율

더 적고 더 좋은 데이터로 훈련하면 훈련 에너지가 직접 줄어듭니다. 중복되거나 가치가 낮은 예시 제거, 능동 학습(레이블을 붙일 가장 유익한 예시 고르기), 적은 예시로도 일반화하는 아키텍처 같은 기법이 있습니다.

수치 방법과 데이터 이동

AI의 상당 부분은 선형대수이며, 수십 년간의 수치 해석이 그대로 적용됩니다. 무작위 수치 선형대수와 스케칭(중요한 성질을 유지하면서 행렬을 압축하는 것)은 산술 연산과 데이터 이동을 모두 줄일 수 있습니다. 많은 기기에서 데이터 이동은 산술 연산 자체보다 에너지가 더 듭니다. 어텐션 행렬에서 중요한 부분만 계산하는 근사 어텐션은 대규모 언어 모델에서 활발히 연구되는 예입니다. 역전파의 바탕이 되는 일반 기법인 자동 미분은 AI를 기존 과학 코드와 연결합니다.

물리-머신러닝 하이브리드

시뮬레이션 전체를 신경망으로 바꾸기보다, 신경망에 알맞은 부분만 바꾸십시오. 흔한 방식은 기후 모델이나 공학 모델에서 에너지를 가장 많이 쓰는 구성 요소를 학습된 대리 모델(surrogate)로 바꾸고 나머지 물리는 그대로 두는 것입니다. 물리 정보 기반 모델은 알려진 법칙을 손실 함수나 아키텍처에 넣으므로, 훨씬 적은 매개변수와 데이터로도 충분할 수 있습니다. 그 밖의 구조적 도구로는 볼록성, 펼친 알고리즘(고전적 솔버의 단계를 신경망 층으로 바꾸기), 기하학적 딥러닝에서 처럼 대칭성이 있습니다.

샌드핏에서는 덜 탐구된 아이디어도 나왔습니다.

  • 훈련 목표에 에너지 또는 "탄소" 항을 추가하기. 예를 들어 활성 뉴런이나 전문가 혼합(mixture-of-experts) 모델에서 비용이 큰 전문가에 벌점을 주는 것입니다.
  • 긴 계산 중 오류 정정. 중간중간 확인해서 실행 전체를 반복하지 않아도 되게 하는 것입니다.
  • 멀티 에이전트 AI 시스템이 루프에 빠져 토큰을 낭비하는 것을 감지하기.

효율적인 훈련과 추론과 효율적인 AI를 위한 수학을 참조하십시오.

논문에서 에너지는 어떻게 측정하고 보고해야 하나요?

진행하면서 측정하고, 표준적인 사실을 보고하고, 논문에 실리지 않은 실행까지 포함하십시오. 그렇지 않으면 효율에 관한 주장을 검증하거나 비교할 수 없습니다.

무료 도구는 다음과 같습니다.

  • 오픈소스 Python 패키지인 CodeCarbon은 CPU, GPU, 메모리가 끌어 쓰는 전력과 지역 전력망의 탄소 집약도를 바탕으로 배출량을 추정합니다. 훈련 및 평가 스크립트에 추가하십시오.
  • Lannelongue, Grealey, Inouye가 만든 Green Algorithms 계산기는 하드웨어, 실행 시간, 메모리, 위치를 바탕으로 계산의 발자국을 추정합니다. HPC 작업과 기록을 시작하기 전에 한 작업에 알맞습니다.
  • 많은 CPU의 RAPL이나 GPU 제조사의 전력 인터페이스 같은 하드웨어 카운터는 직접 측정값을 제공하며, 위 도구들은 이를 바탕으로 작동합니다.

보고할 항목은 다음과 같습니다.

항목 예시
하드웨어 GPU 모델과 개수, CPU, 메모리
실행 시간 최종 실행 그리고 모든 튜닝 및 실패한 실행의 GPU 시간
에너지 kWh, 측정값 또는 추정값, 사용한 도구와 버전
위치 국가 또는 전력망 지역, 사용한 탄소 집약도
배출량 kg CO₂e
추론 명시한 배치 크기와 시퀀스 길이에서 요청 1,000건당 에너지
경계 냉각과 데이터센터 부대 소비(PUE) 포함 여부

불확실성을 분명히 밝히십시오. 전력 모델로 낸 추정치는 계량값과 다를 수 있고, Google이 보고한 Gemini 텍스트 프롬프트 중앙값 0.24 Wh 같은 제공업체 수치는 자체 방법과 경계를 씁니다. AI 에너지 측정 가이드와 측정이 병목이다 글에서 더 자세히 다룹니다.

컴퓨팅 예산은 어떻게 정하나요?

프로젝트가 쓸 수 있는 컴퓨팅 양을 미리 정하고, 돈처럼 추적하십시오. 예산이 있으면 절충점이 드러나고 끝없는 튜닝을 막을 수 있습니다.

  • 주요 실험의 GPU 시간을 추정하고, 탐색을 위한 여유분을 더하십시오.
  • 규모를 키우기 전에 소규모 시험 실행으로 아이디어를 걸러 내십시오.
  • 하이퍼파라미터는 대규모 그리드 탐색보다 성과가 나쁜 실행을 일찍 멈추는 것처럼 효율적인 탐색을 택하십시오.
  • 알맞은 경우 체크포인트와 사전 훈련 모델을 재사용하십시오.
  • 유연한 작업은 전력망이 더 깨끗한 시간이나 지역에 배치하십시오.
  • 최고 정확도만이 아니라 kWh당 정확도처럼 컴퓨팅 대비 결과를 보고하십시오.

Lannelongue과 동료들의 GREENER 원칙(Governance, Responsibility, Estimation, Energy and embodied impacts, New collaborations, Education and Research)은 연구 그룹과 기관을 위한 틀을 제공합니다.

효율은 재현성에 어떤 영향을 주나요?

에너지와 컴퓨팅을 보고하면 연구를 재현하기 쉬워지고, 효율적인 방법을 쓰면 재현 비용이 줄어듭니다. 수천 GPU 시간이 필요한 결과는 소수의 그룹만 검증할 수 있습니다.

  • 코드, 설정, 시드를 공개하고, 결과가 몇 번의 실행에 근거하는지 밝히십시오.
  • 실행 간 분산을 보고하십시오. 비결정적 과정을 한 번 실행해서 얻은 정확도 수치 하나는 오해를 부를 수 있습니다.
  • 가능하면 모델의 더 작은 버전이나 증류 버전을 공개해 다른 사람들이 그 위에 연구를 쌓을 수 있게 하십시오.
  • 효율 기법에 관한 부정적 결과도 공유하십시오. 다른 사람들이 같은 일을 반복하지 않아도 됩니다.

수학은 어디에 기여할 수 있나요?

수학은 더 빠른 알고리즘을 넘어, 무엇을 측정할지, 모델을 얼마나 믿을지, AI 사용이 사회에 어떻게 퍼지는지를 판단하는 데 도움이 됩니다. 샌드핏에서는 수학자들이 무엇을 개선할 수 있는지 도구와 증거로 보여 주어야 한다고 강조했습니다.

  • 효율 이론: 가지치기와 희소성을 위한 랜덤 행렬 이론, 작은 모델을 위한 근사 이론, 더 빠른 훈련을 위한 최적화 이론.
  • 수치 해석: AI 파이프라인 안의 정밀도, 안정성, 오차 한계, 솔버.
  • 불확실성 정량화: 대리 모델을 특히 훈련 데이터 밖에서 얼마나 믿을 수 있는지. 이는 대리 모델이 비용이 큰 물리 모델을 대체할 수 있는지를 결정합니다.
  • 지표와 벤치마크: 합의되고 비교 가능한 에너지 및 품질 척도, 그리고 효율이 반영된 품질 지표.
  • 시나리오와 시스템 모델링: 효율 향상이 총사용량을 어떻게 바꾸는지(리바운드 효과), 조직이 왜 AI 사용으로 내몰린다고 느끼는지에 대한 게임 이론, 엣지 컴퓨팅과 중앙 컴퓨팅 사이의 균형.
  • 방법 선택: 문제가 애초에 AI를 필요로 하는지, 고전 알고리즘으로 이미 잘 풀리는지를 판단하는 틀.

연구비와 협력자는 어떻게 찾나요?

효율 연구 질문을 비용이나 속도를 중요하게 여기는 실제 응용 파트너와 결합하십시오. 연구비 지원 기관과 산업계는 더 빠르고, 더 저렴하고, 더 믿을 만한 결과도 함께 가져오는 에너지 절감에 더 잘 반응합니다.

  • 영국의 EPSRC, 미국의 NSF 같은 국가 연구 위원회와 그에 상응하는 기관이 방법론 연구를 지원합니다. AI, 디지털 연구 인프라, 넷제로 관련 공모를 확인하십시오.
  • Horizon Europe 같은 유럽 프로그램과 ITEA 같은 Eureka 클러스터는 산업계와의 공동 프로젝트를 지원합니다. ITEA 프로젝트인 GreenCode는 그린 AI와 소프트웨어 에너지 분야의 한 예입니다.
  • 짧은 산업 프로젝트, 파견 근무, 공동 지원 장학금은 적은 비용으로 협력을 시작하는 방법입니다.
  • 연구 소프트웨어 엔지니어와 HPC 센터에는 그린 컴퓨팅 전문 지식과 교육 프로그램이 있는 경우가 많습니다.

학제 간 팀이 가장 잘 작동합니다. 하드웨어, 소프트웨어, 수치, 해당 분야 전문가를 한자리에 모으십시오. 연구 디렉터리에 그린 AI 분야의 그룹과 프로젝트가 정리되어 있습니다.

어떤 박사 과정 경로가 있나요?

효율적인 머신러닝, 수치 해석, 지속 가능한 저탄소 컴퓨팅, HPC, 하드웨어-소프트웨어 공동 설계 분야에 박사 과정 프로젝트가 있습니다. 상당수는 "그린 AI"라는 이름이 붙어 있지 않으므로, 이런 주제로도 찾아보십시오.

경로는 다음과 같습니다.

  • 영국의 UKRI Centres for Doctoral Training 같은 박사 과정 훈련 센터와 프로그램
  • EU Marie Skłodowska-Curie Actions의 박사 과정 네트워크
  • 산업계 공동 지원 또는 후원 장학금
  • 대형 연구 과제에 딸린 프로젝트

현재 모집 중인 기회는 박사 과정 디렉터리에서, 효율적인 AI, 그린 소프트웨어, 연구 컴퓨팅에 관한 단기 과정은 강좌 디렉터리에서 찾아보십시오.

다음에 할 일

  1. 다음 실험에 CodeCarbon 또는 비슷한 기록 도구를 추가하거나, 지난 프로젝트를 Green Algorithms 계산기로 추정해 보십시오.
  2. 다음 논문에 튜닝과 실패한 실행을 포함한 에너지 및 컴퓨팅 표를 추가하십시오.
  3. 현재 프로젝트의 컴퓨팅 예산을 정하고 매달 검토하십시오.
  4. 이미 쓰고 있는 모델에 양자화나 증류 같은 효율 기법 하나를 시도하고, 그 절충점을 보고하십시오.
  5. 만들기 전에 이미 있는 것을 확인하십시오. 연구 디렉터리와 최근 결과물을 찾아보십시오.
  6. 비용이 큰 AI 또는 시뮬레이션 작업을 가진 파트너를 찾아 공동 프로젝트를 제안하십시오.
  7. 강좌 디렉터리에서 교육을 찾아보고, 학생들에게 박사 과정 디렉터리를 알려 주십시오.

자주 묻는 질문

실험의 에너지 사용량은 어떻게 보고하나요?

실험을 실행하는 동안 CodeCarbon 같은 도구로 에너지를 기록하거나, 나중에 Green Algorithms 계산기로 하드웨어, 실행 시간, 위치를 바탕으로 추정하십시오. kWh, CO₂e, 하드웨어, 시간, 전력망 지역을 보고하고, 실패한 실행과 튜닝 실행도 포함하십시오.

양자화는 정확도를 떨어뜨리나요?

대개 약간만 떨어뜨리지만, 모델과 작업에 따라 다릅니다. UNESCO와 UCL은 양자화 같은 압축으로 정확도를 유지하면서 에너지를 최대 44% 절약할 수 있다고 보고합니다. 여러분의 벤치마크로 직접 확인하십시오.

그린 AI는 진짜 연구 분야인가요, 아니면 부수적인 문제인가요?

머신러닝, 수치 해석, 하드웨어, 컴퓨팅 시스템에 걸쳐 성장하고 있는 분야입니다. 훈련과 추론의 에너지에 관한 연구는 적어도 2019년부터 이어져 왔으며, 이제 EU AI Act는 범용 모델 제공업체에 에너지 사용량을 문서화하도록 요구합니다.

그린 AI로 박사 과정을 할 수 있나요?

네. 효율적인 머신러닝, 수치 방법, 지속 가능한 컴퓨팅, HPC 분야의 프로젝트를 찾아보십시오. 박사 과정 디렉터리에 현재 모집 중인 기회가 정리되어 있습니다.

출처

  1. Carbon emissions and large neural network training, Patterson et al. (2021)
  2. Energy and policy considerations for deep learning in NLP, Strubell, Ganesh and McCallum, ACL (2019)
  3. Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
  4. Green Algorithms: quantifying the carbon footprint of computation, Lannelongue, Grealey and Inouye, Advanced Science (2021)
  5. GREENER principles for environmentally sustainable computational science, Lannelongue et al., Nature Computational Science (2023)
  6. CodeCarbon, CodeCarbon (2026)
  7. Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
  8. Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time, Wortsman et al., ICML (2022)
  9. Measuring the environmental impact of delivering AI at Google scale, Elsworth et al., Google (2025)
  10. AI Act, Annex XI: technical documentation for providers of general-purpose AI models, European Commission AI Act Service Desk (2024)
  11. Green AI and energy-aware computing, GreenCode (ITEA) (2026)

함께하기

AI가 지구에 미치는 영향을 함께 줄여 주세요

새 가이드, 지원 공모, 디렉터리 등록 소식을 한 달에 한 번 정도 이메일로 받아 보세요. 또는 제품, 강좌, 박사 과정, 연구를 디렉터리에 추가하세요.

추적하지 않습니다. 클릭 한 번으로 구독을 해지할 수 있습니다. 다른 참여 방법 · 개인정보 보호