greenai.guide

홈 › 어떻게 하나요? › 우리 회사의 AI 사용을 더 지속가능하게 만들려면 어떻게 해야 하나요?

어떻게 하나요?

우리 회사의 AI 사용을 더 지속가능하게 만들려면 어떻게 해야 하나요?

업데이트 · 1분 분량

요약

먼저 회사가 어디에 AI를 쓰는지 파악한 다음, 효율적인 선택을 기본값으로 만드십시오. 품질 기준을 충족하는 가장 작은 모델, 짧은 출력, 필요할 때만 켜는 AI 기능입니다. 공급업체에 요청당 에너지와 실행 위치를 묻고, 유용한 작업당으로 측정하고, 담당자가 있는 짧은 정책으로 정리하십시오. 이런 단계 대부분은 에너지뿐 아니라 비용과 지연도 줄입니다.

단계

  1. 사용 중인 AI 도구, 기능, 자동화 워크플로와 각각 대략 얼마나 자주 실행되는지 목록으로 만드십시오.
  2. 가장 많이 처리하는 작업에서 더 작은 모델이나 AI가 아닌 방법이 품질 기준을 충족하는지 테스트하십시오.
  3. 더 작은 모델, 출력 제한, 필요할 때만 켜는 기능처럼 회사 도구에 효율적인 기본값을 설정하십시오.
  4. 공급업체에 요청당 에너지, 작업 실행 위치, 보고 방식을 물어보십시오.
  5. 유용한 작업당 에너지나 토큰을 추적하고 분기마다 수치를 검토하십시오.
  6. 담당자와 검토 날짜를 정해 규칙을 짧은 정책으로 문서화하십시오.

효율적인 선택을 기본값으로 만들고, 효과가 있는지 측정하십시오. 대부분의 회사에서 에너지는 모델 학습이 아니라 하루에도 여러 번 모델을 실행하는 데(추론) 쓰이므로, 모델, 프롬프트, 기능에 관한 일상적인 선택이 가장 중요합니다.

두 가지 연구 결과가 개선 여지가 얼마나 큰지 보여 줍니다. Luccioni, Jernite, Strubell은 범용 생성 모델이 같은 작업에서 작업 특화 모델보다 실행 비용이 몇 자릿수나 크다는 것을 발견했습니다. UNESCO와 유니버시티 칼리지 런던(UCL)은 더 작은 작업 특화 모델이 에너지 사용량을 최대 90%까지, 더 짧은 프롬프트와 응답이 절반 넘게 줄일 수 있다는 것을 발견했습니다.

어디서부터 시작해야 하나요?

  1. AI 사용처 파악하기: 조직의 AI 사용처를 파악하는 방법을 참고하십시오.
  2. 가장 바쁜 작업의 모델 크기 맞추기: 작은 모델부터 시도하십시오. 더 작은 AI 모델 고르기를 참고하십시오.
  3. 기본값 설정하기: 아무도 쓰지 않는 기능을 끄십시오. 불필요한 AI 기능 끄기를 참고하십시오.
  4. 공급업체에 묻기: AI 조달에 지속가능성 반영하기를 참고하십시오.
  5. 작업당 측정하기: 작업당 AI 에너지 추적하기를 참고하십시오.
  6. 문서로 남기기: 그린 AI 정책 쓰기를 참고하십시오.

가장 큰 차이를 만드는 것

처리량이 많은 작업의 모델 선택, 그리고 아무도 필요로 하지 않는데 돌아가는 AI를 끄는 것입니다. 직원의 습관도 중요하지만, 기본값은 기억에 기대지 않고도 모든 사람에게 적용됩니다.

흔한 실수

  • 성공한 작업당이 아니라 호출당 비용을 세어 재시도가 가려지는 것.
  • 사용량은 계속 늘어나는데 친환경 클라우드 계약을 해답의 전부로 여기는 것.
  • 기준선을 측정하기 전에 절감을 주장하는 것.

전체 접근법은 기업을 위한 가이드에 있습니다.

출처

  1. Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
  2. Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)

함께하기

AI가 지구에 미치는 영향을 함께 줄여 주세요

새 가이드, 지원 공모, 디렉터리 등록 소식을 한 달에 한 번 정도 이메일로 받아 보세요. 또는 제품, 강좌, 박사 과정, 연구를 디렉터리에 추가하세요.

추적하지 않습니다. 클릭 한 번으로 구독을 해지할 수 있습니다. 다른 참여 방법 · 개인정보 보호