일상적인 AI 사용
- AI 답변을 계속 다시 생성하는 습관은 어떻게 고치나요?
첫 답이 왜 빗나갔는지 파악한 다음, 재생성 버튼을 누르는 대신 짧은 후속 요청으로 무엇을 바꿀지 AI에 알려 주십시오. 재생성할 때마다 완전히 새로운 답이 만들어지므로, 주사위를 대여섯 번이나 열 번씩 굴리는 습관은 특히 이미지와 동영상에서 작업의 에너지를 몇 배로 늘립니다. - AI 에이전트와 딥 리서치 도구를 낭비 없이 쓰려면 어떻게 해야 하나요?
에이전트와 딥 리서치 모드는 여러 출처에 걸쳐 넓은 주제를 조사하는 것처럼 정말 여러 단계가 필요한 작업에 아껴 두고, 간단한 질문에는 일반 채팅을 쓰십시오. 에이전트는 작업 하나에 모델을 여러 번 호출합니다. Anthropic은 에이전트가 채팅의 약 4배, 멀티 에이전트 시스템은 약 15배의 토큰을 쓴다고 보고했습니다. - AI 이미지와 동영상 생성의 환경 영향을 줄이려면 어떻게 해야 하나요?
이미지와 동영상을 더 적게 생성하고, 시작하기 전에 프롬프트를 계획하고, 동영상은 짧게 필요한 해상도로만 만들고, 좋은 결과는 다시 쓰십시오. 한 연구에서 이미지 생성은 요청당 텍스트 분류보다 1,000배 넘게 많은 에너지를 썼고, 짧은 AI 동영상은 그보다도 훨씬 더 많은 비용이 들 수 있습니다. - AI를 쓰려고 기기를 새로 바꾸지 않으려면 어떻게 해야 하나요?
대부분의 AI 도구는 클라우드에서 실행되고 이미 가진 기기의 브라우저나 앱으로 작동하므로, 이를 쓰려고 새 하드웨어가 필요한 경우는 드뭅니다. 기기를 더 오래 쓰면 새 기기를 만드는 데 따르는 영향을 피할 수 있으며, 여기에는 연구자들이 생성형 AI로 인해 늘어날 것으로 예상하는 전자 폐기물도 포함됩니다. - AI의 생각하기(추론) 모드는 언제 써야 하나요?
추론 또는 "생각하기" 모드는 여러 단계의 수학, 까다로운 코드, 신중한 분석처럼 정말 어려운 문제에 쓰고, 일상적인 질문, 초안 작성, 요약에는 일반 모델이나 빠른 모델을 쓰십시오. 추론 모드는 답하기 전에 보이지 않는 긴 풀이 과정을 쓰며, 한 벤치마크에서는 평균 30배 많은 에너지를 썼습니다. - ChatGPT 사용 에너지를 줄이려면 어떻게 해야 하나요?
필요한 것을 명확한 요청 하나로 묻고, 답변은 짧게 받고, 새 주제는 새 채팅에서 시작하고, 이미지와 동영상 생성은 아껴 쓰십시오. 발표된 추정치로 보면 일반 텍스트 질문 하나는 약 3분의 1와트시를 쓰지만, 긴 입력, 반복되는 재생성, 미디어 생성은 그 수치를 몇 배로 늘릴 수 있습니다. - 가족이 AI를 더 지속가능하게 쓰도록 어떻게 도울 수 있나요?
규칙보다는 간단한 가정 습관 몇 가지를 함께 정하십시오. 효과가 있는 가장 단순한 도구를 쓰고, 질문을 명확하게 하고, 다시 생성하기보다 다듬고, AI 이미지와 동영상은 끝없는 오락이 아니라 가끔 즐기는 것으로 여기십시오. 휴대전화, 태블릿, 노트북을 더 오래 쓰는 것도 중요합니다. 기기를 만드는 데도 발자국이 있기 때문입니다. - 긴 AI 대화가 에너지를 낭비하지 않게 하려면 어떻게 해야 하나요?
주제가 바뀌면 새 대화를 시작하고, 긴 대화가 여전히 쓸모 있다면 짧은 요약을 요청해 새 대화에서 그 요약으로 이어 가십시오. 챗봇은 보통 새 메시지에 답할 때마다 지금까지의 대화를 다시 읽으므로, 아주 긴 대화는 모든 답변을 필요 이상으로 비싸게 만듭니다. - 내 AI 사용으로 생긴 탄소를 상쇄하려면 어떻게 해야 하나요?
먼저 줄이고, 상쇄는 AI 사용을 "탄소 중립"으로 만드는 수단이 아니라 선택 사항으로 여기십시오. 대부분의 사람에게 일상적인 텍스트 AI의 발자국은 작으며, 이미지와 동영상 생성이나 끝없는 재생성 같은 무거운 사용을 줄이는 것이 크레딧을 사는 것보다 효과가 큽니다. 소프트웨어 탄소 표준은 상쇄로 측정된 발자국을 줄이는 것을 허용하지 않습니다. - 내 AI 에너지 사용량은 다른 것과 비교하면 어느 정도인가요?
발표된 수치로 보면, 챗봇에 하는 일반 텍스트 질문 하나는 1와트시에 못 미치는 에너지를 쓰며, 오븐이 약 1초 동안 쓰는 정도입니다. 이미지, 동영상, 긴 문서, 추론 모드는 그보다 몇 배나 더 쓸 수 있고 전 세계 총량은 빠르게 늘고 있으므로, "아무것도 아니다"와 "재앙이다" 모두 핵심을 놓칩니다. - 아이들에게 AI와 환경에 관해 어떻게 이야기해 주면 좋을까요?
AI는 데이터센터라는 큰 건물 안의 강력한 컴퓨터에서 돌아가며, 이 컴퓨터는 전기를 쓰고 식히는 데 물을 쓰는 경우가 많다고 설명하십시오. 그리고 그림이나 동영상 만들기처럼 어떤 용도는 다른 용도보다 훨씬 많은 에너지를 쓴다고 알려 주십시오. 차분하고 실용적으로 이야기하십시오. 목표는 죄책감을 느끼는 것이 아니라 AI를 생각하며 쓰는 것입니다. - 에너지를 덜 쓰는 프롬프트는 어떻게 작성하나요?
원하는 것을 정확히 말하는 짧고 구체적인 프롬프트를 쓰고, 모델에 필요한 맥락만 주고, 답의 길이를 정하십시오. 에너지는 모델이 읽고 쓰는 텍스트의 양에 따라 늘어나므로, 둘 다 줄이고 처음부터 쓸 만한 답을 얻는 것이 가장 많이 아낍니다. - 이 작업에 AI가 정말 필요한지 어떻게 판단하나요?
검색 엔진, 계산기, 지도, 사전, 템플릿, 스프레드시트 수식처럼 더 단순한 도구가 이미 그 일을 믿을 만하게 해내는지 물어보십시오. 초안 작성, 설명, 글 다듬기처럼 실제로 시간을 아끼거나 결과를 개선하는 곳에는 생성형 AI를 쓰고, 다른 도구가 잘 처리하는 조회와 계산에는 쓰지 마십시오. - 필요 없는 AI 기능은 어떻게 끄나요?
사용하는 앱, 휴대전화, 브라우저, 오피스 제품군의 설정을 열고, AI 어시스턴트 이름이나 "스마트 기능"이라는 이름의 항목을 찾아 쓰지 않는 기능을 끄십시오. 모든 이메일, 페이지, 문서에서 자동으로 실행되는 기능은 결과를 읽든 읽지 않든 에너지를 쓰므로 기본값이 중요합니다. - 필요 없는 AI 답변 없이 웹을 검색하려면 어떻게 해야 하나요?
일반 웹 링크를 보여 주는 검색 옵션이나 필터를 찾거나, 자동 AI 답변이 없는 검색 엔진이나 설정을 고르거나, 즐겨찾기로 신뢰하는 사이트에 바로 가십시오. 검색할 때마다 생성되는 AI 답변은 필요 없을 수도 있는 모델 작업을 더하며, 영업시간이나 이미 아는 웹사이트처럼 간단한 조회에서는 특히 그렇습니다. - 휴대전화에서 에너지를 낭비하지 않고 AI를 쓰려면 어떻게 해야 하나요?
쓰지 않는 AI 기능은 끄고, 간단한 작업에는 빠른 기기 내 기능을 쓰고, 이미지나 동영상 생성 같은 무거운 작업은 정말 필요할 때로 미루십시오. 기기 내 작은 모델은 데이터센터로 데이터를 보내지 않아도 되지만 여전히 배터리를 쓰므로, 가장 큰 절약은 아무것도 더해 주지 않는 AI를 실행하지 않는 것입니다.
AI 도구와 모델 선택
- AI Energy Score 등급은 어떻게 읽나요?
AI Energy Score 등급은 1,000회 질의당 측정한 GPU 에너지를 바탕으로, 같은 작업으로 시험한 다른 모델과 비교한 에너지 효율에 따라 모델에 별 1~5개를 매깁니다. 별이 많을수록 그 작업에서 에너지를 덜 쓴다는 뜻이지만, 별은 작업 안에서의 상대 평가이므로 같은 작업으로 평가된 모델끼리만 비교하십시오. - AI 도구가 친환경적인지 어떻게 알 수 있나요?
라벨보다 근거를 찾으십시오. 측정 방법을 밝힌 요청당 에너지나 배출량 수치, 더 작은 모델 선택지, 실행 위치에 관한 정보, AI Energy Score 같은 독립 평가가 그 근거입니다. 아직 이 모두를 공개하는 도구는 거의 없으므로, 수치 없는 "친환경"이나 "지속가능" 표현은 사실이 아니라 주장으로 여기십시오. - AI 마케팅의 그린워싱은 어떻게 알아보나요?
수치, 방법, 경계 없이 "친환경", "지속가능한", "탄소 중립 AI" 같은 말을 쓰는 경우와, 상쇄나 연간 재생에너지 인증서에 기댄 주장을 경계하십시오. 정직한 주장은 무엇을 측정했는지, 어떤 기준선과 비교했는지, 무엇이 빠졌는지를 밝힙니다. EU에서는 입증할 수 없는 일반적인 환경 주장이 금지되어 있습니다. - AI 모델을 내 컴퓨터에서 직접 실행하려면 어떻게 해야 하나요?
Ollama나 llama.cpp 같은 로컬 실행 도구를 설치하고, GGUF 같은 양자화 형식의 작은 오픈 웨이트 모델을 내려받아 자신의 컴퓨터에서 실행하십시오. 작업을 해내는 가장 작은 모델을 고르십시오. 양자화 버전은 메모리가 훨씬 적게 필요하므로, 16비트 형식으로 약 16 GB가 필요한 80억 매개변수 모델이 4비트로는 약 4~5 GB에 들어갑니다. - AI 코딩 어시스턴트를 발자국을 크게 남기지 않고 쓰려면 어떻게 해야 하나요?
확실히 이득이 되는 곳에 어시스턴트를 쓰고, 저장소 전체가 아니라 좁혀진 맥락을 주며, 일상적인 수정에는 더 작거나 빠른 모델을 고르고, 어려운 작업은 검토할 수 있는 간단한 단계로 나누십시오. 한 연구에서는 시험한 작업에서 AI 지원 코딩이 직접 코딩보다 약 33배의 탄소 발자국을 남겼으므로, 습관이 중요합니다. - AI 회사에 에너지 사용량 수치를 어떻게 요청하나요?
사용하는 모델의 일반적인 요청 1건당 에너지, 탄소, 물 사용량과 함께 계산 방법, 시스템 경계, 실행 위치를 물어보십시오. 탄소 수치는 위치 기반과 시장 기반을 모두 요청하십시오. 아직 많은 제공업체가 완전히 답하지 못하지만, 막연한 질문보다 구체적인 질문이 더 나은 답을 얻으며, 반복해서 묻는 것이 수요를 만듭니다. - AI를 내 기기에서 돌릴지 클라우드에서 돌릴지 어떻게 정하나요?
작고 자주 하며 개인적이거나 지연에 민감한 작업은 기기에서 실행하고, 큰 모델이 필요한 크거나 가끔 하는 작업은 효율적인 클라우드 서비스로 보내십시오. 일부 연구는 적합한 모델을 기기에서 돌릴 때 에너지를 크게 아낀다고 보고하지만, 잘 운영되는 데이터센터는 넘기 어려운 기준이므로 가능하면 직접 측정하십시오. - LLM 대신 전통적인 머신러닝으로 충분한지 어떻게 판단하나요?
입력이 정형 데이터나 레이블이 붙은 짧은 텍스트이고 출력이 숫자, 범주, 순위라면 선형 모델, 그래디언트 부스팅 트리, 작은 분류기 같은 전통적인 모델을 먼저 시도하십시오. 실행 비용이 훨씬 싸고, 더 빠르고, 설명하기 쉬우며, 정확도도 비슷한 경우가 많습니다. 작업에 정말로 자유로운 언어 생성이 필요할 때 대규모 언어 모델(LLM)을 쓰십시오. - 가장 친환경적인 AI 챗봇은 어떻게 고르나요?
제공업체마다 다른 방식으로 측정한 다른 수치를 발표하고, 아예 발표하지 않는 곳도 있어서, 아직 누구도 주요 챗봇을 에너지 면에서 믿을 만하게 순위 매길 수 없습니다. 에너지와 물 사용을 투명하게 공개하고, 간단한 질문에 쓸 가벼운 모델을 제공하며, 기능을 직접 제어할 수 있는 서비스를 고른 다음 잘 쓰십시오. 어떤 챗봇을 고르느냐보다 어떻게 쓰느냐가 더 중요합니다. - 더 작은 AI 모델은 어떻게 골라야 하나요?
실제 사례로 "충분히 좋다"의 뜻을 정한 다음, 가장 작은 모델부터 큰 모델 순서로 시험해 처음 통과하는 모델에서 멈추십시오. 작은 모델과 작업 특화 모델은 큰 범용 모델이 쓰는 에너지의 일부만 쓸 수 있습니다. UNESCO와 University College London은 알맞은 작업에서 최대 90%를 절감했다고 보고합니다. - 범용 챗봇 대신 작업 특화 모델은 어떻게 찾나요?
작업을 정확하게 정의한 다음, Hugging Face 같은 모델 허브에서 작업 유형으로 검색하고, 작은 후보 두세 개를 자신의 예시로 테스트하십시오. 한 가지 일을 위해 만든 모델은 같은 일을 하는 범용 생성 모델보다 실행 비용이 몇 자릿수나 낮을 수 있으므로, 챗봇으로 정하기 전에 반나절 정도 테스트할 가치가 있습니다. - 여러 AI 모델의 에너지 사용량은 어떻게 비교하나요?
작업에 맞는 표준 벤치마크가 있으면 Hugging Face의 AI Energy Score 같은 것을 쓰고, 없으면 후보 모델을 같은 작업, 하드웨어, 설정에서 직접 측정하십시오. 싼 모델이라도 실패하면 결국 비용이 더 들므로, 품질과 함께 성공한 작업당 에너지를 비교하십시오.
에너지와 배출량 측정
- AI API 호출에 드는 에너지는 어떻게 추정하나요?
직접 관리하지 않는 하드웨어는 계측할 수 없으므로 추정하십시오. 호출마다 입력 토큰과 출력 토큰을 기록하고, AI 클라이언트를 감싸 요청당 추정 에너지와 배출량을 알려 주는 EcoLogits 같은 도구를 쓰십시오. 수치에 추정치라고 표시하고, 방법을 밝히고, 공급업체가 보고한 수치를 얻을 수 있으면 그것으로 바꾸십시오. - AI 기능의 소프트웨어 탄소 집약도(SCI) 점수는 어떻게 계산하나요?
ISO/IEC 21031:2024로 발표된 소프트웨어 탄소 집약도(SCI) 점수는 R당 ((E × I) + M)입니다. 즉 사용한 에너지에 위치 기반 전력망 탄소 집약도를 곱하고, 하드웨어 내재 배출량의 몫을 더한 뒤, 요청 한 건이나 문서 한 건 같은 기능 단위로 나눕니다. 단위를 정하고, 범위를 긋고, 각 항을 수집하거나 추정하고, 변경할 때마다 다시 계산하십시오. - AI 에너지 사용에 관한 주장이 맞는지 어떻게 확인하나요?
여섯 가지를 물으십시오. 무엇당 수치인지(프롬프트, 이미지, 연간?), 누가 측정했는지, 무엇이 포함되는지, 수치가 얼마나 오래되었는지, 무엇과 비교하는지, 효율에 관한 것인지 총사용량에 관한 것인지입니다. 오해를 부르는 주장은 불안을 주든 안심을 주든 대부분 이 가운데 하나에서 걸립니다. 발표된 프롬프트당 수치가 서로 다른 주된 이유는 각기 다른 것을 세기 때문입니다. - AI 에너지 절감을 입증하려면 기준선을 어떻게 정해야 하나요?
무엇이든 바꾸기 전에, 나중에 쓸 것과 같은 하드웨어, 부하, 입력으로 현재 시스템을 측정하고, 실행을 반복해 정상적인 편차를 확인하십시오. 에너지를 총량과 함께 유용한 작업 단위당으로도 보고하고, 편차보다 크고 품질 저하 없이 달성한 절감만 주장하십시오. - AI 에너지를 총량이 아니라 작업당으로 추적하려면 어떻게 하나요?
문서 요약 1건당이나 성공한 작업 1건당처럼 AI가 제공하는 가치에 맞는 기능 단위를 고르고, 에너지를 그 단위 수로 나누십시오. 단위당 에너지, 단위당 품질, 총량을 나란히 추적하십시오. 단위당 수치는 시스템이 더 효율적이 되는지를, 총량은 증가가 그 효율을 앞지르는지를 보여 줍니다. - AI 연구의 에너지 사용량은 어떻게 보고해야 하나요?
하드웨어, 튜닝과 실패를 포함한 모든 실행의 GPU 시간, 사용한 도구와 함께 kWh 단위 에너지, 위치와 전력망 탄소 집약도, kg CO₂e 단위 배출량, 그리고 명시한 배치 크기에서의 추론 에너지를 보고하십시오. 경계에 무엇이 포함되는지, 수치가 얼마나 불확실한지 밝히십시오. CodeCarbon 같은 도구로 그때그때 측정하면, 나중에 재구성할 필요 없이 표만 채우면 됩니다. - AI 하드웨어의 내재 탄소는 어떻게 계산에 넣어야 하나요?
내재 탄소는 하드웨어를 만들고, 운송하고, 폐기할 때 나오는 배출량입니다. 이를 계산에 넣으려면 하드웨어의 총 내재 배출량을 구한 뒤, AI 작업이 그 장비를 얼마나 오래, 얼마나 많이 쓰는지에 따라 나누고, 그 몫을 운영 배출량에 더합니다. SCI 사양의 M 항이 바로 이렇게 합니다. 데이터가 부족한 경우가 많으므로 가정을 밝히십시오. 또한 하드웨어를 더 오래 쓰면 같은 배출량이 더 많은 … - AI의 물 발자국은 어떻게 추정하나요?
물 사용은 에너지 사용을 따라갑니다. 현장 냉각에 대해서는 AI 작업의 에너지에 데이터센터의 물 사용 효율(WUE)을 곱하고, 범위에 포함된다면 전력 생산에 쓰인 물을 더하십시오. 발표된 프롬프트당 수치는 1밀리리터 미만부터 수십 밀리리터까지 다양한데, 주로 각기 다른 것을 세기 때문입니다. 물을 얼마나 쓰는지만큼 어디서 쓰는지도 중요합니다. - 내 AI 사용의 탄소 발자국은 어떻게 계산하나요?
매주 텍스트 질문, 긴 문서, 이미지를 대략 몇 번 쓰는지 세고, 발표된 요청당 수치를 곱하면 대략적인 범위가 나옵니다. 기업 자체 수치로는 일반적인 텍스트 프롬프트가 1와트시에 훨씬 못 미치지만, 긴 입력과 이미지는 훨씬 많이 들므로 대개 가장 무거운 습관이 총량을 좌우합니다. 결과는 정확한 숫자가 아니라 추정치로 보십시오. - 내 컴퓨터나 GPU에서 AI가 쓰는 에너지는 어떻게 측정하나요?
자신의 기기에서는 직접 측정할 수 있습니다. 프로세서와 GPU 카운터를 읽는 CodeCarbon이나 전력 측정 도구를 쓰거나, 컴퓨터와 콘센트 사이에 전력 측정 스마트 플러그를 꽂으십시오. 먼저 유휴 기준값을 기록하고, 순간 측정이 아니라 작업 전체를 샘플링하고, 수치를 믿기 전에 실행을 몇 번 반복하십시오. - 모델 학습의 탄소 발자국은 어떻게 측정하나요?
학습 스크립트를 CodeCarbon 같은 배출량 추적기로 감싸십시오. CodeCarbon은 CPU, GPU, 메모리에서 에너지를 추정하고 지역 전력망 데이터로 탄소로 환산합니다. 튜닝과 실패를 포함해 모든 실행을 세고, 하드웨어, 위치, 실행 시간을 기록하고, 결과를 모델과 함께 공개하십시오. 로그가 없다면 Green Algorithms 같은 계산기로 나중에 추정할 수 있습니다. - 연구 프로젝트의 연산 예산은 어떻게 정하나요?
주요 실험에 필요한 GPU 시간을 추정하고 탐색을 위한 여유분을 더한 다음, 돈처럼 예산 대비 사용량을 추적하십시오. 아이디어는 작은 규모로 먼저 시험하고, 부진한 실행은 일찍 멈추고, 사전 학습된 모델과 체크포인트를 재사용하고, 결과를 그에 든 연산량과 함께 보고하십시오. 예산이 있으면 맞바꿈이 눈에 보이고 끝없는 튜닝을 막을 수 있습니다. - 우리 지역 전력망의 탄소 집약도는 어디서 찾을 수 있나요?
AI 작업이 실행된 장소와 시간에 맞는 지역별 전력망 데이터를 쓰십시오. 영국(그레이트브리튼)에서는 National Energy System Operator의 Carbon Intensity API가 지역별 추정치와 예측을 제공하고, Electricity Maps는 전 세계 350개가 넘는 구역을 다룹니다. 더 세밀한 데이터가 없을 때만 국가 연평균을 쓰고, 어떤 것을 썼는지 밝히십시오.
개발자와 데이터 과학자를 위한
- AI 에이전트가 토큰을 낭비하지 않게 하려면 어떻게 해야 하나요?
모든 에이전트에 실행을 끝내는 검증 가능한 목표, 단계·토큰·시간·지출에 대한 강제 제한, 같은 일을 반복하면 멈추게 하는 루프 감지를 두십시오. 각 단계가 들고 가는 맥락을 줄이고, 규칙으로 내릴 수 있는 결정에는 일반 코드를 쓰고, 간단한 하위 작업은 작은 모델로 보내십시오. 에이전트는 채팅보다 몇 배나 많은 토큰을 쓸 수 있으므로 이런 제한은 금방 효과를 냅니다. - AI가 에너지 효율적인 코드를 쓰게 하려면 어떻게 해야 하나요?
효율적인 코드를 명시적으로 요청하고 메모리, 할당, 알고리즘 복잡도 같은 제약 조건을 밝힌 다음, 코드를 받아들이기 전에 테스트를 실행하고 에너지를 측정하십시오. 연구에 따르면 프롬프트를 바꾸면 생성된 코드의 에너지 효율이 최대 91.9% 높아질 수 있지만, 정확성이 떨어지는 경우가 많았습니다. 어시스턴트에 따를 에너지 원칙을 주고, 결과는 사람이 계속 확인하십시오. - LLM 호출 에너지를 캐싱으로 줄이려면 어떻게 해야 하나요?
두 계층을 사용하십시오. 제공업체의 프롬프트 캐싱은 긴 시스템 프롬프트나 공유 문서처럼 고정된 앞부분의 처리 결과를 재사용하므로, 변하지 않는 내용을 앞에 두십시오. 자체 응답 캐시는 동일한 요청에 대한 답을 저장해 모델을 다시 호출하지 않게 합니다. 적절한 만료 시간만 설정하면 둘 다 연산, 비용, 지연 시간을 줄입니다. - LLM이 쓰는 분량을 제한하려면 어떻게 해야 하나요?
API 호출에서 최대 출력 길이를 설정하고, 프롬프트에서 원하는 형식과 길이를 모델에 알리고, 중지 시퀀스나 구조화된 출력을 써서 일이 끝나면 멈추게 하십시오. 에너지는 모델이 생성하는 토큰 수에 따라 늘어나므로, 출력을 제한하는 것은 어떤 애플리케이션에서든 가장 간단한 절약 방법 중 하나입니다. - 막대한 컴퓨팅 없이 모델을 미세 조정하려면 어떻게 해야 하나요?
사전 훈련된 모델에서 시작해, 모든 가중치 대신 작은 어댑터만 LoRA나 4비트 가중치를 쓰는 QLoRA로 훈련하십시오. LoRA는 GPT-3 전체 미세 조정에 비해 훈련 가능한 매개변수를 1만 배, GPU 메모리를 3배 줄였고, QLoRA는 48 GB GPU 한 대로 650억 매개변수 모델을 미세 조정했습니다. 더 큰 것을 고려하기 전에 결과를 품질 기준과 비교하십시오. - 모델 학습에 드는 에너지를 줄이려면 어떻게 해야 하나요?
가능하면 사전 학습된 모델에서 시작하고, 기준을 충족할 수 있는 가장 작은 아키텍처를 고르고, 혼합 정밀도로 학습하고, 검증 성능이 더 나아지지 않으면 멈추고, 효율적인 하드웨어로 저탄소 지역과 시간에 실행하십시오. Patterson과 동료들은 모델, 데이터센터, 프로세서 선택으로 학습의 탄소 발자국을 최대 약 100~1,000배 줄일 수 있음을 발견했습니다. 맞바꿈이 보이도록 모든 실행을 … - 모델을 양자화하려면 어떻게 해야 하나요?
양자화는 모델 가중치를 16비트나 32비트 대신 보통 8비트나 4비트처럼 더 적은 비트로 저장하므로, 메모리가 덜 들고 답변당 에너지도 줄어드는 경우가 많습니다. 이미 양자화된 버전을 불러오거나 라이브러리의 내장 방법으로 양자화한 다음, 자신의 예시로 원래 정밀도 모델과 비교해 테스트하십시오. 품질이 유지되고 요청당 에너지가 줄면 그대로 쓰십시오. - 모델을 처음부터 학습시키지 않으려면 어떻게 해야 하나요?
작업에 가까운 사전 학습 모델을 찾아 적응시키십시오. 파인튜닝하거나, LoRA 같은 작은 어댑터를 학습시키거나, 다시 학습하는 대신 검색(retrieval)으로 지식을 더하면 됩니다. 같은 기반 모델에서 파인튜닝한 모델이 이미 여러 개 있다면, 가중치를 평균 내어 추론 비용을 늘리지 않고 정확도를 높일 수 있습니다. 파운데이션 모델 연구가 아니라면 처음부터 학습시켜야 하는 경우는 드뭅니다. - 벡터 검색과 RAG를 더 효율적으로 만들려면 어떻게 해야 하나요?
모든 질의를 저장된 모든 벡터와 비교하는 대신 근사 최근접 이웃 인덱스를 쓰고, 길고 많은 구절이 아니라 짧고 관련 있는 구절 몇 개만 검색하며, 바뀐 콘텐츠만 다시 임베딩하십시오. 그런 다음 좋은 맥락이 주어졌을 때 잘 답하는 가장 작은 생성 모델을 쓰십시오. 검색 시스템의 낭비는 대부분 무차별 대입 검색과 지나치게 큰 프롬프트에서 나옵니다. - 신경망 가지치기(pruning)는 어떻게 하나요?
학습된 신경망에서 기여가 가장 적은 가중치, 뉴런, 레이어를 제거한 다음, 잠깐 파인튜닝해 회복시키고, 품질 기준에 맞춰 시험하십시오. 가지치기로 AlexNet의 매개변수를 정확도 손실 없이 9분의 1로 줄였고, 매우 큰 언어 모델도 한 번에 최소 50% 희소도로 가지치기된 바 있습니다. 일반 하드웨어에서 더 빨리 실행되기를 원한다면 구조적 가지치기를 택하십시오. - 아무도 필요로 하지 않을 때 AI 기능이 돌아가지 않게 하려면 어떻게 설계해야 하나요?
AI 기능은 페이지를 열 때마다, 메시지나 파일마다 자동으로가 아니라 사용자가 요청할 때 실행되게 하십시오. 공유되는 결과는 한 번 생성해 재사용하고, 규칙으로 내릴 수 있는 결정에는 일반 코드를 쓰며, 쓰는 사람이 적은 AI 기능은 없애십시오. W3C 웹 지속 가능성 지침은 AI를 구현하기 전에 그 필요성을 평가하라고 요구하며, 이는 기능마다 그리고 실행 트리거마다 적용됩니다. - 에너지를 아끼려면 AI 요청을 어떻게 일괄 처리해야 하나요?
실시간 트래픽은 연속 배칭(continuous batching)을 쓰는 추론 엔진으로 처리해 동시 요청들이 가속기를 함께 쓰게 하십시오. 밤사이 문서 처리처럼 즉시 답이 필요 없는 작업은 대기열에 모아 큰 배치로 실행하고, 가능하면 전력망이 더 깨끗할 때 실행하십시오. 한 번에 요청 하나만 처리하는 가속기는 충분히 활용되지 않지만 여전히 상당한 전력을 씁니다. - 에너지를 아끼려면 RAG와 파인튜닝 중 무엇을 골라야 하나요?
모델에 바뀌거나 나에게만 해당하는 사실이 필요하면 검색을 쓰십시오. 사실을 검색 가능한 색인에 넣고 관련 구절만 가져오면 됩니다. 모델에 없는 기술, 형식, 문체가 필요하면 파인튜닝을 쓰십시오. 사실을 최신으로 유지하려고 재학습하면 학습 비용이 반복되고, 모든 프롬프트에 문서 전체를 붙여 넣으면 추론이 낭비되므로, 각 방법에는 알맞은 자리가 있습니다. - 엣지 기기에서 돌아갈 만큼 모델을 작게 만들려면 어떻게 해야 하나요?
품질 기준을 충족할 수 있는 가장 작은 모델에서 시작한 다음, 증류, 양자화, 가지치기로 더 줄이면서 단계마다 대상 기기에서 시험하십시오. 실제 하드웨어에서 추론당 에너지, 지연 시간, 정확도를 함께 측정하고, 배터리가 부족하거나 기기가 뜨거울 때는 모델이 한 단계 낮은 수준으로 전환되게 하십시오. - 요청을 더 작은 모델로 보내려면 어떻게 해야 하나요?
모델 앞에 라우터를 두십시오. 규칙, 작은 분류기, 또는 작은 모델을 먼저 시도하고 확신도가 낮거나 검사에 실패하면 상위 모델로 넘기는 캐스케이드가 될 수 있습니다. 발표된 라우터들은 일부 시험에서 품질을 낮추지 않고 비용을 절반 넘게 줄였습니다. 자체 데이터로 임곗값을 조정하고, 호출당이 아니라 성공한 작업당 비용을 측정하십시오. - 운영 환경에서 모델 서빙 에너지를 줄이려면 어떻게 해야 하나요?
품질 기준을 충족하는 가장 작은 모델을, 추론용으로 만든 런타임에서, 배칭을 켜고, 가중치를 반정밀도나 양자화 형식으로 올리고, 라이브러리의 최적화된 어텐션과 캐시 경로를 켠 상태로 서빙하십시오. 그런 다음 실제 트래픽에서 런타임과 하드웨어 두세 가지를 벤치마크하고, 지연 시간뿐 아니라 요청당 에너지로 고르십시오. - 전문가 혼합(MoE) 모델이 에너지를 절약하는지 어떻게 판단하나요?
전문가 혼합 모델은 각 토큰을 몇 개의 전문 하위 네트워크로 보내므로, 토큰마다 모델의 일부만 일을 합니다. 예를 들어 Mixtral은 매개변수가 470억 개이지만 토큰마다 130억 개만 씁니다. 그래서 품질이 비슷한 밀집 모델보다 답변당 계산량을 줄일 수 있지만, 모든 전문가가 여전히 메모리에 올라가 있어야 하므로, 자신의 하드웨어에서 요청당 품질, 지연 시간, 에너지를 비교하십시오. - 챗봇이 대화 전체를 매번 다시 보내지 않게 하려면 어떻게 해야 하나요?
대부분의 채팅 기능은 턴마다 대화 전체를 모델에 다시 보내므로 메시지마다 입력이 늘어납니다. 보내는 이전 턴 수를 제한하고, 오래된 턴은 짧은 메모로 요약하고, 중요한 이전 메시지나 문서만 검색해 가져오고, 고정된 시스템 프롬프트는 캐시하십시오. 긴 입력은 짧은 입력보다 훨씬 많은 에너지를 씁니다. - 추측 디코딩으로 대형 모델의 속도를 높이려면 어떻게 해야 하나요?
대형 모델을 같은 계열의 작은 초안 모델과 짝지으십시오. 초안 모델이 토큰 여러 개를 제안하면 대형 모델이 한 번에 검증해 동의하는 것만 남깁니다. 출력은 대형 모델 혼자 만든 것과 같으며, 원래 연구는 추론이 2~3배 빨라졌다고 보고했습니다. 서빙 스택이 지원하는지 확인한 뒤, 속도만이 아니라 요청당 에너지를 측정하십시오. - 큰 모델을 작은 모델로 증류하려면 어떻게 해야 하나요?
먼저 모델의 증류된 버전이 이미 있는지 확인하십시오. 없다면 큰 교사 모델로 과제의 예시에 레이블을 달거나 예시를 생성하고, 그것으로 작은 학생 모델을 훈련한 뒤, 실제 사례로 학생 모델을 시험하십시오. 초기 사례인 DistilBERT는 BERT보다 40% 작고 60% 빠르면서도 언어 이해 능력의 97%를 유지했습니다. - 파이프라인이 덜 읽도록 AI 학습 데이터를 저장하려면 어떻게 해야 하나요?
학습 데이터와 피처 데이터를 열 기반(columnar) 형식으로 저장해 작업이 쓰는 열과 파티션만 읽게 하고, 원본 텍스트는 실행이나 에포크마다 다시 파싱하지 말고 한 번만 바이너리 형식으로 변환하십시오. 변환이 비용만큼 효과가 있는지 확인하려면 일반적인 작업을 변환 전후로 측정하십시오. 데이터 처리는 모델에 가려 간과하기 쉽지만, 모든 실험에서 실행됩니다. - 하이퍼파라미터 탐색에 드는 에너지를 줄이려면 어떻게 해야 하나요?
큰 그리드 탐색을 무작위 탐색이나 적응형 탐색으로 바꾸고, 부진한 시도는 일찍 중단하고, 먼저 작은 데이터나 작은 모델로 시험해 보고, 해당 아키텍처에 대해 공개된 기본값에서 시작하십시오. 최종 승자만이 아니라 모든 시도의 에너지를 기록하고, 시작하기 전에 연산 예산을 정하십시오. 튜닝 실행은 최종 학습보다 비용이 더 드는 경우가 많지만 보고되는 일은 드뭅니다.
데이터센터, 클라우드, 호스팅
- AI용으로 지속 가능한 데이터센터나 호스팅 업체는 어떻게 고르나요?
라벨보다 증거를 요구하십시오. 작업이 실행되는 곳의 전력망 탄소 집약도와 시간별 청정 전력 비율, 시설의 PUE와 물 사용량, 하드웨어를 얼마나 오래 쓰는지, 자기 계정의 에너지와 배출량 데이터를 받을 수 있는지를 확인합니다. EU에서는 대규모 데이터센터가 에너지와 물 사용을 보고해야 하므로 데이터가 있는 경우가 많습니다. 청정한 호스팅을 고르되, 그곳으로 보내는 작업량도 계속 줄이십시오. - AI의 물 발자국을 줄이려면 어떻게 해야 하나요?
물 사용은 에너지 사용을 따라가므로 첫걸음은 같습니다. 더 작은 모델, 더 짧은 출력, 더 적은 재생성을 쓰십시오. 그다음 물 사용량을 공개하는 호스트를 고르고, 무거운 작업은 물 부족 지역을 피하고, 공급업체에 사이트별 물 수치를 요청하십시오. 텍스트 프롬프트 하나당 물은 적지만, 중요한 것은 총량과 지역에 미치는 영향입니다. - GPU와 노트북 환경이 놀고 있지 않게 하려면 어떻게 해야 하나요?
온디맨드를 기본으로 하십시오. 파이프라인과 훈련 작업은 실행될 때 자원을 켜고 끝나면 반납해야 합니다. 유휴 노트북과 개발용 GPU는 정해진 시간이 지나면 자동으로 끄고, 운영 외 환경은 업무 시간 밖에 0으로 줄이고, 팀별 유휴 GPU 시간을 비용과 나란히 보고해 낭비가 보이게 하십시오. - PUE와 WUE 수치는 어떻게 이해해야 하나요?
전력 사용 효율(PUE)은 데이터센터의 총 에너지를 컴퓨팅 장비가 쓴 에너지로 나눈 값입니다. 1.0에 가까울수록 냉각과 전력 변환으로 잃는 양이 적다는 뜻입니다. 물 사용 효율(WUE)은 컴퓨팅 킬로와트시당 현장에서 쓴 물의 리터 수이며, 낮을수록 좋습니다. 어느 쪽도 계산이 얼마나 이루어지는지, 전력이 얼마나 깨끗한지, 그 작업이 필요했는지는 알려 주지 않습니다. - 남는 클라우드 용량으로 AI 작업을 돌리려면 어떻게 해야 하나요?
클라우드 제공업체는 짧은 예고로 회수할 수 있다는 조건으로 남는 용량을 스팟 또는 선점형 인스턴스로 싸게 팝니다. 학습, 평가, 배치 추론, 데이터 처리는 체크포인트를 저장하고 깔끔하게 재시도할 수 있다면 이 용량을 쓸 수 있습니다. 중단이 불안정을 더할 수 있으므로, Microsoft의 지침은 중단을 견딜 수 있는 작업에만 쓰라는 것입니다. - 사용 중인 클라우드 업체의 탄소 데이터는 어디서 찾나요?
대형 클라우드 업체는 결제 또는 지속 가능성 콘솔에서 고객 탄소 데이터를 공개합니다. AWS Sustainability console, Microsoft의 Azure 배출량 도구, Google Cloud의 Carbon Footprint 대시보드입니다. 배출량을 서비스, 리전, 범위(scope)별로 나누어 보여 주지만 월 단위 추정치이므로, 추세로 보고 자체 워크로드별 측정과 함께 쓰십시오. - 에너지 효율이 좋은 AI 하드웨어는 어떻게 고르나요?
실제 모델을 두세 가지 하드웨어와 런타임 조합에서 벤치마크하고, 현실적인 배치 크기에서 요청당 또는 학습 1회당 에너지를 지연 시간, 비용과 함께 비교하십시오. Patterson과 동료들은 모델, 데이터센터, 프로세서를 함께 잘 고르면 학습의 탄소를 최대 약 100~1,000배까지 줄일 수 있음을 발견했습니다. 새 장비를 만드는 데도 탄소가 들므로, 좋은 하드웨어는 계속 바쁘게, 오래 사용하… - 연구용 클러스터에서 AI 실험의 발자국을 줄이려면 어떻게 해야 하나요?
측정부터 시작하십시오. 많은 클러스터가 Slurm 스케줄러에 작업당 에너지를 기록하며, CodeCarbon이나 Green Algorithms 계산기로 빈틈을 채울 수 있습니다. 그런 다음 필요한 만큼만 GPU, 메모리, 시간을 요청하고, 아이디어는 작은 규모로 먼저 시험하고, 긴 작업은 체크포인트를 남기고, 유연한 작업은 전력망이 더 깨끗할 때 예약하십시오. 최종 실행만이 아니라 프로젝트 전… - 우리 동네에 계획된 데이터센터에 의견을 내려면 어떻게 해야 하나요?
인허가 신청서를 찾아 에너지, 물, 소음, 열에 관한 개발사의 설명서를 읽고, 의견 수렴 기간 안에 구체적이고 근거 있는 질문으로 의견을 내십시오. 시설이 전력망 용량과 물을 얼마나 쓸지, 폐열을 재사용할지, 가동 후 어떤 에너지와 물 수치를 보고할지 물으십시오. 구체적인 질문이 일반적인 반대보다 더 무게를 가집니다. - 전력망이 더 깨끗할 때 학습을 실행하도록 일정을 잡으려면 어떻게 하나요?
학습, 파인튜닝, 평가, 배치 추론처럼 기다릴 수 있는 작업을 찾아, 탄소 집약도 예보에서 전력망이 더 깨끗해지는 때 시작하십시오. 정기적으로 체크포인트를 저장해 두면, 긴 작업이 확고한 마감 안에서 집약도가 오를 때 멈췄다가 내려갈 때 재개할 수 있습니다. 탄소 인지 스케줄링은 에너지가 아니라 탄소를 줄이므로, 효율 개선 위에 더해서 하십시오. - 제가 쓰는 AI가 재생에너지로 돌아가는지 어떻게 확인하나요?
AI가 실제로 어디에서 실행되는지 물은 다음, 그 지역의 두 가지를 확인하십시오. 하나는 전력망의 탄소 집약도이고, 다른 하나는 시간 단위로 청정 전력과 매칭된 전기의 비중입니다. "100% 재생에너지"는 보통 연간 총량을 맞추는 연간 인증서나 계약을 뜻하며, 특정 시간에 지역 전력망이 공급하는 전기를 바꾸지는 않습니다. 위치 기반 수치와 시장 기반 수치를 모두 요청하십시오. - 탄소 배출이 적은 클라우드 지역은 어떻게 고르나요?
제공업체가 공개한 지역 데이터나 Electricity Maps 같은 출처를 활용해 지역별 전력망 탄소 집약도와 무탄소 에너지 비중을 비교한 다음, 지연 시간, 데이터 상주 규정, 비용을 따지십시오. 학습, 파인튜닝, 야간 처리 같은 배치 작업은 옮기기가 가장 쉽고, 사용자 대상 추론은 대개 사용자 가까이에 두어야 합니다.
조직을 위한
- AI 에너지와 배출량 목표는 어떻게 정하나요?
먼저 기준선을 측정한 다음, 두 종류의 목표를 함께 정하십시오. 집약도 목표(유용한 작업당 에너지나 배출량)와 총량에 대한 절대 목표 또는 상한입니다. 집약도는 효율을 보여 주고, 절대 수치는 사용 증가가 절감분을 잠식하는지를 보여 줍니다. 모델과 사용량이 바뀌므로 적어도 1년에 한 번 검토하십시오. - AI 조달에 지속가능성을 어떻게 반영하나요?
공급업체에 방법과 경계를 밝힌 요청당 또는 작업당 에너지와 배출량, 워크로드가 실행되는 위치, 위치 기반과 시장 기반 탄소 수치를 모두 요청하십시오. 입찰에서는 그 근거의 품질을 평가하고, 계약서에는 보고, 모델 선택, 모델 변경 통지를 넣으십시오. 아직 많은 공급업체가 충분히 답하지 못하지만, 묻는 것만으로도 누가 이 문제를 진지하게 여기는지 드러납니다. - AI 프로젝트가 환경 비용만큼 가치가 있는지 어떻게 확인하나요?
AI 자체의 발자국(훈련 또는 미세 조정, 그리고 예상 수명 동안의 실행)을 추정하고, 같은 기간에 측정한 효과와 비교하십시오. 아무것도 하지 않는 경우가 아니라 가장 단순한 비AI 방법과 비교하십시오. 에너지나 배출량을 줄이려는 프로젝트라면, 절감량이 AI 자체의 비용을 분명히 넘어야 합니다. 그렇지 않으면 순손실입니다. - AI 효율 개선 효과가 사용 증가로 상쇄되지 않게 하려면 어떻게 해야 하나요?
증가가 보이도록 작업당 에너지와 함께 AI 총 에너지를 추적하고, 절감분을 어떻게 할지 미리 정하십시오. 남는 용량을 회수하거나, 예산이나 상한을 유지하거나, 의도적으로 재투자하는 것입니다. 새로운 사용마다 그럴 가치가 있는지 물어 효율과 충분성(sufficiency)을 함께 챙기십시오. 이런 장치가 없으면 AI가 싸질수록 그냥 더 많이 쓰이게 됩니다. - EU AI법의 에너지 문서화 규정을 지키려면 어떻게 해야 하나요?
EU에서 범용 AI 모델을 제공한다면, AI법 부속서 XI에 따라 기술 문서에 학습에 쓴 연산 자원과 함께 모델의 알려진 또는 추정 에너지 소비량을 포함해야 합니다. 처음부터 학습 연산과 에너지를 추적하고, 방법을 기록하며, 측정할 수 없는 부분은 추정하십시오. AI를 사용하기만 한다면 의무는 공급업체에 있지만, 수치를 요청할 수 있습니다. - 그린 AI 정책은 어떻게 작성하나요?
짧고 실용적으로 쓰십시오. AI를 쓸 가치가 있는 때를 밝히고, 효율적인 기본값(충분한 가장 작은 모델, 출력 한도, 필요할 때만 켜는 기능)을 정하고, 조달 시 에너지 관련 질문을 의무화하고, 작업당 측정을 약속하십시오. 책임자, 검토 날짜, 측정 가능한 약속 몇 가지를 정하고, 이미 운영 중인 절차에 연결하십시오. - 그린 AI의 비즈니스 타당성은 어떻게 설득하나요?
비용, 속도, 위험의 관점에서 설득하십시오. AI의 에너지 사용을 줄이는 것들(더 작은 모델, 더 적은 토큰, 더 적은 낭비 호출)이 비용과 대기 시간도 줄이기 때문입니다. 자신의 업무에서 측정한 사례 하나를 보여 주고, 보고와 규제상의 이유를 덧붙이고, 청중에게 맞는다면 환경적 이점은 실제적이지만 부차적인 요점으로 두십시오. - 소규모 사업체의 AI 발자국을 낮게 유지하려면 어떻게 해야 하나요?
확실히 시간을 아껴 주는 작업에 AI를 쓰고, 요청은 짧고 구체적으로 하며, 다시 생성하기보다 다듬고, 이미지와 동영상은 아껴 쓰십시오. 돈을 내고 있지만 쓰지 않는 AI 기능은 끄고, 어떤 도구를 쓰는지 간단히 기록해 두면 고객이 물을 때 답할 수 있습니다. 소규모 사업체에는 같은 습관이 구독료와 인건비도 줄여 줍니다. - 우리 조직이 AI를 어디에 쓰는지 어떻게 파악하나요?
네 가지 항목으로 간단한 목록을 만드십시오. 직원이 직접 쓰는 AI 도구, 이미 쓰는 소프트웨어에 내장된 AI 기능, 자동화된 워크플로와 에이전트, 그리고 서비스에서 AI를 대신 돌리는 공급업체입니다. 각 항목에 담당자, 실행 빈도, 알 수 있다면 모델이나 제공업체, 어떤 데이터가 들어가는지 적으십시오. 이 목록이 낭비 줄이기, 위험 관리, 보고의 출발점입니다. - 우리 회사의 AI 사용을 더 지속가능하게 만들려면 어떻게 해야 하나요?
먼저 회사가 어디에 AI를 쓰는지 파악한 다음, 효율적인 선택을 기본값으로 만드십시오. 품질 기준을 충족하는 가장 작은 모델, 짧은 출력, 필요할 때만 켜는 AI 기능입니다. 공급업체에 요청당 에너지와 실행 위치를 묻고, 유용한 작업당으로 측정하고, 담당자가 있는 짧은 정책으로 정리하십시오. 이런 단계 대부분은 에너지뿐 아니라 비용과 지연도 줄입니다. - 우리 회사의 그린 AI에 대해 정직하게 주장하려면 어떻게 해야 하나요?
측정한 것만 주장하고, 무엇이 어떤 기준선에 비해 개선됐는지 구체적으로 밝히고, 방법, 경계, 한계를 명시하십시오. 작업당 효율과 총사용량을 구분하고, 상쇄나 연간 인증서에 주장을 기대지 마십시오. "그린 AI"나 "탄소 중립 AI" 같은 모호한 표현은 위험하며, 영국과 EU에서는 소비자법 위반이 될 수 있습니다. - 자선단체에서 AI를 지속가능하게 쓰려면 어떻게 해야 하나요?
직원과 자원봉사자의 시간을 사명에 돌려줄 수 있는 곳에 AI를 쓰고, 일을 해내는 가장 가벼운 도구를 고르고, 이미지 대량 생성 같은 무거운 사용은 피하십시오. 개인정보 보호와 함께 환경 영향을 다루는 짧은 정책을 쓰고, 공급업체에 에너지와 위치에 관한 간단한 질문을 하고, 후원자에게 AI를 어떻게 쓰는지 정직하게 알리십시오. - 정책 입안자로서 더 친환경적인 AI를 어떻게 장려할 수 있나요?
투명성부터 시작하십시오. AI 제공업체와 데이터센터에 비교 가능한 에너지, 물, 배출량 보고를 요구하거나 장려하십시오. 공공 조달로 효율적인 AI에 보상하고, 데이터센터를 위한 전력망과 물 수용 능력을 계획하며, 효율적인 방법에 관한 연구와 역량에 투자하십시오. AI가 저렴해질수록 더 많이 쓰이는 경향이 있으므로, 효율뿐 아니라 전체 수요도 지켜보십시오. - 조직 전체에서 불필요한 AI 기능을 끄려면 어떻게 해야 하나요?
AI 사용 목록으로 기본으로 켜진 AI 기능을 찾은 뒤 기능별로 결정하십시오. 사람들이 쓰는 것은 유지하고, 쓰지 않는 것은 끄거나 제한하고, 요청하면 쓸 수 있게 하십시오. 사용자에게 맡기지 말고 관리자 콘솔에서 변경하고, 직원에게 무엇을 왜 바꿨는지 알리고, 분기마다 사용 데이터를 검토하십시오. 쓰지 않는 AI 라이선스를 줄이면 비용도 아낍니다. - 지속 가능성 보고서에 AI 배출량은 어떻게 보고하나요?
AI를 별도 수치가 아니라 기존 온실가스 인벤토리 안에서 보고하십시오. 직접 운영하는 하드웨어의 전기는 Scope 2에, 클라우드와 AI 서비스는 대개 Scope 3의 구매한 상품 및 서비스에 들어갑니다. 구할 수 있는 곳에서는 공급업체 데이터를 쓰고, 나머지는 밝힌 방법에 따라 사용량으로 추정하며, 범위와 불확실성을 제시하십시오. 총량과 함께 유용한 작업당 에너지를 보여 주십시오. - 직원들이 AI를 효율적으로 쓰도록 어떻게 교육하나요?
실제 업무 사례를 들어 짧은 교육으로 몇 가지 습관을 가르치십시오. AI가 알맞은 도구인지 확인하고, 명확하고 구체적인 프롬프트를 쓰고, 짧은 답을 요청하고, 다시 생성하기보다 다듬고, 이미지와 동영상은 적당히 쓰는 것입니다. 회사 도구에 효율적인 기본값을 설정해 교육을 뒷받침하십시오. 기본값은 교육을 건너뛴 사람에게도 적용됩니다.
학교, 대학, 교육
- 그린 AI 박사 과정은 어떻게 찾나요?
"그린 AI"라고 붙은 프로젝트만 보지 마십시오. 효율적 AI 연구는 컴퓨터 과학, 수학, 전기 공학, 응용 과학 분야에 걸쳐 있으며, 효율적 기계학습, 지속가능한 컴퓨팅, 저전력 하드웨어 같은 이름으로 불리는 경우가 많습니다. 박사 양성 프로그램과 프로젝트 목록을 검색하고, 최근 논문을 읽어 활발히 활동하는 지도교수를 찾고, 연구에서 에너지를 어떻게 측정할지 물어보십시오. - 그린 AI는 어떻게 배우면 되나요?
AI의 에너지가 어디에 쓰이는지에 관한 짧은 해설부터 읽고, 코드용 에너지 추적기나 AI API 호출 추정기처럼 무료 도구 하나를 자신의 사용에 써 보십시오. 그다음 자신의 수준에 맞는 강좌를 듣고 자기 분야의 커뮤니티나 연구 그룹을 팔로우하십시오. 실제로 무언가를 측정하며 배우는 것이 읽기만 하는 것보다 오래 남습니다. - 대학 강의에 그린 AI를 어떻게 넣을 수 있나요?
완전히 새 강의를 만들기보다 짧고 실용적인 내용을 더하십시오. AI의 에너지가 어디에 쓰이는지 설명하고, 학생들이 자신의 코드나 모델 실행의 에너지를 측정하게 하고, 정확도와 함께 연산량과 에너지를 보고하게 하십시오. 기술 강의에서는 더 작은 모델, 양자화, 재사용 같은 효율적인 방법을 가르치고, 그 밖의 강의에서는 현명한 사용과 주장 판단에 초점을 맞추십시오. - 에너지를 낭비하지 않고 공부에 AI를 활용하려면 어떻게 해야 하나요?
어려운 개념 설명, 퀴즈, 초안에 대한 피드백처럼 배우는 데 도움이 되는 곳에 AI를 쓰고, 사실과 출처는 노트, 교과서, 도서관 검색을 쓰십시오. 초점이 분명한 질문을 하고, 필요한 대목만 붙여 넣고, 다시 생성하기나 재미로 이미지를 만드는 것은 피하십시오. 이런 습관은 에너지를 아끼고, 대개 학습에도 도움이 됩니다. - 지속가능한 AI 사용을 위한 학교 규칙은 어떻게 정하나요?
별도의 정책을 쓰기보다 기존 학교 AI 정책에 짧은 환경 항목을 추가하십시오. AI가 알맞은 도구인 때를 밝히고, 이미지와 동영상 생성보다 짧은 텍스트를 우선하고, 학교 계정에 가벼운 기본값을 설정하고, 학생들에게 이유를 가르치십시오. 여전히 우선하는 아동 보호, 개인정보 보호, 평가에 관한 규칙과 함께 두십시오. - 학생들에게 AI의 환경 영향을 어떻게 가르치나요?
모든 AI 답변이 전기와 물을 쓰는 실제 컴퓨터에서 실행된다는 생각에서 시작한 다음, 믿을 만한 수치 몇 가지와 텍스트 생성과 이미지 생성을 비교하는 것 같은 직접 해 보는 활동을 쓰십시오. 정보, 과학, 지리와 연결하고 균형을 유지하십시오. 목표는 학생들이 AI를 사려 깊게 쓰도록 돕는 것이지, AI를 쓴다고 죄책감을 느끼게 하는 것이 아닙니다.