요약
이 용어집은 AI의 환경 비용에 관한 글을 읽기 시작할 때 만나는 용어를 쉬운 말로 풀이합니다. 용어는 영어 이름의 알파벳 순서로 실려 있습니다. 용어마다 고유한 링크가 있어 사이트의 다른 페이지에서 바로 연결할 수 있습니다.
핵심 내용
- 학습은 모델을 한 번 만드는 것이고, 추론은 그 뒤에 모델을 사용할 때마다 일어나는 것입니다.
- 효율은 더 적은 자원으로 같은 일을 하는 것이고, 충분성은 그 일을 애초에 AI로 해야 하는지 묻는 것입니다.
- PUE는 데이터센터의 전체 에너지를 컴퓨터가 쓰는 에너지와 비교한 값으로, 1.0이면 완벽합니다.
- 리바운드 효과는 효율이 높아져 무언가가 저렴해지면서 전체 사용량이 오히려 늘어나는 현상입니다.
그린 AI는 컴퓨터 과학, 수학, 공학, 에너지, 정책을 한데 아우르며, 분야마다 고유한 용어가 있습니다. "모델", "효율", 심지어 "AI" 같은 단어도 사람마다 다른 뜻으로 씁니다. 수학자, 컴퓨터 과학자, 산업계가 모인 2026년 영국 그린 AI 샌드핏(집중 토론 워크숍)에서는 사람들이 가장 명확히 정하고 싶어 한 용어가 바로 기본 용어라는 점이 드러났습니다. 그래서 이 용어집은 기초부터 시작합니다. 용어는 다른 언어판과 링크가 맞도록 영어 이름의 알파벳 순서로 실려 있습니다. 필요한 용어가 없다면 알려 주세요.
에이전트형 AI(Agentic AI)
한 번의 답을 내놓는 대신 검색, 코드 작성, 실행, 오류 수정처럼 여러 단계에 걸쳐 스스로 작업을 수행하는 AI입니다. 단계마다 모델을 다시 사용하기 때문에 에이전트형 AI는 채팅보다 훨씬 많은 토큰을 쓸 수 있으며, 루프에 갇힌 에이전트는 많은 자원을 낭비할 수 있습니다. 에이전트형 AI와 토큰 낭비를 참고하세요.
AI
인공지능(artificial intelligence)의 줄임말로, 이미지 인식, 언어 이해, 예측처럼 사람의 지능과 연관된 일을 하는 컴퓨터 시스템입니다. 2026년의 일상 대화에서 "AI"는 보통 챗봇 같은 대형 생성형 모델을 뜻하지만, 스팸 필터나 기상 모델처럼 훨씬 작은 시스템도 포함하므로 어느 쪽을 말하는지 밝히는 것이 좋습니다.
AI 리터러시(AI literacy)
AI를 현명하게 이해하고 사용하고 판단하는 지식과 기술입니다. AI가 할 수 있는 일과 할 수 없는 일, 결과물을 확인하는 방법, 그리고 환경 비용을 포함한 AI의 비용을 아는 것이 여기에 해당합니다.
자동 미분(Automatic differentiation)
계산의 각 입력이 바뀔 때 출력이 정확히 어떻게 변하는지 컴퓨터가 계산할 수 있게 하는 기법입니다. 신경망이 학습하는 방식이며 (이때는 역전파라고 부릅니다), 과학 시뮬레이션을 최적화하는 데에도 쓰입니다.
벤치마크(Benchmark)
시스템을 공정하게 비교하기 위한 표준 시험입니다. 예를 들어 같은 질문 세트에서 모델이 얼마나 정확한지, 같은 작업에서 에너지를 얼마나 쓰는지 비교합니다. 벤치마크의 쓸모는 그 안에 담긴 과제와 측정이 얼마나 좋은지에 달려 있습니다.
탄소 인식 컴퓨팅(Carbon-aware computing)
전기가 더 깨끗한 시간이나 장소에서 컴퓨팅 작업을 실행하는 것입니다. 예를 들어 바람이 불 때까지 대규모 학습 실행을 미룹니다. 즉각적인 답이 필요 없는 작업에 알맞습니다.
탄소 집약도(Carbon intensity)
전기 한 단위당 배출되는 이산화탄소(또는 그에 상당하는 온실가스)의 양으로, 보통 킬로와트시당 CO₂e 그램으로 나타냅니다. 전력 중 화석연료와 재생에너지가 차지하는 비중에 따라 나라별, 시간대별로 달라집니다.
데이터센터(Data centre)
컴퓨터, 저장 장치, 네트워크 장비와 이를 가동하기 위한 전력 및 냉각 설비로 가득 찬 건물입니다. 대부분의 AI 챗봇은 사용자의 기기가 아니라 데이터센터에서 실행됩니다.
확산 모델(Diffusion model)
이미지와 동영상에 널리 쓰이는 생성형 AI의 한 종류로, 무작위 잡음을 단계적으로 그림으로 바꾸는 법을 학습합니다. 단계가 많다는 점은 이미지 생성이 짧은 텍스트보다 훨씬 많은 에너지를 쓰는 이유를 설명하는 데 도움이 됩니다.
증류(Distillation)
작은 "학생" 모델이 큰 "교사" 모델을 흉내 내도록 학습시켜, 작은 모델이 훨씬 적은 컴퓨팅 비용으로 거의 같은 수준의 작업을 할 수 있게 하는 것입니다.
엣지 AI(Edge AI)
멀리 떨어진 데이터센터가 아니라 휴대전화, 카메라, 공장 센서처럼 데이터가 있는 기기 위나 그 가까이에서 실행되는 AI입니다. 네트워크 에너지를 아끼고 개인정보를 보호할 수 있지만, 작은 기기도 수백만 대가 모이면 사용량이 커집니다. 엣지 또는 클라우드를 참고하세요.
효율(Efficiency)
더 적은 투입, 즉 작업당 더 적은 에너지, 시간, 물, 하드웨어로 같은 유용한 결과를 얻는 것입니다. 효율은 그린 AI에 꼭 필요하지만, 리바운드 효과 때문에 그것만으로는 충분하지 않습니다.
내재 탄소(Embodied carbon)
장비를 가동할 때가 아니라 만들고, 운송하고, 결국 폐기할 때 나오는 배출량입니다. AI의 경우 칩, 서버, 데이터센터 건물의 제조가 여기에 포함됩니다.
에너지 라벨(Energy label)
유럽의 냉장고에 붙는 A~G 등급 라벨처럼, 제품이 에너지를 얼마나 쓰는지 보여 주는 간단한 등급입니다. Hugging Face의 AI Energy Score처럼 여러 단체가 AI 모델용 라벨을 개발하고 있으며, EU AI Act는 범용 AI 모델 제공자에게 알려졌거나 추정한 에너지 사용량을 문서화하도록 요구합니다. AI 에너지 라벨을 참고하세요.
미세 조정(Fine-tuning)
이미 학습된 모델을 전문 데이터로 조금 더 학습시켜 특정 작업을 더 잘하게 만드는 것입니다. 처음부터 학습하는 것보다 비용이 훨씬 적게 듭니다.
FLOPs
부동소수점 연산(floating-point operations), 즉 컴퓨터가 수행하는 기본 산술 단계(소수의 덧셈과 곱셈)입니다. 이를 세는 것은 모델에 필요한 컴퓨팅 양을 추정하는 흔한 방법입니다. 대문자 S를 쓴 FLOPS는 보통 초당 연산 횟수를 뜻합니다.
FPGA
필드 프로그래머블 게이트 어레이(field-programmable gate array)로, 만든 뒤에도 회로를 다시 구성할 수 있는 칩입니다. FPGA는 특정 작업에 매우 효율적일 수 있고 모델이 바뀌면 다시 프로그래밍할 수 있지만, GPU보다 프로그래밍하기 어렵습니다.
생성형 AI(Generative AI)
요청에 따라 텍스트, 이미지, 오디오, 동영상, 코드 같은 새로운 콘텐츠를 만들어 내는 AI입니다. 챗봇과 이미지 생성기가 생성형 AI입니다.
GPU
그래픽 처리 장치(graphics processing unit)로, 원래 컴퓨터 그래픽용으로 설계되었지만 많은 계산을 동시에 할 수 있는 칩입니다. GPU는 현대 AI를 학습시키고 실행하는 주요 하드웨어입니다.
그린 AI(Green AI)
에너지, 탄소, 물, 자원 발자국을 최대한 낮게 유지하는 방식으로 개발하고 사용하며, 실제 가치를 더하는 곳에 쓰는 AI입니다. AI를 더 효율적으로 만드는 일과, AI가 알맞은 도구인 곳에서만 쓰는 일을 모두 포함합니다. 그린 AI란 무엇인가요?를 참고하세요.
그린워싱(Greenwashing)
제품이나 조직이 실제보다 환경에 더 좋다고 오해를 부르는 주장을 하는 것입니다. EU에서는 지침(EU) 2024/825가 입증할 수 없는 일반적인 환경 주장을 소비자에게 하는 것을 금지합니다. 정직한 친환경 주장을 참고하세요.
추론(Inference)
학습된 모델을 사용해 질문에 답하거나 이미지를 생성하는 등 결과물을 만드는 것입니다. 모든 프롬프트가 한 번의 추론이므로, 인기 있는 도구의 추론 에너지는 모델이 쓰이는 동안 계속 쌓입니다.
제번스 역설(Jevons paradox)
경제학자 윌리엄 스탠리 제번스가 1865년 저서 The Coal Question에서 밝힌 관찰로, 더 효율적인 증기기관 때문에 영국이 석탄을 덜이 아니라 더 많이 태우게 되었다는 것입니다. 효율이 전체 사용량을 늘리는 리바운드 효과의 극단적인 경우입니다.
KV 캐시(KV cache)
키-값 캐시(key–value cache)의 줄임말입니다. 언어 모델은 답을 토큰 하나씩 쓸 때, 매 단계마다 다시 계산하지 않도록 중간 결과(어텐션 계산의 "키"와 "값")를 저장해 둡니다. 컴퓨팅을 크게 아끼지만 메모리를 씁니다.
대형 언어 모델(Large language model)
방대한 양의 텍스트로 학습해 언어를 예측하고 만들어 내는 생성형 AI 모델로, 흔히 LLM이라고 줄여 부릅니다. 대부분의 챗봇이 이를 바탕으로 만들어집니다.
지연 시간(Latency)
무언가를 요청한 뒤 답을 받기까지 걸리는 시간입니다. 일부 그린 AI 기법은 요청을 묶어 처리하거나 더 깨끗한 전력을 기다리는 식으로, 지연 시간을 조금 늘리는 대신 에너지를 줄입니다.
맥나마라 오류(McNamara fallacy)
쉽게 측정할 수 있는 것만 중요하다고 여기고, 측정할 수 없는 것은 무시하는 실수입니다. 그린 AI에서는 물 사용이나 사회적 영향처럼 세기 어려운 해악을 놓친 채 편리한 숫자만으로 시스템을 판단하지 말라는 경고입니다.
혼합 정밀도(Mixed precision)
결과에 해가 없는 곳에서는 일부 계산을 다른 계산보다 적은 자릿수의 정밀도로 하는 것입니다. 정밀도가 낮으면 메모리와 에너지를 덜 씁니다.
전문가 혼합(Mixture of experts)
여러 전문 하위 네트워크("전문가")로 이루어진 모델 설계로, 라우터가 각 입력을 그중 몇 개에만 보냅니다. 답마다 모델의 일부만 쓰므로 컴퓨팅을 아끼지만, 메모리와 학습 과정에는 모델 전체가 필요합니다.
모델(Model)
AI에서 모델은 입력을 출력으로 바꾸는 학습된 시스템, 즉 학습된 숫자 집합(파라미터)과 이를 사용하는 구조를 말합니다. 과학과 공학에서 "모델"은 기후 모델처럼 시스템을 수학적으로 설명한 것을 뜻하기도 하므로, 어느 쪽을 말하는지 밝히면 도움이 됩니다.
모델 병합(수핑)(Model merging (souping))
두 개 이상의 모델을, 흔히 파라미터를 평균하는 방식으로 합쳐서, 새 모델을 처음부터 학습하지 않고도 각 모델의 강점을 지닌 하나의 모델을 얻는 것입니다. "모델 수프(model soups)"는 Wortsman과 동료들이 2022년에 쓴 이름입니다.
다중 에이전트 시스템(Multi-agent system)
함께 일하거나 서로 작업을 넘겨주는 AI 에이전트들의 집합입니다. 강력할 수 있지만, 서로 대화하는 상태에 갇히면 아무 쓸모 있는 결과 없이 많은 토큰을 소모할 수 있습니다.
오픈 웨이트 모델(Open-weight model)
학습 데이터와 코드는 공개되지 않더라도, 학습된 파라미터(가중치)가 공개되어 누구나 내려받아 실행할 수 있는 모델입니다. 오픈 웨이트 모델은 로컬에서 실행하고 고쳐 쓸 수 있으며, 에너지 사용량을 독립적으로 측정할 수 있습니다.
오케스트레이션(Orchestration)
하나의 큰 모델이 모든 것을 생성하게 하는 대신, 여러 모델, 도구, 미리 만들어진 구성 요소를 조율해 작업을 완성하는 것입니다. 생성보다 오케스트레이션을 참고하세요.
파라미터(Parameters)
학습 중에 조정되며 모델이 배운 것을 함께 저장하는, 모델 안의 숫자들입니다. 대형 언어 모델에는 수십억 개가 있습니다. 예를 들어 Meta의 Llama 3.1 제품군은 80억, 700억, 4,050억 파라미터 크기로 나옵니다. 파라미터가 많을수록 보통 답 하나에 드는 컴퓨팅도 많아집니다.
물리 정보 신경망(Physics-informed neural network)
데이터에 맞추는 것과 함께 에너지 보존 같은 알려진 물리 법칙을 지키도록 학습한 신경망입니다. 이런 지식을 담으면 데이터, 파라미터, 학습이 덜 필요할 수 있습니다.
프롬프트(Prompt)
사람이 생성형 AI 모델에 주는 지시나 질문입니다. 명확하고 구체적인 프롬프트는 보통 첫 시도에 좋은 답을 얻어 시간과 에너지를 모두 아낍니다.
가지치기(Pruning)
학습된 모델에서 개별 가중치나 연결 전체처럼 출력에 거의 기여하지 않는 부분을 없애는 것입니다. 가지치기한 모델은 더 작고 실행 비용이 적으며, 정확도 손실이 적은 경우가 많습니다.
PUE
전력 사용 효율(power usage effectiveness)로, 데이터센터의 전체 에너지 사용량을 컴퓨팅 장비가 쓰는 에너지로 나눈 값입니다. PUE 1.0은 냉각이나 전력 손실에 에너지가 전혀 들지 않는다는 뜻이며, 낮을수록 좋습니다. 일반적인 값과 출처는 호스팅과 데이터센터를 참고하세요.
양자화(Quantisation)
모델의 숫자를 더 적은 자릿수로 저장하는 것입니다. 예를 들어 16비트나 32비트 대신 8비트나 4비트 숫자를 씁니다. 모델이 작아지고 실행 에너지가 줄어들며, 품질 손실은 보통 작습니다.
리바운드 효과(Rebound effect)
효율이 높아져 무언가가 더 저렴하거나 쉬워지면 사람들이 더 많이 사용하게 되어, 절약분의 일부 또는 전부가 사라지는 현상입니다. 사용이 너무 늘어 전체 소비가 증가하면 제번스 역설입니다. 효율은 충분성이 아닙니다를 참고하세요.
라우팅(Routing)
각 요청을 가장 알맞은 모델로 보내는 것입니다. 예를 들어 쉬운 질문은 작고 저렴한 모델로, 어려운 질문만 큰 모델로 보냅니다. 기준을 제대로 정하는 것이 중요합니다. 너무 작은 모델은 실패해서 더 큰 모델로 다시 시도하게 만들 수 있습니다.
스코프 1, 2, 3 배출량(Scope 1, 2 and 3 emissions)
온실가스 프로토콜(Greenhouse Gas Protocol)의 세 가지 범주입니다. 스코프 1은 조직이 소유하거나 관리하는 배출원에서 나오는 직접 배출량, 스코프 2는 조직이 구매하는 전기, 열, 냉방에서 나오는 배출량, 스코프 3은 구매한 하드웨어의 제조처럼 가치사슬에서 생기는 그 밖의 모든 간접 배출량입니다.
소형 언어 모델(Small language model)
파라미터가 비교적 적어 저렴하게 실행되도록 설계된 언어 모델로, 노트북이나 휴대전화에서 실행되기도 합니다. 좁은 작업에서는 잘 고른 소형 모델이 훨씬 큰 모델과 맞먹을 수 있습니다. 알맞은 모델 고르기를 참고하세요.
소프트웨어 탄소 집약도(Software carbon intensity)
Green Software Foundation이 만들고 ISO 표준으로도 발표된 방법으로, 사용자당 또는 요청당처럼 소프트웨어가 하는 작업 한 단위당 배출되는 탄소를 계산합니다.
소버린 AI(Sovereign AI)
외국 제공자에 의존하지 않고 한 나라나 지역이 스스로 통제하는 모델, 데이터, 컴퓨팅 인프라 같은 AI 역량입니다. 소버린 AI에는 그 나름의 지속가능성 문제가 따릅니다. 소버린 AI와 지속가능성을 참고하세요.
희소성(Sparsity)
모델 안의 숫자 중 많은 수, 또는 주어진 입력에 대한 활성값 중 많은 수가 0인 상태입니다. 계산에서 0을 건너뛸 수 있으므로, 하드웨어와 소프트웨어가 지원한다면 희소 모델은 실행 비용이 훨씬 적을 수 있습니다.
스파이킹 신경망(Spiking neural network)
뇌처럼 정보를 짧은 펄스(스파이크)로 전달하고 그 사이에는 대부분 쉬는 신경망입니다. 알맞은 하드웨어에서는 특히 엣지에서 매우 낮은 에너지 사용을 기대할 수 있습니다.
충분성(Sufficiency)
필요가 실제로 요구하는 만큼만 자원을 쓰는 것으로, AI가 애초에 필요한지 묻는 것도 포함합니다. 효율과 짝을 이루는 개념입니다. 효율은 "어떻게 더 적게 써서 할 수 있을까?"를 묻고, 충분성은 "이것을 해야 할까?"를 묻습니다.
대리 모델(Surrogate model)
기후나 공학 시뮬레이션의 일부처럼 느리고 비용이 큰 계산을 대신하도록 학습한, 빠르고 근사적인 모델입니다. 정확도를 확인한다면 좋은 대리 모델은 에너지를 크게 아낄 수 있습니다.
지속가능한 AI(Sustainable AI)
AI가 의존하는 자원을 고갈시키지 않고 개발하고 사용할 수 있는 AI를 넓게 일컫는 말로, 환경적 영향뿐 아니라 사회적·경제적 영향도 포함하는 경우가 많습니다. 그린 AI와 겹치며, 두 용어는 흔히 같은 뜻으로 쓰입니다.
토큰(Token)
언어 모델이 읽고 쓰는 텍스트 조각으로, 단어의 일부인 경우가 많습니다. OpenAI가 제시하는 영어 기준 대략적인 규칙은 토큰 하나가 약 네 글자, 즉 단어의 약 4분의 3이라는 것입니다. 다른 언어는 같은 뜻을 나타내는 데 토큰이 더 많이 필요한 경우가 많습니다. 토큰이 많을수록 컴퓨팅도 많아집니다.
TPU
텐서 처리 장치(tensor processing unit)로, Google이 머신러닝에 쓰이는 계산을 위해 특별히 설계한 칩입니다.
학습(Training)
모델에 대량의 데이터를 보여 주고 오류를 줄이도록 파라미터를 반복해서 조정해 모델을 만드는 것입니다. 큰 모델을 학습하는 데는 수천 개의 칩으로 몇 달이 걸릴 수 있습니다. Meta는 Llama 3.1 제품군을 학습하는 데 3,930만 GPU 시간이 들었다고 밝혔습니다.
불확실성 정량화(Uncertainty quantification)
모델의 출력을 얼마나 신뢰할 수 있는지 알아내는 것으로, 예를 들어 숫자 하나 대신 범위를 제시합니다. 더 저렴한 모델로 충분한 때와 결과를 확인해야 할 때를 판단하는 데 도움이 됩니다.
WUE
물 사용 효율(water usage effectiveness)로, 데이터센터가 현장에서 쓰는 물(리터)을 컴퓨팅 장비가 쓰는 에너지(킬로와트시)로 나눈 값입니다. 낮을수록 좋지만, 물을 아끼는 냉각 설계는 전기를 더 쓸 수 있고 그 반대도 마찬가지입니다.
자주 묻는 질문
그린 AI와 지속가능한 AI는 어떻게 다른가요?
두 용어는 서로 겹치는 뜻으로 쓰입니다. 그린 AI는 보통 AI가 쓰는 에너지, 탄소, 물, 자원을 줄이는 데 초점을 맞춥니다. 지속가능한 AI는 흔히 더 넓은 개념으로, 사회적·경제적 영향과 자원이 쓰이는 속도만큼 빠르게 다시 채워질 수 있는지까지 다룹니다.
AI에서 토큰이란 무엇인가요?
토큰은 언어 모델이 읽거나 쓰는 텍스트 조각으로, 단어의 일부인 경우가 많습니다. OpenAI가 제시하는 영어 기준 대략적인 규칙은 토큰 하나가 약 네 글자, 즉 단어의 4분의 3 정도라는 것입니다.
학습과 추론은 어떻게 다른가요?
학습은 데이터로부터 배우게 하여 모델을 만드는 일로, 보통 한 번 이루어지며 비용이 매우 큽니다. 추론은 완성된 모델을 사용해 질문에 답하거나 이미지를 만드는 일로, 누군가 모델을 사용할 때마다 일어납니다.
출처
- What are tokens and how to count them?, OpenAI Help Center (2025)
- Uptime Institute global data center survey 2025, Uptime Institute (2025)
- Data center metering and resource guide, Lawrence Berkeley National Laboratory (2017)
- GHG Protocol corporate standard, Greenhouse Gas Protocol (2004)
- W. Stanley Jevons, The Coal Question, 1865, Yale University, Energy History (1865)
- Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time, Wortsman et al. (arXiv:2203.05482) (2022)
- Annex XI: technical documentation for providers of general-purpose AI models, European Commission, AI Act Service Desk (2024)
- Directive (EU) 2024/825 on empowering consumers for the green transition, European Union (2024)
- Software Carbon Intensity specification, Green Software Foundation (2024)
- ISO/IEC 21031:2024 Software carbon intensity (SCI) specification, International Organization for Standardization (2024)
- Llama 3.1 8B model card, Meta (Hugging Face) (2024)