요약
사전 훈련된 모델에서 시작해, 모든 가중치 대신 작은 어댑터만 LoRA나 4비트 가중치를 쓰는 QLoRA로 훈련하십시오. LoRA는 GPT-3 전체 미세 조정에 비해 훈련 가능한 매개변수를 1만 배, GPU 메모리를 3배 줄였고, QLoRA는 48 GB GPU 한 대로 650억 매개변수 모델을 미세 조정했습니다. 더 큰 것을 고려하기 전에 결과를 품질 기준과 비교하십시오.
단계
- 미세 조정을 하기 전에 프롬프트나 검색으로 이미 필요를 충족하는지 확인합니다.
- 과제에서 근접한 성능을 내는 가장 작은 사전 훈련 모델을 고릅니다.
- LoRA 어댑터를 미세 조정하고, 메모리가 부족하면 QLoRA를 씁니다.
- 작고 깨끗한 과제 전용 데이터셋을 쓰고, 검증 성능이 더 오르지 않으면 일찍 멈춥니다.
- 배출량 추적 도구로 에너지를 추적하고 결과와 함께 기록합니다.
사전 훈련된 모델 전체를 다시 훈련하지 말고 작은 부분만 조정하십시오. 매개변수 효율적 미세 조정은 아주 적은 컴퓨팅으로 전체 미세 조정 효과의 대부분을 얻습니다.
왜 중요한가요?
전체 미세 조정은 모든 가중치를 갱신하므로 대규모 GPU 클러스터와 긴 실행 시간이 필요합니다. Hu와 동료들은 고정된 가중치 옆에 작은 추가 행렬을 훈련하는 LoRA(저랭크 적응)가 GPT-3 175B 미세 조정에 비해 훈련 가능한 매개변수를 1만 배, GPU 메모리를 3배 줄일 수 있음을 보였습니다. Dettmers와 동료들의 QLoRA는 이를 4비트 가중치와 결합해 48 GB GPU 한 대로 650억 매개변수 모델을 미세 조정했습니다.
어떻게 하나요?
- 필요성을 따져 보십시오. 미세 조정은 기술과 문체를 가르칩니다. 바뀌는 사실을 추가하는 데는 맞지 않습니다. 검색이냐 미세 조정이냐를 참고하십시오.
- 작게 시작하십시오. 과제에 맞게 미세 조정한 작은 모델은 그 과제에서 훨씬 큰 범용 모델과 맞먹을 수 있습니다.
- 어댑터 라이브러리를 쓰십시오. 널리 쓰이는 오픈소스 라이브러리는 몇 줄의 설정으로 LoRA와 QLoRA를 지원합니다.
- 데이터를 간결하게 유지하십시오. 더 적고 깨끗한 예시는 더 빨리 훈련됩니다. 중복을 제거하십시오.
- 측정하십시오. CodeCarbon 같은 추적 도구로 실행을 감싸고, 정확도 옆에 에너지를 기록하십시오.
흔한 실수
- 더 작은 모델을 시험하기 전에 가장 큰 모델을 미세 조정하는 것.
- 조기 종료 없이 오래 실행하는 것. 품질이 더 오르지 않은 뒤에도 계속 비용이 듭니다.
- 검색 인덱스를 갱신하는 대신 데이터가 바뀔 때마다 다시 훈련하는 것.
더 많은 훈련 기법은 효율적인 훈련과 추론을 읽어 보십시오.
출처
- LoRA: low-rank adaptation of large language models, Hu et al. (2021)
- QLoRA: efficient finetuning of quantized LLMs, Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
- Green Software Patterns: leverage pre-trained models and transfer learning, Green Software Foundation (2025)
- CodeCarbon, CodeCarbon (2026)
관련 내용
모델을 처음부터 학습시키지 않으려면 어떻게 해야 하나요?
직접 사전 학습하는 대신 기존 모델을 재사용하는 방법입니다. 파인튜닝, LoRA 적응, 모델 병합, 검색 기반 지식 추가를 활용합니다.
에너지를 아끼려면 RAG와 파인튜닝 중 무엇을 골라야 하나요?
바뀌는 사실에는 검색 증강(RAG), 기술과 문체에는 파인튜닝을 쓰는 이유와, 둘을 혼동하면 에너지가 낭비되는 이유를 설명합니다.
모델 학습의 탄소 발자국은 어떻게 측정하나요?
CodeCarbon 같은 도구로 학습 실행의 에너지를 추적하고, 지역 전력망 탄소 집약도를 곱하고, 하드웨어·시간·위치를 함께 보고하십시오.
효율적인 AI 훈련과 추론
개발자와 연구자가 AI 에너지를 줄이는 기법: 가지치기, 희소성, 양자화, 증류, KV 캐시, 배칭, 혼합 정밀도, 스케줄링을 다룹니다.