요약
API 호출에서 최대 출력 길이를 설정하고, 프롬프트에서 원하는 형식과 길이를 모델에 알리고, 중지 시퀀스나 구조화된 출력을 써서 일이 끝나면 멈추게 하십시오. 에너지는 모델이 생성하는 토큰 수에 따라 늘어나므로, 출력을 제한하는 것은 어떤 애플리케이션에서든 가장 간단한 절약 방법 중 하나입니다.
단계
- 기능마다 쓸모 있는 가장 긴 답변을 정하고, 그에 맞춰 API의 최대 출력 토큰을 설정합니다.
- "글머리표 세 개"처럼 형식과 길이를 프롬프트에 밝힙니다.
- 코드에 필드만 필요하다면 JSON 스키마 같은 구조화된 출력을 씁니다.
- 답변에 자연스러운 끝 표시가 있다면 중지 시퀀스를 추가합니다.
- 제한에 걸려 잘린 답변을 감지해, 말없이 재시도하지 말고 처리합니다.
원하는 분량을 모델과 API 모두에 알려 주십시오. 모델은 토큰을 한 번에 하나씩 생성하며, 토큰마다 계산 비용이 듭니다.
왜 중요한가요?
Delavande, Pierrard, Luccioni는 에너지가 생성 길이에 비례해 늘어나며, 더 큰 모델은 토큰당 에너지를 더 많이 쓸 뿐 아니라 답변도 더 길게 쓰는 경향이 있다는 것을 발견했습니다. UNESCO와 University College London은 프롬프트와 답변을 짧게 하면 에너지 사용을 절반 넘게 줄일 수 있다는 것을 발견했습니다.
어떤 설정을 써야 하나요?
- 최대 출력 토큰. 주요 API에는 모두 이 매개변수가 있습니다. 넉넉한 전역 값 하나가 아니라 기능별로 설정하십시오.
- 지침. "한 문장으로 답하세요"나 "범주 이름만 돌려주세요"가 강제 제한만 두는 것보다 낫습니다. 모델이 도중에 잘리는 대신 짧은 답변을 계획하기 때문입니다.
- 구조화된 출력. 코드가 필드를 파싱한다면 스키마에 맞춘 JSON을 요청하고 산문은 생략하십시오.
- 중지 시퀀스. 닫는 태그 같은 표시에서 생성을 끝내십시오.
- 추론 강도. 모델에 사고나 추론 설정이 있다면 시험을 통과하는 가장 낮은 수준을 쓰십시오. 추론 모드를 언제 쓸지를 참고하십시오.
흔한 실수
- 제한이 너무 빡빡해 답변이 잘리고, 더 높은 제한으로 자동 재시도하는 것. 처음부터 길이를 맞추는 것보다 비용이 더 듭니다.
- 아무도 읽지 않는 설명을 요청하는 것. 예를 들어 분류 파이프라인에서 "추론 과정을 설명하세요"라고 하는 것입니다.
- 기능별 출력 토큰을 기록하지 않는 것. 그러면 가장 말이 많은 기능이 드러나지 않습니다.
사용자 쪽 습관은 AI를 효율적으로 쓰기를 읽어 보십시오.
출처
- Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- What are tokens and how to count them?, OpenAI Help Center (2025)
관련 내용
에너지를 덜 쓰는 프롬프트는 어떻게 작성하나요?
연산이 덜 드는 AI 프롬프트 작성법입니다. 구체적으로 쓰고, 길이를 정하고, 필요한 것만 붙여 넣고, 재시도 대신 한 번에 제대로 하십시오.
챗봇이 대화 전체를 매번 다시 보내지 않게 하려면 어떻게 해야 하나요?
챗봇 맥락을 작게 유지하는 법: 이전 턴 수 제한, 오래된 메시지 요약, 관련 내용만 검색, 고정 프롬프트 캐싱으로 입력 증가를 막습니다.
AI의 생각하기(추론) 모드는 언제 써야 하나요?
AI 추론(생각하기) 모드가 쓸 만한 때와 일반 모델로 충분한 때, 그리고 추론이 답변당 에너지를 몇 배나 더 쓸 수 있는 이유를 설명합니다.
AI를 효율적으로 쓰기: 일상 습관
AI 사용 에너지를 줄이는 일상 습관을 소개합니다. 명확한 프롬프트, 재생성 반복 줄이기, 이미지와 동영상 절제, 캐싱, 기본 기능 끄기를 다룹니다.