요약
모든 에이전트에 실행을 끝내는 검증 가능한 목표, 단계·토큰·시간·지출에 대한 강제 제한, 같은 일을 반복하면 멈추게 하는 루프 감지를 두십시오. 각 단계가 들고 가는 맥락을 줄이고, 규칙으로 내릴 수 있는 결정에는 일반 코드를 쓰고, 간단한 하위 작업은 작은 모델로 보내십시오. 에이전트는 채팅보다 몇 배나 많은 토큰을 쓸 수 있으므로 이런 제한은 금방 효과를 냅니다.
단계
- 목표를 달성하는 즉시 실행을 끝내는 성공 확인 조건을 정합니다.
- 단계, 토큰, 시간, 지출에 강제 상한을 두고, 실행이 상한에 걸리면 기록합니다.
- 반복되는 행동이나 거의 같은 메시지를 감지해 실행을 멈춥니다.
- 오래된 기록은 요약하거나 버려 호출마다 읽는 양을 줄입니다.
- 규칙 기반 결정에는 일반 코드를, 간단한 하위 작업에는 작은 모델을 씁니다.
- 재시도와 실패한 실행을 포함해 완료한 작업당 토큰을 기록합니다.
운영 환경에 내보내기 전에 모든 에이전트에 제한과 중지 조건을 두십시오. 에이전트는 모델을 거듭 호출하며, 호출마다 보통 점점 늘어나는 작업 기록을 들고 갑니다.
왜 중요한가요?
Anthropic은 자사 에이전트가 보통 채팅의 약 4배, 멀티 에이전트 시스템은 약 15배의 토큰을 썼다고 보고했습니다. Cemri 연구진은 7개 멀티 에이전트 프레임워크의 실행 기록(trace) 1,600개 이상을 분석해, 작업 명세 부실부터 에이전트가 자기 작업을 검증하지 못하는 것까지 14가지 서로 다른 실패 유형을 찾아냈습니다. 하나하나가 결과 없이 토큰을 쓰는 경로입니다.
어떤 안전장치가 효과적인가요?
- 중지 조건. Green Software Foundation의 에이전트 오케스트레이션 패턴은 정해진 횟수만큼 반복하지 말고 목표를 달성하면 에이전트 루프를 멈추라고 권합니다.
- 강제 제한. 대부분의 프레임워크가 지원합니다. 예를 들어 OpenAI Agents SDK에는 초과하면 실행을 멈추는
max_turns설정이 있습니다. 제한은 안전하게 실패해야 합니다. 말없이 재시도하지 말고 멈춘 뒤 보고하십시오. - 루프 감지. 반복되는 도구 호출이나 에이전트 사이의 거의 같은 메시지를 표시하십시오.
- 맥락 줄이기. 문서와 로그 전체가 아니라 요약을 넘기십시오. 대화 전체를 다시 보내지 않는 방법을 참고하십시오.
- 캐싱. 같은 질문을 두 번 하지 마십시오. 캐싱 사용법을 참고하십시오.
가장 큰 차이를 만드는 것은 무엇인가요?
작동하는 가장 단순한 설계를 쓰는 것입니다. 고정된 스크립트나, 도구 하나와 함께 프롬프트를 잘 쓴 모델 호출 한 번으로 충분한 경우가 많습니다. 그다음에 단계 제한이 있는 단일 에이전트를 추가하고, 멀티 에이전트는 폭넓고 가치 있으며 정말로 병렬인 작업에만 쓰십시오. 수학자, 컴퓨터 과학자, 업계가 함께한 2026년 영국 그린 AI 샌드핏(집중 토론 워크숍)은 에이전트 무리가 루프에 갇히는 현상을 실재하지만 연구가 부족한 낭비의 원인으로 지목했습니다.
근거는 에이전트형 AI와 토큰 낭비를 읽어 보십시오.
출처
- How we built our multi-agent research system, Anthropic (2025)
- Why do multi-agent LLM systems fail?, Cemri et al. (2025)
- Running agents (max_turns), OpenAI Agents SDK documentation (2025)
- Optimize agent orchestration to reduce unnecessary model calls, Green Software Foundation, Green Software Patterns (2025)
관련 내용
에이전틱 AI와 토큰 낭비
AI 에이전트가 채팅보다 몇 배나 많은 토큰과 에너지를 쓰는 이유, 루프가 토큰을 낭비하는 방식, 에이전트를 알맞은 규모로 유지하는 안전장치를 설명합니다.
요청을 더 작은 모델로 보내려면 어떻게 해야 하나요?
일상적인 요청은 작은 모델로, 어려운 요청만 큰 모델로 보내는 방법과, 재시도가 절감을 갉아먹지 않게 라우터를 조정하는 법입니다.
LLM 호출 에너지를 캐싱으로 줄이려면 어떻게 해야 하나요?
LLM 작업을 줄이는 두 가지 캐싱, 즉 반복되는 맥락을 위한 제공업체 프롬프트 캐싱과 같은 질문에 두 번 답하지 않게 하는 자체 캐시를 설명합니다.
AI 에이전트와 딥 리서치 도구를 낭비 없이 쓰려면 어떻게 해야 하나요?
AI 에이전트와 딥 리서치 모드가 훨씬 많은 토큰을 쓸 만한 가치가 있는 때와, 반복에 빠지지 않고 빨리 끝내도록 지시하는 방법을 설명합니다.