코딩 에이전트가 토큰을 어디에 쓸지 정하는 네 개의 층(라우터·에이전트·서빙·트레이닝)이 사실 같은 경제 문제를 풀고 있다는 포지션 페이퍼.
한 줄 요약
에이전트 AI를 "글자 단위로 값을 매기는 생성기"가 아니라, 한정된 토큰 예산을 매 순간 어디에 쓸지 저울질하는 경제 주체로 보고 설계하자는 주장이다. 그래야 라우터·에이전트·서빙·트레이닝이 제각각 토큰을 아끼다 전체 시스템 비용이 오히려 커지는 흔한 함정을 피할 수 있다.
왜 이런 관점이 필요한가
오늘날 에이전트는 단 하나의 사용자 요청을 통과시키기 위해 여러 결정 층을 지난다 — 어떤 모델을 부를지(라우터), 직접 풀지 위임할지(에이전트), 몇 토큰을 한 번에 생성할지(서빙), 이 작업 기록을 학습에 쓸지(트레이닝). 각 층은 따로따로 만들어졌고, 서로의 비용 구조를 모른다.
저자는 "실패한 테스트 하나를 고쳐줘"라는 평범한 요청을 이 네 층에 순서대로 통과시키며, 한 층의 "절약"이 다음 층의 "낭비"가 되는 패턴을 보여준다. 즉 국소 최적화의 합 ≠ 전체 최적화.
그림 1. 사용자 요청 하나가 통과하는 네 개의 결정 층과 각 층의 대표적 실패 모드
핵심 아이디어 — "한계(marginal)" 로 본다
경제학에서 "한계 ○○"는 하나 더 쓸 때 따라오는 ○○이다. 토큰 한 개를 더 쓰면 답이 얼마나 더 좋아지는지(한계 이득), 그 한 토큰이 얼마를 더 청구하는지(한계 비용), 응답이 얼마나 더 느려지는지(한계 지연), 잘못 답할 확률이 얼마나 늘어나는지(한계 리스크).
저자는 네 층 모두 본질적으로 같은 식을 푼다고 본다:
한계 이득 = 한계 비용 + 지연 비용 + 리스크 비용 — 토큰(또는 모델 호출·sub-agent 위임·rollout 학습)을 하나 더 쓸 가치가, 그것이 끌어들이는 모든 비용의 합과 같아지는 지점에서 멈춰라.
그림 2. 한계 이득은 시간이 갈수록 작아지고, 한계 비용은 누적될수록 커진다. 두 곡선이 만나는 지점이 최적 정지점
여기서 결정적 통찰이 나온다 — 각 층에서 국소적으로 토큰을 최소화하면, 시스템 전체로는 토큰이 잘못 배분된다. 라우터가 싼 모델만 고르면 에이전트가 헛돌며 더 많은 토큰을 태우고, 검증을 한 번 아끼면 틀린 답을 안고 가서 다음 사이클에서 두 배로 토큰을 쓴다.
반복적으로 나타나는 6가지 실패 모드
저자는 한계 배분 관점에서 보면 자주 보이는 실패가 모두 "한계 이득과 한계 비용 중 한쪽을 잘못 보는" 같은 병이라고 정리한다.
그림 3. 6가지 실패 모드와 그게 일어나는 층
제안하는 어젠다 4가지
Token-aware evaluation — 정답률만 보지 말고 토큰 단위 비용도 같이 본다
Autonomy pricing — 더 많은 자율(위임·재시도)에 명시적 "가격표"를 붙인다
Congestion-priced serving — 서빙 혼잡 비용을 가격에 반영해 우선순위가 자연스레 갈리게 한다
Risk-adjusted RL budgeting — 학습 자원을 단순 보상이 아니라 위험 조정 후 가치로 배분
우리한테 어떤 의미인가
멀티에이전트 워크플로(fan-out, 위임, verifier 패널, 재시도)를 설계할 때 이 관점이 그대로 적용된다. "워커 한 명을 더 띄울 가치가 있나? 검증을 한 번 더 돌릴 가치가 있나? 이 sub-agent 위임이 토큰 한 톨이라도 더 줄여주나?" 를 항상 한계 이득 vs 한계 비용으로 저울질하는 습관 — 국소 절약이 전체 손해가 되는 지점을 의식적으로 경계하는 게 핵심이다.