leejk/ jk lee
← Notes

Notes

토큰을 한 줌이라도 아끼는 법

5분 안에 막는 누수 여섯 자리

·
#notes#token-cost#claude-code#workflow#context-engineering

토큰 사용량이 생산성 지표가 된 시대지만, 본인 워크플로의 낭비 대부분은 5분 안에 막을 수 있는 사소한 누수다. 평균 사용량 위에 분포를 깔아 보면 어디가 새는지 보인다 — 30개 skill의 cold-start, 안 쓰는 MCP 서버의 turn당 세금, prompt cache 5분 TTL 너머의 첫 호출, subagent에 통째로 넘긴 컨텍스트, 단순한 작업을 Opus가 푼 시간. 본인 워크플로에서 손으로 측정한 여섯 가지 lever와 각 lever를 켤 때 잃는 것.

TL;DR. 토큰 = 시간 = 돈인 시대지만, 본인 워크플로의 낭비 대부분은 5분 안에 막을 수 있는 누수다. 평균이 아니라 분포로 보면 잡힌다. 여섯 가지 lever — skill cold-start 정리·MCP 서버 정리·prompt cache 5분 TTL 의식·subagent에 좁은 컨텍스트만·Sonnet 디폴트·Plan mode로 왕복 압축. 다 켜면 정확도가 떨어진다 — 어디서 멈출지가 본체다.

토큰 사용이 생산성 신호가 됐다

GSD 메인테이너 trek-e는 사용자가 "Max plan을 40분에 다 썼다"고 항의했을 때 이렇게 답했다"4 agents ≈ 4× tokens. This is how the system works." fresh-context-per-subagent라는 디자인의 정직한 가격표다.

Anthropic은 Code with Claude 2026에서 Managed Agents의 Outcomes를 발표했다 — 모든 결과에 별도 grader call을 한 번 더 돌린다. 같은 발표에서 Advisor(Opus advisor + Sonnet executor)가 둘로 쪼개졌고, Remote Agents·CI auto-fix·multi-agent orchestration이 같이 GA에 가까워졌다. 모두 토큰을 더 쓰는 디자인이다.

1M context Opus 4.7은 long-context premium 없이 표준 가격에 풀렸다. GitHub에는 silent Sonnet downgrade 이슈Max plan 200K cap 버그가 같은 주에 올라왔다 — long-context를 진짜 다 쓰는 사용자가 늘어났다는 뜻이다.

많이 쓰는 사람이 AI를 제대로 쓰는 사람으로 통하곤 한다. 이 등호는 부분적으로만 사실이다.

1인당 낭비되는 토큰 추정

1인 6-8시간 active session 기준 input 토큰 약 600k-1M(thinking·tool result·cache read 포함). 그중 고정 누수가 보수적으로 20-30% — 1인 하루 약 150-300k tokens 낭비. 필자의 경우 어디서 토큰이 새는지 아래에 적어놓았다.

돈으로 환산

Sonnet 4.6 input $3/1M tokens 기준: 1인 일 $0.45-0.90, 월 $13-27, 연 $160-330.

Opus 4.7 input $15/1M tokens 기준: 1인 일 $2.25-4.50, 월 $67-135, 연 $810-1,640.

실제 비용은 mixed-mode(어려운 작업만 Opus, 나머지 Sonnet)라 둘 사이. 모든 lever가 꺼진 채로 1년 굴리면 1인당 수백~천 단위 달러가 비용 없이 사라진다.

10명 팀이면 연간 수천 달러, 100명이면 수만 달러. 작은 lever 두세 개만 켜도 회수된다.

내가 낭비하던 자리

/context로 측정한 본인 워크플로 leak 다섯 자리:

  1. Cold-start 시스템 프롬프트 ~14k tokens. superpowers + mattpocock + 자체 스킬 합쳐 30+ 개, SessionStart hook으로 work-context manifest까지. 매 새 세션·/clear·/compact 다시 박힌다.
  2. MCP 7개 서버의 tool list ~3k tokens가 prefix에 상시 동승. 활성 도구는 보통 1-2개. cache miss마다 cache_creation으로 다시 청구되고, cache hit 동안에도 매 turn cache read로 누적된다.
  3. Prompt cache miss 1-2회/일. Anthropic prompt cache는 5분 TTL. 점심·회의로 5분 넘기면 전체 prefix가 다시 입력 비용으로 청구된다. 14k cold-start × 1-2회 = 14-28k tokens 추가.
  4. Subagent dispatch에 통째 conversation dump ~10k tokens/dispatch. 좁게 자르지 않고 "지금까지 보고 이어서 해" 식으로 던지면, 받는 subagent의 fresh 200k context가 받자마자 5-10% 차게 시작한다. 같은 작업을 좁게 잘라 던지면 1-2k tokens면 충분.
  5. Sonnet으로 충분한 작업에 Opus 쓰던 자리. typo 수정·간단한 grep·README 한 줄 다듬기를 디폴트 Opus로 처리. Sonnet으로 같은 작업 처리 시 비용 1/5, latency도 짧다.

다 합치면 6시간 active session 기준 약 200-300k tokensmeasurable 낭비. 본인 base 비용의 25-30%.

작게 아끼는 여섯 가지

각 lever는 측정 가능한 효과를 가진다. 모두 5분 안에 설정 끝.

  1. Cold-start 시스템 프롬프트 다이어트. 안 쓰는 skill을 ~/.claude/settings.json의 enable 플래그나 plugin-level 토글로 끈다. progressive disclosure / namespace 패턴(GSD의 6-namespace router 같은) 권장. 효과: 12k → 1-2k 가능. GSD review의 --minimal 사례 참고.
  2. MCP 서버 작업별 enable. claude --mcp <name> 식으로 필요한 서버만 띄우거나, settings에서 디폴트로 끈 채 명시적으로 enable. 7 → 2 서버면 turn당 3-5k tokens 절약. MCP review의 컨텍스트 폭증 항 참고.
  3. Prompt cache 5분 TTL 의식. 자리 비울 거 같으면 짧게 비우거나, 시스템 prompt cache hit이 살아 있는 동안 한 묶음으로 일한다. cache miss는 항상 누수다 — 같은 prefix를 두 번 입력 비용으로 내는 일.
  4. Subagent dispatch에 좁은 컨텍스트만. parent의 conversation 통째 dump 금지. 그 subagent가 정말 필요한 fact·파일·결정만 brief에 적는다. lost-in-the-middle 회피 효과까지 덤.
  5. Sonnet 4.6 디폴트, 복잡할 때만 Opus 명시 호출. ~/.claude/settings.jsonmodel: sonnet 박고, 어려운 reasoning에만 /model opus 또는 sub-skill로 escalate. 코딩 작업의 80%는 Sonnet으로 충분. ECC review의 토큰 디폴트 축 참고.
  6. Plan mode + AskUserQuestion으로 왕복 압축. 명세가 흐릿한 상태로 4-5 왕복 발생할 작업을, Plan mode 안에서 AskUserQuestion 한두 번으로 정리. 4 왕복 × 5k tokens vs 1 왕복 × 5k tokens는 4×의 차이.

lever를 켤 때 잃는 것

다 켜면 정확도와 속도가 떨어진다. 각각의 cost를 의식하라.

  • Skill 정리의 cost — 익숙한 skill이 갑자기 없으면 워크플로 단절, 조용히 안 도와주는 자리가 생긴다. 끄기 전에 30일 사용 빈도 확인.
  • MCP 정리의 cost — 필요할 때 다시 켜는 setup 토큰 + 인지 부담. 작업별 enable이 매번 명시 비용을 부른다.
  • Cache TTL 의식의 cost — 자리 못 비움. 5분 게임에 묶이는 인지 부담이 실제 토큰 절감보다 비쌀 수 있다.
  • Subagent 좁은 컨텍스트의 cost — 잘 자르는 데 드는 인지 노동이 본체다. 부족하게 자르면 subagent가 재dispatch를 요청하거나, 컨텍스트 부족으로 잘못 답한다.
  • Sonnet 디폴트의 cost — 어려운 reasoning에 Sonnet 쓰면 결과 품질 저하 → 재시도 → 더 많은 토큰의 false economy. escalate 판단은 사람이 해야 한다.
  • Plan mode 왕복 압축의 cost — Plan 단계가 spec을 못 잡으면 더 긴 cycle. 잘못된 plan으로 실행하면 rollback 비용이 4 왕복보다 비싸다.

전체 원칙: 모든 lever를 동시에 켜지 말 것. 본인 분포에서 큰 leak 두 자리 먼저 막고, 다음에 가서 작은 leak. 토큰은 평균이 아니라 분포로 새고, 분포는 직접 펴 봐야 보인다.