토큰 이해·계산 — 컨텍스트 예산 관리
토큰 이해·계산
Long Context를 잘 쓰려면 토큰을 정확히 이해하고 예산을 관리해야 해요. Gemini에서 토큰은 대략 4문자에 해당하고, 100토큰 ≈ 영문 60~80단어예요.
토큰이란
토큰은 z 같은 단일 문자일 수도, cat 같은 단어일 수도 있어요. 긴 단어는 여러 토큰으로 쪼개져요. 텍스트를 토큰으로 나누는 과정을 토크나이제이션이라 하고, 비용은 입력·출력 토큰 수에 따라 결정돼요.
토큰을 세는 방법
count_tokens호출: 보내기 전 입력 토큰 수 확인.- 응답의
usage: 입력(total_input_tokens), 출력(total_output_tokens), 추론(total_thought_tokens), 캐시(total_cached_tokens), 툴 사용(total_tool_use_tokens), 총합(total_tokens)을 알려줘요.
from google import genai
client = genai.Client()
total = client.models.count_tokens(model="gemini-3.7-flash", contents=prompt)
print(total.total_tokens)
왜 중요한가
Long Context는 컨텍스트가 클수록 입력 토큰 비용이 커져요. 토큰 수를 예산으로 관리하고, 같은 내용을 반복해서 보낼 땐 캐싱으로 비용을 줄이는 게 핵심 전략이에요.