가격 계산기

가격 계산기 (Pricing Calculator, 비용 추정)

예상 토큰 사용량과 요청 볼륨을 바탕으로 LLM 비용을 추정해요. 이 도구는 개발자와 플랫폼 팀이 모델을 프로덕션에 배포하기 전에 지출을 예측하는 데 도움을 줘요.

가격 계산기는 LiteLLM UI의 Cost Tracking 아래에 있고, 요청당·일별·월별 비용을 모델별로 분해해 보여줘요. 커스텀 마진(provider margins)도 함께 반영돼요.

출처: 문서

본문

예상 토큰 사용량과 요청 볼륨을 바탕으로 LLM 비용을 추정하세요. 이 도구는 개발자와 플랫폼 팀이 모델을 프로덕션에 배포하기 전에 지출을 예측하는 데 도움을 줘요.

언제 이 기능을 쓰나요

가격 계산기는 다음에 사용해요:

  • 예산 계획 - 모델을 확정하기 전에 월 비용 추정
  • 모델 비교 - 사용 사례에 맞는 여러 모델 간 비용 비교
  • 용량 계획 - 요청 볼륨 확장의 비용 영향을 파악
  • 비용 최적화 - 토큰 요구사항에 가장 비용 효율적인 모델 식별

가격 계산기 사용하기

이 워크스루는 LiteLLM UI에서 가격 계산기로 LLM 비용을 추정하는 방법을 보여줘요.

1단계: Settings로 이동하기

LiteLLM 대시보드에서 왼쪽 사이드바의 Settings를 클릭하세요.

Click Settings

2단계: Cost Tracking 열기

비용 구성 옵션에 접근하려면 Cost Tracking을 클릭하세요.

Click Cost Tracking

3단계: 가격 계산기 열기

계산기 패널을 펼치려면 Pricing Calculator를 클릭하세요. 이 섹션은 예상 토큰 사용량과 요청 볼륨을 바탕으로 LLM 비용을 추정할 수 있게 해줘요.

Click Pricing Calculator

4단계: 모델 선택하기

비용을 추정할 모델을 선택하려면 Model 드롭다운을 클릭하세요.

Click Model field

목록에서 모델을 선택하세요. 표시되는 모델은 LiteLLM 프록시에 구성된 것들이에요.

Select model

5단계: 토큰 수 구성하기

예상 Input Tokens (per request) - 프롬프트의 평균 토큰 수를 입력하세요.

Click Input Tokens field

예상 Output Tokens (per request) - 모델 응답의 평균 토큰 수를 입력하세요.

Click Output Tokens field

6단계: 요청 볼륨 설정하기

예상 요청 볼륨을 입력하세요. Requests per Day와/또는 Requests per Month를 지정할 수 있어요.

Click Requests per Month field

예를 들어 월 1천만 요청이라면 10000000을 입력하세요.

Enter request volume

7단계: 비용 추정 보기

값을 바꿀 때마다 계산기가 자동으로 업데이트돼요. 다음을 포함한 비용 분해를 보세요:

  • Per-Request Cost - 요청당 총 비용, 입력 비용, 출력 비용, 마진/수수료
  • Daily Costs - 일별 요청을 지정했다면 집계된 비용
  • Monthly Costs - 월별 요청을 지정했다면 집계된 비용

View cost estimates

8단계: 보고서 내보내기

Export 버튼을 클릭해 비용 추정을 내려받아요:

  • PDF - 인쇄 대화상자가 열려 PDF로 저장 (이해관계자와 공유하기 좋음)
  • CSV - 추가 분석을 위해 스프레드시트 호환 파일 내려받기

비용 분해 상세 (Cost Breakdown Details)

가격 계산기는 다음을 보여줘요:

필드 설명
Total Cost 설정된 마진을 포함한 전체 비용
Input Cost 입력/프롬프트 토큰 비용
Output Cost 출력/완성 토큰 비용
Margin/Fee 설정된 provider margins
Token Pricing 토큰당 요율 ($/1M 토큰으로 표시)

API 엔드포인트

/cost/estimate 엔드포인트로 프로그래밍 방식으로도 비용을 추정할 수 있어요:

    curl -X POST "http://localhost:4000/cost/estimate" \
      -H "Authorization: Bearer ***" \
      -H "Content-Type: application/json" \
      -d '{
        "model": "gpt-5.6-terra",
        "input_tokens": 1000,
        "output_tokens": 500,
        "num_requests_per_day": 1000,
        "num_requests_per_month": 30000
      }'

응답:

    {
      "model": "gpt-5.6-terra",
      "input_tokens": 1000,
      "output_tokens": 500,
      "num_requests_per_day": 1000,
      "num_requests_per_month": 30000,
      "cost_per_request": 0.008,
      "input_cost_per_request": 0.002,
      "output_cost_per_request": 0.006,
      "margin_cost_per_request": 0.0,
      "daily_cost": 8.0,
      "daily_input_cost": 2.0,
      "daily_output_cost": 6.0,
      "daily_margin_cost": 0.0,
      "monthly_cost": 240.0,
      "monthly_input_cost": 60.0,
      "monthly_output_cost": 180.0,
      "monthly_margin_cost": 0.0,
      "input_cost_per_token": 2e-06,
      "output_cost_per_token": 1.2e-05,
      "provider": "openai"
    }

더 알아보기 (Learn more)