OpenMeter

OpenMeter

OpenMeter는 AI/클라우드 애플리케이션을 위한 오픈소스 사용량 기반 과금(Usage-Based Billing) 솔루션이에요. Stripe와 통합되어 간편한 과금을 제공해요.

출처: 문서

본문

OpenMeter는 AI/클라우드 애플리케이션을 위한 오픈소스 사용량 기반 과금 솔루션이에요. Stripe와 통합되어 간편한 과금을 지원해요.

빠른 시작 (Quick Start)

단 2줄의 코드로 모든 프로바이더의 응답을 OpenMeter에 기록할 수 있어요.

OpenMeter API 키는 https://openmeter.cloud/meters 에서 받을 수 있어요.

litellm.callbacks = ["openmeter"] # logs cost + usage of successful calls to openmeter

SDK

# uv add openmeter
import litellm
import os
# from https://openmeter.cloud
os.environ["OPENMETER_API_ENDPOINT"] = ""
os.environ["OPENMETER_API_KEY"] = ""

# LLM API Keys
os.environ['OPENAI_API_KEY']=""

# set openmeter as a callback, litellm will send the data to openmeter
litellm.callbacks = ["openmeter"]

# openai call
response = litellm.completion(
  model="gpt-5.6-luna",
  messages=[
    {"role": "user", "content": "Hi 👋 - i'm openai"}
  ]
)

PROXY

config.yaml에 추가:

model_list:
  - litellm_params:
      api_base: https://openai-function-calling-workers.tasslexyz.workers.dev/
      api_key: my-fake-key
      model: openai/my-fake-model
    model_name: fake-openai-endpoint

litellm_settings:
  callbacks: ["openmeter"] # 👈 KEY CHANGE

프록시 시작:

litellm --config /path/to/config.yaml

테스트:

curl --location 'http://0.0.0.0:4000/chat/completions' \
--header 'Content-Type: application/json' \
--data ' {
      "model": "fake-openai-endpoint",
      "messages": [
        {
          "role": "user",
          "content": "what llm are you"
        }
      ],
    }'

더 알아보기 (Learn more)