CometAPI

CometAPI

LiteLLM은 CometAPI의 모든 AI 모델을 지원해요. CometAPI는 GPT-5, Claude Opus 4.1 같은 최첨단 모델을 포함해 500개 이상의 AI 모델을 통합 API 인터페이스로 제공해요.

출처: 문서

본문

인증 (Authentication)

CometAPI 모델을 사용하려면 CometAPI Token Console에서 API 키를 얻어야 해요. CometAPI는 신규 사용자에게 무료 토큰을 제공해요 — 등록만 하면 무료 API 키를 즉시 받을 수 있어요.

사용법 (Usage)

CometAPI 키를 환경 변수로 설정하고 completion 함수를 사용해요.

환경 변수 사용 (권장)

import os
from litellm import completion

# Set API key
os.environ["COMETAPI_KEY"] = "your_comet_api_key_here"

# Define messages
messages = [{"content": "Hello, how are you?", "role": "user"}]

# Method 1: Using environment variable (recommended)
response = completion(
    model="cometapi/gpt-5.6-terra",
    messages=messages
)
print(response.choices[0].message.content)

명시적 API 키 전달

API 키를 명시적으로 전달할 수도 있어요.

import os
from litellm import completion

# Define messages
messages = [{"content": "Hello, how are you?", "role": "user"}]

# Method 2: Explicitly passing API key
response = completion(
    model="cometapi/gpt-5.6-terra",
    messages=messages,
    api_key="your_comet_api_key_here"
)
print(response.choices[0].message.content)

사용법 - 스트리밍 (Streaming)

completion 호출 시 stream=True로 설정하기만 하면 돼요.

import os
from litellm import completion

os.environ["COMETAPI_KEY"] = "your_comet_api_key_here"
messages = [{"content": "Hello, how are you?", "role": "user"}]

response = completion(
    model="cometapi/gpt-5.6-terra",
    messages=messages,
    stream=True
)

for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")

사용법 - 비동기 스트리밍 (Async Streaming)

비동기 스트리밍에는 acompletion을 사용해요.

from litellm import acompletion
import asyncio, os, traceback

async def completion_call():
    try:
        os.environ["COMETAPI_KEY"] = "your_comet_api_key_here"
        print("test acompletion + streaming")
        response = await acompletion(
            model="cometapi/gpt-5.6-terra",
            messages=[{"content": "Hello, how are you?", "role": "user"}],
            stream=True
        )
        print(f"response: {response}")
        async for chunk in response:
            print(chunk)
    except:
        print(f"error occurred: {traceback.format_exc()}")
        pass

# Run the async function
await completion_call()

CometAPI 모델

CometAPI는 통합 API로 500개 이상의 AI 모델 접근을 제공해요. 인기 모델 중 일부는 다음과 같아요:

전체 모델 목록은 CometAPI Models 페이지를 참고하세요.

환경 변수 (Environment Variables)

에러 처리 (Error Handling)

import os
from litellm import completion

try:
    os.environ["COMETAPI_KEY"] = "your_comet_api_key_here"
    messages = [{"content": "Hello, how are you?", "role": "user"}]
    response = completion(
        model="cometapi/gpt-5.6-terra",
        messages=messages
    )
    print(response.choices[0].message.content)
except Exception as e:
    print(f"Error: {e}")

더 알아보기 (Learn more)

• LiteLLM 개요
• LiteLLM Python SDK 사용법
• LiteLLM Proxy Server 설정
• 지원되는 공급업체 전체 목록