Galadriel

Galadriel

LiteLLM은 Galadriel의 모든 모델을 지원해요.

출처: 문서

본문

API 키

import os

os.environ['GALADRIEL_API_KEY'] = "your-api-key"

샘플 사용법 (Sample Usage)

from litellm import completion
import os

os.environ['GALADRIEL_API_KEY'] = ""

response = completion(
    model="galadriel/llama3.1",
    messages=[
        {"role": "user", "content": "hello from litellm"}
    ],
)
print(response)

샘플 사용법 - 스트리밍 (Streaming)

from litellm import completion
import os

os.environ['GALADRIEL_API_KEY'] = ""

response = completion(
    model="galadriel/llama3.1",
    messages=[
        {"role": "user", "content": "hello from litellm"}
    ],
    stream=True
)

for chunk in response:
    print(chunk)

지원 모델 (Supported Models)

Galadriel은 chat completion API에서 다양한 모델을 지원해요. 전체 목록은 Galadriel 문서(https://docs.galadriel.com/api-reference/chat-completion-API)를 참고하세요.

더 알아보기 (Learn more)