Morph
Morph
LiteLLM은 Morph의 모든 모델을 지원해요.
개요 (Overview)
Morph는 에이전틱 워크플로우에 특화된 AI 모델을 제공하며, 특히 정밀한 코드 편집과 조작에서 뛰어나요. "Apply" 모델은 전체 파일을 다시 쓰지 않고도 대상 코드만 정확히 바꿀 수 있어서, 상황을 이해하고 문맥에 맞는 코드 수정이 필요한 AI 에이전트에 이상적이에요.
API 키 (API Key)
import os
os.environ["MORPH_API_KEY"] = "your-api-key"
샘플 사용법 (Sample Usage)
from litellm import completion
# set env variable
os.environ["MORPH_API_KEY"] = "your-api-key"
messages = [
{"role": "user", "content": "Write a Python function to calculate factorial"}
]
## Morph v3 Fast - Optimized for speed
response = completion(
model="morph/morph-v3-fast",
messages=messages,
)
print(response)
## Morph v3 Large - Most capable model
response = completion(
model="morph/morph-v3-large",
messages=messages,
)
print(response)
샘플 사용법 - 스트리밍 (Sample Usage - Streaming)
from litellm import completion
# set env variable
os.environ["MORPH_API_KEY"] = "your-api-key"
messages = [
{"role": "user", "content": "Write a Python function to calculate factorial"}
]
## Morph v3 Fast with streaming
response = completion(
model="morph/morph-v3-fast",
messages=messages,
stream=True,
)
for chunk in response:
print(chunk)
지원 모델 (Supported Models)
| 모델명 | 함수 호출 | 설명 | 컨텍스트 윈도우 |
|---|---|---|---|
morph-v3-fast |
completion('morph/morph-v3-fast', messages) |
빠른 응답에 최적화된 가장 빠른 모델 | 16k tokens |
morph-v3-large |
completion('morph/morph-v3-large', messages) |
복잡한 태스크에 가장 유능한 모델 | 16k tokens |
사용법 - LiteLLM Proxy Server
Morph를 LiteLLM Proxy Server와 함께 쓰는 방법이에요:
- 환경 변수에 API 키 저장
export MORPH_API_KEY="your-api-key"
- config.yaml에 모델 추가
model_list:
- model_name: morph-v3-fast
litellm_params:
model: morph/morph-v3-fast
- model_name: morph-v3-large
litellm_params:
model: morph/morph-v3-large
- 프록시 서버 시작
litellm --config config.yaml
고급 사용법 (Advanced Usage)
API Base 설정
import litellm
# set custom api base
response = completion(
model="morph/morph-v3-large",
messages=[{"role": "user", "content": "Hello, world!"}],
api_base="https://api.morphllm.com/v1"
)
print(response)
API 키 설정
import litellm
# set api key via completion
response = completion(
model="morph/morph-v3-large",
messages=[{"role": "user", "content": "Hello, world!"}],
api_key="your-api-key"
)
print(response)
출처: 문서