Cerebras
Cerebras
이 문서에서는 pydantic-ai에서 CerebrasModel을 설치하고 설정하는 방법을 알려드려요. Cerebras의 API를 사용하려면 먼저 API 키를 생성하고, 환경 변수로 설정한 뒤 모델을 이름으로 사용하거나 직접 초기화하면 돼요. 커스텀 Provider나 httpx2.AsyncClient를 넘겨서 구성을 더 세밀하게 조정할 수도 있어요.
출처: 문서
본문
Install
CerebrasModel을 사용하려면 pydantic-ai를 설치하거나, cerebras 옵션 그룹과 함께 pydantic-ai-slim을 설치해야 해요:
Terminal
pip install "pydantic-ai-slim[cerebras]"
Terminal
uv add "pydantic-ai-slim[cerebras]"
Configuration
Cerebras를 API를 통해 사용하려면 cloud.cerebras.ai로 이동해서 API 키를 생성하세요.
사용 가능한 모델 목록은 Cerebras 모델 문서를 참고하세요.
Environment variable
API 키를 확보했다면 환경 변수로 설정할 수 있어요:
Terminal
export CEREBRAS_API_KEY='your-api-key'
그 다음 이름으로 CerebrasModel을 사용할 수 있어요:
from pydantic_ai import Agent
agent = Agent('cerebras:llama-3.3-70b')
...
또는 모델 이름만으로 모델을 직접 초기화할 수도 있어요:
from pydantic_ai import Agent
from pydantic_ai.models.cerebras import CerebrasModel
model = CerebrasModel('llama-3.3-70b')
agent = Agent(model)
...
provider argument
provider 인자를 통해 커스텀 Provider를 제공할 수 있어요:
from pydantic_ai import Agent
from pydantic_ai.models.cerebras import CerebrasModel
from pydantic_ai.providers.cerebras import CerebrasProvider
model = CerebrasModel(
'llama-3.3-70b', provider=CerebrasProvider(api_key='your-api-key')
)
agent = Agent(model)
...
커스텀 httpx2.AsyncClient를 사용해 CerebrasProvider를 맞춤 구성할 수도 있어요:
from httpx2 import AsyncClient
from pydantic_ai import Agent
from pydantic_ai.models.cerebras import CerebrasModel
from pydantic_ai.providers.cerebras import CerebrasProvider
custom_http_client = AsyncClient(timeout=30)
model = CerebrasModel(
'llama-3.3-70b',
provider=CerebrasProvider(api_key='your-api-key', http_client=custom_http_client),
)
agent = Agent(model)
...