Crusoe Provider

Crusoe Provider

crusoe-ai-provider는 Crusoe Cloud Managed Inference에 대한 언어 모델 지원을 담아요. OpenAI 호환 API를 통해 지속 가능하고 에너지 효율적인 데이터 센터에서 DeepSeek, GLM, Kimi, Llama, Nemotron, Qwen 같은 오픈 가중치 모델에 접근할 수 있게 해 줘요.

API 키는 Crusoe Cloud Console에서 얻을 수 있어요.

출처: 문서

본문

셋업 (Setup)

Crusoe provider는 crusoe-ai-provider 모듈로 사용할 수 있어요. 다음과 같이 설치하세요:

npm install crusoe-ai-provider

pnpm add crusoe-ai-provider

yarn add crusoe-ai-provider

bun add crusoe-ai-provider

환경 변수 (Environment variables)

CRUSOE_API_KEY 변수가 있는 .env 파일을 만드세요.

Provider 인스턴스 (Provider Instance)

crusoe-ai-provider에서 기본 provider 인스턴스인 crusoe를 import할 수 있어요:

import { crusoe } from 'crusoe-ai-provider';

커스터마이즈된 셋업이 필요하면 crusoe-ai-provider에서 createCrusoe를 import하고 설정으로 provider 인스턴스를 만들 수 있어요:

import { createCrusoe } from 'crusoe-ai-provider';

const crusoe = createCrusoe({
  // Optional settings
});

Crusoe provider 인스턴스를 커스터마이즈하려면 다음 선택 설정을 사용할 수 있어요:

• baseURL string — API 호출에 다른 URL 접두사를 사용(예: 프록시 서버 사용). 기본 접두사는 https://api.inference.crusoecloud.com/v1.

• apiKey string — Authorization 헤더로 전송되는 API 키. 기본값은 CRUSOE_API_KEY 환경 변수.

• headers Record<string,string> — 요청에 포함할 커스텀 헤더.

• fetch (input: RequestInfo, init?: RequestInit) => Promise<Response> — 커스텀 fetch 구현. 기본값은 전역 fetch 함수.

언어 모델 (Language Models)

provider 인스턴스로 언어 모델을 만들 수 있어요:

import { crusoe } from 'crusoe-ai-provider';
import { generateText } from 'ai';

const { text } = await generateText({
  model: crusoe('zai/GLM-5.2'),
  prompt: 'Write a vegetarian lasagna recipe for 4 people.',
});

Crusoe 언어 모델은 streamText 함수에서도 쓸 수 있어요:

import { crusoe } from 'crusoe-ai-provider';
import { streamText } from 'ai';

const result = streamText({
  model: crusoe('deepseek-ai/DeepSeek-V4-Pro'),
  prompt: 'Write a haiku about sustainable computing.',
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

모델 기능 (Model Capabilities)

참고: 위 표는 인기 있는 모델 목록이에요. 사용 가능한 모델의 전체 목록은 Crusoe Managed Inference docs를 참고하세요. Crusoe에서 사용 가능한 모든 모델 ID를 일반 문자열로 전달할 수 있어요.

더 알아보기 (Learn more)

• Writing a Custom Provider
• AI SDK Core