Serverless 퀵스타트 — 첫 API 호출

Serverless 퀵스타트 — 첫 API 호출

Serverless는 Fireworks에서 가장 빨리 시작하는 방법이에요. 먼저 API 키를 만들고, 설치 한 줄, 그리고 호출 한 번이면 첫 응답을 받을 수 있어요.

출처: https://docs.fireworks.ai/getting-started/quickstart

먼저 Fireworks 대시보드에서 API 키를 만들고 환경변수로 export해요.

export FIREWORKS_API_KEY=your_key_here

Python에서는 fireworks-ai SDK를 설치해요. SDK는 현재 알파 상태라 --pre 플래그로 최신 버전을 받아요.

pip install --pre fireworks-ai

그리고 Fireworks() 클라이언트로 채팅 완성 API를 호출하면 돼요.

from fireworks import Fireworks

client = Fireworks()

response = client.chat.completions.create(
  model="accounts/fireworks/models/deepseek-v3p1",
  messages=[{"role": "user", "content": "Say hello in Spanish"}],
)
print(response.choices[0].message.content)

모델 이름이 accounts/fireworks/models/... 형태인 게 특징이에요. OpenAI 호환 엔드포인트를 쓰고 싶다면 openai SDK에 base_url="https://api.fireworks.ai/inference/v1"을 지정하면 돼요.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ.get("FIREWORKS_API_KEY"),
    base_url="https://api.fireworks.ai/inference/v1",
)

스트리밍 응답은 stream=True를 붙이면 토큰을 조각조각 받을 수 있고, 함수 호출은 tools 인자로 외부 도구를 연결해요. 구조화 출력(JSON mode)은 response_format={"type": "json_schema", ...}로 원하는 스키마를 강제할 수 있죠.

더 알아보기