DeepInfra 퀵스타트 — 60초 만에 첫 추론 호출

DeepInfra 퀵스타트 — 60초 만에 첫 추론 호출

설치할 것도 없이 첫 추론 요청을 보내볼까요? DeepInfra는 API 키 하나만 있으면 오픈소스 LLM 100여 개를 가장 저렴한 가격으로 바로 호출할 수 있는 추론 클라우드예요. 아래 순서대로 따라 하면 60초 안에 실제 응답을 받아볼 수 있어요.

출처: DeepInfra Docs — Quickstart

1단계: API 키 발급

대시보드에 들어가 API 키를 만들어요. 로그인한 상태라면 문서 곳곳의 예제에 당신의 토큰이 미리 채워져 보이기도 해요. 새로 시작하는 분은 Signing In 문서를 참고하면 돼요.

2단계: 첫 API 호출

DeepInfra는 OpenAI 호환 API를 제공하니, 아래처럼 base_url과 모델명만 바꿔서 호출하면 돼요. curl, Python, JavaScript 모두 지원해요.

curl 예시입니다.

curl "https://api.deepinfra.com/v1/openai/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $DEEPINFRA_TOKEN" \
  -d '{
      "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ]
    }'

Python 예시입니다. 공식 openai 라이브러리를 그대로 써요.

from openai import OpenAI

client = OpenAI(
    api_key="$DEEPINFRA_TOKEN",
    base_url="https://api.deepinfra.com/v1/openai",
)

response = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)

JavaScript도 비슷하게 구성돼요.

import OpenAI from "openai";

const openai = new OpenAI({
  apiKey: "$DEEPINFRA_TOKEN",
  baseURL: "https://api.deepinfra.com/v1/openai",
});

const response = await openai.chat.completions.create({
  model: "deepseek-ai/DeepSeek-V4-Flash-0731",
  messages: [{ role: "user", content: "Hello!" }],
});
console.log(response.choices[0].message.content);

응답은 이렇게 생겼어요. estimated_cost로 이번 호출 비용도 바로 확인할 수 있어요.

{
    "id": "chatcmpl-guMTxWgpFf",
    "object": "chat.completion",
    "created": 1694623155,
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "Hello! It's nice to meet you. Is there something I can help you with?"
            },
            "finish_reason": "stop"
        }
    ],
    "usage": {
        "prompt_tokens": 15,
        "completion_tokens": 16,
        "total_tokens": 31,
        "estimated_cost": 0.0000268
    }
}

여기까지 하면 끝

사실상 OpenAI Chat Completions API와 같은 인터페이스예요. 바뀌는 건 딱 세 가지뿐이에요.

  • Base URL: https://api.deepinfra.com/v1/openai
  • API key: DeepInfra 토큰
  • Model: 카탈로그에 있는 아무 모델

공식 OpenAI Python/Node.js 라이브러리가 별다른 설정 없이 그대로 동작해요.

SDK 설치 (선택)

pip install openai

npm install openai

다음으로 볼 것

더 알아보기