Workers AI REST API — 첫 LLM 배포

Workers AI REST API — 첫 LLM 배포

Workers AI REST API로 처음 LLM 배포를 해보는 과정을 안내해요. API 토큰을 만들고 cURL 한 줄로 모델을 실행하는 것부터 시작합니다.

1. API 토큰과 Account ID 얻기

  1. Cloudflare 대시보드의 Workers AI 페이지로 이동하고 Use REST API를 선택해요.
  2. Create a Workers AI API Token으로 토큰을 만들어요. 미리 채워진 권한을 확인 후 생성해요.

2. 모델 실행 (cURL)

Execute AI model 엔드포인트로 @cf/meta/llama-3.1-8b-instruct 같은 모델을 호출할 수 있어요.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/run/@cf/meta/llama-3.1-8b-instruct \
  -H 'Authorization: Bearer {API_TOKEN}' \
  -d '{ "prompt": "Where did the phrase Hello World come from" }'
  • {ACCOUNT_ID}와 {API_TOKEN}을 실제 값으로 바꿔요.
  • {model}에 원하는 카탈로그 모델 이름을 넣으면 어떤 모델이든 같은 방식으로 실행할 수 있어요.
  • 응답은 JSON으로 돌아와요.

요점

  • 별도 인프라 없이 API 토큰 하나로 LLM을 써볼 수 있어요.
  • 이후 AI SDK나 Worker 스크립트로 프로덕션 통합을 확장해요.

더 알아보기