커스텀 모델 생성 API (Create a model)

커스텀 모델 생성 API (Create a model)

Modelfile을 만들고 ollama create로 커스텀 모델을 빌드했던 걸, 이번엔 HTTP API로 하려면 어떻게 할까요? POST /api/create 엔드포인트가 그 역할을 해요. 이미 있는 모델을 바탕으로 Modelfile의 설정들을 적용해 새 모델을 만들어 줍니다. 커스텀 모델 만들기의 원리는 이 위키의 Ollama 모델 관리 (Modelfile) 문서에서 자세히 다루니, 여기서는 API 형태에 집중할게요.

요청

Modelfile 내용(또는 경로)과 함께 POST 요청을 보냅니다.

curl http://localhost:11434/api/create -d '{
  "model": "mario",
  "path": "~/Modelfile",
  "modelfile": "FROM llama3.2\nSYSTEM \"\"\"You are mario from Super Mario Bros.\"\"\""
}'
  • model (필수) — 만들 커스텀 모델의 이름
  • path — Modelfile 경로
  • modelfile — Modelfile 내용을 문자열로 직접 전달

modelfile 필드에 문자열 줄바꿈(\n)으로 Modelfile 지시어들을 넣으면 돼요. FROM 으로 베이스 모델을, SYSTEM 등으로 커스텀 설정을 지정하는 구조는 파일 기반과 동일해요.

응답

생성 과정의 상태가 스트리밍 응답으로 돌아옵니다. 성공하면 새 model 이름으로 로컬에 등록되고, 이후 ollama run <model> 또는 /api/generate, /api/chat에서 바로 쓸 수 있어요.

핵심만 기억하면 돼요. API든 파일이든 FROM 베이스 모델 + Modelfile 지시어 조합으로 새 모델을 정의한다는 것, 그리고 그 결과물이 로컬 모델 목록에 추가된다는 점이에요.