Ollama API 개요

Ollama API 개요

Ollama는 로컬에서 모델을 실행하고 대화하는 용도로 쓰는 도구인데, 이걸 프로그램에서 다루려면 결국 API가 필요해요. 이 API가 어떤 주소에서 어떻게 요청을 주고받는지, 큰 그림부터 하나씩 짚어 볼게요.

출처: 공식문서 - Introducton

Base URL

Ollama를 설치하면 API 서버가 기본적으로 다음 주소에서 떠요.

http://localhost:11434/api

로컬에서 바로 쓰는 경우 이 주소 하나면 충분해요. 한편 ollama.com의 클라우드 모델을 쓸 땐 같은 API를 다음 base URL로 호출해요.

https://ollama.com/api

첫 요청 예시

Ollama가 실행 중이면 API는 자동으로 열려 있어요. 설치 직후에 바로 curl로 확인할 수 있죠.

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "Why is the sky blue?"
}'

이처럼 /api/generate 같은 엔드포인트에 JSON 본문을 실어 POST로 요청하면 모델이 응답을 돌려줘요.

공식 라이브러리

Ollama는 Python과 JavaScript용 공식 라이브러리를 제공해요. 코드에서 직접 HTTP 요청을 다루기보다 이 라이브러리를 쓰면 훨씬 편합니다.

커뮤니티에서 만든 라이브러리도 여럿 있어요. 전체 목록은 Ollama GitHub 저장소에서 확인할 수 있어요.

버저닝

Ollama API는 엄격하게 버전을 붙이지는 않아요. 대신 API가 안정적이고 이전 버전과 호환되도록 유지한다는 약속이 있어요. 그러다 보니 기능 폐기(deprecation)는 드물고, 만약 생기면 릴리스 노트에서 미리 공지돼요.

더 알아보기