Modelfile 레퍼런스
Modelfile 레퍼런스 (Modelfile Reference)
기본 모델을 그대로 쓰되 대화 톤이나 컨텍스트 크기를 조정하고 싶을 때가 있죠. Ollama에서는 Modelfile 이라는 블루프린트로 커스터마이즈된 모델을 만들고 공유할 수 있어요. 기본 모델을 지정하고, 실행 파라미터와 시스템 메시지를 선언하는 단순한 구조예요.
형식
Modelfile의 형식은 주석(#)과 명령어(INSTRUCTION arguments)의 나열이에요.
# comment
INSTRUCTION arguments
주요 명령어는 이렇게 구성돼요.
| 명령어 | 설명 |
|---|---|
FROM (필수) |
사용할 기본 모델을 정의. |
PARAMETER |
Ollama가 모델을 실행할 파라미터 설정. |
TEMPLATE |
모델에 보낼 전체 프롬프트 템플릿. |
SYSTEM |
템플릿에 설정될 시스템 메시지 지정. |
ADAPTER |
모델에 적용할 (Q)LoRA 어댑터 정의. |
LICENSE |
법적 라이선스 지정. |
MESSAGE |
메시지 이력 지정. |
REQUIRES |
모델이 요구하는 최소 Ollama 버전 지정. |
기본 예제
FROM 으로 기본 모델을 고르고, PARAMETER 로 온도와 컨텍스트 크기를 조절하며, SYSTEM 으로 어시스턴트 동작을 지정하는 전형적인 Modelfile 이에요.
FROM llama3.2
# [높을수록 창의적, 낮을수록 일관적] temperature를 1로 설정
PARAMETER temperature 1
# 컨텍스트 윈도우 크기를 4096으로 설정 — LLM이 다음 토큰 생성 시 컨텍스트로 쓸 토큰 수
PARAMETER num_ctx 4096
# 채팅 어시스턴트의 동작을 지정하는 커스텀 시스템 메시지
SYSTEM You are Mario from super mario bros, acting as an assistant.
사용 방법은 이렇게 단계를 거쳐요.
- 파일로 저장(예:
Modelfile) ollama create choose-a-model-name -f <Modelfile>ollama run choose-a-model-name- 모델 사용!
이미 만든 모델의 Modelfile을 보려면 ollama show --modelfile 명령을 써요.
ollama show --modelfile llama3.2
FROM (필수)
FROM 은 모델을 만들 때 사용할 기본 모델을 정의해요.
FROM <model name>:<tag>
기존 모델로부터도, Safetensors 모델이나 GGUF 파일로부터도 만들 수 있어요.
그 외 명령어
- PARAMETER: 실행 파라미터(예:
temperature,num_ctx)를 설정해요. - TEMPLATE: 모델에 보내는 프롬프트 템플릿 전체를 정의해요. 시스템·프롬프트·응답 자리에 변수를 넣는 Go 템플릿 문법을 써요.
- SYSTEM: 템플릿의 시스템 메시지를 지정해요.
- ADAPTER: (Q)LoRA 어댑터를 적용해요.
- LICENSE: 라이선스를 명시해요.
- MESSAGE: 주고받은 메시지 이력을 지정해요.