모델 가져오기 (Import Models)

모델 가져오기 (Import Models)

LM Studio 바깥에서 내려받은 호환 모델도 예상 디렉토리 구조에 맞춰 넣으면 LM Studio에서 바로 사용할 수 있어요. 가장 간단한 방법은 lms import 명령으로 GGUF 모델을 가져오는 거예요. LM Studio가 기대하는 모델 폴더 구조만 알면 헷갈릴 일이 없답니다.

출처: Import Models - LM Studio Docs

lms import 사용하기 (실험적)

LM Studio 바깥에서 내려받은 GGUF 모델을 가져오려면 터미널에서 다음 명령을 실행해요.

lms import <path/to/model.gguf>

대화형 프롬프트를 따라 가면 가져오기 과정이 완료돼요.

LM Studio가 기대하는 모델 디렉토리 구조

LM Studio는 Hugging Face에서 내려받은 모델의 디렉토리 구조를 그대로 보존하려고 해요. 예상되는 구조는 다음과 같아요.

~/.lmstudio/models/
└── publisher/
    └── model/
        └── model-file.gguf

예를 들어 infra-ai가 배포한 ocelot-v1 모델이라면 구조가 이렇게 돼요.

~/.lmstudio/models/
└── infra-ai/
    └── ocelot-v1/
        └── ocelot-v1-instruct-q4_0.gguf

더 알아보기