Jan 모델 허브 — GGUF 모델 다운로드와 로컬 실행

Jan-v1: 4B reasoning 모델로 웹 검색에 특화.
Jan-Nano (32k/128k): 4B 모델, MCP 도구와 결합한 웹 검색용.
Lucy: 1.7B 모바일 최적화 모델로 웹 검색용.

Jan의 모델 허브는 오픈소스 AI를 누구나 접근할 수 있게 만드는 핵심이에요. 원클릭 모델 설치, Jan 자체 모델, 연구 모델, 커뮤니티 GGUF 모델, 그리고 클라우드 모델 연결까지 한곳에서 다뤄요.

출처: https://docs.jan.ai/models/

쉬운 다운로드

모델 허브에서 모델을 고르면 원클릭으로 설치돼요. 설치된 모델은 바로 로컬에서 실행할 수 있어요.

Jan은 로컬 사용에 최적화된 자체 모델도 제공해요.

Jan은 Hugging Face의 어떤 GGUF 모델이든 받아서 실행할 수 있어요. 모델 파일 형식이 GGUF이므로, 커뮤니티에서 만든 다양한 오픈모델을 검색해서 로컬에 올릴 수 있죠.

로컬이 아니라 제공사의 API를 쓰려면 클라우드 모델을 연결해요. OpenAI·Anthropic·Gemini 등의 API 키를 등록하면 같은 Jan 인터페이스에서 클라우드 모델도 사용할 수 있어요.

모델을 로컬에서 돌릴 때는 내 하드웨어(특히 GPU 메모리)에 맞는 모델 크기를 고르는 게 중요해요. 큰 모델일수록 좋은 결과를 주지만 그만큼 하드웨어가 받쳐줘야 해요.

모델 허브의 전체 기능과 각 모델 설명은 공식 Model Hub 문서에서 확인할 수 있어요.