Ollama
Ollama
Ollama는 오픈소스 대형 언어 모델(LLM)을 로컬에서 간편하게 실행하게 해 주는 도구예요. llama, mistral, qwen 같은 모델을 몇 줄의 명령어로 내려받아 자체 서버를 띄우고, OpenAI 호환 API로 호출할 수 있어서 개인 PC에서도 프라이빗 LLM을 돌리기 좋아요.
Ollama는 오픈소스 대형 언어 모델(LLM)을 로컬에서 간편하게 실행하게 해 주는 도구예요. llama, mistral, qwen 같은 모델을 몇 줄의 명령어로 내려받아 자체 서버를 띄우고, OpenAI 호환 API로 호출할 수 있어서 개인 PC에서도 프라이빗 LLM을 돌리기 좋아요.