GPT4All (로컬 LLM 실행)
GPT4All (로컬 LLM 실행)
GPT4All은 내 하드웨어에서 LLM을 로컬·비공개로 실행하기 위한 도구 모음이에요. 데스크톱 앱으로 채팅하고, Python SDK로 코드에서 호출하며, 로컬 API 서버로 OpenAI 호환 인터페이스를 열 수 있어요. 모델은 GGUF 형식으로 기기에 다운로드되기 때문에 인터넷 연결 없이도 데이터가 밖으로 나가지 않아요.
이 카테고리의 문서
- 데스크톱 실행: 빠른 시작, 모델 다운로드·관리, LocalDocs
- 개발: Python SDK, 로컬 API 서버
- 도구: 채팅 템플릿·시스템 프롬프트