PrivateGPT API 호환성과 활용
PrivateGPT API 호환성과 활용
PrivateGPT는 Claude API를 기준으로 현대 AI 애플리케이션 API를 설계해요. 모델 선택, 메시지, 스트리밍, 지식(파일·문서 인제션·인용문 리트리벌), 도구, 데이터, 에이전트(MCP)까지 넓게 커버하는 게 목표예요.
PrivateGPT의 API 호환성 표를 보면 어떤 걸 쓸 수 있는지 명확해져요. Claude API 영역 대부분을 PrivateGPT도 지원해요.
- 모델 — 모델 선택
- 메시지 — Messages API, 스트리밍, 비동기/배치 처리, 토큰 카운팅
- 지식 — 파일·아티팩트, PDF·문서 인제션, 인용문이 있는 리트리벌, 임베딩
- 도구 — 도구 사용, 스트리밍 도구, 내장 웹 검색, 웹 추출/fetch, 커스텀 도구
- 데이터 — 데이터베이스 질의(내장), CSV/테이블 분석(내장)
- 에이전트 — API에서의 MCP, 원격 MCP 서버, 스킬
- 출력·최적화 — 구조화 출력, 비전(모델 의존), 확장 사고(extended thinking)
참고로 프롬프트 캐싱과 OAuth/조직 지원은 아직 지원하지 않아요. 프로덕션 구성 전에 이 표의 ✅/❌를 확인하면 좋아요.
활용 측면에서 좋은 점은 어떤 OpenAI 호환 로컬 공급자와도 함께 쓸 수 있다는 거예요. Ollama, llama.cpp, vLLM 등으로 모델을 띄우고 PrivateGPT를 연결하면, 그 모델로 에이전틱 코딩 도구(Claude Code, OpenCode), Claude 데스크톱, n8n 같은 워크플로우까지 프라이빗하게 구동할 수 있어요. PrivateGPT는 로컬 추론 레이어와 앱 사이의 '프라이빗 AI 애플리케이션 API 레이어' 역할을 해요.