자체호스팅에 배포하기

자체호스팅에 배포하기 (Deploy to self-hosted)

데이터, 네트워킹, 리소스를 완전히 통제하면서 LangSmith Deployment 플랫폼을 자체 인프라에서 운영하는 방법이에요. 데이터 주권이나 규제, 커스텀 네트워킹, 에어갭 요구사항이 있다면 이 옵션이 가장 잘 맞습니다.

출처: 자체호스팅에 배포하기 (Deploy to self-hosted)

자체호스팅 배포란

자체호스팅 LangSmith Deployment는 Agent Server, 제어 평면, 데이터 평면, 그리고 보조 데이터베이스를 여러분이 운영하는 인프라 안에서 실행합니다. LangChain은 컨테이너 이미지, Helm 차트, 라이선스를 제공하고, 여러분은 Kubernetes 클러스터(또는 Docker 호스트), PostgreSQL, Redis, 그리고 환경에 맞는 네트워킹·옵저버빌리티 도구를 준비하면 됩니다.

참고 — 자체호스팅 배포는 Enterprise 플랜과 그 플랜에 딸려 오는 LangSmith 라이선스 키가 필요해요. 설정 가이드는 Self-hosted LangSmith를 보세요.

토폴로지

LangSmith는 자체호스팅에서 세 가지 토폴로지를 지원합니다. 설정 복잡도와 제어 평면 기능 사이에서 트레이드오프를 고르는 구조예요. 플랫폼 기능, Agent Server 메트릭, 진단 레퍼런스 페이지는 세 토폴로지 모두에 적용됩니다.

  • 완전 자체호스팅 플랫폼 — LangSmith 플랫폼 전체, 즉 제어 평면 UI와 API, 데이터 평면 리스너, 옵저버빌리티, 평가, 에이전트 배포 관리를 포함합니다. 자체 네트워크 안에서 LangSmith 제품 경험을 원하는 팀에 가장 적합해요. 가이드
  • 하이브리드 — LangChain이 호스팅하는 제어 평면 + 데이터 평면(Agent Server와 데이터베이스)은 여러분의 인프라에. 관리형 배포 워크플로는 원하지만 에이전트 워크로드와 고객 데이터는 VPC 안에 두고 싶을 때 가장 좋아요. 가이드
  • 독립형 서버 — 가장 가벼운 옵션. Agent Server 컨테이너(API + 큐 워커)를 자체 PostgreSQL과 Redis와 함께 운영. 제어 평면도 관리형 UI도 없어요. 기존 인프라에 런타임을 끼워 넣거나 에어갭으로 돌릴 때 유리합니다. 가이드
  • 플랫폼 기능 — 커스텀 Postgres·Redis, 리스너, 리소스 커스터마이징 등 자체호스팅 전용 플랫폼 동작 레퍼런스. 가이드
  • Agent Server 메트릭 — Deployment UI 메트릭과 내부 메트릭을 포함한 Agent Server용 Prometheus·Datadog 내보내기. 가이드
  • 진단 — 로그 수집, 상태 검사, 자체호스팅 설치의 트러블슈팅. 가이드

누가 무엇을 관리하나

자체호스팅은 인프라 운영의 소유권을 LangChain에서 여러분의 팀으로 옮깁니다. 그 대가로 구성·운영 방식을 완전히 통제할 수 있어요.

항목 누가 관리 어디서 실행
LangSmith 플랫폼 (UI, API, 데이터스토어) 여러분 자체 인프라
Agent Server 런타임 여러분 자체 인프라
PostgreSQL과 Redis 여러분 자체 인프라
앱용 CI/CD 여러분 자체 CI 환경
업그레이드, 스케일링, 백업 여러분 자체 인프라

그 대신 자체 Postgres와 Redis로 통합하고, 워크로드에 맞게 CPU와 메모리를 조정하며, 기존 네트워크와 옵저버빌리티 스택 안에서 운영할 수 있어요. Cloud 관리형 모델이 궁금하면 Deploy to Cloud를 보세요.

다음 단계

  • 토폴로지 고르기 — 독립형 서버, 완전 플랫폼, 하이브리드를 비교해 상황에 맞는 걸 찾아요. deploy-standalone-server
  • 완전 플랫폼 설치하기 — 제어 평면과 데이터 평면을 갖춘 LangSmith를 Kubernetes에 배포. deploy-self-hosted-full-platform

더 알아보기 (Learn more)