하이브리드 배포

하이브리드 배포 (Hybrid)

자체 인프라에서 Agent Server를 호스팅하고, 트레이스는 LangSmith Cloud나 자체호스팅 LangSmith 인스턴스로 보내는 LangSmith Deployment 구성이에요.

출처: 하이브리드 배포 (Hybrid)

하이브리드는 에이전트를 운영 환경에서 배포하고 실행하는 LangSmith Deployment를 위한 플랫폼 구성입니다. 자체 인프라에서 Agent Server를 호스팅하고, 그 트레이스를 자체호스팅 인스턴스 또는 LangSmith Cloud로 보내요.

이 구성은 에이전트 워크로드가 어디서 도는지를 통제하면서, 옵저버빌리티와 규정 준수 요구사항에 맞는 LangSmith 플랫폼 옵션을 선택할 수 있게 해줍니다.

구성 요소

컴포넌트 실행 위치 관리 주체
LangSmith Deployment용 Agent Server 자체 인프라 여러분
LangSmith (트레이싱, 평가, 프롬프트) 자체 인프라에 자체호스팅, 또는 LangSmith SaaS 여러분(자체호스팅) 또는 LangSmith(SaaS)

참고 — 하이브리드는 LangSmith Deployment(에이전트 서빙)용 플랫폼 구성이에요. 옵저버빌리티·평가·프롬프트 엔지니어링만을 위한 LangSmith 설정은 Set up LangSmith을 보세요.

워크플로

  1. 에이전트를 로컬에서 빌드하고 테스트해요.
  2. 인프라에서 실행되는 Agent Server에 에이전트를 배포합니다.
  3. (옵저버빌리티·평가를 위해) 자체호스팅 또는 SaaS LangSmith로 에이전트 트레이스를 보내요.

Agent Server 자체호스팅

Docker, Docker Compose, 또는 Kubernetes로 독립형 Agent Server를 배포하세요. 사전 조건, 환경 변수, 플랫폼별 지침은 standalone server 가이드를 참고해요.

트레이스를 어디로 보낼지 정하기

Agent Server는 LANGSMITH_ENDPOINT 환경 변수에 따라 LangSmith로 트레이스를 보냅니다.

  • LangSmith SaaS — 기본값(GCP US)을 쓰려면 LANGSMITH_ENDPOINT를 생략하고, 지역에 맞는 엔드포인트를 설정하세요.

    지역 URL
    GCP US https://api.smith.langchain.com
    GCP EU https://eu.api.smith.langchain.com
    GCP APAC https://apac.api.smith.langchain.com
    AWS US https://aws.api.smith.langchain.com

  • 자체호스팅 LangSmith — LANGSMITH_ENDPOINT를 자체호스팅 LangSmith 인스턴스의 호스트네임으로 설정해요.

두 경우 모두, 트레이싱하는 LangSmith 인스턴스가 발급한 LangSmith API 키로 인증합니다.

더 알아보기 (Learn more)