Bring Your Own Cloud

Bring Your Own Cloud (BYOC)

BYOC를 사용하면 LangSmith 서비스를 배포하고 데이터를 자체 클라우드 환경에 저장하면서, 인프라는 LangChain이 운영, 스케일링, 업그레이드를 담당해요. 데이터에 대한 완전한 주권을 요구하지만 인프라를 프로비저닝하고 관리하는 오버헤드는 원하지 않는 조직에 적합합니다.

출처: 문서

참고: BYOC는 Enterprise 요금제 고객만 사용할 수 있습니다.

본문

Bring Your Own Cloud(BYOC)는 LangSmith 서비스를 배포하고 데이터를 자체 클라우드 환경에 저장하면서, LangChain이 인프라를 운영, 스케일링, 업그레이드하게 합니다. BYOC는 데이터에 대한 완전한 주권을 요구하지만 인프라를 프로비저닝하고 관리하는 오버헤드를 원하지 않는 조직에 적합합니다.

BYOC는 분할 책임 모델을 사용합니다: 컨트롤 플레인은 LangChain의 클라우드에서 실행되고, 데이터 플레인은 전적으로 여러분의 클라우드 환경에서 실행됩니다. LangChain이 관리하는 것과 여러분이 관리하는 것에 대한 자세한 내용은 BYOC 공동 책임 모델을 참고하세요.

시작하기

LangSmith BYOC를 배포하려면 영업팀에 문의하세요. LangChain 팀이 조직에 BYOC를 활성화한 후 온보딩 가이드를 따라 첫 번째 데이터 플레인을 만드세요.

지역 및 클라우드 제공자

BYOC는 AWS에서 일반 사용 가능(GA)입니다. 추가 클라우드 제공자 지원은 2026년 하반기에 계획되어 있습니다.

다음 AWS 지역 중 하나에서 LangSmith BYOC를 배포할 수 있습니다:

영역 AWS 지역
US us-east-1, us-east-2, us-west-1, us-west-2
Canada ca-central-1
EU eu-central-1, eu-west-1, eu-west-2, eu-west-3, eu-north-1
APAC ap-south-1, ap-northeast-1, ap-northeast-2, ap-northeast-3, ap-southeast-1, ap-southeast-2

데이터 플레인을 어디에 배치하든 컨트롤 플레인은 us-east-2에서 실행됩니다. US 밖에 데이터 플레인을 프로비저닝하면, 민감한 애플리케이션 데이터는 해당 지역에 유지되고 컨트롤 플레인 메타데이터는 US에 남습니다:

컨트롤 플레인 (US) 데이터 플레인 (여러분의 지역)
사용자, 역할, 결제, 조직 구성, SSO 구성, API 키 트레이스, 실험, 데이터셋, 인사이트 런, 어노테이션 큐, 워크스페이스 시크릿 및 기타 모든 민감한 애플리케이션 데이터

사용 가능한 기능

다음 기능이 지원됩니다:

  • 관측성 (Observability): 트레이싱, 프로젝트, 대시보드, 경고.
  • 평가 (Evaluation): 데이터셋, 실험, 평가기, 어노테이션 큐.
  • 인사이트 (Insights): 사용 패턴, 공통 에이전트 동작, 실패 모드를 표면화하는 트레이스 자동 분석.
  • LangSmith Chat: 워크스페이스 안에서 트레이스, 스레드, 프롬프트, 평가를 분석.
  • 프롬프트 엔지니어링: 프롬프트 및 프롬프트 커밋.
  • LangSmith Deployment: LangSmith Deployment 컨트롤 플레인이 데이터 플레인의 클러스터 안에서 실행되므로, 에이전트 관리 계층과 에이전트가 모두 여러분의 VPC에서 실행됩니다.
  • 샌드박스 (Sandboxes): 데이터 플레인의 엔드포인트를 가리키는 것 외에는 CLI와 SDK 사용이 Cloud와 동일합니다.
  • LLM Gateway: 단일 LangSmith API 키로 여러 제공자의 모델을 호출하고, 지출, 속도 제한, 데이터 보호 정책을 중앙에서 적용합니다.
  • LangSmith MCP: MCP 호환 클라이언트를 LangSmith에 연결해 데이터를 쿼리합니다.
  • Fleet: 템플릿, 커넥터, 채널에서 코드 없는 에이전트를 구축하고 실행합니다.
  • SmithDB: 트레이스 데이터를 위한 전용 관측성 백엔드로, 여러분의 계정의 S3에 영속화합니다.
  • Engine: 프로덕션 트레이스에서 발견된 반복 문제의 자동 감지, 진단, 해결. Engine은 모델 작업에 LangSmith Intelligence 서비스를 사용합니다. 자세한 내용은 자체 호스팅 Engine 아키텍처를 참고하세요.

다음 기능은 계획되었지만 아직 지원되지 않습니다:

  • Managed Deep Agents: 커넥터, 채널, 스케줄을 갖춘 LangChain 호스팅 딥 에이전트.
  • LLM auth proxy: 모델 호출에 자체 인증 흐름을 적용해 제공자 자격 증명이 최종 사용자에게 노출되지 않게 합니다.

사전 준비 사항

LangChain이 데이터 플레인을 프로비저닝하기 전에 다음이 필요합니다:

  • AWS의 LangSmith 조직: aws.smith.langchain.com에서 만들고, 조직 ID를 LangChain 팀에 보내 BYOC를 활성화하세요.
  • AWS 계정: LangChain은 LangSmith BYOC 전용 신규 계정을 권장하지만 필수는 아닙니다.
  • 지원 지역: 위에 나열된 AWS 지역 중 하나를 선택하세요.
  • IAM 역할과 외부 ID: LangChain이 외부 ID를 제공합니다. Settings > Data Planes의 Data Planes 헤더 옆 버튼으로 복사한 다음, 이 값으로 langsmith-byoc-role Terraform 모듈을 적용해 LangChain이 데이터 플레인을 프로비저닝하고 관리하는 데 맡게 될 역할을 만듭니다. 반드시 이 모듈을 사용해야 합니다.

더 알아보기