LangSmith Deployment

LangSmith Deployment (LangGraph 배포)

LangGraph 에이전트를 본격적으로 운영에 올리려면 어디서 어떻게 돌릴지부터 정해야 해요. LangSmith Deployment는 에이전트 워크로드에 특화된 워크플로 오케스트레이션 런타임으로, 장기 실행(durable execution)과 실시간 스트리밍, 수평 확장을 제공하면서 로컬 개발부터 배포까지 전체 생애주기를 지원합니다. Cloud, BYOC(Bring Your Own Cloud), 또는 자체 인프라 중 골라서 배포할 수 있어요.

출처: LangSmith Deployment (LangGraph 배포)

먼저 범위를 분명히 하고

이 페이지는 에이전트가 운영 환경에서 LangSmith Deployment로 어떻게 돌아가는지를 다룹니다. 옵저버빌리티, 평가, 프롬프트 엔지니어링을 위해 LangSmith를 어디에 둘지는 별개 문제라서, 그건 Platform setup 문서를 참고하세요.

배포 가능한 제품

LangSmith Deployment는 프레임워크에 종속되지 않아요. 아래 방식으로 만든 에이전트를 전부 배포할 수 있습니다.

  • LangGraph (그리고 LangChain) — LangGraph CLI와 앱 템플릿을 이용해 애플리케이션을 LangSmith에 배포합니다. 퀵스타트 열기
  • Google ADK — deployments-wrap-sdk 패키지로 Google Agent Development Kit(ADK) 에이전트를 LangGraph처럼 배포합니다. 가이드 보기
  • 기타 프레임워크 — Claude Agent SDK, Strands, CrewAI, AutoGen 같은 다른 에이전트 프레임워크를 Functional API나 deployments-wrap-sdk로 배포합니다. 가이드 보기
  • Deep Agents를 배포하고 싶다면 — 코드 우선 방식의 Deep Agents를 배포하는 관리형 런타임인 Managed Deep Agents를 사용하세요.

LangSmith Deployment 환경

제어 평면(control plane)과 데이터 평면(data plane)(Agent Server와 그 데이터베이스)을 어디에서 실행할지에 따라 환경을 고르면 돼요. 모든 인프라 유형은 같은 Agent Server 런타임을 사용합니다.

  • Cloud — AWS와 GCP에서 LangChain이 완전 관리합니다. LangSmith UI에서 GitHub 저장소로 배포를 만들거나 langgraph deploy CLI를 쓸 수 있어요. Plus 플랜 이상이 필요합니다. 가이드 보기
  • 컨트롤 플레인이 있는 자체호스팅 — LangSmith Deployment 제어 평면과 Agent Server를 자체 Kubernetes 클러스터에서, 자체호스팅 LangSmith와 함께 운영합니다. LangSmith Deployment가 활성화된 Enterprise 플랜이 필요해요. 가이드 보기
  • 하이브리드 — LangChain이 관리하는 제어 평면 + 자체 인프라에 있는 Agent Server와 데이터 평면. 트레이스는 LangSmith Cloud나 자체호스팅 LangSmith로 흐릅니다. 가이드 보기
  • 독립형 서버(Standalone) — Docker, Compose, Kubernetes로 Agent Server를 배포합니다. 자체 PostgreSQL, Redis, LangSmith 라이선스를 준비하고 제어 평면은 없어요. Cloud나 자체호스팅 인스턴스로 트레이싱을 보내는 건 선택 사항입니다. 가이드 보기

흔한 구성

  • 에이전트용 관리형 호스팅 — Cloud의 LangSmith Deployment. LangChain이 제어 평면·데이터 평면·데이터베이스를 모두 호스팅. LangSmith Cloud와 짝을 이룹니다.
  • 제어 평면은 관리, 에이전트는 내 VPC에서 — 하이브리드. LangChain이 제어 평면을 호스팅하고, 에이전트는 Agent Server와 데이터 평면을 여러분이 호스팅. LangSmith Cloud나 자체호스팅과 짝.
  • 완전 데이터 주권 또는 에어갭 — 자체호스팅 LangSmith Deployment. 자체 인프라에서 자체호스팅 LangSmith와 함께 제어 평면과 Agent Server를 호스팅.
  • 제어 평면 없이 에이전트 런타임만 — 독립형 Agent Server. 제어 평면 없이 Docker나 Kubernetes로 Agent Server 컨테이너를 실행. 필요하면 트레이스를 LangSmith Cloud나 자체호스팅으로 전송.

배포 이후

배포가 끝나면 에이전트는 Agent Server의 실행 모델을 따릅니다. assistants(설정), threads(상태), runs(워크로드)가 핵심이에요. 기능·튜토리얼·서버 커스터마이징·운영은 Agent Server 문서를 보세요.

  • 재배포 없이 프롬프트·컨텍스트 업데이트 — 배포된 에이전트가 런타임에 끌어쓰는 프롬프트와 버전 관리된 컨텍스트를 관리해 전체 배포 없이 동작을 바꿀 수 있어요. prompt-context-hub
  • RemoteGraph로 배포 상호작용 — 로컬로 컴파일한 그래프처럼 클라이언트 코드에서 배포된 그래프를 호출. use-remote-graph
  • Engine으로 실패 찾고 고치기 — 에이전트가 운영에 들어가면 LangSmith Engine으로 트레이스에서 반복 실패를 감지하고, 근본 원인을 진단하며, 해결합니다. engine-overview

풀스택 웹 앱

LangChain.js 에이전트와 채팅 UI를 하나의 웹 앱으로 함께 배포할 수도 있어요. Vite 예제는 LangSmith Deployment를 에이전트 백엔드로 두고 별도 UI 뒤에서 쓰고, 다른 예제들은 에이전트를 웹 프레임워크의 라우트 핸들러 안에 넣어 호스트 플랫폼으로 배포합니다.

풀스택 웹 앱 — LangChain.js 채팅 앱을 만듭니다. Next.js, SvelteKit, Nuxt, Cloudflare Workers, Deno Deploy에 에이전트를 임베드(Agent Server 불필요)하거나, LangSmith Deployment를 Vite + React UI와 짝지을 수 있어요. 예제 보기

더 알아보기 (Learn more)

  • 제어 평면과 데이터 평면이 어디서 도는지에 대한 플랫폼 구성은 Platform setup 문서를 참고하세요.
  • LangSmith 자체를 옵저버빌리티·평가·프롬프트 용도로 어디에 둘지 고민 중이라면 Set up LangSmith를 확인하세요.