LangSmith 컨트롤 플레인
LangSmith 컨트롤 플레인
컨트롤 플레인은 배포를 관리하는 LangSmith의 일부예요. 사용자가 Agent Server를 만들고 업데이트하는 컨트롤 플레인 UI와, UI를 지원하고 프로그래밍 방식 접근을 제공하는 컨트롤 플레인 API를 포함해요.
컨트롤 플레인을 통해 업데이트하면 그 업데이트는 컨트롤 플레인 상태에 저장돼요. 데이터 플레인의 "리스너(listener)"는 컨트롤 플레인 API를 호출해서 이러한 업데이트를 폴링해요. 컨트롤 플레인은 데이터 플레인에 직접 연결하지 않아요.
출처: 문서
본문
컨트롤 플레인 UI
컨트롤 플레인 UI에서 다음을 할 수 있어요:
- 대기 중인 배포 목록 보기.
- 개별 배포의 세부 정보 보기.
- 새 배포 만들기.
- 배포 업데이트하기.
- 배포의 환경 변수 업데이트하기.
- 배포의 빌드 및 서버 로그 보기.
- CPU 및 메모리 사용량 같은 배포 지표 보기.
- 배포 삭제하기.
컨트롤 플레인 UI는 LangSmith에 내장되어 있어요.
컨트롤 플레인 API
이 섹션에서는 컨트롤 플레인 API의 데이터 모델을 설명해요. API는 배포를 만들고, 업데이트하고, 삭제하는 데 사용돼요. 자세한 내용은 컨트롤 플레인 API 참조를 참고하세요.
통합 (Integrations)
통합은 git 저장소 프로바이더(예: GitHub)에 대한 추상화예요. git 저장소에 연결하고 배포하는 데 필요한 모든 필수 메타데이터를 포함해요.
배포 (Deployments)
배포는 Agent Server의 인스턴스예요. 단일 배포는 많은 리비전을 가질 수 있어요.
리비전 (Revisions)
리비전은 배포의 반복(iteration)이에요. 새 배포가 생성되면 초기 리비전이 자동으로 생성돼요. 코드 변경을 배포하거나 배포의 시크릿을 업데이트하려면 새 리비전을 만들어야 해요.
리스너 (Listeners)
리스너는 "리스너" 애플리케이션의 인스턴스예요. 리스너는 애플리케이션에 대한 메타데이터(예: 버전)와 배포할 수 있는 컴퓨팅 인프라에 대한 메타데이터(예: Kubernetes 네임스페이스)를 포함해요.
컨트롤 플레인 기능
이 섹션에서는 컨트롤 플레인의 다양한 기능을 설명해요. Cloud 배포 유형이나 셀프 호스팅 리소스 커스터마이즈 같은 플랫폼별 동작은 Cloud 플랫폼 기능 또는 셀프 호스팅에 배포를 참고하세요.
비동기 배포
배포 및 리비전의 인프라는 비동기적으로 프로비저닝되고 배포돼요. 제출 직후 즉시 배포되지 않아요. 현재 배포는 최대 몇 분까지 걸릴 수 있어요.
- 새 배포가 생성되면 배포를 위한 새 데이터베이스가 생성돼요. 데이터베이스 생성은 일회성 단계예요. 이 단계는 배포의 초기 리비전 배포 시간을 더 길게 만드는 데 기여해요.
- 배포에 대한 후속 리비전이 생성되면 데이터베이스 생성 단계가 없어요. 후속 리비전의 배포 시간은 초기 리비전의 배포 시간보다 훨씬 빨라요.
- 각 리비전의 배포 프로세스에는 빌드 단계가 포함되며, 이는 최대 몇 분이 걸릴 수 있어요.
컨트롤 플레인과 데이터 플레인 "리스너" 애플리케이션은 협력해서 비동기 배포를 달성해요.
모니터링
배포가 준비된 후 컨트롤 플레인은 배포를 모니터링하고 다양한 지표를 기록해요. 예를 들어:
- 배포의 CPU 및 메모리 사용량.
- 컨테이너 재시작 횟수.
- 복제본 수 (자동 확장 시 증가).
- PostgreSQL CPU, 메모리 사용량 및 디스크 사용량.
- Agent Server 큐의 대기/활성 런 수.
- Agent Server API의 성공 응답 수, 오류 응답 수 및 지연 시간.
이러한 지표는 컨트롤 플레인 UI에서 차트로 표시돼요.
LangSmith 통합
각 배포에 대해 LangSmith 추적 프로젝트가 자동으로 생성돼요. 추적 프로젝트는 배포와 동일한 이름을 가져요. 배포를 만들 때 LANGCHAIN_TRACING 및 LANGSMITH_API_KEY/LANGCHAIN_API_KEY 환경 변수를 지정할 필요가 없어요. 컨트롤 플레인이 자동으로 설정해요.
배포가 삭제되어도 트레이스와 추적 프로젝트는 삭제되지 않아요.