Cloud 플랫폼 기능
Cloud 플랫폼 기능
LangSmith Deployment의 Cloud 전용 플랫폼 기능을 설명해요. 데이터 지역, 고정 IP 주소, 페이로드 한도, 배포 유형을 다룹니다.
출처: 문서
본문
이 페이지는 Cloud 배포에만 적용되는 플랫폼 기능을 설명합니다. 자체 호스팅 버전은 자체 호스팅으로 배포를 참고하세요.
데이터 지역
배포는 US와 EU 두 데이터 지역에서 만들 수 있습니다.
배포의 데이터 지역은 배포가 생성되는 LangSmith 조직의 데이터 지역에서 암시됩니다. 배포와 배포의 기본 데이터베이스는 데이터 지역 간에 마이그레이션할 수 없습니다.
고정 IP 주소
2025년 1월 6일 이후 생성된 배포의 모든 트래픽은 NAT 게이트웨이를 통해 나옵니다. 이 NAT 게이트웨이는 데이터 지역에 따라 여러 고정 IP 주소를 가집니다.
허용 목록 IP 주소
각 지역의 트래픽을 허용 목록으로 지정하려면 다음 고정 IP 주소를 사용하세요:
| GCP US | GCP EU | GCP APAC | AWS US |
|---|---|---|---|
| 35.197.29.146 | 34.90.213.236 | 34.40.236.16 | 3.13.80.97 |
| 34.145.102.123 | 34.13.244.114 | 34.40.140.88 | 3.146.216.198 |
| 34.169.45.153 | 34.32.180.189 | 34.151.88.209 | 16.59.72.244 |
| 34.82.222.17 | 34.34.69.108 | 35.189.51.120 | |
| 35.227.171.135 | 34.32.145.240 | 34.40.172.39 | |
| 34.169.88.30 | 34.90.157.44 | 35.189.56.87 | |
| 34.19.93.202 | 34.141.242.180 | 35.189.17.201 | |
| 34.19.34.50 | 34.32.141.108 | 35.244.99.196 | |
| 34.59.244.194 | 34.12.178.175 | 34.40.149.177 | |
| 34.9.99.224 | 34.91.192.230 | 34.40.144.104 | |
| 34.68.27.146 | 34.32.209.237 | 34.151.130.182 | |
| 34.41.178.137 | 34.178.128.69 | 34.116.82.199 | |
| 34.123.151.210 | |||
| 34.135.61.140 | |||
| 34.121.166.52 | |||
| 34.31.121.70 |
페이로드 크기
Cloud 배포로 보내는 모든 요청의 최대 페이로드 크기는 25MB입니다. 25MB보다 큰 페이로드가 있는 요청은 413 Payload Too Large 오류를 반환합니다.
배포 유형
컨트롤 플레인은 Serverless와 Dedicated 두 가지 배포 유형을 제공합니다. 각각 Small, Medium, Large 세 가지 크기로 제공됩니다.
이전 요금제를 사용 중인 조직은 2026년 10월 1일까지 Development 및 Production 배포를 계속 만들 수 있습니다. 해당 유형에는 scale to zero가 포함되지 않습니다. CLI로 선택하려면 --deployment-type dev 또는 --deployment-type prod를 전달하세요. 요금 및 전환 일정은 결제 관리를 참고하세요. --deployment-type 값 전체 목록은 langgraph deploy를 참고하세요.
| 배포 유형 | 스케일링 | 데이터베이스 | 적합한 경우 |
|---|---|---|---|
| Serverless | 비활성 후 0으로 스케일 다운, 다음 요청에서 깨어남 | 공유, 멀티 테넌트 | 백그라운드 또는 지연 허용 에이전트, 개발/테스트 배포 |
| Dedicated | 항상 켜짐, 복제본 간 자동 스케일링 | 전용, 자동 백업 및 고가용성 포함 | 크리티컬 경로의 프로덕션 워크로드 |
경고: 변경 불가능한 배포 유형 배포가 생성되면 배포 유형을 변경할 수 없습니다. 크기는 변경할 수 있습니다.
Serverless
Serverless 배포는 백그라운드 및 지연 허용 에이전트, 그리고 개발, 테스트, 미리보기 브랜치에 비용 최적화되어 있습니다. Serverless 배포는 비활성 기간 후 0으로 스케일 다운되고 다음 요청에서 깨어납니다. 리소스가 프로비저닝되는 동안(스케일 다운 전 유휴 시간 포함) 컴퓨트가 청구됩니다. 따라서 간헐적으로 실행되거나 짧은 시작 지연을 허용할 수 있는 에이전트에 적합합니다. 스케일 다운 후 첫 요청은 배포가 시작되면서 응답에 더 오래 걸리기 때문입니다.
일관되게 낮은 지연 시간이나 보장된 가동 시간이 필요한 워크로드에는 대신 Dedicated를 사용하세요. Serverless 배포는 공유된 멀티 테넌트 인프라에서 실행됩니다.
참고: Scale to zero는 베타이며, 처음에는 새 사용량 기반 요금제의 배포에서만 사용할 수 있습니다. 스케일 다운 전 비활성 기간은 기능이 출시됨에 따라 변경될 수 있습니다. 요금 및 전환 일정은 결제 관리를 참고하세요.
Agent Server는 내결함성이 있습니다: 일시적인 Redis 또는 Postgres 중단에서 자동으로 복구하고 실패한 백그라운드 런을 재시도합니다.
Dedicated
Dedicated 배포는 항상 켜져 있으며 고객 대면 애플리케이션 같은 크리티컬 경로의 프로덕션 워크로드를 위해 설계되었습니다. 각 Dedicated 배포는 자동 백업과 고가용성이 있는 자체 데이터베이스를 가지며, 부하가 증가하면 복제본 간에 자동 스케일링합니다. 자세한 내용은 스케일링을 참고하세요.
Dedicated 배포의 리소스는 사용 사례와 용량 제약에 따라 사례별로 늘릴 수 있습니다. 리소스 증가를 요청하려면 support.langchain.com을 통해 지원팀에 문의하세요.
크기
Serverless와 Dedicated 모두 Small, Medium, Large 세 가지 크기로 제공됩니다. 각 크기는 배포에 프로비저닝되는 컴퓨트와 메모리를 설정하며, 더 큰 크기는 더 많은 복제본으로 자동 스케일링됩니다. 다음 표는 각 크기에 포함된 리소스를 보여줍니다:
| 리소스 | Serverless S | Serverless M | Serverless L | Dedicated S | Dedicated M | Dedicated L |
|---|---|---|---|---|---|---|
| 런타임 컴퓨트 (vCPU) | 1 | 2 | 4 | 3 | 5 | 10 |
| 런타임 메모리 (GiB) | 2 | 5 | 9 | 6 | 12 | 24 |
| 데이터베이스 컴퓨트 (vCPU) | — | — | — | 1 | 2 | 4 |
| 데이터베이스 메모리 (GiB) | — | — | — | 4 | 8 | 16 |
| 저장소 | 공유 | 공유 | 공유 | 자동 스케일링 | 자동 스케일링 | 자동 스케일링 |
참고: 런타임 컴퓨트와 메모리는 배포의 컨테이너 전체에 프로비저닝된 총 vCPU와 메모리로, 가장 가까운 정수 단위로 반올림됩니다. Serverless 배포는 공유 멀티 테넌트 데이터베이스를 사용하므로 전용 데이터베이스 리소스가 없습니다. Dedicated 저장소는 사용량에 따라 커지는 자동 스케일링 디스크입니다.
각 크기의 요금은 배포 비용 계산기가 포함된 pricing 페이지를 참고하세요. Serverless 및 Dedicated 배포 청구 방법은 결제 관리를 참고하세요.
데이터베이스 프로비저닝
컨트롤 플레인과 데이터 플레인 listener 애플리케이션이 조정해 각 Cloud 배포에 Postgres 데이터베이스를 자동으로 만듭니다. 데이터베이스는 배포의 영속성 계층 역할을 합니다.
LangGraph 애플리케이션을 구현할 때 체크포인터를 구성할 필요가 없습니다. 그래프에 체크포인터가 자동으로 구성됩니다. 그래프에 구성된 체크포인터는 자동으로 구성된 것으로 교체됩니다.
데이터베이스에 직접 접근할 수는 없습니다. 데이터베이스에 대한 모든 접근은 Agent Server를 통해 이루어집니다.
배포 자체가 삭제될 때까지 데이터베이스는 삭제되지 않습니다.
자체 호스팅 배포는 커스텀 PostgreSQL 구성을 참고하세요.
스케일링
Cloud 배포는 자동 스케일링합니다. 큐 워커, 복제본, 풀 크기를 직접 구성하지 않습니다. Dedicated 배포는 CPU 사용률, 메모리 사용률, 대기 중인 런 수를 기준으로 복제본을 추가/제거하며, 크기의 최대치까지 조정합니다. 각 메트릭은 독립적으로 평가되고, 배포는 가장 많은 복제본을 요구하는 메트릭을 충족하도록 스케일링합니다. 큐 워커는 대기 중인 런 수에 따라 스케일링하고 API 서버는 CPU와 메모리에 따라 스케일링하므로, 읽기 트래픽이 런 제출을 느리게 하지 않으며 그 반대도 마찬가지입니다. 버스트 부하에서 스래싱을 피하기 위해 스케일 다운이 지연됩니다.
자동 스케일링은 복제본 수를 변경하지만, 각 복제본에 사용 가능한 CPU와 메모리는 배포의 크기에 고정됩니다. 배포가 지속적인 CPU나 메모리 압박을 받으면 더 큰 크기로 업그레이드하세요. 크기 변경은 다운타임 없이 새 리비전으로 롤아웃됩니다. 배포 유형은 변경할 수 없습니다.
애플리케이션 수준 스케일링 수단(durability 모드, 비동기 패턴, 동기 블로킹 회피, 폴링 대신 /join 사용)은 Cloud에서도 자체 호스팅과 동일하게 적용됩니다. 기본 개념은 자체 호스팅 스케일링을 참고하세요. 거기의 Helm 및 리소스 구성은 Cloud에는 적용되지 않습니다.
더 알아보기
- Cloud 배포에 대한 자세한 내용은 Cloud 문서를 참고하세요.
- 결제 모델은 Manage billing 문서를 확인해 보세요.