BYOC 결제

BYOC 결제

LangSmith BYOC가 여러분의 AWS 계정과 LangSmith 계약에 걸쳐 어떻게 청구되는지, 어떤 AWS 서비스에 비용이 발생하는지, 배포 전에 확인해야 할 계정 할당량을 설명해요.

출처: 문서

본문

비용 모델

BYOC 배포는 두 개의 별도 청구서를 생성합니다:

• AWS: 데이터 플레인이 여러분의 AWS 계정에서 실행되므로, AWS가 만든 인프라에 대해 사용자에게 직접 청구합니다.
• LangSmith: LangChain이 계약과 사용량에 따라 인보이스를 발행합니다.

LangSmith BYOC는 AWS Marketplace와 통합할 수 있습니다.

청구 대상 AWS 서비스

다음 리소스가 계정의 데이터 플레인 비용에 기여합니다. AWS는 LangSmith 계약과 무관하게 자체 요율로 이에 대해 청구합니다. BYOVPC를 사용하면 네트워킹 비용은 여러분이 구성하고 관리하는 게이트웨이, 엔드포인트, 로깅에 따라 달라집니다.

데이터 전송

BYOC에는 몇 가지 데이터 전송 비용 요인이 있습니다:

• 가용 영역 간 트래픽, 데이터 플레인이 여러 영역에 걸쳐 고가용성으로 실행되기 때문.
• NAT 게이트웨이를 통한 이그레스, 예를 들어 모델 제공자를 호출하거나 웹훅으로 외부 API를 호출하는 경우.
• 공용 IPv4 주소, AWS가 주소-시간당 청구. 리전 NAT 게이트웨이는 하나를 사용하고, 공용 수신이 활성화되면 인터넷 연결 로드 밸런서가 또 하나를 사용합니다.

서비스 한도

AWS는 지역 및 계정별로 기본 할당량을 적용합니다. 새 계정이나 사용량이 적은 계정에서는 기본값이 종종 프로덕션에 너무 낮으므로, 배포 전에 다음을 확인하고 필요하면 증가를 요청하세요:

• EC2 vCPU 할당량: 최소 64 vCPU의 On-Demand 용량으로, 시스템 노드 3개와 Karpenter 워크로드를 포괄합니다.
• 서브넷 IP 용량: 파드, 노드, EKS ENI, 로드 밸런서, 그리고 애플리케이션 서브넷당 최소 12개의 인터페이스 엔드포인트를 위한 공간.
• VPC 엔드포인트: 12개의 인터페이스 엔드포인트와 1개의 S3 게이트웨이 엔드포인트 용량.
• 로드 밸런서: 2개의 Network Load Balancer와 그 타깃 그룹 용량.
• EKS: 1개의 EKS 클러스터 용량.
• 저장소: ClickHouse, ZooKeeper, 노드 디스크 및 기타 영구 워크로드용 EBS 볼륨 및 저장 용량.
• 데이터베이스: 2개의 RDS 인스턴스와 3개의 ElastiCache 복제본 용량.
• PrivateLink 및 네트워킹: 1개의 엔드포인트 서비스와 1개의 리전 NAT 게이트웨이 용량.

현재 기본값은 AWS 서비스 할당량을 참고하세요.

BYOVPC를 사용할 때는 할당량을 확인할 때 기존 리소스 사용량과 선택한 엔드포인트 및 이그레스 구성을 고려하세요. 제공하는 서브넷도 서브넷 크기 및 사용 가능한 IP 요구 사항을 충족해야 합니다.

프로비저닝이 중단되거나 실패하면 할당량 소진이 누락된 권한 및 서비스 제어 정책과 함께 일반적인 원인입니다. 프로비저닝이 실패하면 어떻게 되나요?를 참고하세요.

참고 자료

• BYOC 아키텍처
• 운영
• BYOC FAQ

더 알아보기

• BYOC 아키텍처는 BYOC architecture 문서를 참고하세요.
• 운영 절차는 BYOC operations 문서를 확인해 보세요.